• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能法律主體資格研究

    2021-11-30 18:20:13居茜錢(qián)宇婷
    科學(xué)與信息化 2021年21期
    關(guān)鍵詞:主體人工智能人類

    居茜 錢(qián)宇婷

    1. 蘇州市職業(yè)大學(xué) 江蘇 蘇州 215009;2. 蘇州大學(xué) 江蘇 蘇州 215301

    1 問(wèn)題的提出

    機(jī)器人可以創(chuàng)作詩(shī)歌、駕駛汽車等,機(jī)器人已經(jīng)可以從事目前很多種類的民事活動(dòng)。在未來(lái),機(jī)器人成為人類伴侶也將成為可能。2020年,微軟小冰團(tuán)隊(duì)宣布啟動(dòng)人工智能框架Avatar Framework小規(guī)模測(cè)試,即按照每個(gè)人類用戶的需求,為其定制創(chuàng)造各種類型的AI虛擬人類,首批虛擬人類的身份限定為情感陪伴型女性戀人。微軟小冰的對(duì)話引擎可以實(shí)現(xiàn)“主導(dǎo)對(duì)話”,這類機(jī)器人具有共情能力,可以進(jìn)行意思表示。在機(jī)器人替代人類扮演社會(huì)角色的過(guò)程中,對(duì)于人工智能民事活動(dòng)的規(guī)制成為法律亟須解決的問(wèn)題。機(jī)器人人身?yè)p害責(zé)任,自動(dòng)駕駛汽車發(fā)生的交通事故責(zé)任、人工智能生成物的著作權(quán)歸屬問(wèn)題等,需要法律予以明確。2017年國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》提出,各地要開(kāi)展與人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn),明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等。毫無(wú)疑問(wèn),明確人工智能的法律問(wèn)題,是推進(jìn)人工智能發(fā)展和未來(lái)法治建構(gòu)的重要內(nèi)容。而在討論對(duì)機(jī)器人進(jìn)行相關(guān)規(guī)制時(shí),首先討論的則應(yīng)是機(jī)器人法律主體的問(wèn)題,機(jī)器人在法律關(guān)系中究竟為權(quán)利主體,抑或?yàn)榭腕w。這是探討人工智能問(wèn)題的前提性和基礎(chǔ)性問(wèn)題,在此確認(rèn)的基礎(chǔ)上進(jìn)行人工智能相關(guān)權(quán)利、義務(wù)以及責(zé)任的分配。

    目前學(xué)界對(duì)人工智能體法律主體問(wèn)題的探討如火如荼,各家學(xué)者各抒己見(jiàn),進(jìn)行了充分的論證,無(wú)論是從傳統(tǒng)理論,還是從實(shí)踐中尋求經(jīng)驗(yàn)以求解決問(wèn)題。在理論上,學(xué)者對(duì)此問(wèn)題看法不一,大體上可分為兩類,即肯定說(shuō)和否定說(shuō)。本文將對(duì)現(xiàn)有的主要觀點(diǎn)進(jìn)行梳理和評(píng)析,以探討相關(guān)的問(wèn)題。

    2 人工智能法律主體肯定說(shuō)主要觀點(diǎn)及評(píng)析

    2.1 肯定說(shuō)的主要觀點(diǎn)

    持此立場(chǎng)的學(xué)者認(rèn)為應(yīng)賦予機(jī)器人法律主體地位,機(jī)器人具有法律上的人格。具體到對(duì)機(jī)器人人格的認(rèn)定上則各有差異。有“部分法律主體說(shuō)”“電子法人說(shuō)”“有限人格說(shuō)”“電子人說(shuō)”等諸多不同的觀點(diǎn)。

    彭誠(chéng)信認(rèn)為,在現(xiàn)行法律下,部分弱人工智能體應(yīng)被認(rèn)定為權(quán)利客體,但若出現(xiàn)需要對(duì)特定的人工智能主體予以保護(hù)或承擔(dān)責(zé)任的具體情形,通過(guò)法律的擴(kuò)張解釋將部分高級(jí)人工智能體認(rèn)定為法律主體。他認(rèn)為現(xiàn)如今的司法實(shí)踐可將人工智能作為一類“弱勢(shì)群體”解釋進(jìn)《民法總則》第128條的“等”字,通過(guò)擴(kuò)張解釋把人工智能認(rèn)定為主體。在未來(lái)則通過(guò)意志能力的認(rèn)定和具體的物質(zhì)性條件來(lái)確定人工智能的主體地位。

    張志堅(jiān)認(rèn)為,人工智能并非完全受人類控制的工具,其本質(zhì)是財(cái)產(chǎn),可以被買(mǎi)賣(mài)、處分,是一種會(huì)說(shuō)話、會(huì)思考、會(huì)自主行為的財(cái)產(chǎn)。人工智能具有意思能力和責(zé)任能力。具有財(cái)產(chǎn)性人格,但無(wú)人身性人格,其意思能力和責(zé)任能力僅限于財(cái)產(chǎn),其背后的人的意志是一種混合意志,所以應(yīng)歸入法人的范疇。將機(jī)器人以財(cái)產(chǎn)性人格的進(jìn)路擬制為電子法人。

    郭少飛認(rèn)為,從自然人法律主體的歷史演化、動(dòng)物法律主體的歷史經(jīng)驗(yàn)以及無(wú)生命法律主體的歷史梳理來(lái)看,“電子人”具有法史基礎(chǔ)。人工智能具有自主性、規(guī)范性,已非純受支配之客體,在法律上應(yīng)設(shè)定為“電子人”。

    袁曾認(rèn)為,人工智能是具有智慧工具性質(zhì)又可作出獨(dú)立意思表示的特殊主體,享有法律權(quán)利和必須承擔(dān)的法律責(zé)任。人工智能雖然具有法律人格,但享有的是有限的人格,并非完全的法律人格,運(yùn)用“刺破人工智能面紗”來(lái)確定責(zé)任主體,其造成的侵權(quán)損害賠償根據(jù)實(shí)際情況由其設(shè)計(jì)者、開(kāi)發(fā)者、制造者或使用者承當(dāng),通過(guò)強(qiáng)制投保責(zé)任險(xiǎn),確立以人為本的監(jiān)管體系。

    許中緣認(rèn)為,智能機(jī)器人應(yīng)當(dāng)定義為“理性代理人”,雖然具有法律人格,但歸根結(jié)底是由人類創(chuàng)造并服務(wù)于人類社會(huì)發(fā)展的智慧型工具,其具有工具性人格。

    郭劍平認(rèn)為,理性能力是作為主體的基本能力,是法律主體和法律客體相區(qū)別的實(shí)質(zhì)所在。人工智能具有法律主體地位的實(shí)質(zhì)要件,即理性能力,其能夠生成自由意志,高度智能化的人工智能可以進(jìn)行情感的表達(dá)。人工智能也具有法律主體地位的形式要件,即權(quán)利能力,可以享有權(quán)利和承擔(dān)義務(wù),以及負(fù)有相關(guān)的責(zé)任。

    葉明認(rèn)為,智能機(jī)器人其因具備“理性”而應(yīng)享有民事法律主體地位。智能機(jī)器人“理性”來(lái)源于人類,是人類認(rèn)知理性和行為理性的延伸,其具備與人類相當(dāng)甚至超越人類的認(rèn)知理性及行為理性,智能機(jī)器人的“理性”與人類“理性”可以互通。其主張按照理性程度,將智能機(jī)器人民事主體地位類比我國(guó)自然人民事主體法律地位,劃分為無(wú)民事行為能力機(jī)器人、限制民事行為能力機(jī)器人和完全行為能力機(jī)器人。

    持肯定說(shuō)的學(xué)者大多都認(rèn)為,機(jī)器人有自主的意思表示,并且能夠通過(guò)該意思從事一定的法律行為,具有法律上的權(quán)利和義務(wù),應(yīng)該具有法律人格,而具體的責(zé)任承擔(dān)方式則須立法進(jìn)一步規(guī)制。

    2.2 肯定說(shuō)論證的主要理由

    2.2.1 從法律主體的抽象性和擴(kuò)張性。從法律主體的發(fā)展態(tài)勢(shì)來(lái)看,其主體具有擴(kuò)張性。論者論述權(quán)利主體地位發(fā)展的歷史,從自然人法律主體的歷史發(fā)展,到動(dòng)物、河流、法人等非人主體的法律主體地位的確認(rèn)來(lái)論述人工智能取得法律主體的正當(dāng)性。

    “權(quán)利主體”是一個(gè)觀念建構(gòu)性、價(jià)值判斷性的概念。法律關(guān)系的主體,是指在法律關(guān)系中享有權(quán)利和履行義務(wù)的人。在法學(xué)意義上的人區(qū)分于社會(huì)意義上和哲學(xué)意義上的人,乃是一種抽象概念,指向該主體所具有的法律上的權(quán)利和義務(wù)。當(dāng)人成為法律上的人時(shí),法律規(guī)制其法律行為,在法律上為由法律行為產(chǎn)生權(quán)利與義務(wù)的抽象概念。成文法使得現(xiàn)實(shí)中的人在法律上以統(tǒng)一的標(biāo)準(zhǔn)人、制度人的方式出現(xiàn),經(jīng)法律抽象而形成的人,為法學(xué)上的“法律主體”。雖然法律主體的概念由自然人演變而來(lái),但是并非只有自然人才能成為法律主體,不是必須具備自然人的意志特征和理性特征才可成為法律關(guān)系的主體,法律主體具有一定的抽象性,比如法人制度的創(chuàng)立。在論述法人的主體地位時(shí),拉倫茨指出,“法律上的人”本身就是“形式上的人的概念”,它不如倫理學(xué)上的“人”那樣豐滿,具有“權(quán)利能力”即可行為。法人制度的創(chuàng)立使得法律擬制的組織體成為法律關(guān)系的主體,法人為法律上享有權(quán)利和承擔(dān)義務(wù)的組織,法律主體的概念擴(kuò)張至組織。法律主體的擴(kuò)張還表現(xiàn)在法律主體地位的設(shè)定擴(kuò)張至某些非人的物上。為了環(huán)境保護(hù)的需求,部分國(guó)家賦予河流一定的法律主體的地位。2017年3月,新西蘭旺格努伊河成為世界上第一條具有法定權(quán)利的河流。法律主體范圍的擴(kuò)張使得法律主體不限于傳統(tǒng)的自然人和法人,為了特定領(lǐng)域的利益保護(hù)和制度需要,賦予某些原本為法律關(guān)系客體的物予以主體的資格。而未來(lái)隨著人工智能技術(shù)的發(fā)展,為了社會(huì)治理和人類利益的需要,可以把人工智能作為一類獨(dú)立的主體來(lái)看待,這從法律主體的概念和發(fā)展趨勢(shì)上是具有正當(dāng)性的,關(guān)鍵是看法律如何確認(rèn)。

    2.2.2 人工智能具有理性能力。持肯定說(shuō)的一部分論者認(rèn)為,理性能力是成為法律主體的本質(zhì),人工智能體因其具備理性能力而能夠成為法律主體。理性成為具有主體地位的重要基礎(chǔ),有理性即有人格。理性能力是人工智能具有法律主體地位的實(shí)質(zhì)要件,人工智能能夠生成自由意志和進(jìn)行情感的表達(dá)和交流。智能機(jī)器人不是物,因其具備“理性”而應(yīng)享有民事法律主體地位[1]。

    有的論者認(rèn)為,人工智能體因其發(fā)展程度已經(jīng)到了與人類水平相當(dāng)?shù)睦硇?,因其理性是人類認(rèn)知理性與行為理性的延伸,甚至具備超越了人類的認(rèn)知理性與行為理性,與人類的理性可以互通,因具有理性而成為法律主體。此類論者的主要觀點(diǎn)是,區(qū)分民事主體的關(guān)鍵在于其是否具有理性能力,不具備理性能力即不具備法律主體的資格,例如動(dòng)物。人工智能因其特性,根據(jù)算法和程序,具有感應(yīng)、選擇和反思調(diào)整的能力。因其所具備的程序、算法、數(shù)據(jù)處理和交互等能力,可以看成其具備理性能力,成為法律關(guān)系的主體。

    2.2.3 人工智能能夠享有權(quán)利。判斷一個(gè)主體是否能夠成為民事主體應(yīng)看其是否能夠享有法律上的權(quán)利和承擔(dān)法律上的義務(wù),即是否具有民事權(quán)利能力,享有權(quán)利能力也就意味著具有私法主體地位。人工智能體是否承擔(dān)法律上的義務(wù)并未引起較大的爭(zhēng)論,論證的焦點(diǎn)在于人工智能體是否享有權(quán)利。人工智能享有獨(dú)立的權(quán)利,說(shuō)明其作為獨(dú)立的主體有區(qū)別于其制造者、設(shè)計(jì)者、使用者獨(dú)立的利益,此利益有被法律保護(hù)的獨(dú)立價(jià)值。持此種理由的學(xué)者認(rèn)為,人工智能能夠作為法律上獨(dú)立的主體享有權(quán)利。人工智能獨(dú)立做出意思表示的能力已得到實(shí)現(xiàn),并且因其可以提起法律訴訟,法院在決定法律救濟(jì)時(shí)必須考慮到損害以及滿足它的利益要求,其權(quán)利應(yīng)該得到法律的確認(rèn),應(yīng)當(dāng)享有法律權(quán)利。人工智能的利益乃是一種涉他利益,最終是為了實(shí)現(xiàn)人類的利益。其權(quán)利具有擬制性權(quán)利屬性、利他主義權(quán)利屬性,以及功能屬性。保護(hù)機(jī)器人獨(dú)立的利益,有利于維護(hù)人類的整體利益,規(guī)范人類和人工智能交互過(guò)程中的社會(huì)關(guān)系的建構(gòu)。有的學(xué)者指出,如果機(jī)器人擁有拒絕甚至反抗對(duì)其濫用的權(quán)利,那么在一定程度上可以減少甚至避免人與機(jī)器人交互過(guò)程中可能出現(xiàn)的不道德現(xiàn)象,這些不道德的現(xiàn)象可能會(huì)針對(duì)其他人。有關(guān)于人工智能的權(quán)利類型,則有待于法律進(jìn)一步規(guī)制[2]。

    2.2.4 人工智能主體地位具有現(xiàn)實(shí)的必要性。創(chuàng)設(shè)機(jī)器人法律人格具有現(xiàn)實(shí)的必要性,主要基于人工智能的發(fā)展帶來(lái)現(xiàn)有法律制度框架難以解決的問(wèn)題,比如無(wú)人駕駛汽車侵權(quán)責(zé)任的承擔(dān)、人工智能創(chuàng)作的利益歸屬,人工智能交易行為的效力等問(wèn)題。有的學(xué)者還討論在人工智能的意思超出人類意思表達(dá)時(shí)的權(quán)利義務(wù)歸屬問(wèn)題,這些學(xué)者提倡通過(guò)建構(gòu)新的主體類型,可以解決現(xiàn)行制度無(wú)法解決的問(wèn)題。以機(jī)器人侵權(quán)責(zé)任的分擔(dān)為例。當(dāng)發(fā)生機(jī)器人侵權(quán)時(shí),利用傳統(tǒng)的產(chǎn)品責(zé)任不能解決責(zé)任分擔(dān)問(wèn)題。多主體協(xié)同、開(kāi)放式支撐的人工智能為更為常見(jiàn)的形式,硬件制造商、軟件提供商、系統(tǒng)運(yùn)行維護(hù)商、基礎(chǔ)網(wǎng)絡(luò)提供商、改造利用的用戶和網(wǎng)絡(luò)侵入者都會(huì)實(shí)質(zhì)性影響人工智能的運(yùn)行,人工智能在運(yùn)行過(guò)程中也會(huì)自我優(yōu)化和發(fā)展。影響機(jī)器人的主體眾多,機(jī)器人的侵權(quán)責(zé)任可能歸因于多方主體且查明困難。在原因無(wú)法查明或多方共同作用所致時(shí),以人工智能的名義和財(cái)產(chǎn)對(duì)外擔(dān)責(zé),可以有效地促進(jìn)交易,從而保護(hù)無(wú)辜受害者和善意相對(duì)人,實(shí)現(xiàn)利益平衡。賦予機(jī)器人法律人格,避免責(zé)任認(rèn)定不清,利于對(duì)被侵權(quán)者利益的保護(hù)。另外,在現(xiàn)行的產(chǎn)品責(zé)任的模式下,會(huì)給生產(chǎn)者、銷售者帶來(lái)沉重的責(zé)任負(fù)擔(dān),違反公平正義的要求,還會(huì)打擊人工智能產(chǎn)業(yè)的發(fā)展創(chuàng)新。所以,授予智能機(jī)器人法律人格,使其獨(dú)立的承擔(dān)法律責(zé)任具有現(xiàn)實(shí)的必要性[3]。

    2.3 對(duì)肯定說(shuō)的評(píng)析

    持肯定觀的學(xué)者主張將人工智能體作為獨(dú)立的民事主體看待,在法律上獨(dú)立享有權(quán)利和承擔(dān)義務(wù)。將民事法律主體的抽象性和擴(kuò)張性來(lái)論證人工智能主體是可行的,從這一邏輯上看,任何實(shí)體只要符合民事主體的要件和現(xiàn)實(shí)的需要,通過(guò)法律確認(rèn)都可能被擬制成為法律主體,智能機(jī)器人也并無(wú)另外。但智能機(jī)器人是否符合相關(guān)條件和必要性,筆者認(rèn)為現(xiàn)有的論證并不具有說(shuō)服力。機(jī)器人和傳統(tǒng)機(jī)器表現(xiàn)不同的是其擁有一定的智力和自主學(xué)習(xí)的能力,但這是否能成為民法上的理性能力和意思表示,筆者認(rèn)為是存在疑問(wèn)的。智能機(jī)器需要人類為其制定完整的程序,通過(guò)人類為它設(shè)定的解決程序去實(shí)行,要是沒(méi)有給予計(jì)算機(jī)充分合乎邏輯的正確信息,計(jì)算機(jī)就無(wú)法理解,無(wú)法采取正確行動(dòng)。有自我意識(shí)的強(qiáng)人工智能尚未出現(xiàn),目前的人工智能仍處于弱人工智能階段,相關(guān)的法學(xué)研究也應(yīng)以弱人工智能為基礎(chǔ)開(kāi)展,認(rèn)為人工智能具有理性能力無(wú)疑是夸大了人工智能的作用。人工智能也無(wú)法享有權(quán)益,以著作權(quán)為例,因?yàn)槿斯ぶ悄荏w本身也無(wú)法行使利用著作權(quán),人工智能生成物所帶來(lái)權(quán)利的利用、收益歸屬于其開(kāi)發(fā)者、設(shè)計(jì)者等主體,為其創(chuàng)設(shè)權(quán)利沒(méi)有實(shí)際意義。所牽涉的獨(dú)立于其開(kāi)發(fā)者、設(shè)計(jì)者的保護(hù)的價(jià)值,如不得濫用人工智能以免對(duì)人類造成不法侵害,可以通過(guò)在法律上對(duì)其開(kāi)發(fā)者、設(shè)計(jì)者、使用者在法律上的行為限制以及相關(guān)的行業(yè)規(guī)范加以實(shí)現(xiàn)。所保護(hù)的也并非人工智能權(quán)利的利益,而是社會(huì)秩序和人類的利益。在責(zé)任歸屬方面,讓人工智能獨(dú)立承擔(dān)責(zé)任并非具有必要性的立法思路。因?yàn)槿斯ぶ悄懿痪哂胸?cái)產(chǎn),最后責(zé)任還是由與人工智能相關(guān)的主體承擔(dān),在被侵權(quán)人和相關(guān)主題之間多增設(shè)一個(gè)無(wú)生命的實(shí)體不具有必要性[4]。

    3 人工智能法律主體否定說(shuō)主要觀點(diǎn)及評(píng)析

    3.1 否定說(shuō)的主要觀點(diǎn)

    持否定立場(chǎng)的學(xué)者大多認(rèn)為機(jī)器人為權(quán)利客體,不具有法律上的人格,人工智能終究只是人類的工具,為法律關(guān)系的客體。

    王利明教授認(rèn)為,智能機(jī)器人本質(zhì)上由其自身算法決定,尚不具備人類所具有的自主思考的意識(shí)和能力,尚不能獨(dú)立享有權(quán)利、承擔(dān)義務(wù)。在一定時(shí)期內(nèi),既有的法律制度和規(guī)則體系仍可有效解決智能機(jī)器人所帶來(lái)的挑戰(zhàn),目前人工智能機(jī)器人還不能也沒(méi)有必要成為民事主體。

    吳漢東教授認(rèn)為,機(jī)器人不是具有生命的自然人,也區(qū)別于具有自己獨(dú)立意志并作為自然人集合體的法人,不能將其作為擬制之人享有法律主體資格。機(jī)器人是受民事主體控制的,不足以取得獨(dú)立的主體地位[5]。

    楊立新教授認(rèn)為,即使智能機(jī)器人的人工智能再高端,其智慧再發(fā)達(dá),也不具有民事主體的人格。其將人工智能機(jī)器人的民法地位定位為人工類人格,即指智能機(jī)器人所享有的,通過(guò)人工制造的,類似于或者接近于自然人的自然人格的民事法律地位。但否認(rèn)人工類人格為法律人格,對(duì)其仍然界定為民法客體,機(jī)器人仍作為物存在,但劃清智能機(jī)器人與其他物的區(qū)別,認(rèn)為智能機(jī)器人處在最高的物格地位。

    解正山認(rèn)為,機(jī)器人與人具有本質(zhì)差異,它們不可能成為“理性的人”,機(jī)器智能是一種演繹智慧,只是對(duì)數(shù)據(jù)進(jìn)行無(wú)理性、無(wú)情感的枯燥處理,不過(guò)是對(duì)人類某些認(rèn)知行為的模擬,機(jī)器人終究只是作為“工具”而存在。法律人格與法律權(quán)利的基礎(chǔ)更多在于人性而非認(rèn)知能力。機(jī)器人履行義務(wù)和承擔(dān)責(zé)任具有非現(xiàn)實(shí)性[6]。

    房紹坤認(rèn)為,人工智能缺乏作為自然人的自我意識(shí)、理性和道德感,缺乏人類之“靈性”,沒(méi)有需要保護(hù)的倫理價(jià)值,其本質(zhì)上只是一臺(tái)機(jī)器,不能取得與人類平等的民事主體地位。

    石冠彬認(rèn)為,人工智能獲得主體資格地位并無(wú)理論障礙,在理論上和實(shí)踐上均具有可行性,但人工智能獲得主體資格并非解決現(xiàn)實(shí)問(wèn)題的唯一途徑,因?yàn)槟壳吧形催_(dá)到必須構(gòu)建的迫切程度,解決人工智能著作權(quán)保護(hù)問(wèn)題和自動(dòng)駕駛汽車的侵權(quán)責(zé)任均可以用其他路徑予以解決。

    鄭戈認(rèn)為,機(jī)器人無(wú)論以何種方式承擔(dān)責(zé)任,最終承擔(dān)責(zé)任的始終是機(jī)器人的“主人”,因?yàn)闄C(jī)器人不可能有獨(dú)立的收入,無(wú)論以何種方式承擔(dān)責(zé)任,最終的責(zé)任承擔(dān)者都是人,賦予機(jī)器人以法律人格這一簡(jiǎn)單擬人化模式缺乏相應(yīng)法律能力和法律責(zé)任分配機(jī)制,是不可行的[7]。

    馮潔認(rèn)為,從法理論的角度,成為法律主體意味著規(guī)范條件和事實(shí)條件兩個(gè)條件的統(tǒng)一,前者為享有權(quán)利和履行義務(wù)的法律資格,后者為享有權(quán)利和履行義務(wù)的法律資格。人工智能不符合法律主體的事實(shí)條件和規(guī)范條件,無(wú)法成為法律主體。

    趙萬(wàn)一認(rèn)為,機(jī)器人的特性不足以構(gòu)成賦予其民事主體地位的理由。因?yàn)闄C(jī)器人就其生成機(jī)理來(lái)說(shuō)不可能產(chǎn)生生命和生命權(quán),也不具有自然人那樣的個(gè)體差異性,不具有自然人所具有的道德、良心、良知、倫理、宗教、規(guī)矩和習(xí)慣,機(jī)器人無(wú)法實(shí)現(xiàn)與自然的和諧相處,也無(wú)法在與自然的相處中實(shí)現(xiàn)對(duì)自然界的改造的目的。

    綜上,持否定說(shuō)的學(xué)者大多數(shù)都指出機(jī)器人與人之間的差別,認(rèn)為人工智能體成為法律主體還具有差距,通過(guò)分析機(jī)器人的意思能力,認(rèn)為機(jī)器人沒(méi)有自我意志,只能作為人的工具,即法律上的物而存在,不符合成為法律人格的條件[8]。

    3.2 否定說(shuō)論證的主要理由

    3.2.1 人工智能體不具有獨(dú)立的意志。持此觀點(diǎn)的學(xué)者認(rèn)為,人工智能不具有獨(dú)立的意志,只是為人類利用的工具,是人類能力在某方面的延伸,是能被人所完全控制的,人工智能所具有算法和學(xué)習(xí)能力不能表現(xiàn)為獨(dú)立的意志,而只是一種數(shù)字化的表達(dá)。人工智能不能成為目的,而只是方式。人造機(jī)器沒(méi)有自身的目的,其工作目的非常特定,且為人類設(shè)計(jì)者所設(shè)計(jì)。機(jī)器人生成的目的行為,與人類有目的、有意識(shí)的行為性質(zhì)完全不同,也區(qū)別于具有自己獨(dú)立意志并作為自然人集合體的法人。人工智能是為人所利用的智能化的機(jī)器,其所表現(xiàn)出來(lái)的智能化的成果不能視為獨(dú)立的意志的表達(dá),不是具有獨(dú)立意志的法律主體[9]。

    3.2.2 人工智能無(wú)法享有權(quán)利和承擔(dān)義務(wù)。在成為主體的條件方面,就現(xiàn)階段而言,人工智能無(wú)法享有權(quán)利和承擔(dān)義務(wù),而且也無(wú)法得到法律的確認(rèn)。解正山認(rèn)為,機(jī)器人不可能成為權(quán)利主體,機(jī)器人履行義務(wù)或承擔(dān)責(zé)任也具有非現(xiàn)實(shí)性。因?yàn)闄C(jī)器人和“人”具有本質(zhì)差異,它們不可能成為“理性的人”。機(jī)器人無(wú)法類比法人主體地位和動(dòng)物權(quán)利來(lái)獲得權(quán)利,因?yàn)槠浔举|(zhì)上存在差異。而且賦予機(jī)器人擬制性的且利他的權(quán)利或不現(xiàn)實(shí)或多余,沒(méi)有必要把產(chǎn)品意義上的機(jī)動(dòng)性上升到權(quán)利的高度,賦予救濟(jì)的權(quán)利完全可以給予其所有者或使用人。給機(jī)器人設(shè)立獨(dú)立的財(cái)產(chǎn)使其獨(dú)立的履行義務(wù)和承擔(dān)責(zé)任從生產(chǎn)者或用戶的角度看也是不現(xiàn)實(shí)的。機(jī)器人并不具備享有權(quán)利和履行義務(wù)的意志能力,也不應(yīng)當(dāng)擁有享有權(quán)利和履行義務(wù)的法律資格。人工智能無(wú)法享有權(quán)利和履行義務(wù),其不能理解法律上的權(quán)利與義務(wù),其意志水平?jīng)Q定了其無(wú)法遵守法律。有關(guān)于人工智能的權(quán)利與義務(wù)不具有現(xiàn)實(shí)性和可行性,完全可由其生產(chǎn)者、制造者承擔(dān)[10]。

    3.2.3 人工智能不具有自然人主體的特質(zhì)。持否定論觀點(diǎn)的學(xué)者,大多否定機(jī)器人的人性,主張其不具有法律人格。霍斯特·艾丹米勒教授認(rèn)為,法律能力或者人格是與人類相關(guān)聯(lián)的,賦予機(jī)器人法律人格會(huì)使世界非人化,我們應(yīng)該避免持有這種態(tài)度。房紹坤教授指出,人工智能與具有法律人格的自然人沒(méi)有共通性,缺乏價(jià)值判斷力和道德感。缺乏自然人屬性的人工智能體,即使表現(xiàn)出一定的智能,非自然性也決定了是人類利用的工具。張力教授認(rèn)為,智能機(jī)器人取得人格具有推導(dǎo)謬誤,混淆了自動(dòng)化科學(xué)中的工具“自動(dòng)化決策”和人類主體的本質(zhì)區(qū)別,混淆了人之主體能力的本質(zhì)與為人所創(chuàng)造工具的工作能力表象之間的區(qū)別。因?yàn)槿斯ぶ悄芘c自然人主體之間存在本質(zhì)差別,其自主學(xué)習(xí)能力和自然人意識(shí)表達(dá)不同,人工智能沒(méi)有理性道德、情感、判斷力、邏輯、倫理觀念等自然人意識(shí)特有的內(nèi)容,其不能成為法律主體[11]。

    3.2.4 把人工智能作為主體不具有必要性。目前仍處于弱人工智能時(shí)代,強(qiáng)人工智能的發(fā)展停滯不前,賦予人工智能主體地位沒(méi)有必要性。有些學(xué)者認(rèn)為從立法層面上來(lái)說(shuō),當(dāng)前的法律制度尚可以解決目前出現(xiàn)的問(wèn)題,將人工智能作為主體不具有立法上的必要性和緊迫性,應(yīng)該在現(xiàn)有的法律制度中尋求解決人工智能相關(guān)問(wèn)題的路徑。目前在人工智能領(lǐng)域出現(xiàn)的法律問(wèn)題主要集中在人工智能創(chuàng)作物的著作權(quán)歸屬問(wèn)題以及人工智能物侵權(quán)的問(wèn)題上,在其他方面還未涉及,現(xiàn)行法律制度可以對(duì)其進(jìn)行調(diào)整。房紹坤認(rèn)為,人工智能創(chuàng)作的作品實(shí)際上為人工智能體的孳息,該著作權(quán)應(yīng)歸屬于人工智能體的所有人。在處理人工智能致害責(zé)任時(shí),應(yīng)以產(chǎn)品責(zé)任為原則,追究銷售者和制造者的責(zé)任,在系統(tǒng)存在問(wèn)題的情況下,責(zé)任承擔(dān)人可以追究軟件制造者和銷售者的責(zé)任。石冠彬認(rèn)為,不賦予人工智能以民事主體資格,不影響其創(chuàng)作物受到著作權(quán)法等知識(shí)產(chǎn)權(quán)法律的保護(hù),在自動(dòng)駕駛汽車的侵權(quán)責(zé)任上,不論是產(chǎn)品責(zé)任還是自動(dòng)駕駛汽車專項(xiàng)保險(xiǎn)制度的引入,都可以解決侵權(quán)責(zé)任的問(wèn)題,賦予人工智能民事法律資格并非唯一的路徑。將人工智能作為法律主體在立法技術(shù)具有困難,將引發(fā)巨大的法律變革,將打破現(xiàn)行以自然人和法人為民事主體的制度。無(wú)論是在立法上,法律的應(yīng)用上還是社會(huì)觀念的轉(zhuǎn)變上,都會(huì)存在巨大的沖擊和困難。在人工智能未發(fā)展至強(qiáng)人工智能智能普遍應(yīng)用的階段時(shí),運(yùn)用現(xiàn)行的法律制度仍可以解決人工智能帶來(lái)的法律問(wèn)題,將其作為民事主體不具有必要性[12]。

    3.3 否定觀的評(píng)析

    在對(duì)于人工智能法律地位的討論上,筆者支持否定觀的觀點(diǎn),目前人工智能無(wú)法成為法律關(guān)系的主體。筆者認(rèn)為,以人工智能不具有人性而主張其不具有主體資格的觀點(diǎn)有待商榷。我們?cè)谟懻摍C(jī)器人是否能否成為法律主體時(shí),應(yīng)該看待其是否具有相應(yīng)的權(quán)利能力,即享有權(quán)利和承擔(dān)義務(wù)的法律資格。法律意義上的人格以權(quán)利能力的享有為標(biāo)志,享有權(quán)利能力也就意味著具有私法主體地位。德國(guó)學(xué)界一般將權(quán)利能力定義為:成為權(quán)利與義務(wù)承受者的能力。法律人格與口語(yǔ)中的“人”的意思不同,其沒(méi)有關(guān)于道德上的主張,這個(gè)術(shù)語(yǔ)本身也不需要任何的知覺(jué)和生命力。成為法律上的人是有能力在既定的法律系統(tǒng)內(nèi)享有權(quán)利和承擔(dān)義務(wù),比如說(shuō)訂立合同,擁有財(cái)產(chǎn)和被訴的權(quán)利。不同于自然實(shí)體,特殊的權(quán)利義務(wù)伴隨著法律上的人格。法律人格的確立是由立法或司法機(jī)構(gòu)作出的評(píng)估,目的是賦予一個(gè)實(shí)體權(quán)利和義務(wù),而無(wú)論該實(shí)體外觀如何,是不是真正的人類?!叭烁瘛弊鳛橐粋€(gè)法律概念時(shí),并非來(lái)自于主體的人性,而是來(lái)自于主體的權(quán)利義務(wù)歸屬。確立一個(gè)是否能成為法律上的人很大程度上取決于具體情況,不一定是一致的標(biāo)準(zhǔn)。故在討論機(jī)器人是否具有法律人格時(shí),不應(yīng)將法律上的人格概念與哲學(xué)上的人格概念混淆,過(guò)分對(duì)比機(jī)器人和自然人在各個(gè)方面上的差別,對(duì)人的哲學(xué)屬性做過(guò)多思考而強(qiáng)調(diào)因智能機(jī)器人不具有人性而不具有法律人格。關(guān)于人本身的自然屬性以及哲學(xué)概念,并非是機(jī)器人擁有法律人格的必要條件。自然人的主體性的概念,與法律主體和法律人格的概念并不相同,不能混為一談。如果以主體的人性作為法律人格的基礎(chǔ),那么法人的法律人格將無(wú)存在的基礎(chǔ)。法律人格的創(chuàng)設(shè)是基于其享有法律上的權(quán)利和承擔(dān)法律上的義務(wù),目前智能機(jī)器人還不具備自我意識(shí),無(wú)法成為權(quán)利與義務(wù)的承擔(dān)者,也沒(méi)有成為法律主體的必要性,筆者認(rèn)為否定的觀點(diǎn)更為合理[13-17]。

    4 結(jié)束語(yǔ)

    現(xiàn)如今立法對(duì)于機(jī)器人的法律人格仍沒(méi)有明確規(guī)定,但不斷發(fā)展的人工智能技術(shù)和現(xiàn)實(shí)中不斷涌現(xiàn)的機(jī)器人權(quán)利義務(wù)和責(zé)任承擔(dān)的問(wèn)題使得機(jī)器人的立法成為迫切需要。本文討論了我國(guó)關(guān)于機(jī)器人法律人格創(chuàng)設(shè)的主要觀點(diǎn),分析了國(guó)內(nèi)目前主要的已有研究的對(duì)此問(wèn)題的觀點(diǎn)。人工智能法律主體問(wèn)題是法學(xué)研究領(lǐng)域探索未來(lái)法治道路的前提問(wèn)題,筆者認(rèn)為在現(xiàn)如今的發(fā)展階段還不宜將人工智能作為主體看待,還不具有相應(yīng)的必要性。法學(xué)研究也應(yīng)該在不斷發(fā)展的科技熱潮中保持一份清醒和理智,不必夸大人工智能的作用,站在實(shí)際立場(chǎng)上解決不斷涌現(xiàn)的人工智能問(wèn)題。

    猜你喜歡
    主體人工智能人類
    人類能否一覺(jué)到未來(lái)?
    論自然人破產(chǎn)法的適用主體
    人類第一殺手
    1100億個(gè)人類的清明
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    關(guān)于遺產(chǎn)保護(hù)主體的思考
    人類正在消滅自然
    奧秘(2015年2期)2015-09-10 07:22:44
    亚洲综合色惰| 777米奇影视久久| 一级毛片久久久久久久久女| 99热全是精品| 99久久精品一区二区三区| 在线a可以看的网站| 欧美精品一区二区大全| 我的女老师完整版在线观看| 六月丁香七月| 国产在线一区二区三区精| 国产精品99久久久久久久久| 亚洲精品日韩av片在线观看| 69人妻影院| 国产亚洲一区二区精品| 久久久精品免费免费高清| 国产免费福利视频在线观看| 国产成人福利小说| 最近2019中文字幕mv第一页| 国产日韩欧美在线精品| 欧美精品一区二区大全| 综合色av麻豆| 久99久视频精品免费| 国产色婷婷99| 三级国产精品欧美在线观看| 一边亲一边摸免费视频| 日韩欧美精品免费久久| 别揉我奶头 嗯啊视频| 欧美激情久久久久久爽电影| 欧美bdsm另类| 国模一区二区三区四区视频| 亚洲图色成人| 欧美日韩一区二区视频在线观看视频在线 | 欧美成人精品欧美一级黄| 久久久精品免费免费高清| 亚洲精品aⅴ在线观看| 日韩三级伦理在线观看| 亚洲va在线va天堂va国产| 一本一本综合久久| 国产片特级美女逼逼视频| 国产精品一区www在线观看| 免费在线观看成人毛片| 国产乱来视频区| 99久国产av精品| 国产综合懂色| 精品久久久噜噜| 久久久久久久久中文| 天天一区二区日本电影三级| 欧美日韩综合久久久久久| 国产精品一区二区性色av| 婷婷色麻豆天堂久久| 草草在线视频免费看| 2018国产大陆天天弄谢| 日日干狠狠操夜夜爽| 韩国高清视频一区二区三区| 成人高潮视频无遮挡免费网站| 精华霜和精华液先用哪个| 一个人免费在线观看电影| 麻豆av噜噜一区二区三区| 国产精品不卡视频一区二区| 亚洲精品日韩在线中文字幕| 国产黄色小视频在线观看| 国产69精品久久久久777片| 尾随美女入室| 国产一区二区在线观看日韩| 最近手机中文字幕大全| 欧美一级a爱片免费观看看| 全区人妻精品视频| 亚洲伊人久久精品综合| 美女黄网站色视频| 国产美女午夜福利| 久久久久久久久久成人| 99久久精品热视频| 春色校园在线视频观看| 黄色欧美视频在线观看| 汤姆久久久久久久影院中文字幕 | 精品久久久久久久久久久久久| 国产精品一区二区在线观看99 | 超碰97精品在线观看| 日韩国内少妇激情av| 91av网一区二区| 日本爱情动作片www.在线观看| 国产v大片淫在线免费观看| 欧美+日韩+精品| 美女大奶头视频| av在线播放精品| 欧美极品一区二区三区四区| 国产免费福利视频在线观看| av在线天堂中文字幕| 干丝袜人妻中文字幕| 国产成人freesex在线| 日韩中字成人| 一区二区三区乱码不卡18| 免费黄频网站在线观看国产| 亚洲精品视频女| 亚洲最大成人av| 成年免费大片在线观看| 三级男女做爰猛烈吃奶摸视频| 国产精品一及| 国产中年淑女户外野战色| 亚洲精华国产精华液的使用体验| 亚洲欧美精品专区久久| 一区二区三区免费毛片| 99热这里只有是精品50| 国产精品福利在线免费观看| 亚洲婷婷狠狠爱综合网| 国产色婷婷99| 日本色播在线视频| 亚洲aⅴ乱码一区二区在线播放| 欧美日韩精品成人综合77777| 国产精品一及| 久久久久性生活片| 久久精品国产亚洲av涩爱| 久久精品国产自在天天线| 国产精品久久久久久av不卡| 精品久久久噜噜| 国内少妇人妻偷人精品xxx网站| 色综合站精品国产| 精品久久久久久成人av| 1000部很黄的大片| 欧美性猛交╳xxx乱大交人| 亚洲精品中文字幕在线视频 | 一边亲一边摸免费视频| 99热全是精品| 99视频精品全部免费 在线| 欧美精品国产亚洲| 久久精品夜色国产| 亚洲,欧美,日韩| 在线观看一区二区三区| 99久国产av精品国产电影| 成人欧美大片| 美女主播在线视频| 老司机影院成人| 赤兔流量卡办理| 中文欧美无线码| 日日摸夜夜添夜夜爱| 国产在视频线在精品| 日本黄大片高清| 男女边吃奶边做爰视频| 特大巨黑吊av在线直播| 亚洲欧美精品自产自拍| 成人特级av手机在线观看| 美女高潮的动态| 亚洲经典国产精华液单| 国产精品人妻久久久影院| 久久精品夜色国产| 久久精品国产亚洲av涩爱| 亚洲欧洲国产日韩| 成年人午夜在线观看视频 | 久久久久久久久大av| 国产精品嫩草影院av在线观看| 天堂av国产一区二区熟女人妻| 自拍偷自拍亚洲精品老妇| 69av精品久久久久久| 国产综合懂色| 亚洲精品,欧美精品| 久久韩国三级中文字幕| 秋霞伦理黄片| 搡女人真爽免费视频火全软件| 日韩亚洲欧美综合| 亚洲,欧美,日韩| 亚洲av男天堂| 色视频www国产| 女人十人毛片免费观看3o分钟| 好男人视频免费观看在线| 欧美xxxx性猛交bbbb| 精品久久久噜噜| 亚洲成人av在线免费| 日本色播在线视频| a级毛片免费高清观看在线播放| 国模一区二区三区四区视频| 日本黄色片子视频| 久久久久免费精品人妻一区二区| 我的老师免费观看完整版| 99久久精品热视频| 嫩草影院新地址| 人妻系列 视频| 精品国内亚洲2022精品成人| 国产av码专区亚洲av| 国产男人的电影天堂91| 99热这里只有精品一区| 男女啪啪激烈高潮av片| 国产精品久久久久久av不卡| 午夜免费男女啪啪视频观看| 亚洲欧美成人综合另类久久久| 日韩亚洲欧美综合| 免费无遮挡裸体视频| 亚洲熟妇中文字幕五十中出| 欧美 日韩 精品 国产| 亚洲第一区二区三区不卡| 欧美性猛交╳xxx乱大交人| 亚洲av在线观看美女高潮| 在线观看av片永久免费下载| 大片免费播放器 马上看| 久久精品熟女亚洲av麻豆精品 | 国产亚洲精品久久久com| 亚洲精品成人久久久久久| 欧美日韩国产mv在线观看视频 | 精品久久久久久成人av| 女人久久www免费人成看片| 99热这里只有是精品在线观看| 在线免费观看不下载黄p国产| 亚洲精品乱码久久久v下载方式| 中文字幕av在线有码专区| 人体艺术视频欧美日本| 黄片wwwwww| 午夜亚洲福利在线播放| 国产中年淑女户外野战色| 欧美变态另类bdsm刘玥| 91久久精品电影网| 亚洲自偷自拍三级| 18禁裸乳无遮挡免费网站照片| 亚洲国产精品国产精品| 国产精品.久久久| 黄片wwwwww| 日日干狠狠操夜夜爽| 亚洲成人一二三区av| 十八禁网站网址无遮挡 | 狂野欧美白嫩少妇大欣赏| 久久久久久久久久久免费av| 欧美一区二区亚洲| 日韩一区二区视频免费看| 最新中文字幕久久久久| 久久99热6这里只有精品| 欧美三级亚洲精品| 日韩av在线大香蕉| 特级一级黄色大片| 男女边吃奶边做爰视频| 免费黄频网站在线观看国产| 黄片wwwwww| 国产黄色视频一区二区在线观看| 高清午夜精品一区二区三区| 校园人妻丝袜中文字幕| 亚洲天堂国产精品一区在线| 1000部很黄的大片| 插阴视频在线观看视频| 欧美人与善性xxx| 国产亚洲91精品色在线| 99热这里只有是精品在线观看| 久久久欧美国产精品| 国产伦精品一区二区三区视频9| 丝袜美腿在线中文| 又黄又爽又刺激的免费视频.| 91aial.com中文字幕在线观看| 亚洲最大成人手机在线| 久久鲁丝午夜福利片| 少妇的逼好多水| 99久久人妻综合| 免费看a级黄色片| 日本欧美国产在线视频| 黄色日韩在线| 日本免费a在线| 成年女人在线观看亚洲视频 | 国产精品久久久久久av不卡| 久久精品国产亚洲av涩爱| 日韩av免费高清视频| 别揉我奶头 嗯啊视频| 国产黄频视频在线观看| 亚洲人与动物交配视频| 亚洲av日韩在线播放| 色播亚洲综合网| 免费av观看视频| 国产一区亚洲一区在线观看| 高清在线视频一区二区三区| 久久精品国产自在天天线| 非洲黑人性xxxx精品又粗又长| 欧美日韩综合久久久久久| 偷拍熟女少妇极品色| 中文字幕久久专区| 亚洲精品色激情综合| 成人鲁丝片一二三区免费| 寂寞人妻少妇视频99o| 午夜福利视频精品| 日韩,欧美,国产一区二区三区| 亚洲欧洲日产国产| 国产一区有黄有色的免费视频 | 久久99热6这里只有精品| 三级国产精品欧美在线观看| 免费观看的影片在线观看| 黄色一级大片看看| 校园人妻丝袜中文字幕| 久久久欧美国产精品| 亚洲18禁久久av| av线在线观看网站| 国内揄拍国产精品人妻在线| 婷婷色av中文字幕| 黄片无遮挡物在线观看| 韩国av在线不卡| 国产免费福利视频在线观看| 午夜福利视频1000在线观看| 国产熟女欧美一区二区| 亚洲欧美日韩卡通动漫| 亚洲在久久综合| 亚洲精品国产成人久久av| 亚洲av成人精品一区久久| 草草在线视频免费看| 久久精品久久久久久久性| 国产女主播在线喷水免费视频网站 | 成人综合一区亚洲| 亚州av有码| 欧美高清性xxxxhd video| 亚洲乱码一区二区免费版| 久久久久精品性色| 天堂中文最新版在线下载 | 成人性生交大片免费视频hd| av.在线天堂| 国产精品久久久久久av不卡| 久久久久久久久中文| 2021天堂中文幕一二区在线观| 中文字幕av成人在线电影| 日韩精品青青久久久久久| 夫妻午夜视频| 乱系列少妇在线播放| 国产亚洲精品av在线| 在线观看一区二区三区| 男人和女人高潮做爰伦理| 免费看不卡的av| 久久精品国产自在天天线| 老司机影院成人| 91狼人影院| 久久精品夜夜夜夜夜久久蜜豆| 午夜福利视频1000在线观看| 国产成人午夜福利电影在线观看| 精品久久久久久久久亚洲| 老司机影院成人| 欧美激情国产日韩精品一区| 亚洲国产av新网站| 中文乱码字字幕精品一区二区三区 | 成年版毛片免费区| 又粗又硬又长又爽又黄的视频| 女人被狂操c到高潮| 午夜福利在线在线| 青春草国产在线视频| 国内少妇人妻偷人精品xxx网站| 亚洲四区av| 国产熟女欧美一区二区| 禁无遮挡网站| 欧美xxⅹ黑人| 亚洲精品日本国产第一区| 国产av码专区亚洲av| 国产精品一区www在线观看| www.av在线官网国产| 视频中文字幕在线观看| 欧美成人a在线观看| a级一级毛片免费在线观看| 高清av免费在线| 老师上课跳d突然被开到最大视频| 国产精品无大码| 国模一区二区三区四区视频| 极品教师在线视频| 亚洲国产色片| 美女被艹到高潮喷水动态| 日产精品乱码卡一卡2卡三| 两个人视频免费观看高清| 亚洲在线观看片| 91aial.com中文字幕在线观看| 一本久久精品| 欧美高清成人免费视频www| 在线观看一区二区三区| 成年人午夜在线观看视频 | 午夜福利网站1000一区二区三区| 日本av手机在线免费观看| 亚洲人成网站高清观看| 国产黄频视频在线观看| 日本一二三区视频观看| 国产伦一二天堂av在线观看| 免费不卡的大黄色大毛片视频在线观看 | a级一级毛片免费在线观看| 国产精品av视频在线免费观看| 亚洲精品日本国产第一区| 99视频精品全部免费 在线| 亚洲国产最新在线播放| 欧美日韩一区二区视频在线观看视频在线 | 激情 狠狠 欧美| 久久久欧美国产精品| 狂野欧美激情性xxxx在线观看| 午夜视频国产福利| 国产精品精品国产色婷婷| 中国美白少妇内射xxxbb| 成人漫画全彩无遮挡| 日韩成人伦理影院| 国产黄片视频在线免费观看| 国产精品.久久久| av卡一久久| 国产白丝娇喘喷水9色精品| 国产高清有码在线观看视频| 少妇高潮的动态图| 国产高清有码在线观看视频| 日韩在线高清观看一区二区三区| 亚洲av成人av| 久久久久久久久中文| 舔av片在线| av在线亚洲专区| 天美传媒精品一区二区| 国产黄片美女视频| 性色avwww在线观看| 高清午夜精品一区二区三区| 成年人午夜在线观看视频 | 国产亚洲av嫩草精品影院| 亚洲欧美一区二区三区黑人 | 日韩欧美精品v在线| 国产v大片淫在线免费观看| 日韩伦理黄色片| 色尼玛亚洲综合影院| 美女国产视频在线观看| 亚洲av成人精品一区久久| 高清av免费在线| 精品久久久久久久人妻蜜臀av| 综合色av麻豆| 日本熟妇午夜| 国产精品久久视频播放| 欧美xxⅹ黑人| 亚洲精品成人av观看孕妇| 街头女战士在线观看网站| 亚洲精品中文字幕在线视频 | 国产亚洲一区二区精品| 久久精品久久久久久噜噜老黄| 内地一区二区视频在线| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 久久久久久久久中文| 偷拍熟女少妇极品色| 亚洲最大成人中文| 精品久久久精品久久久| ponron亚洲| 免费在线观看成人毛片| 国产一区二区在线观看日韩| 国产 一区 欧美 日韩| 精品午夜福利在线看| 可以在线观看毛片的网站| 嫩草影院精品99| 亚洲最大成人中文| 久久久久九九精品影院| 国产高潮美女av| 免费黄色在线免费观看| 亚洲国产精品sss在线观看| 欧美高清性xxxxhd video| 99久久中文字幕三级久久日本| 中文字幕久久专区| 偷拍熟女少妇极品色| 色综合色国产| 国内精品宾馆在线| freevideosex欧美| 成人亚洲精品av一区二区| 精品一区二区免费观看| 成人综合一区亚洲| 深爱激情五月婷婷| 白带黄色成豆腐渣| 在现免费观看毛片| 神马国产精品三级电影在线观看| 午夜福利成人在线免费观看| 黑人高潮一二区| 少妇的逼水好多| 亚洲av一区综合| 白带黄色成豆腐渣| 国产老妇伦熟女老妇高清| 亚洲激情五月婷婷啪啪| 晚上一个人看的免费电影| 亚洲欧美成人综合另类久久久| 日本一本二区三区精品| 我要看日韩黄色一级片| 三级经典国产精品| 国产老妇伦熟女老妇高清| 蜜臀久久99精品久久宅男| 欧美 日韩 精品 国产| 国产成人免费观看mmmm| 一级毛片久久久久久久久女| 国产男女超爽视频在线观看| 欧美性猛交╳xxx乱大交人| 成年女人在线观看亚洲视频 | 国产视频首页在线观看| www.av在线官网国产| 最近手机中文字幕大全| 91午夜精品亚洲一区二区三区| 国产一级毛片在线| 我的女老师完整版在线观看| 亚洲av中文字字幕乱码综合| 日日摸夜夜添夜夜爱| 午夜福利在线观看免费完整高清在| 97精品久久久久久久久久精品| 精华霜和精华液先用哪个| 中文字幕人妻熟人妻熟丝袜美| 床上黄色一级片| av在线亚洲专区| 好男人视频免费观看在线| 日韩欧美 国产精品| 国产亚洲一区二区精品| 亚洲综合色惰| 免费少妇av软件| 18禁在线播放成人免费| 人体艺术视频欧美日本| 精品一区二区免费观看| av专区在线播放| 最近中文字幕高清免费大全6| 久久久久国产网址| 一级毛片久久久久久久久女| 欧美人与善性xxx| xxx大片免费视频| 搡老妇女老女人老熟妇| 啦啦啦韩国在线观看视频| 日韩大片免费观看网站| 成人二区视频| 日本与韩国留学比较| 日韩 亚洲 欧美在线| 黄色日韩在线| 性插视频无遮挡在线免费观看| 99re6热这里在线精品视频| 最近视频中文字幕2019在线8| 免费av观看视频| 91久久精品国产一区二区三区| 欧美潮喷喷水| 九色成人免费人妻av| 午夜精品一区二区三区免费看| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 搡老乐熟女国产| 小蜜桃在线观看免费完整版高清| 精品久久国产蜜桃| 成年女人在线观看亚洲视频 | 久久精品久久精品一区二区三区| 欧美xxⅹ黑人| 久久草成人影院| 亚州av有码| 高清视频免费观看一区二区 | 婷婷色麻豆天堂久久| 蜜桃久久精品国产亚洲av| 日本猛色少妇xxxxx猛交久久| 久久精品国产亚洲av涩爱| 毛片女人毛片| 免费观看a级毛片全部| 亚洲在线观看片| 一夜夜www| 国产精品一区二区性色av| 极品教师在线视频| 日韩av免费高清视频| 九草在线视频观看| 久99久视频精品免费| 久久久久精品久久久久真实原创| 日韩欧美一区视频在线观看 | 精品一区二区三区人妻视频| 超碰97精品在线观看| 亚洲自偷自拍三级| 日韩,欧美,国产一区二区三区| 亚洲精品日本国产第一区| 精华霜和精华液先用哪个| 日韩视频在线欧美| 日韩av在线大香蕉| 亚洲精品亚洲一区二区| 直男gayav资源| 国产高清国产精品国产三级 | 成人高潮视频无遮挡免费网站| 久久久久网色| 免费播放大片免费观看视频在线观看| 亚洲av中文字字幕乱码综合| 欧美xxxx黑人xx丫x性爽| 亚洲精品亚洲一区二区| 天堂影院成人在线观看| 超碰av人人做人人爽久久| 夜夜看夜夜爽夜夜摸| 国产单亲对白刺激| 国产精品一区二区三区四区久久| 九草在线视频观看| 三级毛片av免费| 免费av毛片视频| 国产精品不卡视频一区二区| 午夜福利视频1000在线观看| 亚洲成人中文字幕在线播放| 成年女人在线观看亚洲视频 | 伊人久久国产一区二区| av在线天堂中文字幕| 日本-黄色视频高清免费观看| 国产单亲对白刺激| 精品久久久久久久久av| 国产白丝娇喘喷水9色精品| 非洲黑人性xxxx精品又粗又长| 高清日韩中文字幕在线| 久久精品国产亚洲av涩爱| 亚洲欧美中文字幕日韩二区| 国产伦精品一区二区三区视频9| 亚洲精品一二三| 2021少妇久久久久久久久久久| eeuss影院久久| 小蜜桃在线观看免费完整版高清| 性色avwww在线观看| 少妇人妻一区二区三区视频| 可以在线观看毛片的网站| 精品久久久久久久末码| 街头女战士在线观看网站| 精品一区二区三卡| 亚洲精品影视一区二区三区av| 国产黄色免费在线视频| 国产成人a区在线观看| 一二三四中文在线观看免费高清| 国产黄色免费在线视频| 国产成人a区在线观看| 色播亚洲综合网| 国产亚洲5aaaaa淫片| 黄色欧美视频在线观看| 嫩草影院入口| av在线观看视频网站免费| 成人美女网站在线观看视频| 丝袜美腿在线中文| 国产亚洲5aaaaa淫片| 高清在线视频一区二区三区| 校园人妻丝袜中文字幕| 久久精品人妻少妇| 真实男女啪啪啪动态图| 日韩av在线大香蕉| 国产黄频视频在线观看| 欧美潮喷喷水| 亚洲综合精品二区| 97人妻精品一区二区三区麻豆| 小蜜桃在线观看免费完整版高清| 婷婷色综合www| 免费播放大片免费观看视频在线观看| 日日摸夜夜添夜夜添av毛片| 五月天丁香电影| 美女国产视频在线观看|