• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能機器人民事主體制度構(gòu)建

    2019-09-10 14:11:15姜曉婧李士林
    科技與法律 2019年1期
    關(guān)鍵詞:智能機器人人工智能

    姜曉婧 李士林

    摘要:人工智能在給人類社會帶來進(jìn)步的同時,也向人類發(fā)出了挑戰(zhàn)。將智能機器人視為法律關(guān)系的客體所導(dǎo)致的法律困境,可以通過賦予智能機器人以法律主體地位得以解決。通過價值分析發(fā)現(xiàn),姑且不論智能機器人可以在自我責(zé)任下高效服務(wù)人類,單就低調(diào)謙卑與人類主體相融合的態(tài)度就足以獲得人類的主體認(rèn)同,因而賦予智能機器人民事主體地位具有法理正當(dāng)性。在智能機器人民事主體制度構(gòu)建方面,可以利用比較分析的方法借鑒法人民事主體設(shè)立的經(jīng)驗,立足于義務(wù)本位的賦權(quán)理念,賦予智能機器人限制權(quán)利能力,利用救濟代理和責(zé)任替代的路徑彌補其權(quán)利行使的不能和責(zé)任承擔(dān)的不足。

    關(guān)鍵詞:人工智能;智能機器人;民事主體;義務(wù)本位;替代責(zé)任

    中圖分類號:D916 文獻(xiàn)標(biāo)志碼:A 文章編號:1003-9945(2019)01-0071-08

    21世紀(jì)是人工智能的時代。自20世紀(jì)50年代阿蘭·圖靈發(fā)表《計算機器與智能》之后,“人工智能”一詞開始在科學(xué)及哲學(xué)領(lǐng)域流行開來[1],經(jīng)過結(jié)構(gòu)模擬、功能模擬,再到90年代信息網(wǎng)絡(luò)的加持,人工智能的發(fā)展和研究勢如破竹,成果喜人。然而,人類在創(chuàng)造智能機器人中設(shè)定的算法可能犯錯誤,展現(xiàn)出失控的機器人對社會和他人的破壞,而且被黑客輕易侵人的程序更可能作為人類的對手,制造“恐怖谷”。機器人沒有與生俱來的道德,人類的價值觀需要被編入人工智能系統(tǒng)的核心,從而控制他們可能帶來的危害,但是現(xiàn)存法律條文的制定都是以人類作為法律關(guān)系的主體,機器只能作為冰冷的法律關(guān)系客體被人類控制。如今,被沙特授予公民身份的索菲婭已然宣告人類的驚悸和愕然都無法拒絕智能機器人的競爭和部分替代,推動人工智能發(fā)展的思想、哲學(xué)及經(jīng)濟動因已然存在,機器人也應(yīng)當(dāng)具有生存和發(fā)展的權(quán)利,那么智能機器人應(yīng)當(dāng)被賦予民事主體地位嗎?其對人類的傷害和造成的損失應(yīng)當(dāng)承擔(dān)責(zé)任嗎?其民事主體地位應(yīng)當(dāng)如何在法律體系中被容納呢?

    一、賦予智能機器人民事主體地位的爭議

    明確規(guī)制對象的法律地位,進(jìn)而基于其法律地位解決其權(quán)利賦予、義務(wù)設(shè)定、侵權(quán)規(guī)則等下位概念所涉及的問題,以及與現(xiàn)有相關(guān)法律制度的銜接,這是立法層面的慣用進(jìn)路。審視大陸法系國家的法律體例可知,法律人格是整個法律殿堂的拱頂石,一切權(quán)利的享有與義務(wù)的承擔(dān)都源自于主體具備法律人格,擁有權(quán)利能力。人格和權(quán)利能力的概念也撐起近代西方法律的骨架,人格背后的意涵鏈接整個西方的主體哲學(xué),滲透到其權(quán)利義務(wù)、責(zé)任承擔(dān)等各種外延問題,是支撐所有基本問題體現(xiàn)的內(nèi)在價值理念。智能機器人法律規(guī)制中的首要問題為是否賦予智能機器人民事主體地位,以及怎么設(shè)定制度的問題,對此學(xué)界眾說紛紜,可歸納為三派:即認(rèn)為不應(yīng)設(shè)立、暫時役有必要設(shè)立與應(yīng)當(dāng)設(shè)立。

    認(rèn)為不應(yīng)設(shè)立的學(xué)者大多從法理層面論述,立足人與智能機器人的本質(zhì)關(guān)系:智能機器人作為人類機器或工具而存在,因而無論智能機器人以何種形態(tài)出現(xiàn),依托于技術(shù)而達(dá)到何種高度的智能化,其本質(zhì)仍然是人類能力的延伸,并不具有自我意識、邏輯生成方面的自主性與邏輯性,因而也不可能具有本源性的權(quán)利能力和行為能力。其中,郝鐵川教授認(rèn)為智能機器人與人在權(quán)利能力、行為能力、模糊性法律規(guī)定、法律原則運用解釋、交叉判斷等多方面都有著本質(zhì)差別,其邏輯、情感體系與人類具有根本不同,這些不同表明其僅具有工具屬性。鄭戈教授從權(quán)利賦予、義務(wù)履行以及責(zé)任承擔(dān)的法律整體運行中考慮,認(rèn)為最終要承擔(dān)的責(zé)任都將轉(zhuǎn)嫁給自然人,認(rèn)為智能機器人法律人格的設(shè)立與否不是影響智能機器人發(fā)揮其功能、承擔(dān)其責(zé)任的決定性因素,因而智能機器人民事主體地位的設(shè)立系多此一舉[2]。而學(xué)者F.Patrick Hubbard則回避了直接賦予智能機器人全新法律人格的問題,提出對于智能機器人的民事主體地位和責(zé)任可以類推適用兒童或者動物的相關(guān)規(guī)定,完全可以通過轉(zhuǎn)化改造的迂回方式規(guī)制智能機器人[3]。

    認(rèn)為暫時沒有必要設(shè)立的觀點多是基于智能機器人發(fā)展的現(xiàn)狀考慮,吳漢東教授認(rèn)為智能機器人現(xiàn)行發(fā)展階段依然屬于受控于人類的弱智能機器人,仍不足以取得獨立的民事主體地位[4]。該觀點對智能機器人民事主體地位的設(shè)立實際持觀望、開放態(tài)度,并不反對智能程度達(dá)到脫離民事主體控制的階段時對智能機器人賦予主體地位。

    更多學(xué)者支持應(yīng)當(dāng)賦予智能機器人民事主體地位,且因支持理由、論證角度相異,進(jìn)而提出的民事主體的設(shè)置路徑、種類等也各異。部分學(xué)者基于解決當(dāng)下頻發(fā)的智能機器人致害事故的目的,提出賦予智能機器人民事主體地位的觀點。其中Aishwarya Umaye認(rèn)為;在不能完全適用生產(chǎn)者、銷售者產(chǎn)品責(zé)任的情形下,明確智能機器人的法律地位,基于權(quán)利義務(wù)對等性的基本法理賦予智能機器人基本的憲法權(quán)利,是智能機器人法律責(zé)任確定的重要依據(jù)[5]。司曉、曹建峰博士認(rèn)為從長遠(yuǎn)來看賦予智能機器人以法律人格是平衡損害分配責(zé)任的必然路徑,因此可以通過設(shè)置強制保險制度、賠償基金、分類適用嚴(yán)格責(zé)任和差別責(zé)任處置與自然人的差異[6]。至于如何賦予智能機器人民事主體地位問題,學(xué)者袁曾提出應(yīng)該設(shè)立有限的法律人格制度,配合以人為本理念支撐的監(jiān)管制度,使智能機器人在人類控制下發(fā)展例。學(xué)者楊清望、張磊主張借鑒法人制度,同樣采用法律擬制的立法技術(shù)賦予智能機器人有別于自然人的有限法律地位,消除其在為人類服務(wù)中的部分障礙逗。學(xué)者張紹欣則認(rèn)為應(yīng)該警惕并抵制“圖靈測試”混淆人與智能機器人的本質(zhì)區(qū)別,其主張在智能機器人高度模擬人類的境況下,通過“位格加等”把人擬制為“超人”主體,進(jìn)而提升人類地位[8]??偠灾?,多數(shù)學(xué)者支持賦予智能機器人民事主體地位,且遵循現(xiàn)有的法律框架,從智能機器人投人使用的現(xiàn)實問題切人,就填平智能機器人致害損失、平衡智能機器人致害責(zé)任等現(xiàn)實問題,提出對策性方案,一定程度上緩解人類對智能機器人傷害事件的焦慮。筆者認(rèn)為智能機器人民事主體地位的確立具有其正當(dāng)性與合理性,但僅僅停留在事故防范層面,顯然缺乏法律制度框架體系內(nèi)學(xué)理上的嚴(yán)密論證。

    二、賦予智能機器人民事主體地位的正當(dāng)性

    (一)自我責(zé)任下高效服務(wù)人類

    智能機器人在機械性方面的應(yīng)用有目共睹,其可以適應(yīng)高強度、高危險工作,并且隨著智能化的提高,智能機器人可替代的人類工作也越來越專業(yè)、復(fù)雜。除了代替人類從事體力勞動以外,智能機器人還可以極大地滿足人類多樣化的精神需求,而賦予智能機器人民事主體地位將助推智能機器人更好地完成人類任務(wù),同時也廓清了多方主體之間關(guān)系,也更容易解決智能機器人牽涉的侵權(quán)糾紛,更有利于人類享受第四次信息革命的碩果,極大提升人類福社。

    根據(jù)弗洛里迪(L.Floridi)的觀點,人類經(jīng)歷了哥白尼革命、以達(dá)爾文為代表的生物學(xué)革命、以弗洛伊德為代表的意識革命這三次革命,目前將迎來的是以信息哲學(xué)為核心的信息革命駒。在信息革命的浪潮中,人類與智能機器人的融合在人與智能機器人雙向變革的趨勢下越發(fā)緊密:人類正在習(xí)慣通過網(wǎng)絡(luò)以更加高效的方式表達(dá)自我,人際交往,構(gòu)建自我存在,人類生存的信息化、數(shù)據(jù)化趨勢不可逆轉(zhuǎn)。與此同時,在計算機技術(shù)、腦神經(jīng)技術(shù)等多學(xué)科的交叉研究下,智能機器人的思維模式也越來越接近人類,以至與之對話難以察覺與人有別[10]。譬如,微軟小冰能與人類一樣自發(fā)創(chuàng)作詩集《陽關(guān)失去了玻璃》,查理、帕羅等陪護(hù)型機器人成為了老人們家庭成員中的重要一員,Google Assistant不露AI痕跡地替主人與理發(fā)師預(yù)約時間,比任何私人管家更懂你。

    隨著人機交互高度發(fā)展的趨勢,人類將賦予智能機器人越來越多的信任,智能機器人也將承擔(dān)越來越個性化的任務(wù),人與智能機器人之間的關(guān)系將超越人與其他普通客體的關(guān)系。為了使智能機器人更順暢地執(zhí)行個性化任務(wù),我們必然要對智能機器人進(jìn)行各種各樣的授權(quán)。例如,跟蹤、定位我們地理位置、捕捉我們飲食、睡眠、運動等基礎(chǔ)數(shù)據(jù)、查看我們通信、購物記錄等信息。隨著人工智能發(fā)展水平的提高,這些數(shù)據(jù)的收集將越來越詳盡,智能機器人對這些數(shù)據(jù)的利用也將越來越靈活,我們信息的開放程度將極有可能突破現(xiàn)在授權(quán)某APP獲取我們具體某方面信息的界限,選擇授權(quán)智能機器人綜合獲取我們多方位的信息并綜合利用。屆時智能機器人所具有的管理、運用能力已經(jīng)可以達(dá)到獨立處理的水平,在這樣的情況下如果還將智能機器人視為客體,視其為人類提供服務(wù)的運營商工具,反而會因為運營商利益爭奪等原因,面臨更大的數(shù)據(jù)非法泄露危機,得不償失。若將其單純視為智能機器人主人的工具,則如果智能機器人基于非生產(chǎn)、銷售者原因而發(fā)生的侵害主人的意外事件時,主人將面臨訴諸無門的危機;如果智能機器人受到他人損壞,則限于智能機器人薄弱的客體地位,主人無論是基于物件損害賠償抑或有特殊紀(jì)念意義的物主張精神損害賠償,也難以彌補對主人造成的巨大損失。

    如果賦予智能機器人以主體地位,智能機器人就可以其法律主體地位為依據(jù),順理成章地獲得更多授權(quán),掃除其參與民事法律活動中的制度性障礙,使其能夠最大限度地參與到民事法律活動中來,激發(fā)智能機器人的活力徹底地完成人類所交付的任務(wù)。從責(zé)任層面而論,賦予智能機器人以民事主體地位,能夠更好地處理智能機器人受損和智能機器人致害的問題。智能機器人高度的自主能動性與自我管理能力決定了無論是智能機器人受損對于其主人的傷害,還是智能機器人在執(zhí)行工作中致他人損害,其帶來的損失程度以及處理糾紛的復(fù)雜程度都已經(jīng)遠(yuǎn)遠(yuǎn)超出傳統(tǒng)主客體的調(diào)整范圍。智能機器人通常會帶著主人賦予其使命參與民事法律關(guān)系,但其參與方式、靈活機動的表現(xiàn)卻獨具個性,賦予智能機器人以獨立的民事主體地位,更有利于多方主體之間公平承擔(dān)責(zé)任。在涉及“生產(chǎn)者(或銷售者)—智能機器人—受害人”三方的侵權(quán)糾紛中,避免了因為技術(shù)漏洞而強行加責(zé)于生產(chǎn)者(或銷售者)的極端追責(zé)方式,不至于抑制科技的發(fā)展,也為強制保險等社會風(fēng)險體系的設(shè)立提供了相應(yīng)的制度空間;在涉及“施害人—智能機器人—主人”三者的侵權(quán)糾紛中,能夠為排除物件損害責(zé)任的適用,提供制度上的正當(dāng)性支持,從而免受智能機器人客體地位的局限而得以更加公正客觀地衡量施害人所造成的損失,更有利于智能機器人主人權(quán)利的保障。

    (二)與人類主體相融合

    一直以來,就是否賦予智能機器人主體地位問題,都不乏反對者的聲音,他們認(rèn)為賦予智能機器人民事主體地位對人類帶來的革命性的甚至是毀滅性的損害遠(yuǎn)遠(yuǎn)大于其帶給我們的便利。

    首先,他們認(rèn)為智能機器人傷害人類,帶來大范圍失業(yè)等負(fù)面影響。比如,1978年日本廣島發(fā)生機器人將值班工人切割致死事件,德國大眾汽車制造廠機器人致人死亡事件[11]。筆者認(rèn)為個案的發(fā)生屬于技術(shù)漏洞。其實,任何技術(shù)革新伊始,都會存在技術(shù)漏洞,甚至要經(jīng)歷一個較長期的技術(shù)不穩(wěn)定期,人類既然可以創(chuàng)造智能機器人,就會有辦法修復(fù)和完善智能機器人。我們有理由相信,隨著智能機器人技術(shù)的成熟,由智能機器人引起的惡性安全事件必能控制。就失業(yè)問題,筆者認(rèn)為這屬于社會變革中出現(xiàn)的必然陣痛,應(yīng)當(dāng)為社會、市場的調(diào)整預(yù)留時間與耐心。歷次革命都面臨人類生產(chǎn)生活方式的全方位變革,工業(yè)革命的來臨并沒有導(dǎo)致農(nóng)民集體失業(yè),相應(yīng)的信息革命智能機器人的各領(lǐng)域普及可能會帶來人類勞動結(jié)構(gòu)、勞動強度的重大調(diào)整,但并不意味著人類大量失業(yè),人類有可能迎接更高水平的雙手解放,從而更加專注于深層次的信息交流活動。

    其次,他們擔(dān)心機器倫理對人類倫理造成沖擊,對智能機器人將統(tǒng)治人類憂心忡忡。筆者以為機器倫理與人類倫理不存在實質(zhì)性的對抗,當(dāng)前所表現(xiàn)出來的機器倫理對人類倫理的沖擊屬于技術(shù)層面的問題,如果秉承以人為本的理念進(jìn)行智能機器人的開發(fā),那么智能機器人天然具有人類倫理屬性。且隨著人與智能機器人的雙向適應(yīng),人類意識邏輯下的倫理觀與機器代碼邏輯下的倫理觀也在雙向適應(yīng)。機器的倫理體現(xiàn)在機器的行為選擇中,而機器的行為選擇路徑則依賴于代碼程序的設(shè)置,以及所調(diào)用的基礎(chǔ)數(shù)據(jù)庫是否全面完整。譬如,駕駛?cè)肆?xí)慣數(shù)據(jù)庫開發(fā)不完整,必然導(dǎo)致基于此數(shù)據(jù)庫的智能駕駛系統(tǒng)在面對突發(fā)情況時做出不容于人類普適價值的選擇,進(jìn)而顯示出在人類看來畸形的機器倫理。至于智能機器人對人類統(tǒng)治的擔(dān)憂,筆者認(rèn)為大可不必。人類基因與智能機器人代碼存在本質(zhì)區(qū)別,人與智能機器人的關(guān)系不同于人與其他自然物種的關(guān)系,智能機器人并不存在基因不斷繁殖與傳播的天性,不會與人類在社會資源和自然資源上相競爭。

    三、賦予智能機器人民事主體地位的合理性

    (一)智能機器人民事主體的可能

    回溯民事主體的發(fā)展史不難發(fā)現(xiàn),民事主體的選擇遠(yuǎn)遠(yuǎn)不局限于自然人。自然人、動物甚至建筑等無生命體都曾作為民事主體出現(xiàn)過。就“人”這一普遍被認(rèn)同的民事主體而言,其具體范圍大小在不同歷史階段也有所不同,例如在古羅馬、古巴比倫時期部分人被減等降格為奴隸而排除出民事主體的范圍;我國封建時代也有將人劃分為蒙古、色目、漢人、南人而分別賦予不同權(quán)利的階段;直到14世紀(jì)文藝復(fù)興,經(jīng)過啟蒙思想的洗禮,對人這一抽象主體全面保護(hù)的理念才逐步普及,非自然人民事主體中最為典型的即目前仍得到法律承認(rèn)的法人這一擬制的民事主體[12]。除此之外,在神學(xué)文化主導(dǎo)時期,例如古羅馬、中世紀(jì)等曾經(jīng)出現(xiàn)過將寺廟等宗教建筑作為民事主體賦予權(quán)利的情況,對河流、船只等物品提起審判的事例也曾有發(fā)生。近些年來,對動物權(quán)利保障的呼聲日益高漲,將動物設(shè)立為權(quán)利和義務(wù)主體的討論甚囂塵上,其中瑞士已先行立法賦予受虐動物以享有律師服務(wù)的權(quán)利[13]。通過以上民事主體的制度史梳理可知,民事主體的形式可以是開放而多元的,這為賦予智能機器人這種新生事物為民事主體,提供了制度上的可能。

    (二)可資參照的民事主體標(biāo)準(zhǔn)

    假定智能機器人具有民事主體地位,那么可否參照現(xiàn)有民事主體的法律規(guī)定,建構(gòu)其主體地位呢?審視現(xiàn)有的主體立法,關(guān)于自然人和法人成為民事主體的實質(zhì)標(biāo)準(zhǔn)主要有:名義獨立、意志獨立、財產(chǎn)獨立和責(zé)任獨立。通過從擬制主體—法人的角度解讀以上實質(zhì)標(biāo)準(zhǔn),并結(jié)合智能機器人特征予以分析,筆者認(rèn)為智能機器人可以滿足現(xiàn)行民事主體設(shè)立的實質(zhì)標(biāo)準(zhǔn)。

    關(guān)于名義獨立,就法人而言,指法人擁有自己獨立的名稱從而能夠與他人為民事法律行為,而不是以法定代表人或其他內(nèi)部成員的名義。法人獨立旨在明確民事主體在民事法律活動的獨立存在,以及民事侵權(quán)糾紛中追責(zé)指向,為避免民事法律關(guān)系的混亂作制度鋪墊。法人名義的獨立依賴于合法成立為其他主體所知。智能機器人獨立名義的取得可以參照法人獨立名義的獲取方式,日本機器人帕羅戶籍的取得,沙特阿拉伯機器人索菲婭公民身份的認(rèn)證以及美國高速公路安全管理局(NHTSA)對Google自動駕駛系統(tǒng)“司機”的認(rèn)定等,都是為智能機器人設(shè)立獨立名義的成功例子。

    關(guān)于財產(chǎn)獨立,就法人而言,主要體現(xiàn)在,法人財產(chǎn)與股東的個人則產(chǎn)相互獨立;股東對法人財產(chǎn)沒有直接支配權(quán),而須以法人的名義依照法律或法人章程的規(guī)定占有、使用、收益或處分法人則.產(chǎn),其強調(diào)的是法人財產(chǎn)與股東個人財產(chǎn)相區(qū)別。根據(jù)2016年歐盟委員會法律事務(wù)委員會向歐盟委員會提交的《關(guān)于為“電子人”開立獨立資金賬戶的動議》來看,智能機器人民事主體財產(chǎn)獨立實現(xiàn)的技術(shù)性難度并不大[14]。關(guān)于意志獨立和責(zé)任獨立,就法人而言即對外發(fā)生民事法律關(guān)系,是由于該法人的團體意志或獨立意志,而不是某個或某幾個成員的個人意志或個人意志的簡單相加;必須獨立對外承擔(dān)民事責(zé)任,以自己所支配的財產(chǎn)賠付。其并不應(yīng)解讀為意志生成的自發(fā)性或者承擔(dān)責(zé)任的自主性,而是指法人對外發(fā)生民事法律關(guān)系時意志的團體性而非個人性,在財產(chǎn)獨立的基礎(chǔ)上以自己支配的財產(chǎn)承擔(dān)責(zé)任而非其他主體承擔(dān)替代責(zé)任。但是意志獨立和責(zé)任獨立有賴于制度的構(gòu)建,例如法人章程關(guān)于股東通過表決機制形成法人意志的設(shè)計,以及公司法人破產(chǎn)制度的設(shè)置等。智能機器人依據(jù)其特定代碼程序通過指定路徑來實現(xiàn)特定目的,其生成的意志不存在多主體沖突的情況,能夠滿足當(dāng)下意志獨立的標(biāo)準(zhǔn);既然其財產(chǎn)獨立,那么責(zé)任自負(fù)自然證成,即便強制責(zé)任保險也只是責(zé)任賠付的轉(zhuǎn)嫁,并不違背責(zé)任獨立。

    綜上所論,無論是關(guān)于民事主體的歷史溯源,還是現(xiàn)行法律中法人的獨立擬制,無不表明民事主體地位的賦予可以通過立法技術(shù)實現(xiàn)。為了方便權(quán)利行使與應(yīng)對不斷出現(xiàn)的新生事物與傳統(tǒng)法律框架之間的沖突,法律擬制這一立法技術(shù)的優(yōu)勢將逐步凸顯。通過現(xiàn)行民事主體設(shè)立標(biāo)準(zhǔn)的實質(zhì)性分析,足以證明智能機器人民事主體地位的確立具有制度上的可能性,我們可資參照法人民事主體設(shè)立的經(jīng)驗,以法人人格否認(rèn)為最后保障,設(shè)計智能機器人的民事主體地位制度。

    四、智能機器人民事主體制度的設(shè)置

    民事主體與民事權(quán)利是同時存在的,學(xué)理通說將民事主體定義為參與民事法律關(guān)系,享有民事權(quán)利并承擔(dān)民事義務(wù)的當(dāng)事人。民事權(quán)利的享有和民事義務(wù)的承擔(dān)看似取決于法律規(guī)定或主體意定,但實質(zhì)上更多由社會因素和政策主導(dǎo)。俄羅斯、歐盟侶等各國也一直在嘗試建構(gòu)智能機器人民事主體制度,更多的國家和地區(qū)也在研究和制定相關(guān)發(fā)展政策和計劃[15]。筆者不揣深淺,就智能機器人主體地位、權(quán)利義務(wù)及責(zé)任承擔(dān)提出設(shè)想,以廓清智能機器人參與民事活動的法律框架。

    (一)義務(wù)本位的賦權(quán)理念

    即便公司法等法人法已經(jīng)日趨完善,“民法是人法”的口號依舊響亮,“民法是權(quán)利法”的觀念也早已深入人心,“以人為本”的價值理念始終是指導(dǎo)智能機器人立法的根本原則,賦予智能機器人以民事主體地位,并不代表放棄自然人原有的權(quán)利,在“以人為本”的價值指引下,賦予智能機器人民事主體地位以便其更好地服務(wù)于人類,以更豐富的途徑實現(xiàn)、保障人類的民事權(quán)利。法律關(guān)于智能機器人主體所承載的權(quán)利和義務(wù)的制度設(shè)計必然要從其義務(wù)為出發(fā)點,即采用“義務(wù)本位”的立法理念。這也與歐盟4月25日發(fā)布的政策文件《歐盟人工智能》(Artificial Intelligence forEurope)中基于以人為本的人工智能發(fā)展理念,旨在通過人工智能價值引導(dǎo)人工智能發(fā)展,塑造其社會影響,與造福個人和社會的價值觀不謀而合。

    (二)智能機器人限制權(quán)利能力

    關(guān)于法人的權(quán)利能力,學(xué)界有一種理論認(rèn)為法人是限制權(quán)利能力人,正如拉倫茨所言:“法人與自然人在財產(chǎn)法上的權(quán)利能力范圍一致,人格法上,法人成為權(quán)利義務(wù)承受者的范圍明顯較自然人為窄,身份法上則全然空白,故以自然人為參照系,稱法人為部分權(quán)利能力?!盵16]智能機器人被賦予其權(quán)利能力的必要性,起源于智能機器人為服務(wù)人類所需的授權(quán),是其作為代替人類履行某些義務(wù)時可能需要某些權(quán)利作為其參與民事法律行為的先決條件,并不同于自然人權(quán)利,筆者也認(rèn)同智能機器人為限制權(quán)利能力主體。

    1.智能機器人權(quán)利能力和行為能力獲得的非自主性

    智能機器人的限制權(quán)利能力,源于其權(quán)利能力和行為能力的獲得不具有自主性,端賴于人類的賦權(quán),比如帕羅的民事地位與民事權(quán)利的獲得始于其戶籍登記,索菲婭作為民事主體得到認(rèn)同始于其電子人身份證明的獲得。人類根據(jù)設(shè)定智能機器人完成的任務(wù)而賦予其完成任務(wù)所需的權(quán)利,權(quán)利的產(chǎn)生與消滅應(yīng)該全部取決于義務(wù)的履行情況,故智能機器人這一擬制的主體所承載的,也必將是由人類根據(jù)自身需要為其擬制的權(quán)利。

    2.智能機器人權(quán)利的個性化

    智能機器人所擁有的權(quán)利依賴于其所履行的義務(wù),智能機器人擁有權(quán)利的時間長短依賴于具體義務(wù)的履行進(jìn)度,因而每個智能機器人所被賦予的權(quán)利也必將根據(jù)其使命不同而千差萬別。比如醫(yī)療智能機器人有獲取人類病史信息的權(quán)利、新聞撰寫智能機器人有編輯、發(fā)布信息的權(quán)利、管家智能機器人有使用、處分主人財物的權(quán)利等。

    (三)權(quán)利救濟與部分替代原則

    智能機器人作為人類實體的延伸,在與其他主體的交往過程中,涉及自己權(quán)利被侵害或者侵害他人權(quán)利的情形,此時如何救濟智能機器人的權(quán)利以及智能機器人如何承擔(dān)責(zé)任,值得思考。

    1.權(quán)利救濟的代理

    智能機器人被賦予定制化的義務(wù)與定制化的權(quán)利,那么當(dāng)其權(quán)利受到侵害時,現(xiàn)代科技是否可以支撐智能機器人向人類一樣運用各種方法,針對性的救濟自己的權(quán)利呢?基于物理傷害的應(yīng)激性保護(hù)反應(yīng)容易實現(xiàn),但智能機器人所承載人類權(quán)利和義務(wù),其發(fā)展趨勢必當(dāng)越來越涉及超乎傳統(tǒng)工具的具有人文色彩和感情色彩的權(quán)利與義務(wù),這樣的權(quán)利被侵害時,智能機器人是否有意識,智能機器人是否知道如何救濟,其救濟的方案與其背后主人的意愿是否一致,救濟方案是否可以提前預(yù)設(shè)?在人類救濟權(quán)利尚需尋求外界幫助的今天,賦予智能機器人獨立的救濟權(quán)利,恐怕難以保障其權(quán)利能夠完整救濟。因而,部分甚至絕大多數(shù)權(quán)利的救濟以其主人作為后盾,在智能機器人權(quán)利遭受侵害后,其主人有權(quán)代理智能機器人尋求救濟。

    2.責(zé)任承擔(dān)的部分替代原則

    除對智能機器人的法律地位進(jìn)行必要規(guī)制外,更應(yīng)明晰若發(fā)生侵權(quán)事故時認(rèn)定相應(yīng)法律責(zé)任的原則。當(dāng)下我國侵權(quán)責(zé)任法體系中規(guī)定了高度危險責(zé)任、產(chǎn)品責(zé)任、機動車交通事故責(zé)任、醫(yī)療事故責(zé)任等幾類侵權(quán)責(zé)任。智能機器人由人類制造,而后服務(wù)于人類,因其區(qū)別于其他工具的高度智能性,兼具產(chǎn)品與服務(wù)者的雙重角色。因而就智能機器人侵權(quán)責(zé)任承擔(dān)可以借鑒“雇主責(zé)任”與“產(chǎn)品責(zé)任”,形成產(chǎn)品責(zé)任——強制保險——用人者責(zé)任組合的方式分別覆蓋不同原因?qū)е碌闹悄軝C器人責(zé)任承擔(dān)。如果智能機器人因為制造者方面技術(shù)疏漏等原因而發(fā)起侵權(quán)行為,則不妨套用產(chǎn)品責(zé)任,由生產(chǎn)者、銷售者承擔(dān)侵權(quán)責(zé)任;如果非因智能機器人制造者的過錯,而是為完成自身任務(wù)而侵犯其他主體的權(quán)利,則應(yīng)借鑒用人者責(zé)任,由用人者承擔(dān)侵權(quán)責(zé)任;除此之外,為了規(guī)制智能機器人因其他原因,即既受生產(chǎn)時技術(shù)水平限制無法預(yù)料規(guī)避而歸咎于生產(chǎn)者,又非是為人類執(zhí)行任務(wù)所侵害其他主體合法權(quán)益的,應(yīng)當(dāng)由生產(chǎn)者、銷售者、消費者按比例繳納的強制保險負(fù)擔(dān)[17]。

    結(jié)語

    21世紀(jì)的核心挑戰(zhàn)便是人類如何與智能機器既安全又合乎道德倫理的共存。隨著自動化系統(tǒng)和人工智能的廣泛采用,事后再考慮道德約束智能機器的作法已經(jīng)遭遇困境。人類在創(chuàng)造人工智能機器人中設(shè)定的算法可能犯錯誤,展現(xiàn)出失控的機器人對社會和他人的破壞,而且被黑客輕易侵入的程序更可能作為人類的對手,制造恐怖谷。雖然學(xué)術(shù)界內(nèi)的行業(yè)隔閡普遍存在,但研究者不能僅僅執(zhí)著于智能的目標(biāo),應(yīng)當(dāng)尋求可以匹配人類價值觀的智能程序和算法。無論采用逆向強化學(xué)習(xí)還是其他方法,價值觀和道德問題必須是人工智能開發(fā)者的標(biāo)準(zhǔn)出發(fā)點。

    作為內(nèi)化道德的法律制度應(yīng)當(dāng)在智能機器的技術(shù)發(fā)展道路上盡到自己的規(guī)范責(zé)任,雖然法學(xué)界就是否賦予智能機器人主體法律主體地位存在爭議,但鑒于將智能機器人視為法律關(guān)系的客體所導(dǎo)致的種種法律困境,可以通過賦予智能機器人以法律主體地位得以解決,且順應(yīng)人工智能的技術(shù)發(fā)展趨勢,因而賦予智能機器人民事主體地位具有法理上的正當(dāng)性,姑且不論智能機器人可以在自我責(zé)任下高效服務(wù)人類,但就與人類低調(diào)謙卑的融合態(tài)度就足以獲得人類的身份認(rèn)同,更何況現(xiàn)行民事主體設(shè)立:的標(biāo)準(zhǔn)足以證明智能機器人民事主體地位的確立具有制度上的可能性。我們可以參照法人民事主體設(shè)立:的經(jīng)驗,立足于義務(wù)本位的賦權(quán)理念,賦予智能機器人限制權(quán)利能力,利用救濟代理和責(zé)任替代的方式彌補其權(quán)利行使的不能和責(zé)任承擔(dān)的不足。

    展望未來,不久的將來,強人工智能將變?yōu)槌斯ぶ悄?,達(dá)到和超過人類水平的智能奇跡必將出現(xiàn)。屆時系統(tǒng)將智能化到可以自我復(fù)制,從而在數(shù)量上超過人類,并且還可以自我提高,從而在思想上超越人類。那么他們會有道德身份和自由選擇嗎?我們還能以任何托詞拒絕其主體身份嗎?

    參考文獻(xiàn):

    [1]皮埃羅·斯加魯菲.智能的本質(zhì)[M].任莉,張建宇,譯.北京:人民郵電出版社,2017:2.

    [2]鄭戈.人工智能與法律的未來[J].探索與爭鳴,2017(10):81-82.

    [3]F.Patrick Hubbard,"Sophisticated Robots":Balancing Ua-bility,Regulation,And Innovation(2014).

    [4]吳漢東,張平,張曉津.人工智能對知識產(chǎn)權(quán)法律保護(hù)的挑戰(zhàn)[J].中國法律評論,2018(2):3.

    [5]Aishwarya Limaye,F(xiàn)RIEND OR FOE,Legal Rights of Ar-tificial Intelligence[J].Boston College Intellectual Property&Technology Forum,2017(1)

    [6]司曉,曹建峰.論人工智能的民事責(zé)任:以自動駕駛汽車和智能機器人為切人點[J].法律科學(xué),2017(5):173.

    [7]袁曾.人工智能的有限法律人格審視[J].東方法學(xué),2017(5);55-57.

    [8]孫占利.智能機器人法律人格問題論析[J].東方法學(xué),2018(3):13.

    [9]L.Floridi.Artifcial Intelligence‘s New Frontier:ArtifcialCompanions and the Fourth Revolution [J].Metaphiloso-phy,2008,39(4).

    [10]張正清,張成崗.第四次革命:現(xiàn)代性的終結(jié)抑或重構(gòu)——信息倫理對人工智能倫理的啟示[J].武漢大學(xué)學(xué)報(哲學(xué)社會科學(xué)版), 2018(3):179.

    [11]張長丹.法律人格理論下人工智能對民事主體理論的影響研究[J]科技與法律,2018(2):38.

    [12]陳吉棟.論機器人的法律人格——基于法釋義學(xué)的討論[J].上海大學(xué)學(xué)報(社會科學(xué)版),2018(3):80-81.

    [13]郭少飛.“電子人”法律主體論[J].東方法學(xué),2018(3):42-43.

    [14]胡裕嶺.歐盟率先提出人工智能立法動議[J].檢察風(fēng)云,2016(18):54.

    [15]張建文.格里申法案的貢獻(xiàn)與局限——俄羅斯首部機器人法草案述評[J]華東政法大學(xué)學(xué)報,2018(2):33.

    [16]朱慶育.民法總論[M].北京:北京大學(xué)出版社,2017:548.

    [17]袁曾.人工智能的有限法律人格審視[J].東方法學(xué),2017(5):56.

    猜你喜歡
    智能機器人人工智能
    我校新增“人工智能”本科專業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    人工智能在智能機器人系統(tǒng)中的應(yīng)用研究
    智能機器人實踐課程自主創(chuàng)新能力培養(yǎng)研究
    智能機器人巡檢系統(tǒng)在變電站中的應(yīng)用
    人工智能的發(fā)展現(xiàn)狀及其難點問題分析
    下一幕,人工智能!
    下一幕,人工智能!
    老汉色av国产亚洲站长工具| 国产亚洲精品综合一区在线观看 | 欧美黄色片欧美黄色片| 激情在线观看视频在线高清| 精品久久久久久成人av| 波多野结衣一区麻豆| 欧美午夜高清在线| 国产视频一区二区在线看| 国产1区2区3区精品| 国产精品亚洲av一区麻豆| 欧美激情高清一区二区三区| av欧美777| 美女国产高潮福利片在线看| 夜夜夜夜夜久久久久| 人人妻人人澡人人看| 变态另类丝袜制服| www日本在线高清视频| 怎么达到女性高潮| 国产亚洲av嫩草精品影院| 亚洲中文av在线| 97人妻精品一区二区三区麻豆 | 很黄的视频免费| 天天添夜夜摸| 精品人妻1区二区| netflix在线观看网站| 久久久国产成人免费| 久久亚洲精品不卡| 身体一侧抽搐| 一级毛片女人18水好多| 一区二区三区精品91| 国产一区二区在线av高清观看| 亚洲五月色婷婷综合| 日韩大尺度精品在线看网址 | 欧美av亚洲av综合av国产av| 亚洲色图综合在线观看| 一级作爱视频免费观看| 搡老妇女老女人老熟妇| 成人亚洲精品一区在线观看| 丁香欧美五月| 国产精品影院久久| 婷婷精品国产亚洲av在线| 777久久人妻少妇嫩草av网站| 国产成+人综合+亚洲专区| 一级毛片高清免费大全| 亚洲国产日韩欧美精品在线观看 | 麻豆av在线久日| 免费高清在线观看日韩| 视频区欧美日本亚洲| 美女高潮喷水抽搐中文字幕| 丁香欧美五月| 日韩欧美三级三区| 国产三级黄色录像| 久久中文字幕一级| 国产精品免费一区二区三区在线| 美女大奶头视频| 亚洲专区中文字幕在线| 亚洲欧美日韩另类电影网站| 中文字幕精品免费在线观看视频| 脱女人内裤的视频| 精品国产乱子伦一区二区三区| 自拍欧美九色日韩亚洲蝌蚪91| 精品国产一区二区久久| 中文字幕人妻熟女乱码| 好男人在线观看高清免费视频 | 1024香蕉在线观看| 欧美av亚洲av综合av国产av| 一区二区三区高清视频在线| 午夜激情av网站| 久久 成人 亚洲| 国产区一区二久久| 中出人妻视频一区二区| 亚洲黑人精品在线| 日本 av在线| 一级黄色大片毛片| 可以在线观看毛片的网站| 国产精品一区二区免费欧美| 久久久久精品国产欧美久久久| 国产单亲对白刺激| 中文字幕色久视频| 成年人黄色毛片网站| 亚洲五月天丁香| 国产精品av久久久久免费| 国产欧美日韩一区二区三| 99国产极品粉嫩在线观看| 国产成人欧美| av免费在线观看网站| 好看av亚洲va欧美ⅴa在| 50天的宝宝边吃奶边哭怎么回事| 免费久久久久久久精品成人欧美视频| 91麻豆av在线| 精品日产1卡2卡| 亚洲成av人片免费观看| 夜夜爽天天搞| 欧美成人性av电影在线观看| 日日干狠狠操夜夜爽| 天天添夜夜摸| 97人妻精品一区二区三区麻豆 | 18禁黄网站禁片午夜丰满| 日本一区二区免费在线视频| 欧美乱妇无乱码| 如日韩欧美国产精品一区二区三区| 大香蕉久久成人网| 黄片大片在线免费观看| 制服诱惑二区| 日韩大码丰满熟妇| 人成视频在线观看免费观看| 久久中文字幕一级| av在线天堂中文字幕| 国产精品日韩av在线免费观看 | 操出白浆在线播放| 久久香蕉激情| 99香蕉大伊视频| 国产精华一区二区三区| 亚洲熟妇熟女久久| 18禁观看日本| 一边摸一边做爽爽视频免费| 侵犯人妻中文字幕一二三四区| 曰老女人黄片| 精品少妇一区二区三区视频日本电影| 亚洲精品一卡2卡三卡4卡5卡| 在线国产一区二区在线| 午夜免费鲁丝| svipshipincom国产片| 午夜久久久在线观看| 精品久久蜜臀av无| 久久久久久亚洲精品国产蜜桃av| 禁无遮挡网站| 亚洲国产欧美一区二区综合| 后天国语完整版免费观看| 久9热在线精品视频| 亚洲性夜色夜夜综合| 天堂√8在线中文| 亚洲 国产 在线| 国产成人欧美| 欧美黑人精品巨大| 国产精品久久久久久亚洲av鲁大| 18禁观看日本| 亚洲熟妇熟女久久| 亚洲伊人色综图| 国产精品影院久久| 黑人巨大精品欧美一区二区蜜桃| 久久婷婷成人综合色麻豆| 日韩中文字幕欧美一区二区| 夜夜看夜夜爽夜夜摸| 亚洲成人免费电影在线观看| 欧美日韩黄片免| 亚洲人成网站在线播放欧美日韩| 手机成人av网站| 9热在线视频观看99| 亚洲国产欧美网| 亚洲一区二区三区不卡视频| 在线十欧美十亚洲十日本专区| 咕卡用的链子| 精品久久久精品久久久| 老司机深夜福利视频在线观看| 国产激情欧美一区二区| xxx96com| 亚洲欧美日韩高清在线视频| 亚洲自偷自拍图片 自拍| 免费观看精品视频网站| 免费在线观看日本一区| 一级毛片高清免费大全| 久久 成人 亚洲| 一区二区三区国产精品乱码| 亚洲一区二区三区不卡视频| 欧美乱色亚洲激情| 亚洲色图av天堂| 亚洲电影在线观看av| 日韩免费av在线播放| 婷婷六月久久综合丁香| 91麻豆精品激情在线观看国产| 女性生殖器流出的白浆| 精品免费久久久久久久清纯| 一边摸一边抽搐一进一小说| 欧美日韩一级在线毛片| 国产麻豆成人av免费视频| 免费久久久久久久精品成人欧美视频| 国产精品野战在线观看| 一本综合久久免费| 亚洲精品在线美女| 久久国产乱子伦精品免费另类| 午夜福利,免费看| 国产一区二区三区在线臀色熟女| 少妇裸体淫交视频免费看高清 | 久久这里只有精品19| 中文字幕色久视频| 亚洲av电影不卡..在线观看| 亚洲情色 制服丝袜| 中文字幕高清在线视频| 97人妻天天添夜夜摸| 女人高潮潮喷娇喘18禁视频| 亚洲av成人av| 久久人妻熟女aⅴ| 亚洲av熟女| 午夜精品久久久久久毛片777| 校园春色视频在线观看| 色综合婷婷激情| 欧美亚洲日本最大视频资源| 男女做爰动态图高潮gif福利片 | 久久久久久久久久久久大奶| 三级毛片av免费| 久久青草综合色| 熟妇人妻久久中文字幕3abv| 在线观看66精品国产| 亚洲成人久久性| 国产av一区二区精品久久| 一二三四社区在线视频社区8| 国产成人精品在线电影| av视频在线观看入口| 69精品国产乱码久久久| 老司机午夜福利在线观看视频| 国产激情久久老熟女| 久久人人爽av亚洲精品天堂| 国产av一区在线观看免费| 午夜久久久久精精品| 久久影院123| 日日摸夜夜添夜夜添小说| 老司机深夜福利视频在线观看| 欧美日韩精品网址| 人人妻人人澡欧美一区二区 | 久久中文字幕一级| 中亚洲国语对白在线视频| 三级毛片av免费| 欧洲精品卡2卡3卡4卡5卡区| 淫妇啪啪啪对白视频| 韩国av一区二区三区四区| 欧美国产精品va在线观看不卡| 色播在线永久视频| 亚洲欧美精品综合一区二区三区| 亚洲成人免费电影在线观看| 嫩草影视91久久| 美女扒开内裤让男人捅视频| 欧美日韩亚洲国产一区二区在线观看| 精品久久久久久久久久免费视频| 精品国产乱子伦一区二区三区| 亚洲一区二区三区不卡视频| 亚洲欧美日韩另类电影网站| 好男人电影高清在线观看| 日韩精品免费视频一区二区三区| 国产精品九九99| 亚洲国产精品成人综合色| 操出白浆在线播放| 丰满人妻熟妇乱又伦精品不卡| 国产免费男女视频| 亚洲专区中文字幕在线| 国产私拍福利视频在线观看| 男女之事视频高清在线观看| 波多野结衣一区麻豆| 国产激情久久老熟女| netflix在线观看网站| 亚洲国产高清在线一区二区三 | 黑人欧美特级aaaaaa片| 好看av亚洲va欧美ⅴa在| 国产成人欧美| 国产高清激情床上av| 黑丝袜美女国产一区| 亚洲色图 男人天堂 中文字幕| 首页视频小说图片口味搜索| 怎么达到女性高潮| 欧美国产精品va在线观看不卡| www.熟女人妻精品国产| 人妻丰满熟妇av一区二区三区| bbb黄色大片| 国产成人av激情在线播放| 亚洲精品在线美女| 国产亚洲精品久久久久5区| 美女扒开内裤让男人捅视频| 国产精品久久久久久亚洲av鲁大| 国产色视频综合| 99久久99久久久精品蜜桃| avwww免费| 这个男人来自地球电影免费观看| 欧美精品啪啪一区二区三区| 日韩三级视频一区二区三区| 正在播放国产对白刺激| av在线播放免费不卡| 精品熟女少妇八av免费久了| 亚洲成人免费电影在线观看| 啪啪无遮挡十八禁网站| 美国免费a级毛片| 在线观看一区二区三区| 桃色一区二区三区在线观看| 午夜福利高清视频| 大香蕉久久成人网| 可以在线观看毛片的网站| 国产精品香港三级国产av潘金莲| 很黄的视频免费| 午夜两性在线视频| 两个人视频免费观看高清| 国产精品电影一区二区三区| 国产私拍福利视频在线观看| 国产单亲对白刺激| 韩国精品一区二区三区| 国产熟女午夜一区二区三区| 中文亚洲av片在线观看爽| 一夜夜www| 久久 成人 亚洲| 色综合亚洲欧美另类图片| 久久久精品国产亚洲av高清涩受| 成人特级黄色片久久久久久久| а√天堂www在线а√下载| 黄色毛片三级朝国网站| 亚洲男人天堂网一区| 自拍欧美九色日韩亚洲蝌蚪91| 精品电影一区二区在线| 青草久久国产| 一级a爱视频在线免费观看| 国产精品精品国产色婷婷| 夜夜躁狠狠躁天天躁| 亚洲全国av大片| 国产av精品麻豆| 精品国产乱子伦一区二区三区| 久久久久久人人人人人| 久久人妻福利社区极品人妻图片| 免费一级毛片在线播放高清视频 | 侵犯人妻中文字幕一二三四区| 国产精品av久久久久免费| 50天的宝宝边吃奶边哭怎么回事| 精品乱码久久久久久99久播| 亚洲欧洲精品一区二区精品久久久| 美女大奶头视频| 国产精品秋霞免费鲁丝片| 精品国产亚洲在线| 一区二区三区精品91| 亚洲色图综合在线观看| 久久香蕉精品热| 色综合亚洲欧美另类图片| 亚洲av熟女| 亚洲免费av在线视频| 少妇的丰满在线观看| 91在线观看av| 村上凉子中文字幕在线| 露出奶头的视频| 很黄的视频免费| 国产免费男女视频| 美女大奶头视频| 夜夜爽天天搞| 久久午夜综合久久蜜桃| 国产午夜福利久久久久久| 国产一区二区激情短视频| 无人区码免费观看不卡| 亚洲av成人一区二区三| 国产男靠女视频免费网站| 国产伦人伦偷精品视频| 久久精品亚洲精品国产色婷小说| 亚洲九九香蕉| 精品久久久精品久久久| 叶爱在线成人免费视频播放| 欧美日本视频| 久久久精品欧美日韩精品| 91精品国产国语对白视频| 人人妻人人爽人人添夜夜欢视频| 国产人伦9x9x在线观看| 国产免费av片在线观看野外av| 成人亚洲精品av一区二区| 亚洲成人精品中文字幕电影| 国产单亲对白刺激| 亚洲中文字幕一区二区三区有码在线看 | 韩国av一区二区三区四区| 成人欧美大片| 亚洲 国产 在线| 男女床上黄色一级片免费看| 国产av精品麻豆| 可以在线观看的亚洲视频| 精品久久久久久久久久免费视频| 欧美不卡视频在线免费观看 | 成人18禁在线播放| 国语自产精品视频在线第100页| 国产高清激情床上av| 亚洲五月婷婷丁香| 黄色a级毛片大全视频| 亚洲少妇的诱惑av| 啪啪无遮挡十八禁网站| 亚洲天堂国产精品一区在线| 一区二区三区高清视频在线| 丝袜美腿诱惑在线| 成人国语在线视频| 成人国产综合亚洲| 午夜福利,免费看| 国产成人av教育| netflix在线观看网站| 免费av毛片视频| 欧洲精品卡2卡3卡4卡5卡区| 少妇被粗大的猛进出69影院| 亚洲欧洲精品一区二区精品久久久| 他把我摸到了高潮在线观看| 久久热在线av| 99在线人妻在线中文字幕| 亚洲欧美日韩高清在线视频| 啦啦啦 在线观看视频| 亚洲色图综合在线观看| 精品久久久久久久毛片微露脸| 国产1区2区3区精品| 啦啦啦 在线观看视频| 国产成人免费无遮挡视频| 欧美激情极品国产一区二区三区| 精品高清国产在线一区| 国产精品自产拍在线观看55亚洲| 欧美乱码精品一区二区三区| 中文字幕另类日韩欧美亚洲嫩草| 欧美日韩瑟瑟在线播放| 久久亚洲真实| 亚洲三区欧美一区| 国产欧美日韩一区二区精品| 伊人久久大香线蕉亚洲五| 三级毛片av免费| 97人妻精品一区二区三区麻豆 | 国产精品永久免费网站| 欧美午夜高清在线| 国产成人av激情在线播放| 长腿黑丝高跟| 久久久久久久久中文| 久久精品人人爽人人爽视色| 好看av亚洲va欧美ⅴa在| 香蕉丝袜av| 亚洲国产精品合色在线| 免费看十八禁软件| 国产一区二区三区视频了| 波多野结衣一区麻豆| 国产高清视频在线播放一区| 三级毛片av免费| 国产野战对白在线观看| 成熟少妇高潮喷水视频| 国产一卡二卡三卡精品| 免费在线观看日本一区| 91成年电影在线观看| 99久久99久久久精品蜜桃| 少妇裸体淫交视频免费看高清 | 色尼玛亚洲综合影院| 国产蜜桃级精品一区二区三区| 亚洲天堂国产精品一区在线| 天堂动漫精品| 免费在线观看黄色视频的| 50天的宝宝边吃奶边哭怎么回事| 欧美在线黄色| 成年女人毛片免费观看观看9| 国产一区在线观看成人免费| 国产片内射在线| 91麻豆精品激情在线观看国产| 久久久久久久久免费视频了| 啦啦啦 在线观看视频| 精品国产国语对白av| 日本a在线网址| 97人妻天天添夜夜摸| www.www免费av| 国产一级毛片七仙女欲春2 | av电影中文网址| 国产伦人伦偷精品视频| 又紧又爽又黄一区二区| 亚洲一卡2卡3卡4卡5卡精品中文| av视频免费观看在线观看| av网站免费在线观看视频| 国产精品电影一区二区三区| 中文字幕人成人乱码亚洲影| 亚洲色图 男人天堂 中文字幕| 国产精品乱码一区二三区的特点 | 天堂影院成人在线观看| 少妇粗大呻吟视频| 母亲3免费完整高清在线观看| 亚洲国产欧美网| 日本精品一区二区三区蜜桃| 国产高清videossex| 午夜福利欧美成人| 性欧美人与动物交配| 黄色成人免费大全| 亚洲一码二码三码区别大吗| 亚洲一区二区三区不卡视频| 女生性感内裤真人,穿戴方法视频| 精品一区二区三区av网在线观看| 黄色女人牲交| 亚洲国产中文字幕在线视频| 国产不卡一卡二| 久久久久国产一级毛片高清牌| 亚洲精品一区av在线观看| 日韩一卡2卡3卡4卡2021年| 97碰自拍视频| 欧美色视频一区免费| 老司机靠b影院| 一区二区三区精品91| 国产视频一区二区在线看| 母亲3免费完整高清在线观看| 在线十欧美十亚洲十日本专区| 成在线人永久免费视频| 午夜日韩欧美国产| 久久久久久国产a免费观看| 亚洲 欧美一区二区三区| 亚洲激情在线av| 非洲黑人性xxxx精品又粗又长| 成人av一区二区三区在线看| 母亲3免费完整高清在线观看| 欧美亚洲日本最大视频资源| 亚洲成a人片在线一区二区| av欧美777| 欧美一级a爱片免费观看看 | 亚洲,欧美精品.| 久久久久久久久中文| cao死你这个sao货| 12—13女人毛片做爰片一| 最新在线观看一区二区三区| 久久精品国产亚洲av香蕉五月| 精品一区二区三区av网在线观看| 免费看美女性在线毛片视频| 亚洲熟女毛片儿| 日韩一卡2卡3卡4卡2021年| 久久精品aⅴ一区二区三区四区| 脱女人内裤的视频| 最近最新中文字幕大全免费视频| 色哟哟哟哟哟哟| 桃色一区二区三区在线观看| 国产一卡二卡三卡精品| 亚洲国产日韩欧美精品在线观看 | 正在播放国产对白刺激| 国产精品九九99| 日日爽夜夜爽网站| 欧美日韩中文字幕国产精品一区二区三区 | 中文字幕精品免费在线观看视频| 国产精品日韩av在线免费观看 | 精品乱码久久久久久99久播| 最新美女视频免费是黄的| 欧美午夜高清在线| 最新美女视频免费是黄的| 中文字幕人妻丝袜一区二区| 精品第一国产精品| 色综合亚洲欧美另类图片| 女人精品久久久久毛片| 在线视频色国产色| 中出人妻视频一区二区| 国产高清激情床上av| 亚洲欧洲精品一区二区精品久久久| 视频区欧美日本亚洲| 九色亚洲精品在线播放| 日韩有码中文字幕| 午夜福利欧美成人| 91老司机精品| 制服丝袜大香蕉在线| 国产视频一区二区在线看| 亚洲色图 男人天堂 中文字幕| 精品少妇一区二区三区视频日本电影| 看黄色毛片网站| 中文字幕人妻丝袜一区二区| 黄色a级毛片大全视频| 精品国产美女av久久久久小说| 亚洲av电影不卡..在线观看| 91成人精品电影| 日韩有码中文字幕| 日韩欧美国产一区二区入口| 国产极品粉嫩免费观看在线| 国产精品综合久久久久久久免费 | 亚洲国产精品久久男人天堂| 国产又色又爽无遮挡免费看| 级片在线观看| 日本 av在线| 中文字幕最新亚洲高清| 他把我摸到了高潮在线观看| 亚洲天堂国产精品一区在线| 88av欧美| 久久青草综合色| 免费高清在线观看日韩| 一本大道久久a久久精品| 久久精品国产亚洲av高清一级| 一边摸一边抽搐一进一出视频| 久久精品成人免费网站| 国产视频一区二区在线看| 午夜福利视频1000在线观看 | 日韩有码中文字幕| 久久婷婷人人爽人人干人人爱 | 久久亚洲真实| 国产精品影院久久| av天堂久久9| 免费看美女性在线毛片视频| 国产成人欧美| 国产主播在线观看一区二区| 看片在线看免费视频| 电影成人av| 此物有八面人人有两片| 亚洲天堂国产精品一区在线| 男女之事视频高清在线观看| 女人被躁到高潮嗷嗷叫费观| 国产精品 欧美亚洲| 成人亚洲精品一区在线观看| 亚洲欧美激情在线| 欧美黄色淫秽网站| 国产欧美日韩精品亚洲av| 757午夜福利合集在线观看| 日本一区二区免费在线视频| 亚洲激情在线av| 精品卡一卡二卡四卡免费| 在线观看免费日韩欧美大片| 色在线成人网| 50天的宝宝边吃奶边哭怎么回事| 色播亚洲综合网| 精品人妻1区二区| 夜夜躁狠狠躁天天躁| 久久精品国产亚洲av高清一级| 日本免费一区二区三区高清不卡 | 国产一区二区三区综合在线观看| 国产精品99久久99久久久不卡| 国产成人一区二区三区免费视频网站| 久久天堂一区二区三区四区| 超碰成人久久| 亚洲人成电影免费在线| 久久精品国产清高在天天线| 久久精品亚洲熟妇少妇任你| 18禁黄网站禁片午夜丰满| 久久精品aⅴ一区二区三区四区| 国产熟女xx| 中文字幕人妻熟女乱码| 在线永久观看黄色视频| 熟妇人妻久久中文字幕3abv| av福利片在线| 国产精品免费一区二区三区在线| 在线十欧美十亚洲十日本专区| 国产精品秋霞免费鲁丝片| 亚洲久久久国产精品| 欧美日韩精品网址|