• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    《格里申法案》機(jī)器人二元定性的啟示與反思

    2020-10-09 10:57王春梅
    江漢論壇 2020年9期
    關(guān)鍵詞:代理人機(jī)器人

    摘要:應(yīng)對互聯(lián)網(wǎng)信息技術(shù)革命及其實(shí)踐應(yīng)用給私法帶來的機(jī)器人主體性問題,《格里申法案》在《俄聯(lián)邦民法典》框架內(nèi),秉承傳統(tǒng)私法理論對機(jī)器人之客體定性展開財(cái)產(chǎn)法規(guī)則構(gòu)設(shè),同時突破主客二元界分肯認(rèn)機(jī)器人—代理人之主體性,間接承認(rèn)了機(jī)器人—代理人之主體地位。這啟示我們從認(rèn)識論視域重新思考人機(jī)關(guān)系,迫使我們思考如何調(diào)適觀念與制度以因應(yīng)人工智能發(fā)展,如何對機(jī)器人主體進(jìn)行私法定位,以及重新審視機(jī)器人人格之技術(shù)性與工具性等問題,從而立足人工智能發(fā)展之現(xiàn)實(shí),以前瞻性眼光承認(rèn)和賦予機(jī)器人以“技術(shù)人”或“人工人”之獨(dú)立主體地位,遵循和嵌入必要的技術(shù)準(zhǔn)則和倫理準(zhǔn)則進(jìn)行私法規(guī)則構(gòu)設(shè),以良善立法引導(dǎo)和規(guī)范人工智能發(fā)展,塑造新型人機(jī)關(guān)系。

    關(guān)鍵詞:格里申法案;機(jī)器人—代理人;技術(shù)人;人工人

    基金項(xiàng)目:國家社會科學(xué)基金一般項(xiàng)目“人工智能的主體性及其私法規(guī)制研究”(18BFX113)

    中圖分類號:D951.2 ? ?文獻(xiàn)標(biāo)識碼:A ? ?文章編號:1003-854X(2020)09-0127-05

    俄羅斯民法學(xué)者在2017年完成的法律草案《在完善機(jī)器人領(lǐng)域關(guān)系法律調(diào)整部分修改俄羅斯聯(lián)邦民法典的聯(lián)邦法律》(以下簡稱《格里申法案》)①,雖然只是俄羅斯學(xué)者對機(jī)器人和機(jī)器人—代理人在私法框架內(nèi)形成的初步認(rèn)識與規(guī)范設(shè)計(jì),但其卻是世界上最早的關(guān)于智能機(jī)器人法律地位的法律草案之一②,體現(xiàn)了俄羅斯民法學(xué)者應(yīng)對智能信息革命的法律因應(yīng)。誠如俄羅斯國家杜馬主席維亞切斯拉夫·沃洛金所指出:“人類和人工智能的關(guān)系、人類和機(jī)器人的關(guān)系問題,都是我們應(yīng)當(dāng)在最短時間內(nèi)在立法上予以描述的問題”,“如果我們不這樣做,我們就將落后了。”更主要的是,法案跳出人工智能和機(jī)器人的原則性、導(dǎo)向性規(guī)范設(shè)計(jì),力圖在《俄羅斯聯(lián)邦民法典》(以下簡稱《俄聯(lián)邦民法典》)架構(gòu)下,從民事實(shí)體法規(guī)范層面對機(jī)器人與機(jī)器人—代理人進(jìn)行立法規(guī)則構(gòu)設(shè),由此具有了更大的啟示與借鑒意義。

    一、主體—客體—責(zé)任:《格里申法案》之基本架構(gòu)與主要內(nèi)容

    《格里申法案》擬定者雖然意圖對機(jī)器人進(jìn)行系統(tǒng)立法,但考慮到俄羅斯機(jī)器人技術(shù)的當(dāng)下發(fā)展及全面系統(tǒng)立法的難度,故最終從修訂現(xiàn)行法著手,即在《俄聯(lián)邦民法典》框架內(nèi),從民事主體、民事權(quán)利客體和民事責(zé)任三個部分進(jìn)行架構(gòu)設(shè)計(jì)。首先,在民事主體規(guī)范層面,法案擬在民法典第二分編“人”之下增設(shè)專章,即第六章“機(jī)器人—代理人(Робот—агент)”,從而形成與主體部分之第三章“公民(自然人)”、第四章 “法人”、第五章“俄羅斯聯(lián)邦、俄羅斯聯(lián)邦各主體、地方自治組織參加民事立法所調(diào)整的關(guān)系”相并列的結(jié)構(gòu)安排。其次,在民事權(quán)利客體規(guī)范層面,法案擬在民法典第三分編“民事權(quán)利的客體”之“第六章一般規(guī)定”③ 中增設(shè)第138條“機(jī)器人”,替換原已被廢止的“知識產(chǎn)權(quán)”規(guī)定,形成與客體部分之不動產(chǎn)和動產(chǎn)、企業(yè)、各種物和動物相并列的規(guī)則安排。再次,在民事責(zé)任規(guī)范層面,法案擬在民法典第四編“債的種類”、第五十九章“因損害發(fā)生的債”之下第一節(jié)“損害賠償?shù)囊话阋?guī)定”下之第1079條“對周圍人群有高度危險(xiǎn)的獲得致人損害的責(zé)任”中增設(shè)第4款,即將機(jī)器人視為高度危險(xiǎn)來源來分配和規(guī)定其致人損害責(zé)任的歸屬與承擔(dān)。

    在規(guī)范內(nèi)容上,亦從上述三個部分展開規(guī)則設(shè)計(jì):其一,在民事主體部分,法案第1條第1項(xiàng)(對應(yīng)《俄聯(lián)邦民法典》第127條)以9個款對機(jī)器人—代理人作出規(guī)則設(shè)計(jì),包括機(jī)器人—代理人可以自己名義享有和承擔(dān)民事權(quán)利、民事義務(wù),以其獨(dú)立財(cái)產(chǎn)承擔(dān)責(zé)任,并在法律規(guī)定的情況下參加民事訴訟(第127.1條第1款);機(jī)器人—代理人的身份取得與運(yùn)作以其所有權(quán)人進(jìn)行國家登記和公開聲明為準(zhǔn)(第 127.1條第3款);對機(jī)器人—代理人參與的民事關(guān)系類推適用關(guān)于法人的民事立法(第127.2條第1、2款);機(jī)器人—代理人可以其所有權(quán)人或占有人的名義,并在公開聲明及信息系統(tǒng)記載的權(quán)限范圍內(nèi)進(jìn)行活動(第127.5條);機(jī)器人的所有權(quán)人和占有人以他們移交給機(jī)器人—代理人占有或使用的財(cái)產(chǎn)為限,對機(jī)器人—代理人的行為承擔(dān)責(zé)任(第127.4條第1款、第3款);除另有約定外,機(jī)器人—代理人由其直接占有人管理(第 127.6 條第1款),該管理人具有準(zhǔn)法人最高管理機(jī)關(guān)的地位,類推適用法人最高管理機(jī)關(guān)的規(guī)定,但與該機(jī)器人—代理人參與的法律關(guān)系性質(zhì)相悖的除外(第127.6條第2款);機(jī)器人—代理人在其設(shè)計(jì)特性和信息系統(tǒng)可能性的范圍內(nèi)自主代表其利益(第127.8條第1款),與機(jī)器人—代理人實(shí)施行為的人有權(quán)利使用該機(jī)器人自身必須配備的應(yīng)急通知功能,并由此被視為機(jī)器人—代理人的最后所有權(quán)人或占有人,但如果無正當(dāng)理由使用該功能而造成損失的,應(yīng)當(dāng)承擔(dān)損害賠償責(zé)任(第127.8條第2、3款);機(jī)器人領(lǐng)域的自治組織應(yīng)當(dāng)起草行業(yè)標(biāo)準(zhǔn)和行為規(guī)則,并保障其實(shí)施(第127.9條第1至3款);其二,在民事權(quán)利客體部分,法案第1條第2項(xiàng)(對應(yīng)《俄聯(lián)邦民法典》第138條),對財(cái)產(chǎn)本質(zhì)的機(jī)器人的概念和財(cái)產(chǎn)法一般規(guī)則的適用作出規(guī)定(第138條第1款、第2款),進(jìn)而對民用機(jī)器人的應(yīng)用作出限制,即不得在機(jī)器人的軟件或硬件部分加入明顯可能給人類造成損害的物體、裝置或功能,以及實(shí)施其他違反俄羅斯聯(lián)邦立法要求的行為(第138條第3款);其三,在民事責(zé)任部分,法案第2條(對應(yīng)《俄聯(lián)邦民法典》第1079條第4款),對機(jī)器人被視為高度危險(xiǎn)來源時的法律責(zé)任作出規(guī)定。具體而言,該條在前述第127.4條第2款規(guī)定基礎(chǔ)上,規(guī)定在機(jī)器人因其設(shè)計(jì)特性或信息系統(tǒng)參數(shù)而導(dǎo)致的,人類不能完全控制,又具有造成損害的高度蓋然性時,機(jī)器人被視為高度危險(xiǎn)來源,由機(jī)器人的占有人承擔(dān)高度危險(xiǎn)責(zé)任。但是,在機(jī)器人—代理人作為其他機(jī)器人—代理人的占有人,從而作為法律關(guān)系主體時,則對其他機(jī)器人—代理人產(chǎn)生的高度危險(xiǎn)活動造成的損害承擔(dān)無過錯責(zé)任。

    由此可見,《格里申法案》立足于俄羅斯機(jī)器人技術(shù)的現(xiàn)階段發(fā)展及其未來可能,在《俄聯(lián)邦民法典》框架內(nèi),沿著主體—客體—責(zé)任路徑,對機(jī)器人—代理人(機(jī)器人)及其作為高度危險(xiǎn)來源的民事責(zé)任作出制度與規(guī)范設(shè)計(jì),旨在引發(fā)俄羅斯學(xué)者對機(jī)器人立法的廣泛關(guān)注和討論,為機(jī)器人技術(shù)的大規(guī)模應(yīng)用做好前瞻性準(zhǔn)備,并為下一階段的機(jī)器人立法作出基礎(chǔ)性準(zhǔn)備。④

    二、主體·客體:機(jī)器人之二元定性

    如果說傳統(tǒng)法學(xué)理論和法律制度是以人和人類行為者為中心而構(gòu)建起來的理論與制度體系,則人工智能和機(jī)器人技術(shù)的現(xiàn)實(shí)應(yīng)用與發(fā)展對私法制度提出的一個根本性難題就是人工智能或機(jī)器人的定性與定位問題?!陡窭锷攴ò浮芳热辉凇抖砺?lián)邦民法典》框架內(nèi)對機(jī)器人進(jìn)行民事調(diào)整,就無法回避這一問題,并加以二元定性,即兼具主體與客體的雙重屬性。

    一方面,法案在《俄聯(lián)邦民法典》之民事權(quán)利客體部分進(jìn)行的架構(gòu)安排已經(jīng)十分明確地表明其對傳統(tǒng)人機(jī)關(guān)系認(rèn)識的遵循及對機(jī)器人的客體定性。而在規(guī)范內(nèi)容上,不僅第1條第2項(xiàng)對機(jī)器人的概念界定及財(cái)產(chǎn)法規(guī)則的適用昭示機(jī)器人的財(cái)產(chǎn)與客體定性,而且第2條關(guān)于機(jī)器人作為高度危險(xiǎn)來源責(zé)任也是以機(jī)器人作為客體物為邏輯預(yù)設(shè)與理論依歸的。因?yàn)椋kU(xiǎn)責(zé)任的基本原則在于制造、經(jīng)管及利用了過度危險(xiǎn)的人,只有在承擔(dān)該危險(xiǎn)實(shí)現(xiàn)過程中給他人造成的損害時,才能被許可從事這些危險(xiǎn)行為。⑤ 而各國立法所規(guī)定的危險(xiǎn)責(zé)任的類型,無論是是狹義危險(xiǎn)責(zé)任,還是廣義危險(xiǎn)責(zé)任和因果推定責(zé)任⑥,基本都指向外在于人的、由人所控制或制造的危險(xiǎn)設(shè)施、高速交通工具、產(chǎn)品等,無一不歸屬于客體范疇。是故,遵循危險(xiǎn)責(zé)任的基本原理及其引入的法定化要求,法案第2條在將機(jī)器人視為高度危險(xiǎn)來源的同時,對該危險(xiǎn)責(zé)任的歸屬與承擔(dān)則回到法案第1條,由機(jī)器人的所有人或占有人在與該財(cái)產(chǎn)本質(zhì)相一致的范圍內(nèi),承擔(dān)作為高度危險(xiǎn)來源致害的民事責(zé)任(第127.4條第2款)和產(chǎn)品責(zé)任(第127.4條第4款),從而再次表明機(jī)器人的 “財(cái)產(chǎn)本質(zhì)”和“產(chǎn)品”屬性。

    另一方面,法案又在一定程度上突破傳統(tǒng)民法主客二分與人機(jī)關(guān)系之主客定位,在邏輯體系架構(gòu)、術(shù)語表達(dá)、機(jī)器人的法律地位界定,以及法人規(guī)則的準(zhǔn)用等方面揭示出對機(jī)器人—代理人主體性之肯認(rèn)。其一,就體系架構(gòu)和邏輯對應(yīng)而言,法案以專章將“機(jī)器人—代理人”置于《俄聯(lián)邦民法典》第二分編“人”之中,位列其他民事主體之后,同時與第三分編“民事權(quán)利的客體”部分中機(jī)器人財(cái)產(chǎn)法規(guī)則形成主—客的邏輯對應(yīng),明確表明了對“機(jī)器人—代理人”的主體定性。其二,就術(shù)語表達(dá)和身份定位而言,法案在第六章標(biāo)題及其具體規(guī)定中均以“機(jī)器人—代理人”為法律術(shù)語表達(dá),既區(qū)別于作為客體的“機(jī)器人”表達(dá),又表明了“代理人”的身份定位。而《俄聯(lián)邦民法典》對代理之規(guī)定基本采納大陸法系國家通行的代理人行為說,從而既在價值上使代理規(guī)范表現(xiàn)為一種延伸自治意義上的歸屬規(guī)范⑦,又要求代理之成立和效果歸屬以代理人具備主體各種能力、意思表示等為要⑧,間接表明機(jī)器人—代理人之“準(zhǔn)主體”地位。其三,就利益訴求而言,法案規(guī)定并承認(rèn)機(jī)器人—代理人在其設(shè)計(jì)特性和信息系統(tǒng)可能性的范圍內(nèi)具有和代表自己的利益,契合主體行為的內(nèi)心動因和獨(dú)立人格的人性論基礎(chǔ)。其四,就獨(dú)立財(cái)產(chǎn)和獨(dú)立責(zé)任而言,法案在機(jī)器人—代理人的概念界定中即明確指出其擁有獨(dú)立財(cái)產(chǎn)并獨(dú)立承擔(dān)責(zé)任,其所有權(quán)人和占有人只是承擔(dān)類似于出資人的有限責(zé)任,由此昭示機(jī)器人—代理人不僅具備非自然人人格不可或缺之財(cái)產(chǎn)要素,還具備獨(dú)立人格之結(jié)果要素——獨(dú)立責(zé)任,契合民事主體之概念內(nèi)涵。其五,就法人規(guī)則的準(zhǔn)用而言,法案不僅對機(jī)器人—代理人的概念界定與《俄聯(lián)邦民法典》對法人的界定如出一轍,而且除基于代理機(jī)制作出的規(guī)范之外,對機(jī)器人—代理人參與的民事關(guān)系類推適用法人法規(guī)范,其管理人亦具有準(zhǔn)法人最高管理機(jī)關(guān)的地位,同樣類推適用法人最高管理機(jī)關(guān)的規(guī)定,從而具有了法人的相似性,甚而具有了類似于法人的地位。⑨

    三、人機(jī)關(guān)系:機(jī)器人二元定性之認(rèn)識論啟示

    《格里申法案》基于機(jī)器人財(cái)產(chǎn)屬性的傳統(tǒng)認(rèn)知,在將“機(jī)器人”進(jìn)行客體定性與定位的同時,又展望智能機(jī)器人之未來發(fā)展,間接承認(rèn)和賦予了“機(jī)器人—代理人”以主體屬性與主體地位,具有理念上的先進(jìn)性、定位上的前瞻性、規(guī)則上的新穎性和操作上的可實(shí)施性,同時契合與展示了俄羅斯人工智能立法四步走的戰(zhàn)略規(guī)劃⑩。

    第一,機(jī)器人二元定性在打破法律關(guān)系結(jié)構(gòu)主客界分的同時,將權(quán)利義務(wù)配置傳統(tǒng)意義上的客體成為可能。主體與客體作為一組相對應(yīng)的哲學(xué)概念與范疇,奠定了私法中主體與客體、人與物之界分的哲學(xué)基礎(chǔ),進(jìn)而決定了主客、人物在功能取向與法律規(guī)則上的差異。也就是說,“法律主體是一種在自我目的的意義上,由一定歷史上出現(xiàn)過的法律所認(rèn)可的本質(zhì);法律客體則與之相反,在相同的情況下,它被看做是一個旨在實(shí)現(xiàn)那些由條件決定之目的的單純手段?!?權(quán)利與義務(wù)作為私法上“人類境況”的表達(dá),共同昭示和反映著我們認(rèn)為處于人性核心的東西,以及處于核心的人何以為人的意義,故而只能被配置給作為主體的“人”。機(jī)器人二元定性打破了主體與客體、人與物的二元界分與對立,打破了二者之間不可逾越的鴻溝,由此使得權(quán)利與義務(wù)不再單純地表達(dá)“人類狀況”,也開始表達(dá)機(jī)器人—代理人的狀況,從而引發(fā)對這樣一個行為者的機(jī)器人在未來立法中難解之題的思考。

    第二,機(jī)器人二元定性順應(yīng)時代發(fā)展,正視與回應(yīng)了人工智能發(fā)展給私法帶來的主體性之爭。私法中的法律人像一直以個體的生物人為基礎(chǔ)而建模,法人和非法人組織縱然得因權(quán)利能力之賦予而獲得團(tuán)體人格,但亦不過是個體自然人或財(cái)產(chǎn)之集合。人工智能迅猛發(fā)展及其實(shí)踐應(yīng)用給當(dāng)代私法提出了人工智能私法地位這個十分糾結(jié)的問題,引發(fā)國內(nèi)外學(xué)者廣泛熱討,形成不同的觀點(diǎn)學(xué)說?!陡窭锷攴ò浮吩趯C(jī)器人進(jìn)行客體定性,并配設(shè)以財(cái)產(chǎn)法規(guī)則的同時,又依代理說對機(jī)器人—代理人進(jìn)行主體定性和規(guī)則構(gòu)設(shè),實(shí)際上認(rèn)為機(jī)器人具有一定的法律人格,學(xué)界也通常認(rèn)為代理說在本質(zhì)上將機(jī)器人作為民事主體,展現(xiàn)了俄羅斯學(xué)者對人工智能發(fā)展之關(guān)注和對機(jī)器人私法地位問題之思考與回應(yīng)。

    第三,機(jī)器人二元定性要求重新思考人機(jī)關(guān)系與人機(jī)倫理。傳統(tǒng)人機(jī)關(guān)系以主客對立、人物界分為認(rèn)識論基礎(chǔ),在奴役與工具之間加以權(quán)衡取舍,其本質(zhì)均將機(jī)器歸入客體范疇,形成以主體訴求滿足和理性意志支配為內(nèi)容與價值取向的單向性、支配性和工具性的關(guān)系結(jié)構(gòu),經(jīng)典呈現(xiàn)出人類中心主義之觀念映照。機(jī)器人二元定性顛覆了傳統(tǒng)人機(jī)關(guān)系的認(rèn)識論基礎(chǔ),提出重新思考人機(jī)關(guān)系與人機(jī)倫理之?dāng)⑹隆>唧w而言,法案將機(jī)器人條款置于動物規(guī)范之后的技術(shù)處理,似乎表明機(jī)器人與動物之間相似的財(cái)產(chǎn)屬性,可以同樣遵循“法益所有者應(yīng)自覺承擔(dān)該法益上的損害”之原則確定責(zé)任分配。 但另一方面,這種相似性也似乎提出了對機(jī)器人,尤其是機(jī)器人—代理人予以動物般倫理關(guān)照之命題。在人工智能迅猛發(fā)展之當(dāng)下,如何認(rèn)識與對待這個行走的、會思考的“機(jī)器”,不僅僅是法律上的重大命題,更是倫理價值上的難題??赡芏唐趦?nèi)不能給出最終答案,但至少有一點(diǎn)可以肯定,即無論是基于機(jī)器人與動物的特定相似性,還是基于主客對立關(guān)系之解構(gòu),人類都不能將機(jī)器人僅僅作為一般財(cái)產(chǎn),不能違背人道原則殘酷對待。

    四、私法定位:機(jī)器人主體性之思考

    《格里申法案》在帶給我們啟示的同時也促使我們作如下思考與反思:

    第一,如何進(jìn)行觀念與制度調(diào)適以因應(yīng)人工智能發(fā)展。如果說制度與規(guī)則是顯性的存在,則其背后必然隱藏著立法者的思想觀念與主觀認(rèn)知。《格里申法案》對機(jī)器人的二元定性及其規(guī)則設(shè)計(jì)不失創(chuàng)造性,但亦不乏矛盾與保守之處。前者如機(jī)器人—代理人的行為責(zé)任和高度危險(xiǎn)責(zé)任之規(guī)則設(shè)計(jì),雖然代表了對他人行為的一種新的責(zé)任,并可以說是第一次法律系統(tǒng)讓個人對人工狀態(tài)的轉(zhuǎn)換系統(tǒng)的決定承擔(dān)義務(wù),但無疑仍然秉持人類是行為與責(zé)任主體的傳統(tǒng)規(guī)范認(rèn)知,在一定程度上與機(jī)器人—代理人的主體定性產(chǎn)生沖突。后者如機(jī)器人—代理人定位對機(jī)器人主體性的間接承認(rèn)。

    可以說,這種矛盾與保守有技術(shù)發(fā)展及機(jī)器人立法的階段性考量,但亦不乏認(rèn)識猶疑和保守觀念之影響,如有學(xué)者認(rèn)為應(yīng)當(dāng)將機(jī)器人作為“準(zhǔn)民事法律關(guān)系主體”,甚至認(rèn)為“機(jī)器人的權(quán)利主體性問題在實(shí)踐中可能并不那么重要”。 但實(shí)際上,就當(dāng)下互聯(lián)網(wǎng)智能革命迅猛發(fā)展之社會現(xiàn)實(shí)與各國的戰(zhàn)略重視而言,機(jī)器人私法地位很快將不再是純粹理論探討問題。如沙特授予“索菲亞”以公民身份,美國國家公路交通安全管理局認(rèn)可谷歌自動駕駛系統(tǒng)的“駕駛員”身份,無疑都凸顯出該問題之緊迫。而在人工智能應(yīng)用最典型的自動駕駛汽車領(lǐng)域,傳統(tǒng)以人類行為者為中心,以過錯為主要?dú)w責(zé)依據(jù)的侵權(quán)理論體系與立法亦不斷遭遇挑戰(zhàn),《歐盟機(jī)器人民事法律規(guī)則》據(jù)此率先為智能機(jī)器人重構(gòu)責(zé)任規(guī)則,包括我國在內(nèi)的一些國家在人工智能發(fā)展戰(zhàn)略或規(guī)劃中也提出了人工智能主體地位之愿景訴求。這些新規(guī)則或愿景訴求“著眼于如何讓一臺機(jī)器為其行為的疏忽部分或者全部行為承擔(dān)責(zé)任,結(jié)果就是解決機(jī)器人是否應(yīng)當(dāng)擁有法律地位這一問題將變得越來越迫切?!?但是,如果遵循觀念生成制度和規(guī)則之一般發(fā)展路徑,將因觀念更新之緩慢而造成人工智能發(fā)展的長期失范,無助于權(quán)利義務(wù)與責(zé)任風(fēng)險(xiǎn)的合理配置及私法秩序的有序運(yùn)行。因此,突破慣常思維范式,強(qiáng)制搭建人工智能與機(jī)器人的私法規(guī)范,承認(rèn)機(jī)器人的私法人格與私法主體地位,對其可能引發(fā)的侵權(quán)責(zé)任風(fēng)險(xiǎn)、智能合約效力、智能作品著作權(quán)歸屬等作出制度安排,進(jìn)而內(nèi)化為普遍認(rèn)知,外化為行為準(zhǔn)則指引社會生活與個體生活,亦如《歐盟機(jī)器人民事法律規(guī)則》第59條賦予復(fù)雜自主機(jī)器人以“電子人”之做法。

    第二,如何對機(jī)器人主體進(jìn)行私法定位。從羅馬法至今,民事主體類型與范圍總體上呈多元擴(kuò)張之勢,但基本類型無外乎自然人、法人、非法人組織等?!陡窭锷攴ò浮冯m然以“機(jī)器人—代理人”之創(chuàng)制間接肯認(rèn)其主體性,并類推適用法人之規(guī)則,似有“將機(jī)器人以類似于法人的定位”,但就法案對機(jī)器人—代理人在主體部分的編章安排來看,沒有將其置于任何一個既有主體類型之中,而是以專章的形式安置在俄羅斯聯(lián)邦、俄羅斯聯(lián)邦各主體、地方自治市組織之后,形成列于其他主體的關(guān)系結(jié)構(gòu),推定為獨(dú)立的第四主體更合邏輯。而且,就機(jī)器人社會存在表征及社會現(xiàn)實(shí)而言,無論是具有“公民身份”的索菲亞,還是歐盟法中的“電子人”,亦不論該機(jī)器人是否具有人形特征,均表現(xiàn)為個體性存在,迥異于法人之團(tuán)體性結(jié)構(gòu)。即便隨著法人的社會現(xiàn)實(shí)發(fā)展和法人理論之更新,立法和理論上也承認(rèn)了一人公司的法人屬性,但團(tuán)體性和組織主體仍然是法人等組織類主體的根本特性和外部表征。再者,就機(jī)器人內(nèi)部特性而言,機(jī)器人借助于高智能性自主決策,亦迥異于法人之團(tuán)體意志及其意思實(shí)現(xiàn)。就此而言,機(jī)器人似乎更“類于人”而非“類于團(tuán)體”,定位為法人非為妥當(dāng)。

    但是,據(jù)此將機(jī)器人定位為“自然人”亦非妥當(dāng)。蓋因機(jī)器人的“類人性”無以改變其技術(shù)存在本質(zhì),亦無法獲得自然人之倫理性,且具有極大的發(fā)展性和風(fēng)險(xiǎn)性,其權(quán)利能力的取得與范圍、行為后果與責(zé)任歸屬、運(yùn)行維護(hù)與監(jiān)管等需要國家介入予以特別規(guī)制,作為獨(dú)立主體更具合理性,亦能形成價值、結(jié)構(gòu)與邏輯自洽,名稱可以謂為“人工人”或者“技術(shù)人”,以此彰明其存在的技術(shù)本質(zhì)及其人格的非倫理屬性。

    第三,審視機(jī)器人主體的技術(shù)性與工具性。自《德國民法典》開啟民事主體二元化先河,圍繞法人主體就產(chǎn)生了法律主體技術(shù)性與價值性的認(rèn)識分歧,并認(rèn)為“在現(xiàn)代法律世界,所謂自然人和法人的二元主體結(jié)構(gòu)只是形式上的,真正的主體或最基礎(chǔ)的主體,只有活生生的個人,法人是法律上的一個技術(shù)意義的而不是基本價值性的形式主體,法律通過法人概念的法律技術(shù)作用,去確認(rèn)個人的某些團(tuán)體生活方式。” 及至今日,這種認(rèn)識更契合于機(jī)器人主體。眾所周知,機(jī)器人具有深度學(xué)習(xí)能力,存在技術(shù)失控和異化之風(fēng)險(xiǎn),應(yīng)重申和強(qiáng)化機(jī)器人主體的技術(shù)性與工具性認(rèn)知,遵循和嵌入必要的技術(shù)準(zhǔn)則和倫理準(zhǔn)則,防止技術(shù)失控與異化給人類造成損害,防止將機(jī)器人當(dāng)作人類一樣對待所可能造成的人類非人化之惡果。應(yīng)以尊崇和強(qiáng)調(diào)人的倫理性與目的性,使人類安全保護(hù)與人類尊嚴(yán)價值獲得雙重彰顯和保障,塑造人類與機(jī)器人相互尊重、善待,并以人類價值優(yōu)先,勿害和保護(hù)人類整體安全為目標(biāo)與宗旨的新型人機(jī)關(guān)系。

    科恩曾言,科學(xué)領(lǐng)域中的革命只會對該科學(xué)領(lǐng)域中現(xiàn)行的知識結(jié)構(gòu)或狀態(tài)構(gòu)成直接威脅,并不會在整個社會范圍內(nèi)構(gòu)成威脅,但科學(xué)革命實(shí)際附帶的成果卻會對社會秩序帶來一定程度的影響。 當(dāng)下正在發(fā)生并必然走向深入的互聯(lián)網(wǎng)信息技術(shù)革命及其實(shí)踐應(yīng)用給私法制度及法律秩序帶來的沖擊和影響印證了科恩之論斷。正視與回應(yīng)風(fēng)險(xiǎn)與挑戰(zhàn),立足人工智能技術(shù)發(fā)展應(yīng)用之現(xiàn)實(shí),秉持戰(zhàn)略性與前瞻性,重視與權(quán)衡各方利益進(jìn)行制度與規(guī)則設(shè)計(jì)是良善之法應(yīng)有態(tài)度。

    注釋:

    ① 由于該法案是由俄羅斯互聯(lián)網(wǎng)技術(shù)領(lǐng)域的專家,Mail.ru 集團(tuán)的董事會主席格里申及其基金會“格里申機(jī)器人”委托大成(Dentons)國際律師事務(wù)所起草的,故也被稱為“格里申法案”。

    ②⑨ 張建文:《格里申法案的貢獻(xiàn)與局限——俄羅斯首部機(jī)器人法草案述評》,《華東政法大學(xué)學(xué)報(bào)》2018年第2期。

    ③ 按照《格里申法案》擬定者的設(shè)想和安排,此第六章在《俄聯(lián)邦民法典》中應(yīng)當(dāng)順延為第七章。

    ④⑩ В. В. Архипов, В. Б. Наумов, Искусс-твенный нителлекти автономные устройства в конт-ексте права: о раз работке первого в России закона о робототехнике, Труды СПИИРАН, 2017, Вып, 6(55), С.50, С.58-61, С.51.

    ⑤⑥ [德]埃爾溫·多伊齊、漢斯—于爾根·阿倫斯:《德國侵權(quán)行為法——侵權(quán)行為、損害賠償及痛苦撫慰金》,葉名怡、溫大軍譯,中國人民大學(xué)出版社2016年版,第172、173、3頁。

    ⑦ 龍衛(wèi)球:《民法總論》,中國法制出版社2002年版,第565頁。

    ⑧ Winscheid, Lehrbuch des Pandektenrechts(1862), Ⅰ§73. 轉(zhuǎn)引自龍衛(wèi)球:《民法總論》,中國法制出版社2002年版,第569頁。

    Stamler, Unbestimmtheit des Rechtssubjekts, 1907, p.28.

    [德]霍斯特·艾丹米勒:《機(jī)器人的崛起與人類的法律》,李飛、敦小匣譯,《法治現(xiàn)代化研究》2017年第4期。

    吳漢東:《人工智能時代的制度安排與法律規(guī)制》,《法律科學(xué)》2017 年第5期。

    [德]克里斯多夫·庫克里克:《微粒社會——數(shù)字化時代的社會模式》,黃昆等譯,中信出版社2018年版,第133頁。

    Samir Chopra, Laurence F. White, A LegalTheory for Autonomous Artificial Agents, Michigan University of Michigan Press, 2011, p.189.

    Lawrence Solum, Legal Personhood for Artifi-cial Intelligences, North Carolina Law Review, 1992, (70).

    Гражданский кодекс Российской Федерации, Части первая, вторая, третья и четвертая, Москва: Проспект, 2017, С.80.

    [意]烏戈·帕加羅:《誰為機(jī)器人的行為負(fù)責(zé)?》,張卉林等譯,上海人民出版社2018年版,第44頁。

    騰訊研究院、中國信通院互聯(lián)網(wǎng)法律研究中心:《人工智能——國家人工智能戰(zhàn)略行動抓手》,中國人民大學(xué)出版社2017年版,第229頁。

    龍衛(wèi)球:《法律主體概念的基礎(chǔ)性分析——兼論法律的主體預(yù)定理論(上、下)》,《學(xué)術(shù)界》2000年第3、4期。

    [美]I·伯納德·科恩:《科學(xué)中的革命》,魯旭東、趙培杰譯,商務(wù)印書館2017年版,第37頁。

    作者簡介:王春梅,天津師范大學(xué)法學(xué)院教授,天津,300387。

    (責(zé)任編輯 ?李 ?濤)

    猜你喜歡
    代理人機(jī)器人
    你好,機(jī)器人
    獨(dú)立個人保險(xiǎn)代理人:方向與軌跡
    提高保險(xiǎn)代理人忠誠度的路徑探索
    機(jī)器人來幫你
    認(rèn)識機(jī)器人
    機(jī)器人來啦
    淺談民法上的復(fù)代理問題
    監(jiān)督、忠誠和代理人的選擇
    国产亚洲精品久久久久5区| 久久久国产成人精品二区| 成人午夜高清在线视频| 久久香蕉国产精品| 国产成年人精品一区二区| www日本黄色视频网| ponron亚洲| 欧美日韩瑟瑟在线播放| 色综合婷婷激情| 人妻丰满熟妇av一区二区三区| 无人区码免费观看不卡| 一个人观看的视频www高清免费观看 | 51午夜福利影视在线观看| 欧美日韩乱码在线| 亚洲九九香蕉| 精品久久久久久久毛片微露脸| 久久久精品欧美日韩精品| 色综合站精品国产| 露出奶头的视频| 久久久国产精品麻豆| 露出奶头的视频| 亚洲av电影在线进入| 欧美黑人欧美精品刺激| 他把我摸到了高潮在线观看| 国产精品av视频在线免费观看| 成人国产一区最新在线观看| 久久久久久免费高清国产稀缺| 亚洲精品一卡2卡三卡4卡5卡| 99久久99久久久精品蜜桃| 国产成人精品久久二区二区免费| 久久午夜综合久久蜜桃| 高清在线国产一区| 精品久久蜜臀av无| 国产亚洲欧美98| 亚洲一区高清亚洲精品| 性欧美人与动物交配| 国产麻豆成人av免费视频| 亚洲欧美激情综合另类| 国产69精品久久久久777片 | 欧美3d第一页| 久久久国产成人精品二区| 成人亚洲精品av一区二区| www.熟女人妻精品国产| 久久伊人香网站| 久久国产精品人妻蜜桃| 欧美一级a爱片免费观看看 | 久久精品aⅴ一区二区三区四区| 精品国产美女av久久久久小说| 久久久久久久久久黄片| 国产主播在线观看一区二区| 国产又色又爽无遮挡免费看| 色噜噜av男人的天堂激情| 午夜免费观看网址| 九色成人免费人妻av| 99国产综合亚洲精品| av在线天堂中文字幕| 岛国在线免费视频观看| 麻豆av在线久日| 最近在线观看免费完整版| 中亚洲国语对白在线视频| 中亚洲国语对白在线视频| 嫁个100分男人电影在线观看| 日韩大码丰满熟妇| www.www免费av| 国产av又大| 无人区码免费观看不卡| 国产v大片淫在线免费观看| 首页视频小说图片口味搜索| 亚洲男人的天堂狠狠| 国产麻豆成人av免费视频| xxxwww97欧美| 国产久久久一区二区三区| 成人18禁在线播放| 成人一区二区视频在线观看| 超碰成人久久| 国产精品98久久久久久宅男小说| 动漫黄色视频在线观看| 女人高潮潮喷娇喘18禁视频| 亚洲激情在线av| 嫩草影院精品99| 最近最新免费中文字幕在线| 亚洲欧美日韩高清专用| 国产亚洲欧美98| 一本精品99久久精品77| 色综合婷婷激情| 欧美不卡视频在线免费观看 | 亚洲五月婷婷丁香| x7x7x7水蜜桃| 美女扒开内裤让男人捅视频| 中文字幕久久专区| 国产亚洲精品综合一区在线观看 | 国产高清有码在线观看视频 | 久久热在线av| 看黄色毛片网站| 又黄又爽又免费观看的视频| 老汉色∧v一级毛片| 日韩欧美国产一区二区入口| 国产av一区二区精品久久| 天堂√8在线中文| 国内毛片毛片毛片毛片毛片| 精品久久久久久久末码| 在线观看免费午夜福利视频| 一卡2卡三卡四卡精品乱码亚洲| 50天的宝宝边吃奶边哭怎么回事| 成人永久免费在线观看视频| 中文亚洲av片在线观看爽| av天堂在线播放| 天天躁狠狠躁夜夜躁狠狠躁| 午夜福利欧美成人| 免费高清视频大片| а√天堂www在线а√下载| av超薄肉色丝袜交足视频| 在线观看日韩欧美| 一卡2卡三卡四卡精品乱码亚洲| 国产精品一区二区免费欧美| 国产亚洲精品一区二区www| 国语自产精品视频在线第100页| 亚洲精品在线美女| av天堂在线播放| 国产免费av片在线观看野外av| 亚洲狠狠婷婷综合久久图片| 一夜夜www| 人成视频在线观看免费观看| 亚洲成av人片免费观看| 欧美3d第一页| 精品久久久久久久久久免费视频| 午夜日韩欧美国产| 日韩精品中文字幕看吧| 国产精品综合久久久久久久免费| av国产免费在线观看| 亚洲,欧美精品.| 黄色视频,在线免费观看| 国产黄色小视频在线观看| 俺也久久电影网| x7x7x7水蜜桃| 天堂影院成人在线观看| 国产精品电影一区二区三区| 搡老熟女国产l中国老女人| 欧美精品亚洲一区二区| 丝袜人妻中文字幕| 18美女黄网站色大片免费观看| 可以在线观看的亚洲视频| 日本三级黄在线观看| 男男h啪啪无遮挡| 亚洲av五月六月丁香网| 少妇粗大呻吟视频| 日韩精品免费视频一区二区三区| 黄色视频不卡| 丝袜人妻中文字幕| 欧美3d第一页| 麻豆一二三区av精品| 免费无遮挡裸体视频| 好男人电影高清在线观看| 搡老岳熟女国产| 国产精品九九99| 色精品久久人妻99蜜桃| 非洲黑人性xxxx精品又粗又长| 精品日产1卡2卡| 精品国内亚洲2022精品成人| 老司机在亚洲福利影院| 久久久久亚洲av毛片大全| 国产精品久久久人人做人人爽| av有码第一页| 亚洲av第一区精品v没综合| 国产成人精品无人区| 久久久国产成人免费| 亚洲精品国产一区二区精华液| 亚洲成av人片在线播放无| 午夜两性在线视频| 在线视频色国产色| 免费高清视频大片| 黄频高清免费视频| 麻豆国产av国片精品| 久久伊人香网站| 国产免费男女视频| 我的老师免费观看完整版| 久久人人精品亚洲av| www.999成人在线观看| 亚洲av日韩精品久久久久久密| 丝袜人妻中文字幕| 欧美极品一区二区三区四区| 国产av麻豆久久久久久久| 午夜激情av网站| 亚洲国产精品999在线| 琪琪午夜伦伦电影理论片6080| 麻豆av在线久日| 精品欧美一区二区三区在线| 久久久精品大字幕| av免费在线观看网站| 亚洲美女黄片视频| 国产高清视频在线观看网站| 一级片免费观看大全| 桃色一区二区三区在线观看| 日日爽夜夜爽网站| 夜夜看夜夜爽夜夜摸| 国产一区在线观看成人免费| 久久中文字幕人妻熟女| 无人区码免费观看不卡| 久久久精品大字幕| 国语自产精品视频在线第100页| 亚洲成人中文字幕在线播放| 久久久精品欧美日韩精品| 欧美人与性动交α欧美精品济南到| 久久伊人香网站| 国产精品乱码一区二三区的特点| 亚洲专区中文字幕在线| 美女黄网站色视频| 一个人观看的视频www高清免费观看 | 国产精品亚洲美女久久久| 少妇粗大呻吟视频| 亚洲,欧美精品.| 1024视频免费在线观看| 国产精品亚洲av一区麻豆| 一区二区三区国产精品乱码| 999久久久精品免费观看国产| 一进一出好大好爽视频| 男女视频在线观看网站免费 | 国产高清视频在线播放一区| 欧美午夜高清在线| 亚洲欧美一区二区三区黑人| 久9热在线精品视频| 国产片内射在线| 天天一区二区日本电影三级| 最好的美女福利视频网| 国产精品日韩av在线免费观看| 成人手机av| 亚洲avbb在线观看| 国产免费男女视频| 亚洲精品在线观看二区| 亚洲无线在线观看| 十八禁人妻一区二区| 熟女少妇亚洲综合色aaa.| 国产精品亚洲美女久久久| 日韩精品青青久久久久久| 亚洲中文av在线| 一级作爱视频免费观看| 精品国产乱子伦一区二区三区| 夜夜看夜夜爽夜夜摸| 国产一区在线观看成人免费| 精品国产乱码久久久久久男人| 久久久久久亚洲精品国产蜜桃av| 一级毛片高清免费大全| 999久久久国产精品视频| 琪琪午夜伦伦电影理论片6080| 免费在线观看黄色视频的| 高潮久久久久久久久久久不卡| 日本成人三级电影网站| 久久精品aⅴ一区二区三区四区| 一级片免费观看大全| 色尼玛亚洲综合影院| 久热爱精品视频在线9| 欧美av亚洲av综合av国产av| 在线观看美女被高潮喷水网站 | 午夜精品在线福利| 日本在线视频免费播放| 国产精品98久久久久久宅男小说| 在线观看一区二区三区| 日本a在线网址| 久久久久国产一级毛片高清牌| 91九色精品人成在线观看| 国产av在哪里看| 麻豆国产97在线/欧美 | 91大片在线观看| 熟女电影av网| 免费在线观看完整版高清| 啪啪无遮挡十八禁网站| 欧美另类亚洲清纯唯美| 国产精品99久久99久久久不卡| 久久中文看片网| 久久久久国内视频| svipshipincom国产片| 变态另类成人亚洲欧美熟女| 久久精品aⅴ一区二区三区四区| 欧美黑人巨大hd| 亚洲第一电影网av| 日本黄色视频三级网站网址| 长腿黑丝高跟| 亚洲人成伊人成综合网2020| 好看av亚洲va欧美ⅴa在| 国产野战对白在线观看| 嫩草影院精品99| 国产单亲对白刺激| 亚洲国产日韩欧美精品在线观看 | 黄色片一级片一级黄色片| 啦啦啦观看免费观看视频高清| 成人av一区二区三区在线看| or卡值多少钱| 国产成人欧美在线观看| 中文资源天堂在线| 国产亚洲精品第一综合不卡| 美女黄网站色视频| 在线观看午夜福利视频| 国产片内射在线| 亚洲国产精品合色在线| 色噜噜av男人的天堂激情| 最近最新中文字幕大全免费视频| 欧美丝袜亚洲另类 | 亚洲五月天丁香| 精品第一国产精品| 身体一侧抽搐| 亚洲精品国产精品久久久不卡| 国产区一区二久久| 欧美乱色亚洲激情| 一a级毛片在线观看| 1024视频免费在线观看| 国产精品一区二区免费欧美| 不卡一级毛片| 嫩草影院精品99| 中出人妻视频一区二区| 三级男女做爰猛烈吃奶摸视频| 99久久精品热视频| 国产精品精品国产色婷婷| av超薄肉色丝袜交足视频| 国产精品久久视频播放| 在线观看午夜福利视频| or卡值多少钱| 久久这里只有精品中国| 午夜影院日韩av| 午夜视频精品福利| 国产精品香港三级国产av潘金莲| 亚洲欧美一区二区三区黑人| 亚洲国产精品久久男人天堂| 国产精品亚洲一级av第二区| 十八禁网站免费在线| 好男人在线观看高清免费视频| 亚洲av片天天在线观看| 亚洲欧美日韩无卡精品| 91av网站免费观看| 老司机福利观看| 小说图片视频综合网站| 五月玫瑰六月丁香| 免费在线观看成人毛片| 超碰成人久久| 亚洲激情在线av| 国产成人aa在线观看| 又黄又粗又硬又大视频| 99久久精品热视频| 久久性视频一级片| 亚洲中文日韩欧美视频| av国产免费在线观看| 亚洲五月婷婷丁香| 欧美乱码精品一区二区三区| 少妇人妻一区二区三区视频| 久久天躁狠狠躁夜夜2o2o| 久久热在线av| 久久欧美精品欧美久久欧美| 日本a在线网址| 观看免费一级毛片| 亚洲欧美日韩东京热| 日本五十路高清| cao死你这个sao货| 久久热在线av| 日韩中文字幕欧美一区二区| 美女午夜性视频免费| 午夜福利在线观看吧| 老司机午夜福利在线观看视频| 国产乱人伦免费视频| 99在线人妻在线中文字幕| 国产亚洲欧美98| 国产亚洲精品久久久久久毛片| 国产亚洲欧美在线一区二区| 成人国语在线视频| 老司机在亚洲福利影院| 亚洲熟妇熟女久久| 欧美丝袜亚洲另类 | 久久久国产成人精品二区| 婷婷精品国产亚洲av| 国产一区二区激情短视频| 女人被狂操c到高潮| 成人国产综合亚洲| 精品乱码久久久久久99久播| 午夜老司机福利片| 不卡av一区二区三区| 一a级毛片在线观看| 国产真实乱freesex| 岛国在线观看网站| 亚洲熟妇熟女久久| 蜜桃久久精品国产亚洲av| 黄色 视频免费看| 岛国在线免费视频观看| 日韩大尺度精品在线看网址| 无遮挡黄片免费观看| 日本一二三区视频观看| 亚洲一区二区三区不卡视频| 国产精品av视频在线免费观看| 一级作爱视频免费观看| 日本熟妇午夜| 亚洲精品美女久久av网站| 精品日产1卡2卡| ponron亚洲| 啪啪无遮挡十八禁网站| 一级毛片精品| 男女下面进入的视频免费午夜| 欧美色视频一区免费| 国产精品乱码一区二三区的特点| 男女床上黄色一级片免费看| 国产69精品久久久久777片 | 久久婷婷成人综合色麻豆| 亚洲av熟女| 国产探花在线观看一区二区| 亚洲成人中文字幕在线播放| 午夜精品久久久久久毛片777| 亚洲欧美日韩东京热| 国产欧美日韩精品亚洲av| 老司机福利观看| 男人舔女人的私密视频| 午夜福利在线观看吧| 国产亚洲精品av在线| 欧美黑人精品巨大| 无人区码免费观看不卡| 夜夜看夜夜爽夜夜摸| 久久中文字幕一级| √禁漫天堂资源中文www| 91字幕亚洲| 俺也久久电影网| 日本熟妇午夜| 久久中文看片网| 欧美成人免费av一区二区三区| 欧美三级亚洲精品| 欧美日韩亚洲综合一区二区三区_| 亚洲欧洲精品一区二区精品久久久| av天堂在线播放| 黄片大片在线免费观看| 免费在线观看视频国产中文字幕亚洲| 99热只有精品国产| 人妻久久中文字幕网| 嫩草影视91久久| 欧美日韩瑟瑟在线播放| 国产精品免费一区二区三区在线| 国产亚洲欧美98| 亚洲一区二区三区色噜噜| 性色av乱码一区二区三区2| 天堂av国产一区二区熟女人妻 | 久久中文字幕人妻熟女| 夜夜躁狠狠躁天天躁| 亚洲国产精品999在线| 制服诱惑二区| 国产精品亚洲美女久久久| 91麻豆精品激情在线观看国产| 久久久久久亚洲精品国产蜜桃av| 妹子高潮喷水视频| 欧美在线一区亚洲| 女人爽到高潮嗷嗷叫在线视频| 十八禁网站免费在线| 99热这里只有精品一区 | 手机成人av网站| 亚洲性夜色夜夜综合| 亚洲欧美日韩高清在线视频| 搡老岳熟女国产| 日韩有码中文字幕| 国产精品久久久久久久电影 | 久久精品aⅴ一区二区三区四区| 国产av一区二区精品久久| 国产区一区二久久| 成人av一区二区三区在线看| 亚洲七黄色美女视频| 中文字幕av在线有码专区| 免费av毛片视频| 老司机午夜十八禁免费视频| 欧美绝顶高潮抽搐喷水| 午夜视频精品福利| 午夜免费激情av| 欧美精品亚洲一区二区| 日韩欧美免费精品| 国产激情偷乱视频一区二区| 久久中文看片网| 欧洲精品卡2卡3卡4卡5卡区| 欧美av亚洲av综合av国产av| 18禁黄网站禁片午夜丰满| 亚洲中文字幕日韩| 久久久久久久精品吃奶| 久久久久免费精品人妻一区二区| 久久久水蜜桃国产精品网| 国产高清videossex| 五月伊人婷婷丁香| 中文字幕精品亚洲无线码一区| 日韩欧美 国产精品| 十八禁人妻一区二区| 色老头精品视频在线观看| or卡值多少钱| 怎么达到女性高潮| 宅男免费午夜| 日本在线视频免费播放| 国产在线观看jvid| 欧美色欧美亚洲另类二区| 亚洲 国产 在线| 国产欧美日韩一区二区精品| 中文亚洲av片在线观看爽| 99国产精品一区二区蜜桃av| 国产伦在线观看视频一区| or卡值多少钱| 真人做人爱边吃奶动态| 十八禁网站免费在线| 成人18禁高潮啪啪吃奶动态图| avwww免费| 婷婷丁香在线五月| 欧美日本亚洲视频在线播放| 国产成人一区二区三区免费视频网站| 色哟哟哟哟哟哟| 久久久久国内视频| 欧美日韩精品网址| 大型av网站在线播放| 亚洲va日本ⅴa欧美va伊人久久| 露出奶头的视频| 亚洲欧美日韩高清在线视频| 午夜免费观看网址| 日本三级黄在线观看| 一级a爱片免费观看的视频| 欧美色欧美亚洲另类二区| 亚洲精品在线观看二区| 午夜精品久久久久久毛片777| 日韩精品中文字幕看吧| 欧美日韩乱码在线| 国产伦一二天堂av在线观看| 国产精品日韩av在线免费观看| 看片在线看免费视频| av有码第一页| 看片在线看免费视频| 国产一区二区在线av高清观看| 午夜精品一区二区三区免费看| 1024香蕉在线观看| 中文字幕最新亚洲高清| 久久亚洲精品不卡| 欧美另类亚洲清纯唯美| 99re在线观看精品视频| 免费看日本二区| 美女免费视频网站| www国产在线视频色| 亚洲成人中文字幕在线播放| 亚洲成a人片在线一区二区| 免费看a级黄色片| 久久久久性生活片| 人人妻,人人澡人人爽秒播| aaaaa片日本免费| 欧美日本亚洲视频在线播放| 成年免费大片在线观看| 免费看a级黄色片| 亚洲成a人片在线一区二区| 2021天堂中文幕一二区在线观| 久久这里只有精品19| 欧美+亚洲+日韩+国产| bbb黄色大片| 伊人久久大香线蕉亚洲五| 国产麻豆成人av免费视频| 97碰自拍视频| 亚洲成a人片在线一区二区| 2021天堂中文幕一二区在线观| 日本撒尿小便嘘嘘汇集6| 女人高潮潮喷娇喘18禁视频| e午夜精品久久久久久久| 久久国产乱子伦精品免费另类| 老司机午夜福利在线观看视频| 97人妻精品一区二区三区麻豆| 人妻久久中文字幕网| 男女做爰动态图高潮gif福利片| 亚洲国产精品久久男人天堂| 国产av一区二区精品久久| 一本精品99久久精品77| 国产欧美日韩一区二区三| 国产在线精品亚洲第一网站| 亚洲18禁久久av| 国内精品久久久久精免费| 天堂√8在线中文| 成人一区二区视频在线观看| 天堂√8在线中文| 国产激情偷乱视频一区二区| 久久久久久久午夜电影| 天堂av国产一区二区熟女人妻 | 日韩高清综合在线| 亚洲精品在线美女| 久久香蕉激情| 亚洲av成人不卡在线观看播放网| 亚洲人成伊人成综合网2020| 亚洲成人精品中文字幕电影| 色综合欧美亚洲国产小说| 婷婷六月久久综合丁香| 制服人妻中文乱码| 久久久水蜜桃国产精品网| 中文字幕av在线有码专区| 成人国语在线视频| 亚洲欧美日韩无卡精品| 欧美极品一区二区三区四区| 少妇被粗大的猛进出69影院| 最近最新中文字幕大全电影3| 中文字幕人妻丝袜一区二区| 麻豆一二三区av精品| 叶爱在线成人免费视频播放| 好看av亚洲va欧美ⅴa在| 亚洲精品中文字幕一二三四区| 午夜激情av网站| 嫁个100分男人电影在线观看| 小说图片视频综合网站| 青草久久国产| 成人国产一区最新在线观看| 成年免费大片在线观看| 亚洲片人在线观看| 国产成人av激情在线播放| 露出奶头的视频| 又黄又爽又免费观看的视频| 99riav亚洲国产免费| 国产精品综合久久久久久久免费| 欧美色欧美亚洲另类二区| av国产免费在线观看| 伦理电影免费视频| 老汉色av国产亚洲站长工具| 欧美高清成人免费视频www| 亚洲狠狠婷婷综合久久图片| 欧美日韩瑟瑟在线播放| 十八禁人妻一区二区| 久久久久久人人人人人| 亚洲免费av在线视频| 国产精品av视频在线免费观看| 男女那种视频在线观看| 淫秽高清视频在线观看| 色老头精品视频在线观看|