• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    《格里申法案》機(jī)器人二元定性的啟示與反思

    2020-10-09 10:57王春梅
    江漢論壇 2020年9期
    關(guān)鍵詞:代理人機(jī)器人

    摘要:應(yīng)對互聯(lián)網(wǎng)信息技術(shù)革命及其實(shí)踐應(yīng)用給私法帶來的機(jī)器人主體性問題,《格里申法案》在《俄聯(lián)邦民法典》框架內(nèi),秉承傳統(tǒng)私法理論對機(jī)器人之客體定性展開財(cái)產(chǎn)法規(guī)則構(gòu)設(shè),同時突破主客二元界分肯認(rèn)機(jī)器人—代理人之主體性,間接承認(rèn)了機(jī)器人—代理人之主體地位。這啟示我們從認(rèn)識論視域重新思考人機(jī)關(guān)系,迫使我們思考如何調(diào)適觀念與制度以因應(yīng)人工智能發(fā)展,如何對機(jī)器人主體進(jìn)行私法定位,以及重新審視機(jī)器人人格之技術(shù)性與工具性等問題,從而立足人工智能發(fā)展之現(xiàn)實(shí),以前瞻性眼光承認(rèn)和賦予機(jī)器人以“技術(shù)人”或“人工人”之獨(dú)立主體地位,遵循和嵌入必要的技術(shù)準(zhǔn)則和倫理準(zhǔn)則進(jìn)行私法規(guī)則構(gòu)設(shè),以良善立法引導(dǎo)和規(guī)范人工智能發(fā)展,塑造新型人機(jī)關(guān)系。

    關(guān)鍵詞:格里申法案;機(jī)器人—代理人;技術(shù)人;人工人

    基金項(xiàng)目:國家社會科學(xué)基金一般項(xiàng)目“人工智能的主體性及其私法規(guī)制研究”(18BFX113)

    中圖分類號:D951.2 ? ?文獻(xiàn)標(biāo)識碼:A ? ?文章編號:1003-854X(2020)09-0127-05

    俄羅斯民法學(xué)者在2017年完成的法律草案《在完善機(jī)器人領(lǐng)域關(guān)系法律調(diào)整部分修改俄羅斯聯(lián)邦民法典的聯(lián)邦法律》(以下簡稱《格里申法案》)①,雖然只是俄羅斯學(xué)者對機(jī)器人和機(jī)器人—代理人在私法框架內(nèi)形成的初步認(rèn)識與規(guī)范設(shè)計(jì),但其卻是世界上最早的關(guān)于智能機(jī)器人法律地位的法律草案之一②,體現(xiàn)了俄羅斯民法學(xué)者應(yīng)對智能信息革命的法律因應(yīng)。誠如俄羅斯國家杜馬主席維亞切斯拉夫·沃洛金所指出:“人類和人工智能的關(guān)系、人類和機(jī)器人的關(guān)系問題,都是我們應(yīng)當(dāng)在最短時間內(nèi)在立法上予以描述的問題”,“如果我們不這樣做,我們就將落后了。”更主要的是,法案跳出人工智能和機(jī)器人的原則性、導(dǎo)向性規(guī)范設(shè)計(jì),力圖在《俄羅斯聯(lián)邦民法典》(以下簡稱《俄聯(lián)邦民法典》)架構(gòu)下,從民事實(shí)體法規(guī)范層面對機(jī)器人與機(jī)器人—代理人進(jìn)行立法規(guī)則構(gòu)設(shè),由此具有了更大的啟示與借鑒意義。

    一、主體—客體—責(zé)任:《格里申法案》之基本架構(gòu)與主要內(nèi)容

    《格里申法案》擬定者雖然意圖對機(jī)器人進(jìn)行系統(tǒng)立法,但考慮到俄羅斯機(jī)器人技術(shù)的當(dāng)下發(fā)展及全面系統(tǒng)立法的難度,故最終從修訂現(xiàn)行法著手,即在《俄聯(lián)邦民法典》框架內(nèi),從民事主體、民事權(quán)利客體和民事責(zé)任三個部分進(jìn)行架構(gòu)設(shè)計(jì)。首先,在民事主體規(guī)范層面,法案擬在民法典第二分編“人”之下增設(shè)專章,即第六章“機(jī)器人—代理人(Робот—агент)”,從而形成與主體部分之第三章“公民(自然人)”、第四章 “法人”、第五章“俄羅斯聯(lián)邦、俄羅斯聯(lián)邦各主體、地方自治組織參加民事立法所調(diào)整的關(guān)系”相并列的結(jié)構(gòu)安排。其次,在民事權(quán)利客體規(guī)范層面,法案擬在民法典第三分編“民事權(quán)利的客體”之“第六章一般規(guī)定”③ 中增設(shè)第138條“機(jī)器人”,替換原已被廢止的“知識產(chǎn)權(quán)”規(guī)定,形成與客體部分之不動產(chǎn)和動產(chǎn)、企業(yè)、各種物和動物相并列的規(guī)則安排。再次,在民事責(zé)任規(guī)范層面,法案擬在民法典第四編“債的種類”、第五十九章“因損害發(fā)生的債”之下第一節(jié)“損害賠償?shù)囊话阋?guī)定”下之第1079條“對周圍人群有高度危險(xiǎn)的獲得致人損害的責(zé)任”中增設(shè)第4款,即將機(jī)器人視為高度危險(xiǎn)來源來分配和規(guī)定其致人損害責(zé)任的歸屬與承擔(dān)。

    在規(guī)范內(nèi)容上,亦從上述三個部分展開規(guī)則設(shè)計(jì):其一,在民事主體部分,法案第1條第1項(xiàng)(對應(yīng)《俄聯(lián)邦民法典》第127條)以9個款對機(jī)器人—代理人作出規(guī)則設(shè)計(jì),包括機(jī)器人—代理人可以自己名義享有和承擔(dān)民事權(quán)利、民事義務(wù),以其獨(dú)立財(cái)產(chǎn)承擔(dān)責(zé)任,并在法律規(guī)定的情況下參加民事訴訟(第127.1條第1款);機(jī)器人—代理人的身份取得與運(yùn)作以其所有權(quán)人進(jìn)行國家登記和公開聲明為準(zhǔn)(第 127.1條第3款);對機(jī)器人—代理人參與的民事關(guān)系類推適用關(guān)于法人的民事立法(第127.2條第1、2款);機(jī)器人—代理人可以其所有權(quán)人或占有人的名義,并在公開聲明及信息系統(tǒng)記載的權(quán)限范圍內(nèi)進(jìn)行活動(第127.5條);機(jī)器人的所有權(quán)人和占有人以他們移交給機(jī)器人—代理人占有或使用的財(cái)產(chǎn)為限,對機(jī)器人—代理人的行為承擔(dān)責(zé)任(第127.4條第1款、第3款);除另有約定外,機(jī)器人—代理人由其直接占有人管理(第 127.6 條第1款),該管理人具有準(zhǔn)法人最高管理機(jī)關(guān)的地位,類推適用法人最高管理機(jī)關(guān)的規(guī)定,但與該機(jī)器人—代理人參與的法律關(guān)系性質(zhì)相悖的除外(第127.6條第2款);機(jī)器人—代理人在其設(shè)計(jì)特性和信息系統(tǒng)可能性的范圍內(nèi)自主代表其利益(第127.8條第1款),與機(jī)器人—代理人實(shí)施行為的人有權(quán)利使用該機(jī)器人自身必須配備的應(yīng)急通知功能,并由此被視為機(jī)器人—代理人的最后所有權(quán)人或占有人,但如果無正當(dāng)理由使用該功能而造成損失的,應(yīng)當(dāng)承擔(dān)損害賠償責(zé)任(第127.8條第2、3款);機(jī)器人領(lǐng)域的自治組織應(yīng)當(dāng)起草行業(yè)標(biāo)準(zhǔn)和行為規(guī)則,并保障其實(shí)施(第127.9條第1至3款);其二,在民事權(quán)利客體部分,法案第1條第2項(xiàng)(對應(yīng)《俄聯(lián)邦民法典》第138條),對財(cái)產(chǎn)本質(zhì)的機(jī)器人的概念和財(cái)產(chǎn)法一般規(guī)則的適用作出規(guī)定(第138條第1款、第2款),進(jìn)而對民用機(jī)器人的應(yīng)用作出限制,即不得在機(jī)器人的軟件或硬件部分加入明顯可能給人類造成損害的物體、裝置或功能,以及實(shí)施其他違反俄羅斯聯(lián)邦立法要求的行為(第138條第3款);其三,在民事責(zé)任部分,法案第2條(對應(yīng)《俄聯(lián)邦民法典》第1079條第4款),對機(jī)器人被視為高度危險(xiǎn)來源時的法律責(zé)任作出規(guī)定。具體而言,該條在前述第127.4條第2款規(guī)定基礎(chǔ)上,規(guī)定在機(jī)器人因其設(shè)計(jì)特性或信息系統(tǒng)參數(shù)而導(dǎo)致的,人類不能完全控制,又具有造成損害的高度蓋然性時,機(jī)器人被視為高度危險(xiǎn)來源,由機(jī)器人的占有人承擔(dān)高度危險(xiǎn)責(zé)任。但是,在機(jī)器人—代理人作為其他機(jī)器人—代理人的占有人,從而作為法律關(guān)系主體時,則對其他機(jī)器人—代理人產(chǎn)生的高度危險(xiǎn)活動造成的損害承擔(dān)無過錯責(zé)任。

    由此可見,《格里申法案》立足于俄羅斯機(jī)器人技術(shù)的現(xiàn)階段發(fā)展及其未來可能,在《俄聯(lián)邦民法典》框架內(nèi),沿著主體—客體—責(zé)任路徑,對機(jī)器人—代理人(機(jī)器人)及其作為高度危險(xiǎn)來源的民事責(zé)任作出制度與規(guī)范設(shè)計(jì),旨在引發(fā)俄羅斯學(xué)者對機(jī)器人立法的廣泛關(guān)注和討論,為機(jī)器人技術(shù)的大規(guī)模應(yīng)用做好前瞻性準(zhǔn)備,并為下一階段的機(jī)器人立法作出基礎(chǔ)性準(zhǔn)備。④

    二、主體·客體:機(jī)器人之二元定性

    如果說傳統(tǒng)法學(xué)理論和法律制度是以人和人類行為者為中心而構(gòu)建起來的理論與制度體系,則人工智能和機(jī)器人技術(shù)的現(xiàn)實(shí)應(yīng)用與發(fā)展對私法制度提出的一個根本性難題就是人工智能或機(jī)器人的定性與定位問題?!陡窭锷攴ò浮芳热辉凇抖砺?lián)邦民法典》框架內(nèi)對機(jī)器人進(jìn)行民事調(diào)整,就無法回避這一問題,并加以二元定性,即兼具主體與客體的雙重屬性。

    一方面,法案在《俄聯(lián)邦民法典》之民事權(quán)利客體部分進(jìn)行的架構(gòu)安排已經(jīng)十分明確地表明其對傳統(tǒng)人機(jī)關(guān)系認(rèn)識的遵循及對機(jī)器人的客體定性。而在規(guī)范內(nèi)容上,不僅第1條第2項(xiàng)對機(jī)器人的概念界定及財(cái)產(chǎn)法規(guī)則的適用昭示機(jī)器人的財(cái)產(chǎn)與客體定性,而且第2條關(guān)于機(jī)器人作為高度危險(xiǎn)來源責(zé)任也是以機(jī)器人作為客體物為邏輯預(yù)設(shè)與理論依歸的。因?yàn)椋kU(xiǎn)責(zé)任的基本原則在于制造、經(jīng)管及利用了過度危險(xiǎn)的人,只有在承擔(dān)該危險(xiǎn)實(shí)現(xiàn)過程中給他人造成的損害時,才能被許可從事這些危險(xiǎn)行為。⑤ 而各國立法所規(guī)定的危險(xiǎn)責(zé)任的類型,無論是是狹義危險(xiǎn)責(zé)任,還是廣義危險(xiǎn)責(zé)任和因果推定責(zé)任⑥,基本都指向外在于人的、由人所控制或制造的危險(xiǎn)設(shè)施、高速交通工具、產(chǎn)品等,無一不歸屬于客體范疇。是故,遵循危險(xiǎn)責(zé)任的基本原理及其引入的法定化要求,法案第2條在將機(jī)器人視為高度危險(xiǎn)來源的同時,對該危險(xiǎn)責(zé)任的歸屬與承擔(dān)則回到法案第1條,由機(jī)器人的所有人或占有人在與該財(cái)產(chǎn)本質(zhì)相一致的范圍內(nèi),承擔(dān)作為高度危險(xiǎn)來源致害的民事責(zé)任(第127.4條第2款)和產(chǎn)品責(zé)任(第127.4條第4款),從而再次表明機(jī)器人的 “財(cái)產(chǎn)本質(zhì)”和“產(chǎn)品”屬性。

    另一方面,法案又在一定程度上突破傳統(tǒng)民法主客二分與人機(jī)關(guān)系之主客定位,在邏輯體系架構(gòu)、術(shù)語表達(dá)、機(jī)器人的法律地位界定,以及法人規(guī)則的準(zhǔn)用等方面揭示出對機(jī)器人—代理人主體性之肯認(rèn)。其一,就體系架構(gòu)和邏輯對應(yīng)而言,法案以專章將“機(jī)器人—代理人”置于《俄聯(lián)邦民法典》第二分編“人”之中,位列其他民事主體之后,同時與第三分編“民事權(quán)利的客體”部分中機(jī)器人財(cái)產(chǎn)法規(guī)則形成主—客的邏輯對應(yīng),明確表明了對“機(jī)器人—代理人”的主體定性。其二,就術(shù)語表達(dá)和身份定位而言,法案在第六章標(biāo)題及其具體規(guī)定中均以“機(jī)器人—代理人”為法律術(shù)語表達(dá),既區(qū)別于作為客體的“機(jī)器人”表達(dá),又表明了“代理人”的身份定位。而《俄聯(lián)邦民法典》對代理之規(guī)定基本采納大陸法系國家通行的代理人行為說,從而既在價值上使代理規(guī)范表現(xiàn)為一種延伸自治意義上的歸屬規(guī)范⑦,又要求代理之成立和效果歸屬以代理人具備主體各種能力、意思表示等為要⑧,間接表明機(jī)器人—代理人之“準(zhǔn)主體”地位。其三,就利益訴求而言,法案規(guī)定并承認(rèn)機(jī)器人—代理人在其設(shè)計(jì)特性和信息系統(tǒng)可能性的范圍內(nèi)具有和代表自己的利益,契合主體行為的內(nèi)心動因和獨(dú)立人格的人性論基礎(chǔ)。其四,就獨(dú)立財(cái)產(chǎn)和獨(dú)立責(zé)任而言,法案在機(jī)器人—代理人的概念界定中即明確指出其擁有獨(dú)立財(cái)產(chǎn)并獨(dú)立承擔(dān)責(zé)任,其所有權(quán)人和占有人只是承擔(dān)類似于出資人的有限責(zé)任,由此昭示機(jī)器人—代理人不僅具備非自然人人格不可或缺之財(cái)產(chǎn)要素,還具備獨(dú)立人格之結(jié)果要素——獨(dú)立責(zé)任,契合民事主體之概念內(nèi)涵。其五,就法人規(guī)則的準(zhǔn)用而言,法案不僅對機(jī)器人—代理人的概念界定與《俄聯(lián)邦民法典》對法人的界定如出一轍,而且除基于代理機(jī)制作出的規(guī)范之外,對機(jī)器人—代理人參與的民事關(guān)系類推適用法人法規(guī)范,其管理人亦具有準(zhǔn)法人最高管理機(jī)關(guān)的地位,同樣類推適用法人最高管理機(jī)關(guān)的規(guī)定,從而具有了法人的相似性,甚而具有了類似于法人的地位。⑨

    三、人機(jī)關(guān)系:機(jī)器人二元定性之認(rèn)識論啟示

    《格里申法案》基于機(jī)器人財(cái)產(chǎn)屬性的傳統(tǒng)認(rèn)知,在將“機(jī)器人”進(jìn)行客體定性與定位的同時,又展望智能機(jī)器人之未來發(fā)展,間接承認(rèn)和賦予了“機(jī)器人—代理人”以主體屬性與主體地位,具有理念上的先進(jìn)性、定位上的前瞻性、規(guī)則上的新穎性和操作上的可實(shí)施性,同時契合與展示了俄羅斯人工智能立法四步走的戰(zhàn)略規(guī)劃⑩。

    第一,機(jī)器人二元定性在打破法律關(guān)系結(jié)構(gòu)主客界分的同時,將權(quán)利義務(wù)配置傳統(tǒng)意義上的客體成為可能。主體與客體作為一組相對應(yīng)的哲學(xué)概念與范疇,奠定了私法中主體與客體、人與物之界分的哲學(xué)基礎(chǔ),進(jìn)而決定了主客、人物在功能取向與法律規(guī)則上的差異。也就是說,“法律主體是一種在自我目的的意義上,由一定歷史上出現(xiàn)過的法律所認(rèn)可的本質(zhì);法律客體則與之相反,在相同的情況下,它被看做是一個旨在實(shí)現(xiàn)那些由條件決定之目的的單純手段?!?權(quán)利與義務(wù)作為私法上“人類境況”的表達(dá),共同昭示和反映著我們認(rèn)為處于人性核心的東西,以及處于核心的人何以為人的意義,故而只能被配置給作為主體的“人”。機(jī)器人二元定性打破了主體與客體、人與物的二元界分與對立,打破了二者之間不可逾越的鴻溝,由此使得權(quán)利與義務(wù)不再單純地表達(dá)“人類狀況”,也開始表達(dá)機(jī)器人—代理人的狀況,從而引發(fā)對這樣一個行為者的機(jī)器人在未來立法中難解之題的思考。

    第二,機(jī)器人二元定性順應(yīng)時代發(fā)展,正視與回應(yīng)了人工智能發(fā)展給私法帶來的主體性之爭。私法中的法律人像一直以個體的生物人為基礎(chǔ)而建模,法人和非法人組織縱然得因權(quán)利能力之賦予而獲得團(tuán)體人格,但亦不過是個體自然人或財(cái)產(chǎn)之集合。人工智能迅猛發(fā)展及其實(shí)踐應(yīng)用給當(dāng)代私法提出了人工智能私法地位這個十分糾結(jié)的問題,引發(fā)國內(nèi)外學(xué)者廣泛熱討,形成不同的觀點(diǎn)學(xué)說?!陡窭锷攴ò浮吩趯C(jī)器人進(jìn)行客體定性,并配設(shè)以財(cái)產(chǎn)法規(guī)則的同時,又依代理說對機(jī)器人—代理人進(jìn)行主體定性和規(guī)則構(gòu)設(shè),實(shí)際上認(rèn)為機(jī)器人具有一定的法律人格,學(xué)界也通常認(rèn)為代理說在本質(zhì)上將機(jī)器人作為民事主體,展現(xiàn)了俄羅斯學(xué)者對人工智能發(fā)展之關(guān)注和對機(jī)器人私法地位問題之思考與回應(yīng)。

    第三,機(jī)器人二元定性要求重新思考人機(jī)關(guān)系與人機(jī)倫理。傳統(tǒng)人機(jī)關(guān)系以主客對立、人物界分為認(rèn)識論基礎(chǔ),在奴役與工具之間加以權(quán)衡取舍,其本質(zhì)均將機(jī)器歸入客體范疇,形成以主體訴求滿足和理性意志支配為內(nèi)容與價值取向的單向性、支配性和工具性的關(guān)系結(jié)構(gòu),經(jīng)典呈現(xiàn)出人類中心主義之觀念映照。機(jī)器人二元定性顛覆了傳統(tǒng)人機(jī)關(guān)系的認(rèn)識論基礎(chǔ),提出重新思考人機(jī)關(guān)系與人機(jī)倫理之?dāng)⑹隆>唧w而言,法案將機(jī)器人條款置于動物規(guī)范之后的技術(shù)處理,似乎表明機(jī)器人與動物之間相似的財(cái)產(chǎn)屬性,可以同樣遵循“法益所有者應(yīng)自覺承擔(dān)該法益上的損害”之原則確定責(zé)任分配。 但另一方面,這種相似性也似乎提出了對機(jī)器人,尤其是機(jī)器人—代理人予以動物般倫理關(guān)照之命題。在人工智能迅猛發(fā)展之當(dāng)下,如何認(rèn)識與對待這個行走的、會思考的“機(jī)器”,不僅僅是法律上的重大命題,更是倫理價值上的難題??赡芏唐趦?nèi)不能給出最終答案,但至少有一點(diǎn)可以肯定,即無論是基于機(jī)器人與動物的特定相似性,還是基于主客對立關(guān)系之解構(gòu),人類都不能將機(jī)器人僅僅作為一般財(cái)產(chǎn),不能違背人道原則殘酷對待。

    四、私法定位:機(jī)器人主體性之思考

    《格里申法案》在帶給我們啟示的同時也促使我們作如下思考與反思:

    第一,如何進(jìn)行觀念與制度調(diào)適以因應(yīng)人工智能發(fā)展。如果說制度與規(guī)則是顯性的存在,則其背后必然隱藏著立法者的思想觀念與主觀認(rèn)知。《格里申法案》對機(jī)器人的二元定性及其規(guī)則設(shè)計(jì)不失創(chuàng)造性,但亦不乏矛盾與保守之處。前者如機(jī)器人—代理人的行為責(zé)任和高度危險(xiǎn)責(zé)任之規(guī)則設(shè)計(jì),雖然代表了對他人行為的一種新的責(zé)任,并可以說是第一次法律系統(tǒng)讓個人對人工狀態(tài)的轉(zhuǎn)換系統(tǒng)的決定承擔(dān)義務(wù),但無疑仍然秉持人類是行為與責(zé)任主體的傳統(tǒng)規(guī)范認(rèn)知,在一定程度上與機(jī)器人—代理人的主體定性產(chǎn)生沖突。后者如機(jī)器人—代理人定位對機(jī)器人主體性的間接承認(rèn)。

    可以說,這種矛盾與保守有技術(shù)發(fā)展及機(jī)器人立法的階段性考量,但亦不乏認(rèn)識猶疑和保守觀念之影響,如有學(xué)者認(rèn)為應(yīng)當(dāng)將機(jī)器人作為“準(zhǔn)民事法律關(guān)系主體”,甚至認(rèn)為“機(jī)器人的權(quán)利主體性問題在實(shí)踐中可能并不那么重要”。 但實(shí)際上,就當(dāng)下互聯(lián)網(wǎng)智能革命迅猛發(fā)展之社會現(xiàn)實(shí)與各國的戰(zhàn)略重視而言,機(jī)器人私法地位很快將不再是純粹理論探討問題。如沙特授予“索菲亞”以公民身份,美國國家公路交通安全管理局認(rèn)可谷歌自動駕駛系統(tǒng)的“駕駛員”身份,無疑都凸顯出該問題之緊迫。而在人工智能應(yīng)用最典型的自動駕駛汽車領(lǐng)域,傳統(tǒng)以人類行為者為中心,以過錯為主要?dú)w責(zé)依據(jù)的侵權(quán)理論體系與立法亦不斷遭遇挑戰(zhàn),《歐盟機(jī)器人民事法律規(guī)則》據(jù)此率先為智能機(jī)器人重構(gòu)責(zé)任規(guī)則,包括我國在內(nèi)的一些國家在人工智能發(fā)展戰(zhàn)略或規(guī)劃中也提出了人工智能主體地位之愿景訴求。這些新規(guī)則或愿景訴求“著眼于如何讓一臺機(jī)器為其行為的疏忽部分或者全部行為承擔(dān)責(zé)任,結(jié)果就是解決機(jī)器人是否應(yīng)當(dāng)擁有法律地位這一問題將變得越來越迫切?!?但是,如果遵循觀念生成制度和規(guī)則之一般發(fā)展路徑,將因觀念更新之緩慢而造成人工智能發(fā)展的長期失范,無助于權(quán)利義務(wù)與責(zé)任風(fēng)險(xiǎn)的合理配置及私法秩序的有序運(yùn)行。因此,突破慣常思維范式,強(qiáng)制搭建人工智能與機(jī)器人的私法規(guī)范,承認(rèn)機(jī)器人的私法人格與私法主體地位,對其可能引發(fā)的侵權(quán)責(zé)任風(fēng)險(xiǎn)、智能合約效力、智能作品著作權(quán)歸屬等作出制度安排,進(jìn)而內(nèi)化為普遍認(rèn)知,外化為行為準(zhǔn)則指引社會生活與個體生活,亦如《歐盟機(jī)器人民事法律規(guī)則》第59條賦予復(fù)雜自主機(jī)器人以“電子人”之做法。

    第二,如何對機(jī)器人主體進(jìn)行私法定位。從羅馬法至今,民事主體類型與范圍總體上呈多元擴(kuò)張之勢,但基本類型無外乎自然人、法人、非法人組織等?!陡窭锷攴ò浮冯m然以“機(jī)器人—代理人”之創(chuàng)制間接肯認(rèn)其主體性,并類推適用法人之規(guī)則,似有“將機(jī)器人以類似于法人的定位”,但就法案對機(jī)器人—代理人在主體部分的編章安排來看,沒有將其置于任何一個既有主體類型之中,而是以專章的形式安置在俄羅斯聯(lián)邦、俄羅斯聯(lián)邦各主體、地方自治市組織之后,形成列于其他主體的關(guān)系結(jié)構(gòu),推定為獨(dú)立的第四主體更合邏輯。而且,就機(jī)器人社會存在表征及社會現(xiàn)實(shí)而言,無論是具有“公民身份”的索菲亞,還是歐盟法中的“電子人”,亦不論該機(jī)器人是否具有人形特征,均表現(xiàn)為個體性存在,迥異于法人之團(tuán)體性結(jié)構(gòu)。即便隨著法人的社會現(xiàn)實(shí)發(fā)展和法人理論之更新,立法和理論上也承認(rèn)了一人公司的法人屬性,但團(tuán)體性和組織主體仍然是法人等組織類主體的根本特性和外部表征。再者,就機(jī)器人內(nèi)部特性而言,機(jī)器人借助于高智能性自主決策,亦迥異于法人之團(tuán)體意志及其意思實(shí)現(xiàn)。就此而言,機(jī)器人似乎更“類于人”而非“類于團(tuán)體”,定位為法人非為妥當(dāng)。

    但是,據(jù)此將機(jī)器人定位為“自然人”亦非妥當(dāng)。蓋因機(jī)器人的“類人性”無以改變其技術(shù)存在本質(zhì),亦無法獲得自然人之倫理性,且具有極大的發(fā)展性和風(fēng)險(xiǎn)性,其權(quán)利能力的取得與范圍、行為后果與責(zé)任歸屬、運(yùn)行維護(hù)與監(jiān)管等需要國家介入予以特別規(guī)制,作為獨(dú)立主體更具合理性,亦能形成價值、結(jié)構(gòu)與邏輯自洽,名稱可以謂為“人工人”或者“技術(shù)人”,以此彰明其存在的技術(shù)本質(zhì)及其人格的非倫理屬性。

    第三,審視機(jī)器人主體的技術(shù)性與工具性。自《德國民法典》開啟民事主體二元化先河,圍繞法人主體就產(chǎn)生了法律主體技術(shù)性與價值性的認(rèn)識分歧,并認(rèn)為“在現(xiàn)代法律世界,所謂自然人和法人的二元主體結(jié)構(gòu)只是形式上的,真正的主體或最基礎(chǔ)的主體,只有活生生的個人,法人是法律上的一個技術(shù)意義的而不是基本價值性的形式主體,法律通過法人概念的法律技術(shù)作用,去確認(rèn)個人的某些團(tuán)體生活方式。” 及至今日,這種認(rèn)識更契合于機(jī)器人主體。眾所周知,機(jī)器人具有深度學(xué)習(xí)能力,存在技術(shù)失控和異化之風(fēng)險(xiǎn),應(yīng)重申和強(qiáng)化機(jī)器人主體的技術(shù)性與工具性認(rèn)知,遵循和嵌入必要的技術(shù)準(zhǔn)則和倫理準(zhǔn)則,防止技術(shù)失控與異化給人類造成損害,防止將機(jī)器人當(dāng)作人類一樣對待所可能造成的人類非人化之惡果。應(yīng)以尊崇和強(qiáng)調(diào)人的倫理性與目的性,使人類安全保護(hù)與人類尊嚴(yán)價值獲得雙重彰顯和保障,塑造人類與機(jī)器人相互尊重、善待,并以人類價值優(yōu)先,勿害和保護(hù)人類整體安全為目標(biāo)與宗旨的新型人機(jī)關(guān)系。

    科恩曾言,科學(xué)領(lǐng)域中的革命只會對該科學(xué)領(lǐng)域中現(xiàn)行的知識結(jié)構(gòu)或狀態(tài)構(gòu)成直接威脅,并不會在整個社會范圍內(nèi)構(gòu)成威脅,但科學(xué)革命實(shí)際附帶的成果卻會對社會秩序帶來一定程度的影響。 當(dāng)下正在發(fā)生并必然走向深入的互聯(lián)網(wǎng)信息技術(shù)革命及其實(shí)踐應(yīng)用給私法制度及法律秩序帶來的沖擊和影響印證了科恩之論斷。正視與回應(yīng)風(fēng)險(xiǎn)與挑戰(zhàn),立足人工智能技術(shù)發(fā)展應(yīng)用之現(xiàn)實(shí),秉持戰(zhàn)略性與前瞻性,重視與權(quán)衡各方利益進(jìn)行制度與規(guī)則設(shè)計(jì)是良善之法應(yīng)有態(tài)度。

    注釋:

    ① 由于該法案是由俄羅斯互聯(lián)網(wǎng)技術(shù)領(lǐng)域的專家,Mail.ru 集團(tuán)的董事會主席格里申及其基金會“格里申機(jī)器人”委托大成(Dentons)國際律師事務(wù)所起草的,故也被稱為“格里申法案”。

    ②⑨ 張建文:《格里申法案的貢獻(xiàn)與局限——俄羅斯首部機(jī)器人法草案述評》,《華東政法大學(xué)學(xué)報(bào)》2018年第2期。

    ③ 按照《格里申法案》擬定者的設(shè)想和安排,此第六章在《俄聯(lián)邦民法典》中應(yīng)當(dāng)順延為第七章。

    ④⑩ В. В. Архипов, В. Б. Наумов, Искусс-твенный нителлекти автономные устройства в конт-ексте права: о раз работке первого в России закона о робототехнике, Труды СПИИРАН, 2017, Вып, 6(55), С.50, С.58-61, С.51.

    ⑤⑥ [德]埃爾溫·多伊齊、漢斯—于爾根·阿倫斯:《德國侵權(quán)行為法——侵權(quán)行為、損害賠償及痛苦撫慰金》,葉名怡、溫大軍譯,中國人民大學(xué)出版社2016年版,第172、173、3頁。

    ⑦ 龍衛(wèi)球:《民法總論》,中國法制出版社2002年版,第565頁。

    ⑧ Winscheid, Lehrbuch des Pandektenrechts(1862), Ⅰ§73. 轉(zhuǎn)引自龍衛(wèi)球:《民法總論》,中國法制出版社2002年版,第569頁。

    Stamler, Unbestimmtheit des Rechtssubjekts, 1907, p.28.

    [德]霍斯特·艾丹米勒:《機(jī)器人的崛起與人類的法律》,李飛、敦小匣譯,《法治現(xiàn)代化研究》2017年第4期。

    吳漢東:《人工智能時代的制度安排與法律規(guī)制》,《法律科學(xué)》2017 年第5期。

    [德]克里斯多夫·庫克里克:《微粒社會——數(shù)字化時代的社會模式》,黃昆等譯,中信出版社2018年版,第133頁。

    Samir Chopra, Laurence F. White, A LegalTheory for Autonomous Artificial Agents, Michigan University of Michigan Press, 2011, p.189.

    Lawrence Solum, Legal Personhood for Artifi-cial Intelligences, North Carolina Law Review, 1992, (70).

    Гражданский кодекс Российской Федерации, Части первая, вторая, третья и четвертая, Москва: Проспект, 2017, С.80.

    [意]烏戈·帕加羅:《誰為機(jī)器人的行為負(fù)責(zé)?》,張卉林等譯,上海人民出版社2018年版,第44頁。

    騰訊研究院、中國信通院互聯(lián)網(wǎng)法律研究中心:《人工智能——國家人工智能戰(zhàn)略行動抓手》,中國人民大學(xué)出版社2017年版,第229頁。

    龍衛(wèi)球:《法律主體概念的基礎(chǔ)性分析——兼論法律的主體預(yù)定理論(上、下)》,《學(xué)術(shù)界》2000年第3、4期。

    [美]I·伯納德·科恩:《科學(xué)中的革命》,魯旭東、趙培杰譯,商務(wù)印書館2017年版,第37頁。

    作者簡介:王春梅,天津師范大學(xué)法學(xué)院教授,天津,300387。

    (責(zé)任編輯 ?李 ?濤)

    猜你喜歡
    代理人機(jī)器人
    你好,機(jī)器人
    獨(dú)立個人保險(xiǎn)代理人:方向與軌跡
    提高保險(xiǎn)代理人忠誠度的路徑探索
    機(jī)器人來幫你
    認(rèn)識機(jī)器人
    機(jī)器人來啦
    淺談民法上的復(fù)代理問題
    監(jiān)督、忠誠和代理人的選擇
    黄网站色视频无遮挡免费观看| 99re6热这里在线精品视频| 激情视频va一区二区三区| 欧美久久黑人一区二区| 制服诱惑二区| 精品久久久久久久毛片微露脸 | 新久久久久国产一级毛片| 一本大道久久a久久精品| 久久午夜综合久久蜜桃| 免费人妻精品一区二区三区视频| 在线天堂中文资源库| av在线老鸭窝| 在线 av 中文字幕| 伦理电影免费视频| 青草久久国产| 人妻一区二区av| 天天躁夜夜躁狠狠躁躁| 超碰成人久久| 精品一区二区三区av网在线观看 | 精品人妻一区二区三区麻豆| 手机成人av网站| 久热爱精品视频在线9| 久久人人爽av亚洲精品天堂| 亚洲一卡2卡3卡4卡5卡精品中文| 成人手机av| 99国产综合亚洲精品| 一区二区日韩欧美中文字幕| 国产精品一区二区精品视频观看| 搡老乐熟女国产| 制服诱惑二区| 美女大奶头黄色视频| 99精国产麻豆久久婷婷| 亚洲视频免费观看视频| 丁香六月天网| 国产高清视频在线播放一区 | 亚洲精品国产精品久久久不卡| 久热这里只有精品99| 老熟女久久久| 五月天丁香电影| av一本久久久久| 一本色道久久久久久精品综合| 最黄视频免费看| 精品国产乱码久久久久久男人| 免费少妇av软件| 国产无遮挡羞羞视频在线观看| 成年av动漫网址| 曰老女人黄片| 精品高清国产在线一区| 一级毛片电影观看| 高清av免费在线| 国产精品成人在线| 最近最新中文字幕大全免费视频| 天天躁狠狠躁夜夜躁狠狠躁| 蜜桃国产av成人99| 国产免费一区二区三区四区乱码| 国产高清国产精品国产三级| 国产成人免费观看mmmm| 国产男人的电影天堂91| 最近最新免费中文字幕在线| 黄色视频,在线免费观看| 亚洲,欧美精品.| 好男人电影高清在线观看| 亚洲欧美一区二区三区久久| 法律面前人人平等表现在哪些方面 | 精品一区二区三卡| 免费在线观看影片大全网站| 色老头精品视频在线观看| 99久久精品国产亚洲精品| 老汉色av国产亚洲站长工具| 欧美变态另类bdsm刘玥| 欧美精品高潮呻吟av久久| 亚洲少妇的诱惑av| 免费日韩欧美在线观看| 99久久综合免费| 啦啦啦在线免费观看视频4| 精品第一国产精品| 在线观看舔阴道视频| 精品一区在线观看国产| 菩萨蛮人人尽说江南好唐韦庄| 免费人妻精品一区二区三区视频| 狠狠精品人妻久久久久久综合| 天堂8中文在线网| 亚洲精品国产色婷婷电影| 菩萨蛮人人尽说江南好唐韦庄| 国产黄频视频在线观看| 伊人亚洲综合成人网| 欧美激情高清一区二区三区| 蜜桃在线观看..| 午夜视频精品福利| 97精品久久久久久久久久精品| 国产精品久久久久久精品古装| 美国免费a级毛片| 午夜免费鲁丝| 久久ye,这里只有精品| 国产av国产精品国产| 日韩中文字幕视频在线看片| 欧美亚洲 丝袜 人妻 在线| 亚洲欧美精品自产自拍| 日韩熟女老妇一区二区性免费视频| av线在线观看网站| 亚洲熟女毛片儿| 国产精品一区二区精品视频观看| 在线十欧美十亚洲十日本专区| 亚洲免费av在线视频| 久9热在线精品视频| 午夜激情久久久久久久| 亚洲熟女毛片儿| 一本久久精品| 精品国产乱子伦一区二区三区 | 欧美亚洲日本最大视频资源| 久久国产精品影院| 一二三四在线观看免费中文在| 在线观看舔阴道视频| 97人妻天天添夜夜摸| 国产99久久九九免费精品| 国产高清国产精品国产三级| 国产亚洲欧美精品永久| 高清在线国产一区| 国产97色在线日韩免费| 亚洲美女黄色视频免费看| 亚洲伊人久久精品综合| av网站免费在线观看视频| 后天国语完整版免费观看| 日韩制服骚丝袜av| 国产亚洲欧美精品永久| 亚洲av电影在线观看一区二区三区| 国产亚洲精品一区二区www | 久久久久精品人妻al黑| 在线观看免费视频网站a站| 日韩视频在线欧美| 精品少妇黑人巨大在线播放| 国产又爽黄色视频| 好男人电影高清在线观看| 国产一级毛片在线| videos熟女内射| 欧美日韩黄片免| 激情视频va一区二区三区| 国产亚洲一区二区精品| 飞空精品影院首页| 欧美日韩黄片免| 性色av一级| 精品福利观看| 97精品久久久久久久久久精品| 亚洲成人免费电影在线观看| a 毛片基地| 久久久久网色| 不卡av一区二区三区| 下体分泌物呈黄色| 欧美激情久久久久久爽电影 | 老熟女久久久| 天堂俺去俺来也www色官网| 欧美性长视频在线观看| 精品国产超薄肉色丝袜足j| 狠狠婷婷综合久久久久久88av| 婷婷色av中文字幕| 18禁观看日本| 少妇 在线观看| 少妇 在线观看| 精品少妇一区二区三区视频日本电影| 亚洲国产欧美日韩在线播放| 国产视频一区二区在线看| 亚洲欧美激情在线| 日韩 亚洲 欧美在线| 激情视频va一区二区三区| 欧美乱码精品一区二区三区| 人妻人人澡人人爽人人| 精品久久久精品久久久| 99久久99久久久精品蜜桃| 亚洲va日本ⅴa欧美va伊人久久 | 妹子高潮喷水视频| 亚洲五月色婷婷综合| 成年人午夜在线观看视频| 亚洲欧美清纯卡通| 久久精品亚洲熟妇少妇任你| 亚洲欧美精品综合一区二区三区| 妹子高潮喷水视频| 好男人电影高清在线观看| 丝袜喷水一区| 欧美av亚洲av综合av国产av| 日韩欧美一区视频在线观看| 久久精品国产亚洲av香蕉五月 | 各种免费的搞黄视频| 欧美另类一区| 国产精品 欧美亚洲| 精品欧美一区二区三区在线| 伦理电影免费视频| 脱女人内裤的视频| 欧美人与性动交α欧美软件| 午夜两性在线视频| 欧美日韩精品网址| 一边摸一边做爽爽视频免费| 日韩一区二区三区影片| 午夜精品国产一区二区电影| 十八禁高潮呻吟视频| 老熟女久久久| 亚洲国产精品999| 中文字幕人妻丝袜一区二区| 91成年电影在线观看| 女性生殖器流出的白浆| 国产精品二区激情视频| 欧美黄色片欧美黄色片| 美女高潮到喷水免费观看| 美女脱内裤让男人舔精品视频| 久久香蕉激情| 女人精品久久久久毛片| 亚洲avbb在线观看| 搡老乐熟女国产| 看免费av毛片| 国产亚洲一区二区精品| 另类精品久久| 飞空精品影院首页| 亚洲欧美色中文字幕在线| 97在线人人人人妻| 亚洲国产看品久久| 欧美变态另类bdsm刘玥| 1024香蕉在线观看| 五月开心婷婷网| 国产免费福利视频在线观看| 天天操日日干夜夜撸| 亚洲美女黄色视频免费看| 国产极品粉嫩免费观看在线| 日韩一卡2卡3卡4卡2021年| 欧美另类亚洲清纯唯美| √禁漫天堂资源中文www| 亚洲国产精品一区三区| 亚洲欧美日韩高清在线视频 | 99热网站在线观看| 91麻豆av在线| 亚洲av电影在线观看一区二区三区| 亚洲精品乱久久久久久| 欧美另类一区| 国产精品一区二区免费欧美 | 久热这里只有精品99| 中文字幕人妻丝袜一区二区| 久久久水蜜桃国产精品网| 亚洲av电影在线进入| 中文字幕另类日韩欧美亚洲嫩草| 一级,二级,三级黄色视频| 最新的欧美精品一区二区| 视频在线观看一区二区三区| 亚洲天堂av无毛| 丰满人妻熟妇乱又伦精品不卡| 黄色怎么调成土黄色| 50天的宝宝边吃奶边哭怎么回事| 精品高清国产在线一区| 天天躁日日躁夜夜躁夜夜| 一级a爱视频在线免费观看| av在线app专区| 蜜桃在线观看..| 伊人亚洲综合成人网| 别揉我奶头~嗯~啊~动态视频 | 欧美 日韩 精品 国产| 日本五十路高清| 亚洲精品国产区一区二| 黄网站色视频无遮挡免费观看| 亚洲伊人色综图| 亚洲视频免费观看视频| 最近中文字幕2019免费版| 午夜福利在线观看吧| 成人国产av品久久久| cao死你这个sao货| 日本撒尿小便嘘嘘汇集6| 亚洲成国产人片在线观看| 国产高清国产精品国产三级| 国产成人a∨麻豆精品| 97人妻天天添夜夜摸| 91字幕亚洲| a级片在线免费高清观看视频| 美女高潮到喷水免费观看| 亚洲av日韩在线播放| 免费观看a级毛片全部| 人人妻人人添人人爽欧美一区卜| 亚洲成人手机| 狂野欧美激情性bbbbbb| 国产深夜福利视频在线观看| 久久精品aⅴ一区二区三区四区| av有码第一页| 欧美亚洲 丝袜 人妻 在线| 国产精品亚洲av一区麻豆| 一区二区三区乱码不卡18| 麻豆乱淫一区二区| 自线自在国产av| 国产精品久久久人人做人人爽| 91成年电影在线观看| 中国美女看黄片| 亚洲国产av新网站| 国产日韩一区二区三区精品不卡| 国产成人a∨麻豆精品| 欧美成人午夜精品| 美女中出高潮动态图| 一二三四社区在线视频社区8| 日本a在线网址| 精品熟女少妇八av免费久了| 中文字幕av电影在线播放| 国产深夜福利视频在线观看| avwww免费| 午夜福利在线免费观看网站| 视频在线观看一区二区三区| 多毛熟女@视频| 亚洲av成人一区二区三| 韩国高清视频一区二区三区| 黑人巨大精品欧美一区二区蜜桃| 18禁国产床啪视频网站| 最黄视频免费看| 国产高清国产精品国产三级| 欧美国产精品va在线观看不卡| videos熟女内射| 久久精品国产综合久久久| 国产精品一区二区在线不卡| 国产在视频线精品| 蜜桃国产av成人99| 少妇被粗大的猛进出69影院| 国产伦人伦偷精品视频| 麻豆国产av国片精品| 国产亚洲午夜精品一区二区久久| 亚洲欧美一区二区三区久久| 国产高清视频在线播放一区 | 亚洲人成电影免费在线| 丰满人妻熟妇乱又伦精品不卡| 国产1区2区3区精品| 999久久久精品免费观看国产| 亚洲精品美女久久久久99蜜臀| av超薄肉色丝袜交足视频| 色婷婷av一区二区三区视频| 日本av手机在线免费观看| 97人妻天天添夜夜摸| 国产精品香港三级国产av潘金莲| 国产成人精品无人区| 日韩有码中文字幕| 一本久久精品| 一边摸一边做爽爽视频免费| 久久精品国产亚洲av香蕉五月 | 亚洲av电影在线观看一区二区三区| 亚洲va日本ⅴa欧美va伊人久久 | 大香蕉久久网| 青草久久国产| 亚洲 欧美一区二区三区| 亚洲欧美激情在线| 亚洲少妇的诱惑av| 亚洲中文av在线| 十八禁人妻一区二区| 精品久久蜜臀av无| 亚洲欧美精品综合一区二区三区| av在线app专区| 日韩熟女老妇一区二区性免费视频| 99国产精品一区二区蜜桃av | 免费在线观看影片大全网站| 成年动漫av网址| 免费高清在线观看日韩| 免费久久久久久久精品成人欧美视频| 久久青草综合色| 一级a爱视频在线免费观看| 国产91精品成人一区二区三区 | 欧美日韩中文字幕国产精品一区二区三区 | 五月开心婷婷网| 最近最新免费中文字幕在线| av网站在线播放免费| 欧美 亚洲 国产 日韩一| 久久国产精品大桥未久av| 香蕉国产在线看| 丰满迷人的少妇在线观看| 亚洲欧美精品综合一区二区三区| 国产精品香港三级国产av潘金莲| 女人久久www免费人成看片| 69精品国产乱码久久久| 欧美大码av| 建设人人有责人人尽责人人享有的| 欧美老熟妇乱子伦牲交| 日韩一卡2卡3卡4卡2021年| 少妇猛男粗大的猛烈进出视频| 黑人巨大精品欧美一区二区蜜桃| av有码第一页| 热99re8久久精品国产| 国产精品久久久久成人av| 午夜免费观看性视频| 欧美在线一区亚洲| 亚洲avbb在线观看| a级毛片黄视频| 美女中出高潮动态图| 亚洲七黄色美女视频| 亚洲精品乱久久久久久| 咕卡用的链子| 免费黄频网站在线观看国产| 丝袜美腿诱惑在线| 午夜激情久久久久久久| 97精品久久久久久久久久精品| 日韩电影二区| 久9热在线精品视频| 国产免费一区二区三区四区乱码| 国产精品麻豆人妻色哟哟久久| 免费看十八禁软件| 日日摸夜夜添夜夜添小说| 国产xxxxx性猛交| 国产精品偷伦视频观看了| 少妇猛男粗大的猛烈进出视频| 国产淫语在线视频| 女警被强在线播放| 精品国产国语对白av| 久久久国产欧美日韩av| 国产精品久久久久久人妻精品电影 | 女性生殖器流出的白浆| 18禁裸乳无遮挡动漫免费视频| 丝袜脚勾引网站| 日韩,欧美,国产一区二区三区| 三级毛片av免费| a级毛片黄视频| 日本精品一区二区三区蜜桃| 69精品国产乱码久久久| 精品国产国语对白av| 日韩精品免费视频一区二区三区| 视频在线观看一区二区三区| 精品少妇久久久久久888优播| 伊人久久大香线蕉亚洲五| 国产av精品麻豆| 国产激情久久老熟女| 一区二区三区激情视频| 国产三级黄色录像| 久久久久视频综合| 啦啦啦啦在线视频资源| 亚洲av日韩精品久久久久久密| 久久久久久亚洲精品国产蜜桃av| 亚洲精品成人av观看孕妇| 大香蕉久久网| 亚洲第一欧美日韩一区二区三区 | 夫妻午夜视频| 老熟妇仑乱视频hdxx| 国产成人影院久久av| 99久久综合免费| 亚洲成av片中文字幕在线观看| 中文字幕色久视频| 亚洲熟女毛片儿| 一个人免费在线观看的高清视频 | 国产成人a∨麻豆精品| 天天躁狠狠躁夜夜躁狠狠躁| 午夜福利在线观看吧| 91精品伊人久久大香线蕉| 一区二区日韩欧美中文字幕| 精品熟女少妇八av免费久了| 欧美 亚洲 国产 日韩一| 亚洲久久久国产精品| 丰满人妻熟妇乱又伦精品不卡| 午夜精品国产一区二区电影| 亚洲av日韩在线播放| 亚洲欧美日韩高清在线视频 | 日本五十路高清| 国产日韩一区二区三区精品不卡| 国产亚洲精品一区二区www | 欧美黄色淫秽网站| 日韩 亚洲 欧美在线| 亚洲精品美女久久av网站| 首页视频小说图片口味搜索| 悠悠久久av| a级毛片在线看网站| 精品高清国产在线一区| 国产主播在线观看一区二区| 18禁黄网站禁片午夜丰满| 亚洲午夜精品一区,二区,三区| 亚洲精品国产精品久久久不卡| 久久久久国产一级毛片高清牌| 一边摸一边做爽爽视频免费| 黄色视频,在线免费观看| 久久午夜综合久久蜜桃| 十八禁高潮呻吟视频| 两性夫妻黄色片| 热99国产精品久久久久久7| 精品人妻熟女毛片av久久网站| 婷婷丁香在线五月| 欧美 日韩 精品 国产| 亚洲国产精品一区二区三区在线| 午夜免费鲁丝| 久久精品aⅴ一区二区三区四区| 日韩制服骚丝袜av| 国产精品一二三区在线看| 国产伦人伦偷精品视频| 啦啦啦中文免费视频观看日本| 国产在线观看jvid| 久久香蕉激情| 不卡av一区二区三区| 国产伦理片在线播放av一区| 国产精品秋霞免费鲁丝片| 亚洲专区国产一区二区| 丝袜美腿诱惑在线| 一区二区三区四区激情视频| 国产欧美日韩精品亚洲av| 国产极品粉嫩免费观看在线| 欧美精品亚洲一区二区| 91av网站免费观看| 91精品伊人久久大香线蕉| 亚洲第一青青草原| 首页视频小说图片口味搜索| 国产成人欧美| 老鸭窝网址在线观看| netflix在线观看网站| 欧美老熟妇乱子伦牲交| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲全国av大片| 波多野结衣一区麻豆| 一级a爱视频在线免费观看| 精品国产一区二区三区久久久樱花| 久久综合国产亚洲精品| 久久精品aⅴ一区二区三区四区| 中文字幕色久视频| 成年av动漫网址| 99精品久久久久人妻精品| 亚洲精品成人av观看孕妇| 亚洲国产精品一区二区三区在线| 丝袜美足系列| 一二三四社区在线视频社区8| 法律面前人人平等表现在哪些方面 | 亚洲精品国产av蜜桃| 麻豆av在线久日| 国产老妇伦熟女老妇高清| 美女高潮到喷水免费观看| 看免费av毛片| av有码第一页| 91精品国产国语对白视频| 啦啦啦 在线观看视频| 国产人伦9x9x在线观看| 国产一区有黄有色的免费视频| 女警被强在线播放| 日韩中文字幕欧美一区二区| 狠狠婷婷综合久久久久久88av| 搡老熟女国产l中国老女人| 午夜福利在线免费观看网站| 国产一区二区 视频在线| 青春草视频在线免费观看| 99热网站在线观看| 久久人人97超碰香蕉20202| 桃红色精品国产亚洲av| a 毛片基地| 老鸭窝网址在线观看| 五月天丁香电影| 欧美日韩亚洲综合一区二区三区_| 一区二区三区四区激情视频| 亚洲视频免费观看视频| 大片电影免费在线观看免费| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲免费av在线视频| 久久久久久久国产电影| 最新的欧美精品一区二区| 欧美激情久久久久久爽电影 | 亚洲av成人一区二区三| 久久久水蜜桃国产精品网| 久久久精品94久久精品| 精品一区二区三卡| 久久久久久亚洲精品国产蜜桃av| 亚洲少妇的诱惑av| 首页视频小说图片口味搜索| 精品人妻1区二区| bbb黄色大片| 三上悠亚av全集在线观看| 中文欧美无线码| 国产视频一区二区在线看| 人成视频在线观看免费观看| 欧美激情久久久久久爽电影 | 嫩草影视91久久| 精品一区二区三区四区五区乱码| 十八禁高潮呻吟视频| 国产区一区二久久| 搡老岳熟女国产| 日本猛色少妇xxxxx猛交久久| 久久亚洲精品不卡| 国产片内射在线| 在线观看免费视频网站a站| www.精华液| 久久av网站| 久久国产精品人妻蜜桃| 国产伦理片在线播放av一区| 久久影院123| 国产又色又爽无遮挡免| 国产男女内射视频| 精品国产一区二区三区四区第35| 十分钟在线观看高清视频www| 久久精品国产a三级三级三级| 欧美日韩一级在线毛片| 欧美亚洲日本最大视频资源| 国产精品成人在线| 激情视频va一区二区三区| 国产精品偷伦视频观看了| 婷婷色av中文字幕| 国产成人av教育| 亚洲欧美色中文字幕在线| 久久久久视频综合| 久久国产精品男人的天堂亚洲| 国产97色在线日韩免费| 精品人妻一区二区三区麻豆| bbb黄色大片| av天堂在线播放| 亚洲国产av新网站| 国产日韩欧美亚洲二区| 午夜激情久久久久久久| 久久狼人影院| 老司机福利观看| 男人添女人高潮全过程视频| 老司机午夜福利在线观看视频 | av在线播放精品| videosex国产| 真人做人爱边吃奶动态| 国产成人精品在线电影| 中文字幕高清在线视频| 午夜福利在线免费观看网站| 99九九在线精品视频| 精品国产一区二区三区久久久樱花| 亚洲成人手机| 中文字幕另类日韩欧美亚洲嫩草| 午夜激情av网站| 十八禁人妻一区二区| 日韩一区二区三区影片| 久久精品亚洲av国产电影网| 啦啦啦啦在线视频资源| 99热国产这里只有精品6| 国产亚洲av片在线观看秒播厂| 久久久久久亚洲精品国产蜜桃av| 男女午夜视频在线观看| 在线av久久热|