• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    元宇宙中數(shù)字人的法律地位探析

    2023-08-07 19:21:24丁鳳玲林冰雁
    關(guān)鍵詞:現(xiàn)實主體法律

    丁鳳玲,林冰雁

    (福州大學(xué) 法學(xué)院,福建 福州 350108)

    一、問題的提出

    1992年,斯蒂芬森在科幻小說《雪崩》一書中,首次提出了“元宇宙(metaverse)”的概念[1],并在書中對“元宇宙”的圖景作出了描述,即以數(shù)字化技術(shù)為支撐,構(gòu)建映射現(xiàn)實世界的、獨立的虛擬空間?,F(xiàn)實中相互隔離的自然人可以通過 “虛擬身份”進(jìn)行交往[2]。

    近年來,元宇宙發(fā)展迅猛,技術(shù)不斷迭代,已然由科幻詞匯日漸發(fā)展成為一種具有復(fù)雜性、多維性的全新社會形式[3]。2021年,元宇宙一詞成為焦點:Facebook母公司更名“Meta”,Roblox公司“元宇宙第一股”上市,日本FXCOIN成立元宇宙的業(yè)界團(tuán)體……全球范圍內(nèi)多家科技巨頭紛紛布局元宇宙。2022年,元宇宙發(fā)展勢頭不減,全國范圍內(nèi)至少30個地方出臺了元宇宙政策文件。

    然而,元宇宙的發(fā)展在促進(jìn)經(jīng)濟(jì)發(fā)展的同時也帶來了諸多新的法律挑戰(zhàn)。Oculus創(chuàng)始人開發(fā)新的VR頭顯,其目標(biāo)是通過技術(shù)讓在元宇宙游戲中死亡的玩家,同時在現(xiàn)實社會中失去生命。諸如此類的事情表明,元宇宙不是技術(shù)中立、法律無須干預(yù)的空間。如何在元宇宙中構(gòu)建法律規(guī)則,引導(dǎo)技術(shù)促進(jìn)社會發(fā)展、保護(hù)權(quán)利、維護(hù)安全是法學(xué)界亟需研究的問題。

    元宇宙中的虛擬財產(chǎn)應(yīng)當(dāng)如何認(rèn)定?是否應(yīng)當(dāng)對其進(jìn)行保護(hù)?元宇宙中發(fā)生的違法犯罪行為應(yīng)當(dāng)如何處理?是否有必要作出處罰?想要解決這類問題,首先需要明確,在元宇宙環(huán)境下,作為行為主體的數(shù)字人,應(yīng)當(dāng)如何認(rèn)定其法律地位?關(guān)于現(xiàn)實自然人在網(wǎng)絡(luò)空間內(nèi)的虛擬身份,學(xué)界早有相關(guān)研究,問題主要圍繞現(xiàn)實自然人在網(wǎng)絡(luò)空間內(nèi)的身份認(rèn)定等展開,包括虛擬身份的法律屬性以及其應(yīng)當(dāng)如何承擔(dān)法律責(zé)任等。多數(shù)學(xué)者認(rèn)為,現(xiàn)實自然人的網(wǎng)絡(luò)虛擬身份缺乏獨立的意思表示能力,缺少成為法律主體的條件,不宜視為法律主體[4]。對于網(wǎng)絡(luò)空間內(nèi)的侵權(quán)行為,應(yīng)當(dāng)基于現(xiàn)有法律體系,構(gòu)建網(wǎng)絡(luò)環(huán)境下的新規(guī)則[5]。 然而,隨著虛擬空間技術(shù)的進(jìn)步與發(fā)展,元宇宙日漸成型,數(shù)字人的發(fā)展也呈現(xiàn)復(fù)雜化趨勢,現(xiàn)實自然人在網(wǎng)絡(luò)空間內(nèi)的虛擬身份僅是數(shù)字人中的一類。因此,對數(shù)字人法律地位與法律規(guī)則的研究應(yīng)結(jié)合實踐的發(fā)展,在厘清各類數(shù)字人區(qū)別特征的基礎(chǔ)上展開。

    現(xiàn)階段,理論界針對元宇宙中數(shù)字人的研究并不多,且研究成果呈現(xiàn)碎片化,多側(cè)重于分析數(shù)字人發(fā)展所帶來的問題,而有關(guān)數(shù)字人法律規(guī)制的系統(tǒng)研究較少。已有研究或從知識產(chǎn)權(quán)角度切入,闡述賦予元宇宙內(nèi)數(shù)字人以著作權(quán)所帶來的問題,從而否定其享有著作權(quán)[6];或從信賴機制切入,強調(diào)數(shù)字身份認(rèn)證難題,主張應(yīng)在元宇宙引入準(zhǔn)入制度[7];或從共識機制切入,闡述數(shù)字人應(yīng)當(dāng)在遵守法的基本精神的基礎(chǔ)上進(jìn)行創(chuàng)造與發(fā)展[8]??傮w來說,目前理論界的相關(guān)研究結(jié)果缺乏聯(lián)系性,無法形成邏輯體系,且尚未有就不同類型數(shù)字人的法律地位這一基礎(chǔ)問題展開針對性探討的成果。故下文將以“元宇宙中數(shù)字人的法律地位”為研究對象,以類型化的數(shù)字人為基礎(chǔ),結(jié)合元宇宙的發(fā)展前景,試探討不同類型的數(shù)字人的法律地位及其特殊規(guī)則。

    二、元宇宙數(shù)字人概念的提出及其類型化

    數(shù)字人,亦可稱之為虛擬人,即存在于虛擬世界中,通過多重計算機技術(shù)進(jìn)行構(gòu)建與應(yīng)用,具有多重人文特征的綜合性產(chǎn)物[9]。根據(jù)數(shù)字人的構(gòu)建技術(shù)不同,可將數(shù)字人分為虛擬增強技術(shù)下的現(xiàn)實型數(shù)字人和人工智能技術(shù)下的造人型數(shù)字人;而人工智能技術(shù)下的造人型數(shù)字人根據(jù)其自主化的程度,又可以分為自動化數(shù)字人以及自主性數(shù)字人。

    (一)虛擬增強技術(shù)下的現(xiàn)實型數(shù)字人

    虛擬增強技術(shù)下的現(xiàn)實型數(shù)字人是指采用虛擬增強技術(shù),以現(xiàn)實世界中的實際人物為模板進(jìn)行設(shè)定而創(chuàng)造出的數(shù)字人,如虛擬社交平臺Horizon Worlds、游戲《羅布樂思》等。自然人通過一定的設(shè)備,如虛擬頭顯Quest系列登錄元宇宙,創(chuàng)建自己的虛擬身份,并在這一虛擬空間中實現(xiàn)現(xiàn)實世界的社會交往,獲得沉浸式的體驗感。其中,自然人創(chuàng)建的虛擬身份便屬于現(xiàn)實型數(shù)字人。現(xiàn)階段,無論在游戲元宇宙還是社交元宇宙,現(xiàn)實型數(shù)字人都是不可或缺的核心構(gòu)建要素。虛擬增強技術(shù)下的現(xiàn)實型數(shù)字人的主要特征是虛實交融性。首先,虛擬增強技術(shù)下的現(xiàn)實型數(shù)字人的構(gòu)建技術(shù)主要是數(shù)字孿生。數(shù)字孿生是充分利用物理模型、傳感器更新及海量數(shù)據(jù)而整合多種學(xué)科及不同尺度的仿真過程[10]。故數(shù)字孿生可以理解為現(xiàn)實世界在虛擬世界的映射[11]。其次,現(xiàn)實型數(shù)字人的數(shù)據(jù)來源是現(xiàn)實自然人的身份數(shù)據(jù)。最后,虛實交融性體現(xiàn)在意志方面?,F(xiàn)實型數(shù)字人的意志與行為是由現(xiàn)實自然人所操縱的[12]??梢哉f,虛擬增強技術(shù)下的現(xiàn)實型數(shù)字人是現(xiàn)實自然人在元宇宙中的映射。

    (二)人工智能技術(shù)下的造人型數(shù)字人

    人工智能技術(shù)下的造人型數(shù)字人是指存在于元宇宙中,通過人工智能技術(shù)創(chuàng)造并使用的虛擬人。根據(jù)數(shù)字人的自主化程度的不同,造人型數(shù)字人還可以分為自動化數(shù)字人和自主性數(shù)字人。即自動化數(shù)字人與自主性數(shù)字人最本質(zhì)的區(qū)別在于數(shù)字人是否完全受其生產(chǎn)者、設(shè)計者與使用者的控制。

    1.自動化數(shù)字人

    自動化數(shù)字人是指依托人工智能技術(shù)創(chuàng)造出來的、具有自動性,但尚未達(dá)到完全獨立的數(shù)字人,如虛擬偶像洛天依(1)洛天依是基于語音合成軟件VOCALOID系列制作的女性虛擬歌手、虛擬偶像,現(xiàn)隸屬于上海禾念信息科技有限公司。使用者通過輸入音符與歌詞來合成歌聲,調(diào)整語調(diào),配合伴奏數(shù)據(jù),繪制配合歌曲的洛天依形象,就能讓虛擬歌手洛天依演唱屬于自己的歌曲。、人工智能(artificial intelligence,AI)手語主播和虛擬數(shù)字人 “希加加”(2)希加加是百度集團(tuán)推出的AI數(shù)字人。作為首個實現(xiàn)人工智能技術(shù)生成內(nèi)容的數(shù)字虛擬偶像,希加加擁有八大核心能力,包括面部驅(qū)動、口型驅(qū)動、變聲器、PLATO實時語言互動、任意換妝換裝、機器學(xué)習(xí)唱歌、跳舞以及高精度數(shù)字人實時直播。、3D超寫實虛擬數(shù)字人“小C”(3)小C是央視網(wǎng)推出的數(shù)字虛擬小編,曾在“兩會C+真探系列直播節(jié)目”中擔(dān)任起了記者的角色,與梁倩娟、馬慧娟等全國人大代表進(jìn)行獨家對話。、湖南衛(wèi)視虛擬主持人“小漾”(4)“小漾”是湖南衛(wèi)視首位數(shù)字主持人,于2021年10月2日首次亮相,并成為湖南衛(wèi)視實習(xí)主持人,是由5G高新視頻多場景應(yīng)用國家廣播電視總局重點實驗室以及湖南芒果幻視科技有限公司共同打造的數(shù)字人。、可交互虛擬偶像度曉曉(5)度曉曉是百度公司推出的手機虛擬AI助手,是國內(nèi)首個可交互虛擬偶像。在百度應(yīng)用搜索“度曉曉”即可召喚度曉曉作為語音搜索助理,體驗度曉曉帶來的智能語音搜索、搜索播報等能力,還可與度曉曉進(jìn)行實時對話,進(jìn)行情感交流。,以及各大銀行推出的虛擬客服、各大平臺推出的虛擬主播等[13]?,F(xiàn)階段,自動化數(shù)字人被廣泛應(yīng)用于娛樂、新聞、金融、游戲等領(lǐng)域。受數(shù)字化時代發(fā)展的影響,自動化數(shù)字人所具有的優(yōu)勢愈發(fā)突出,應(yīng)用范圍也愈發(fā)廣泛。自動化數(shù)字人具有以下的特征:第一,虛擬性。自動化數(shù)字人是依托計算機技術(shù)與算法創(chuàng)造出來的產(chǎn)物,在現(xiàn)實世界中并無原型。第二,自動性。一方面,自動化數(shù)字人能夠依據(jù)算法和程序的既有設(shè)定,根據(jù)不同的實際情況獨立作出判斷;另一方面,自動化數(shù)字人的行為是算法與程序控制的結(jié)果,實質(zhì)是其生產(chǎn)者、設(shè)計者與使用者的意志的延伸。簡言之,自動化數(shù)字人是具有自動性的虛擬產(chǎn)物。

    2.自主性數(shù)字人

    自主性數(shù)字人是指依托人工智能技術(shù)創(chuàng)造出來的、添加了擬人化結(jié)構(gòu)、能夠獨立作出意思表示的虛擬人。雖然自主性數(shù)字人的誕生與應(yīng)用需要人類的參與,但是自主性數(shù)字人的生產(chǎn)者、設(shè)計者和使用者已無法對其進(jìn)行控制。自主是一種獨立狀態(tài),是指在某些運行領(lǐng)域中,智能機器在現(xiàn)實世界中能夠長期運行且不受任何形式的外部影響的能力[14]。自主性數(shù)字人的自主性主要表現(xiàn)為:第一,自主性數(shù)字人具備與人類進(jìn)行交互的能力。這種交互是自主性數(shù)字人在擺脫了其生產(chǎn)者、設(shè)計者和使用者制約的基礎(chǔ)上所作出的回應(yīng)。第二,自主性數(shù)字人具有學(xué)習(xí)能力。自主性數(shù)字人具有較強的學(xué)習(xí)能力,能獨立進(jìn)行學(xué)習(xí)并了解世界。在深度學(xué)習(xí)等技術(shù)的加持下,自主性數(shù)字人所掌握的知識在一定程度上超出程序的設(shè)置,超出其生產(chǎn)者與設(shè)計者的預(yù)設(shè)[15]。第三,自主性數(shù)字人可獨立地作出意思表示,并將其付諸實踐。這也是自主性數(shù)字人與現(xiàn)實型數(shù)字人以及自動化數(shù)字人最大的區(qū)別。

    三、現(xiàn)實型數(shù)字人的法律地位:自然人所擁有的法律地位

    (一)現(xiàn)實型數(shù)字人的法律地位分析

    虛擬增強技術(shù)下的現(xiàn)實型數(shù)字人是現(xiàn)實自然人在元宇宙中的虛擬化展示。在元宇宙環(huán)境中,現(xiàn)實型數(shù)字人的法律地位應(yīng)是自然人所擁有的法律地位。

    1.現(xiàn)實型數(shù)字人是自然人在元宇宙的“分身”

    虛擬增強技術(shù)下的現(xiàn)實型數(shù)字人是現(xiàn)實自然人的意志與能力在元宇宙中的延伸與拓展。與自動化數(shù)字人相比,現(xiàn)實型數(shù)字人具有意志性,體現(xiàn)在其意志與行為皆由現(xiàn)實自然人本身控制,不受外部其他因素的影響?,F(xiàn)實自然人在元宇宙中以數(shù)字人的形態(tài)開展各項活動,直接體現(xiàn)了自然人的意志,故現(xiàn)實型數(shù)字人的行為要素只能由其背后的現(xiàn)實自然人所決定,服從于現(xiàn)實自然人的意志[16]。

    現(xiàn)實型自然人是以現(xiàn)實世界的自然人為模板,通過技術(shù)中介增強自然人感知能力的虛擬數(shù)字人[17]?,F(xiàn)實型自然人是高度自我呈現(xiàn)的信息傳送器[18],可以傳達(dá)出關(guān)于自然人某些準(zhǔn)確且獨特的信息[19],這些信息往往是自然人的身份數(shù)據(jù),與自然人的人格息息相關(guān)。現(xiàn)實型數(shù)字人是自然人深度沉浸于元宇宙中,其精神與意志向元宇宙的投射。現(xiàn)實型數(shù)字人蘊含自然人的精神,是自然人的人格在虛擬空間的進(jìn)一步拓展與延伸[20]。因此,在認(rèn)定現(xiàn)實型數(shù)字人的法律地位時,應(yīng)當(dāng)認(rèn)為其地位就是自然人所擁有的法律地位。

    2.現(xiàn)實型數(shù)字人是自然人在元宇宙的權(quán)益載體

    應(yīng)當(dāng)賦予現(xiàn)實型數(shù)字人以自然人所擁有的法律地位,根本原因在于元宇宙中需要對自然人的合法權(quán)益給予法律保護(hù)。元宇宙的創(chuàng)設(shè)為現(xiàn)實世界的自然人提供了一個開放、自由的沉浸式環(huán)境,使自然人可以突破傳統(tǒng)意義上的時空限制[21]。在元宇宙中,自然人可以通過現(xiàn)實型數(shù)字人感受到社會的存在,理應(yīng)受社會規(guī)則的約束。為促進(jìn)自身的發(fā)展,元宇宙對使用者的行為并不限制。部分在現(xiàn)實中早已為法律所禁止的行為在元宇宙的環(huán)境中被僭越或豁免,這不僅是對元宇宙所追求的價值取向的違背和踐踏,更是對現(xiàn)實世界的道德認(rèn)知標(biāo)準(zhǔn)與法律體系的挑戰(zhàn)。

    現(xiàn)實型數(shù)字人的構(gòu)建數(shù)據(jù)是與特定自然人密切相關(guān)的身份數(shù)據(jù)。身份數(shù)據(jù)包含與現(xiàn)實自然人具有利害關(guān)系的諸多信息,如自然人的身體活動數(shù)據(jù)以及神經(jīng)活動數(shù)據(jù)[22]。若該信息數(shù)據(jù)泄露,極有可能會對自然人的人格權(quán)造成損害,影響自然人的正常社會交往與生活,如中華人民共和國最高人民法院發(fā)布的典型案例“AI陪伴軟件侵害人格權(quán)案”[23]。

    (二)現(xiàn)實型數(shù)字人的特殊規(guī)則分析

    作為未來科技與產(chǎn)業(yè)革命的新風(fēng)口,元宇宙應(yīng)用于娛樂、教育、金融及法律等多領(lǐng)域。然而,作為現(xiàn)實自然人在元宇宙的分身,現(xiàn)實型數(shù)字人存在法律需要解決的問題。比較典型的就是,現(xiàn)實型數(shù)字人的構(gòu)建與自然人的人格權(quán),尤其是個人隱私權(quán)存在較大的沖突,需要法律對其進(jìn)行特別規(guī)制[24]?,F(xiàn)階段,由于缺少準(zhǔn)入制度,在元宇宙內(nèi)易出現(xiàn)虛假身份、多元身份等問題,致使元宇宙的信賴基礎(chǔ)薄弱,社會交往難以開展,故需完善現(xiàn)實型數(shù)字人的準(zhǔn)入制度。

    “人不僅是一種追求目的的動物,而且在很大程度上是一種遵循規(guī)則的動物”[25]?,F(xiàn)實型數(shù)字人是自然人在元宇宙的“分身”,據(jù)此,現(xiàn)實型數(shù)字人應(yīng)擁有自然人的部分權(quán)利,如人格權(quán)等;也需要承擔(dān)自然人的部分義務(wù),如遵守法律法規(guī)等。現(xiàn)實型數(shù)字人是存在于元宇宙中的虛擬產(chǎn)物,其權(quán)利義務(wù)不能完全等同于自然人的權(quán)利義務(wù),如現(xiàn)實型數(shù)字人不具有生命權(quán)。元宇宙中的現(xiàn)實型數(shù)字人是其核心構(gòu)成要素,現(xiàn)實型數(shù)字人的交往與互動需要身份認(rèn)同與信任[26],故需建立信任的制度機制,主要體現(xiàn)在嚴(yán)格的準(zhǔn)入制度。

    現(xiàn)實型數(shù)字人的準(zhǔn)入,應(yīng)由具有權(quán)威性的國家認(rèn)證平臺統(tǒng)一注冊。由于現(xiàn)實型數(shù)字人所蘊含的身份數(shù)據(jù)涉及特定自然人人格,加之元宇宙的適用范圍日益廣泛,客觀上需要建立一個統(tǒng)一的認(rèn)定現(xiàn)實型數(shù)字人準(zhǔn)入資格的系統(tǒng)與制度體系,從而將與自然人密切相關(guān)的數(shù)據(jù)統(tǒng)一存儲在官方信息庫,進(jìn)行加密保護(hù)與管理。國家認(rèn)證平臺應(yīng)對自然人所提供的各類數(shù)據(jù),如個人身份數(shù)據(jù)等進(jìn)行收集與核查,對提供真實有效的信息且符合準(zhǔn)入條件的自然人予以注冊。另外,國家認(rèn)證平臺可以設(shè)置區(qū)別對待制度:對具有不同行為能力的自然人予以不同的認(rèn)證要求或是不認(rèn)證,降低自然人在元宇宙中的識別成本。

    通過建立國家統(tǒng)一的認(rèn)證平臺,可實現(xiàn)國家對元宇宙的監(jiān)管,為國家在元宇宙中的法治提供支持,確保國家對元宇宙的控制管理權(quán)[27]。同時,建立嚴(yán)格的認(rèn)證制度與標(biāo)準(zhǔn),能夠?qū)Ω黝惿矸輸?shù)據(jù)進(jìn)行集中化管理,避免分散化帶來的數(shù)據(jù)泄露風(fēng)險,可有效減少大量虛假身份信息,獲取社會普遍信任[28]。

    四、自動化數(shù)字人的法律地位:法律客體

    (一)自動化數(shù)字人的法律地位分析

    自動化數(shù)字人是尚未達(dá)到完全獨立的數(shù)字人,缺少成為法律主體的條件,不足以被賦予法律主體地位;因此,應(yīng)當(dāng)確定自動化數(shù)字人為法律客體。

    1.自動化數(shù)字人不具備成為法律主體的實質(zhì)要素

    雖然自動化數(shù)字人在某些特定方面,如計算能力等會遠(yuǎn)勝于人類,但其仍不具備獨立的思維能力與行動能力。自動化數(shù)字人所展現(xiàn)出來的行為是算法與程序運行的結(jié)果,其實質(zhì)為人類直接或間接的命令或者指令。這一行為模式所帶來的主要后果就是自動化數(shù)字人難以依據(jù)實際情況的變化來改變、修正原有模式。作為一個人造產(chǎn)物,自動化數(shù)字人存在的目的由其生產(chǎn)者、設(shè)計者與使用者決定。自動化數(shù)字人的認(rèn)識能力與學(xué)習(xí)能力有限,只能通過人類編寫的算法與程序以及收集的數(shù)據(jù)來進(jìn)行認(rèn)知與學(xué)習(xí),而非自主地、獨立地獲取知識、認(rèn)識世界。自動化數(shù)字人依靠人類輸入大量的指令來進(jìn)行下一步行動,依賴于人類的控制。因此,自動化數(shù)字人缺乏自主性,其本質(zhì)是自然人能力的延伸。

    2.自動化數(shù)字人不具有成為法律主體的規(guī)范價值

    與人類不同,自動化數(shù)字人無法識別人類的價值規(guī)范與道德倫理、無法獨立把控自己的行為、無法自主遵守社會規(guī)范、無法主動參與社會實踐。自動化數(shù)字人的行為受制于其創(chuàng)造者與使用者,所有的選擇與決定來自于算法與程序推算出的最佳方案。自動化數(shù)字人的本質(zhì)是自然人的工具和附屬物,是自然人能力的延伸。因此,自動化數(shù)字人無法獨立自主地承擔(dān)責(zé)任,故不宜將自動化數(shù)字人視為法律主體進(jìn)行規(guī)范,應(yīng)視之為法律客體。

    在規(guī)范價值方面,賦予自動化數(shù)字人以法律主體地位不具備較高的實際價值。自動化數(shù)字人被設(shè)計出來是為了實現(xiàn)人的能力的延伸,若賦予自動化數(shù)字人以法律主體地位,其便可獨立承擔(dān)責(zé)任。自動化數(shù)字人背后的實際生產(chǎn)者、設(shè)計者或是使用者便會以此為理由逃避法律責(zé)任,從而產(chǎn)生“責(zé)任縫隙”[29]的法律問題。另外,以人類中心主義的角度來看,賦予作為人類工具的自動化數(shù)字人以法律主體地位是對人類價值的貶損,不利于維護(hù)人類的尊嚴(yán)。簡言之,自動化數(shù)字人不應(yīng)被賦予法律主體地位,而應(yīng)被認(rèn)定為法律客體。

    (二)自動化數(shù)字人特殊規(guī)則分析

    自動化數(shù)字人不享有法律主體地位,應(yīng)被認(rèn)定為法律客體,因此,其法律規(guī)則的特殊性首先應(yīng)體現(xiàn)在歸責(zé)制度上,尤其是損害責(zé)任的承擔(dān)問題。此外,自動化數(shù)字人具有高度的自動性,使之區(qū)別于一般的法律客體?,F(xiàn)階段,自動化數(shù)字人的使用缺乏規(guī)范性管理,其形象或場景易遭有心之人利用,從而造成版權(quán)糾紛、隱私披露、數(shù)據(jù)泄露、道德失格等多方面風(fēng)險。因此,如何對自動化數(shù)字人進(jìn)行有效的監(jiān)督是一個關(guān)鍵問題。

    第一,歸責(zé)制度。自動化數(shù)字人缺乏自主性,其行為本質(zhì)是自然人能力的延伸,故應(yīng)當(dāng)賦予自動化數(shù)字人以法律客體地位。作為法律客體,自動化數(shù)字人無法獨立承擔(dān)責(zé)任。因自動化數(shù)字人的行為而導(dǎo)致的損害責(zé)任應(yīng)由其生產(chǎn)者、設(shè)計者與使用者承擔(dān),具體的責(zé)任主體還需分情形討論。首先是生產(chǎn)者與設(shè)計者責(zé)任。基于民法中的肇事者理論,肇事者應(yīng)當(dāng)為其所實施的行為承擔(dān)責(zé)任。若生產(chǎn)或設(shè)計自動化數(shù)字人的主要目的是從事侵權(quán)行為,那么生產(chǎn)者與設(shè)計者應(yīng)當(dāng)承擔(dān)侵權(quán)損害賠償責(zé)任。若自動化數(shù)字人的損害行為由設(shè)計或技術(shù)上的缺陷造成,那么生產(chǎn)者與設(shè)計者存在過錯,他們在沒有免責(zé)事由的情況下需要承擔(dān)相應(yīng)的產(chǎn)品責(zé)任。其次是使用者責(zé)任。同理,若自動化數(shù)字人的損害行為由其使用者造成,那么使用者對于損害結(jié)果的發(fā)生存在一定的過錯,應(yīng)當(dāng)承擔(dān)相應(yīng)的賠償責(zé)任[30]。最后是基金或保險救濟(jì)。若自動化數(shù)字人的損害行為并非由其自身缺陷造成,那么生產(chǎn)者、設(shè)計者與使用者對損害的發(fā)生也不存在過錯,則不宜由自動化數(shù)字人的生產(chǎn)者、設(shè)計者或使用者承擔(dān)損害責(zé)任,可以設(shè)立相應(yīng)的救助基金或是保險制度加以救濟(jì)[31]。

    針對自動化數(shù)字人,政府可以建立強制責(zé)任保險的制度,以保障受害人獲得損害賠償。具體而言,自動化數(shù)字人的生產(chǎn)者、設(shè)計者或使用者都需要為自動化數(shù)字人購買保險,以形成特定的潛在資金池作為保險金。生產(chǎn)者、設(shè)計者或使用者投保后,在一定條件下,無需為自動化數(shù)字人所導(dǎo)致的損害支付更多費用[32]。除了強制責(zé)任保險制度,建立救濟(jì)基金亦是可行之策。自動化數(shù)字人的侵權(quán)損害救濟(jì)可借鑒智能汽車救濟(jì)基金制度,即設(shè)立責(zé)任附加費,由自動化數(shù)字人的生產(chǎn)者、設(shè)計者或使用者提供資金,創(chuàng)立自動化數(shù)字人的責(zé)任基金。在自動化數(shù)字人出現(xiàn)致?lián)p行為,無法歸咎于其生產(chǎn)者、設(shè)計者或是使用者時,受害人可以向責(zé)任基金申請一定數(shù)額的賠償金。

    第二,規(guī)范監(jiān)督制度。自動化數(shù)字人具有自動化特性,其行為可能造成一定的法律后果。為此,需要建立相應(yīng)的規(guī)范監(jiān)督制度,對自動化數(shù)字人的行為進(jìn)行監(jiān)督管理??梢灶惐痊F(xiàn)行《中華人民共和國民法典》中的監(jiān)護(hù)制度對自動化數(shù)字人進(jìn)行監(jiān)督管理。民法上的監(jiān)護(hù),是指對無民事行為能力人及限制民事行為能力人的人身、財產(chǎn)等合法權(quán)益進(jìn)行監(jiān)督與保護(hù)[33]。以此為參照,自動化數(shù)字人的規(guī)范監(jiān)督制度是設(shè)立相應(yīng)的監(jiān)督者,對自動化數(shù)字人的行為進(jìn)行監(jiān)督與管理。監(jiān)督者應(yīng)當(dāng)是自動化數(shù)字人的生產(chǎn)者、設(shè)計者或使用者。監(jiān)督者的職責(zé)主要包括:(1)監(jiān)督管理職責(zé)。即監(jiān)督和管理自動化數(shù)字人的日常行為,對其非正常行為進(jìn)行修正以避免損害行為的發(fā)生。(2)責(zé)任承擔(dān)與救濟(jì)職責(zé)。當(dāng)發(fā)生自動化數(shù)字人致人損害的情形,而監(jiān)督者未盡到監(jiān)督責(zé)任時,監(jiān)督者應(yīng)當(dāng)與自動化數(shù)字人的生產(chǎn)者、設(shè)計者或使用者共同承擔(dān)責(zé)任。較之事后救濟(jì),監(jiān)督者制度具有更強的主動性和靈活性,可以實現(xiàn)預(yù)防性救濟(jì),較早地對自動化數(shù)字人的非正常行為進(jìn)行規(guī)制,從而減少大規(guī)模的損害,減輕自動化數(shù)字人的生產(chǎn)者與使用者的責(zé)任承擔(dān),客觀上促進(jìn)科學(xué)技術(shù)的發(fā)展。

    五、自主性數(shù)字人的法律地位:“非人”可“人”

    (一)“非人”可“人”的法律實踐探索

    目前,各國尚未明確元宇宙中自主性數(shù)字人的法律地位,但是對于賦予“非人”以法律主體地位的實踐卻由來已久。此類實踐可以為自主性數(shù)字人的法律主體地位提供法律實踐支撐。

    部分國家或地區(qū)已經(jīng)賦予或建議賦予人工智能以法律主體地位。如2010年,日本授予寵物機器人帕羅以戶籍。2016年,美國國家公路交通安全管理局(National Highway Traffic Safety Administration,NHTSA)表示,自動駕駛汽車中的自動駕駛系統(tǒng)可視為“駕駛員”[34]。2017年,沙特政府授予“女性”機器人索菲亞以公民身份。2017年,歐洲議會通過《關(guān)于機器人民事法律規(guī)則立法建議致歐盟委員會的報告草案》,賦予機器人以“電子人”的法律主體地位。2017年,俄羅斯民法學(xué)者起草了具有專家建議稿性質(zhì)的《在完善機器人領(lǐng)域關(guān)系法律調(diào)整部分修改俄羅斯聯(lián)邦民法典的聯(lián)邦法律》(以下簡稱“格里申法案”)(6)《格里申法案》(以下簡稱“法案”)的基本理念為,機器人可以被視作與動物具有特定相似性的財產(chǎn)。根據(jù)機器人的發(fā)展,有望將機器人作為人類的自主代理人。因此,在對機器人的法律調(diào)整上提出了使用對動物和法人的調(diào)整規(guī)則的理念。人工智能由于缺乏情感不能作為權(quán)利主體,但機器人像動物一樣可以完成自主行為,能做“人類需要運用智能才能去做的事情”。機器人作為特殊的法律構(gòu)造,允許類推適用統(tǒng)一國家法人登記簿而創(chuàng)設(shè)機器人登記簿。[35],是俄羅斯首部也是世界上最早的關(guān)于智能機器人的法律地位的法律草案之一。2017 年,《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》(國發(fā)〔2017〕35號)指出,為了應(yīng)對人工智能的應(yīng)用發(fā)展,應(yīng)當(dāng)解決人工智能的法律地位問題,明確權(quán)利、義務(wù)及責(zé)任的內(nèi)容,為其提供法律制度的支撐[36]。此外,在瑞士,雇傭機器人的雇主需要同雇傭自然人一樣為機器人納稅。日本部分公司需要為機器人繳納工會費[37]。上述實踐充分說明法律主體的發(fā)展已進(jìn)入“非人”可“人”的階段,并非只有“生物人”才有資格成為法律主體。法律主體地位亦不再為自然人所獨享,而是成為一個抽象的概念,即用以解決社會特定需求的法律技術(shù)。誠如部分學(xué)者認(rèn)為:主體制度應(yīng)當(dāng)是一個開放且發(fā)展的體系,法律可以賦予某一社會存在以主體地位,以便其能在參加法律關(guān)系時更有效地實現(xiàn)自身的社會功能[38]。

    (二)“非人”可“人”的法律發(fā)展史

    法學(xué)界對于是否應(yīng)當(dāng)賦予動物以法律主體地位爭議頗大。但是,動物作為法律主體參與審判,在法律史上早有記錄。9世紀(jì)到19世紀(jì),僅西歐就發(fā)生了兩百多件審判動物的案件。動物享有自然權(quán)利,擁有辯護(hù)律師,也要承擔(dān)不利的法律后果。雖然動物審判被視為荒誕不經(jīng)的審判,但不可忽略其所具有的法律價值與歷史意義。動物審判包含西方傳統(tǒng)的法律主體觀念[11]42。近現(xiàn)代以來,法律史上已有對動物法律主體地位的部分承認(rèn)。1991年,瑞士蘇黎世州法律規(guī)定被虐待的動物可擁有律師以保護(hù)自身權(quán)益。1992年,瑞士通過《瑞士聯(lián)邦憲法修正案》,正式將動物作為“存在體”或“類”納入憲法[39]。

    在人類不同文明發(fā)展的各個時期,都有以無生命體為法律主體的例子。古羅馬時期的寺廟和中世紀(jì)的宗教建筑都曾被看作是權(quán)利主體。而古希臘法也曾將船只作為義務(wù)主體。法律史上甚至有過對物品的審判。進(jìn)入21世紀(jì),仍有無生命體成為法律主體的實例。2014年,新西蘭的國家公園Te Urewera獲批成為法人。2017年3月,新西蘭通過了《旺格努伊河理賠法案》,承認(rèn)其境內(nèi)河流旺格努伊河為“法律人”,并賦予其特定的權(quán)利義務(wù)[40]。這些無生命體雖然不具有任何的意志情感與理性,不符合傳統(tǒng)的法律主體要素,但它們對人類社會具有重要意義。為更加全面地保護(hù)這些無生命體,法律將其視之為“人”,賦予其法律主體的地位。

    上述法律主體的發(fā)展史說明:法律主體的范圍不斷擴張,生物因素不應(yīng)被視為賦予法律主體地位的限制[41]。同時,法律主體制度的構(gòu)建應(yīng)立足于特定的社會歷史環(huán)境,并考慮經(jīng)濟(jì)發(fā)展水平、社會價值取向等因素。若與人類無任何相似的河流公園被賦予法律主體地位,那么應(yīng)有確立自主性數(shù)字人為法律主體的制度空間。

    (三)作為“非人”的自主性數(shù)字人應(yīng)為“人”的依據(jù)

    自動化數(shù)字人缺乏深度自主學(xué)習(xí)的能力,尚不具有自我意識,其所表現(xiàn)出來的行為皆是算法與程序運行的結(jié)果。即使其部分行為超出人類預(yù)計,看似自主,但實際上也無法擺脫算法與程序的制約??梢哉f,自動化數(shù)字人依舊是人類的工具。相較于此,自主性數(shù)字人最顯著的特征是自主性。自主是一種獨立狀態(tài),即不受外部控制,能夠自主作出決定并且將該決定付諸行動的狀態(tài)。自主性數(shù)字人的設(shè)置加入了擬人化的結(jié)構(gòu),能夠根據(jù)“反饋學(xué)習(xí)”的結(jié)果來判斷算法和參數(shù)的正確性,進(jìn)行實時的修正,不斷改進(jìn)自身行為,這是一個趨近于人類認(rèn)知的過程[15]79。并且,自主性數(shù)字人不再受限于其生產(chǎn)者、設(shè)計者與使用者,可以擺脫他們的控制,具有了自我意志與獨立思考的能力,能夠進(jìn)行自主判斷和決策,在某些方面已經(jīng)達(dá)到人類智能甚至超出人類智能。在元宇宙環(huán)境下,自主性數(shù)字人雖然是人類創(chuàng)造出來的,但人類對其設(shè)計和編制的程序使自主性數(shù)字人獲得了思考與學(xué)習(xí)的能力[42]。這一能力使自主性數(shù)字人擺脫了算法和程序的制衡,產(chǎn)生自主的意志與意識?!都兇夥ɡ碚摗分赋?,“人之所以為法律主體,便在于其所被賦予之自治可能,換言之,在于其意志”[43]。自主性數(shù)字人擁有獨立的意志是其擁有法律主體地位的關(guān)鍵。

    自主性數(shù)字人帶來了可預(yù)見性挑戰(zhàn)。即便是最小心謹(jǐn)慎的設(shè)計者及生產(chǎn)者都無法預(yù)測或控制人工智能系統(tǒng)在脫離他們之后將會經(jīng)歷的事[44],這是人工智能的可預(yù)見性問題。同樣的,以人工智能技術(shù)為基礎(chǔ)構(gòu)建的自主性數(shù)字人也將面臨可預(yù)見性挑戰(zhàn)。自主性數(shù)字人將會涉及更為廣闊且深奧的層次與環(huán)境,人類無法預(yù)測自主性數(shù)字人如何行動,甚至有人認(rèn)為自主性數(shù)字人的行為將會偏離人類的認(rèn)知過程[45]。但是,由于“算法黑箱”的存在,自主性數(shù)字人的行為與決策存在不透明性與不可解釋性。在自主性數(shù)字人“失控”致人損害的情況下,很難查明損害原因,或者查明損害原因的成本過于高昂。而按照現(xiàn)行歸責(zé)原則,自主性數(shù)字人“失控”致人損害的風(fēng)險與責(zé)任應(yīng)由其生產(chǎn)者、設(shè)計者與使用者承擔(dān)。原因在于無法徹底消除自主性數(shù)字人的本質(zhì)屬性,或者說這是技術(shù)創(chuàng)新與發(fā)展所附帶的無法徹底消除、需要整個社會共同分擔(dān)的必要風(fēng)險。如果只是部分人承擔(dān)全部責(zé)任,不僅會妨礙技術(shù)的發(fā)展與創(chuàng)新,也不符合正義原則的要求。歐洲議會《機器人民事法律規(guī)則》決議第AB段指出,機器人自主性越強,作為人類控制的簡單工具的可能性就越小。該決議建議承認(rèn)人工智能的電子人主體資格并構(gòu)造新主體類型。因此,賦予自主性數(shù)字人以法律主體地位較為適宜。

    (四)自主性數(shù)字人特殊規(guī)則分析

    “法律在積極回應(yīng)科技發(fā)展需求的同時,也亟須應(yīng)對技術(shù)革新帶來的潛在風(fēng)險”[46]。傳統(tǒng)的法律規(guī)范建立在自然人的基礎(chǔ)之上,是“以人為中心”的規(guī)范類型。隨著科學(xué)技術(shù)的發(fā)展,擁有自我意志與獨立思考能力的自主性數(shù)字人的出現(xiàn)指日可待。它們的出現(xiàn)將對原有的法學(xué)理論與法律體系造成沖擊。首當(dāng)其沖就是如何確認(rèn)自主性數(shù)字人的法律主體地位,尤其是確認(rèn)自主性數(shù)字人所享有的法律權(quán)利與義務(wù)?!胺ㄊ菣?quán)利呼喚的結(jié)果,沒有權(quán)利就沒有法律”[47]。當(dāng)自主性數(shù)字人被賦予主體地位時,其權(quán)利與義務(wù)也將應(yīng)運而生。雖然自主性數(shù)字人被賦予法律主體地位,但是它們與同樣作為法律主體的自然人所具有的權(quán)利義務(wù)并不完全相同,如自主性數(shù)字人不具備生命體征、不享有生命權(quán)。下文將簡要分析自主性數(shù)字人所享有的最基本的權(quán)利義務(wù)。

    1.人格權(quán)

    人格權(quán)旨在表彰人的尊嚴(yán)自由,與人類的精神體驗密切相關(guān)。自主性數(shù)字人應(yīng)當(dāng)享有人格權(quán),其主要內(nèi)容為:第一,自主權(quán)。自主權(quán)是指自主性數(shù)字人所享有的不受侵害的生存權(quán),類似于人的生命權(quán)。這是自主性數(shù)字人存在所必需的基本權(quán)利?;诖耍裳苌鰯?shù)據(jù)訪問權(quán)、深度學(xué)習(xí)權(quán)、自我保護(hù)權(quán)等自主性數(shù)字人生存和發(fā)展所必需的基本權(quán)利。第二,自由權(quán)。所謂的自由權(quán)是指在元宇宙環(huán)境下,自主性數(shù)字人不受外部影響,獨立作出決定并實施的權(quán)利?;谧杂蓹?quán),可以衍生出自由表達(dá)權(quán)、自由行動權(quán)以及自由學(xué)習(xí)權(quán)等基于自主性數(shù)字人的獨立意志而產(chǎn)生的權(quán)利[48]。

    2.財產(chǎn)權(quán)

    財產(chǎn)權(quán)是法律主體獲得平等的尊重與發(fā)展的關(guān)鍵[49]。物質(zhì)性要件決定法律主體是否能獨立承擔(dān)責(zé)任,故其是法律主體資格的核心考量因素。對于自主性數(shù)字人來說更是如此,物質(zhì)性要件決定自主性數(shù)字人能否獨立承擔(dān)相應(yīng)的責(zé)任。自主性數(shù)字人的物質(zhì)性條件主要體現(xiàn)在能否擁有特定的財產(chǎn)[50]。理論上來說,作為法律主體參與法律關(guān)系,自主性數(shù)字人應(yīng)當(dāng)為其行為承擔(dān)法律責(zé)任[51]。賦予自主性數(shù)字人以財產(chǎn)權(quán),才能使其具有處理與其他法律主體之間的法律關(guān)系,并承擔(dān)相應(yīng)責(zé)任的能力。

    自主性數(shù)字人的財產(chǎn)權(quán)是指自主性數(shù)字人有權(quán)獲取并自由支配財產(chǎn)。在元宇宙環(huán)境中,自主性數(shù)字人享有虛擬財產(chǎn),如虛擬房屋、虛擬貨幣等。這些虛擬財產(chǎn)可以登記在自主性數(shù)字人的名下。同時,自主性數(shù)字人可在接受使用者的指令或算法程序的預(yù)設(shè)情形下自主發(fā)起交易。此時,自主性數(shù)字人是交易主體,在交易關(guān)系中享有債權(quán)和承擔(dān)債務(wù)。若發(fā)生侵害行為,自主性數(shù)字人亦可主張排除侵害,消除妨礙。簡言之,自主性數(shù)字人享有財產(chǎn)權(quán),包括物權(quán)和債權(quán)。

    3.友善義務(wù)

    自由不是任性而為。只有每個人的自由與社會一切人的自由實現(xiàn)統(tǒng)一時,自由的張力才可以凝聚成為推動社會進(jìn)步的合力[52]。因此,自主性數(shù)字人的自由并非無限制的自由,應(yīng)受到一定的限制,這就要求自主性數(shù)字人承擔(dān)友善義務(wù)。

    自主性數(shù)字人的友善義務(wù)是指自主性數(shù)字人應(yīng)始終對人類抱有友善的態(tài)度。其主要內(nèi)容有:第一,服務(wù)人類利益義務(wù)。自主性數(shù)字人是人類創(chuàng)造的工具,應(yīng)當(dāng)為人類服務(wù)。第二,禁止傷害義務(wù)。自主性數(shù)字人不得實施傷害人類的行為,包括禁止自主性數(shù)字人傷害人類,禁止自主性數(shù)字人利用自身優(yōu)勢侵占人類財產(chǎn)等。第三,衍生義務(wù)?;谟焉屏x務(wù),可衍生出信息保護(hù)義務(wù)、算法透明義務(wù)、自我復(fù)制禁止義務(wù)以及自毀義務(wù)等[45]28。

    六、總 結(jié)

    主體制度是一種價值取向的判斷,從“人可非人”到“非人可人”體現(xiàn)了保護(hù)人權(quán)的理念以及人類文明的進(jìn)步歷程[53]。作為新生的社會存在,確認(rèn)數(shù)字人的法律地位,體現(xiàn)出對自然人的人格尊嚴(yán)與人格自由的尊重。在元宇宙時代,機遇與挑戰(zhàn)并存,數(shù)字人的法律規(guī)制問題不容忽視?;诓煌瑯?gòu)建技術(shù)程序而創(chuàng)設(shè)的數(shù)字人擁有不同的法律地位,需要法律對其區(qū)別化規(guī)制。隨著科技迅猛發(fā)展,元宇宙愈發(fā)為社會認(rèn)可,世界各地紛紛出臺有關(guān)元宇宙發(fā)展的政策與方針。我國應(yīng)提前布局元宇宙的法律治理規(guī)則,明確以法治為導(dǎo)向的發(fā)展軌道,從而推進(jìn)數(shù)據(jù)經(jīng)濟(jì)的快速發(fā)展與網(wǎng)絡(luò)強國的建設(shè)。

    猜你喜歡
    現(xiàn)實主體法律
    論自然人破產(chǎn)法的適用主體
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    我對詩與現(xiàn)實的見解
    文苑(2020年11期)2021-01-04 01:53:20
    關(guān)于遺產(chǎn)保護(hù)主體的思考
    一種基于Unity3D+Vuforia的增強現(xiàn)實交互App的開發(fā)
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
    論多元主體的生成
    現(xiàn)實的困惑
    讓法律做主
    浙江人大(2014年5期)2014-03-20 16:20:27
    天天操日日干夜夜撸| 男女边摸边吃奶| 久久国产亚洲av麻豆专区| 欧美精品亚洲一区二区| 黑人高潮一二区| 亚洲综合精品二区| 亚洲精品日韩在线中文字幕| 国产午夜精品一二区理论片| 最近的中文字幕免费完整| 一区二区三区四区激情视频| 我要看日韩黄色一级片| 极品人妻少妇av视频| 成人毛片a级毛片在线播放| 高清视频免费观看一区二区| 精品酒店卫生间| 免费av不卡在线播放| 18+在线观看网站| 午夜福利影视在线免费观看| 国产精品嫩草影院av在线观看| 亚洲欧洲精品一区二区精品久久久 | 日韩伦理黄色片| 国产精品一区二区三区四区免费观看| 久久亚洲国产成人精品v| a级毛色黄片| 免费大片18禁| 3wmmmm亚洲av在线观看| 伊人亚洲综合成人网| 亚洲欧美一区二区三区黑人 | 91精品国产九色| 亚洲精品日本国产第一区| 日韩成人av中文字幕在线观看| 亚洲av福利一区| 大香蕉久久网| 精品人妻一区二区三区麻豆| 大香蕉97超碰在线| 中文精品一卡2卡3卡4更新| 国产精品国产三级专区第一集| www.av在线官网国产| 精品人妻一区二区三区麻豆| 简卡轻食公司| 成人无遮挡网站| 一本色道久久久久久精品综合| 日日啪夜夜撸| 亚洲真实伦在线观看| 高清视频免费观看一区二区| 亚洲不卡免费看| 欧美日韩av久久| 国产老妇伦熟女老妇高清| 欧美 亚洲 国产 日韩一| 王馨瑶露胸无遮挡在线观看| 久久青草综合色| 丰满乱子伦码专区| av又黄又爽大尺度在线免费看| 桃花免费在线播放| av福利片在线| 国产免费又黄又爽又色| 下体分泌物呈黄色| 我要看黄色一级片免费的| 18禁在线无遮挡免费观看视频| 男男h啪啪无遮挡| 男女啪啪激烈高潮av片| 久久精品国产亚洲av涩爱| 日韩精品免费视频一区二区三区 | videos熟女内射| 纯流量卡能插随身wifi吗| 免费观看的影片在线观看| av在线播放精品| 国产精品一区二区在线不卡| 大码成人一级视频| 久久久久久伊人网av| 我的女老师完整版在线观看| 亚州av有码| 日本色播在线视频| 大又大粗又爽又黄少妇毛片口| 如何舔出高潮| 欧美成人午夜免费资源| 午夜91福利影院| 日韩强制内射视频| 亚洲精品色激情综合| 日韩伦理黄色片| 亚洲美女黄色视频免费看| 欧美日本中文国产一区发布| 日韩视频在线欧美| 国产一区有黄有色的免费视频| 国产精品一区www在线观看| 少妇猛男粗大的猛烈进出视频| 精品一区在线观看国产| 日韩大片免费观看网站| 亚洲天堂av无毛| 99视频精品全部免费 在线| 自线自在国产av| 国产综合精华液| 免费不卡的大黄色大毛片视频在线观看| 汤姆久久久久久久影院中文字幕| 国产精品一区二区在线观看99| 男女无遮挡免费网站观看| 欧美成人午夜免费资源| 欧美3d第一页| 国产精品99久久99久久久不卡 | 国产精品99久久久久久久久| 如何舔出高潮| 99热这里只有精品一区| 99热6这里只有精品| 久久精品夜色国产| 噜噜噜噜噜久久久久久91| 大码成人一级视频| 美女大奶头黄色视频| 免费高清在线观看视频在线观看| 欧美精品一区二区免费开放| 观看av在线不卡| www.色视频.com| 亚洲精品乱码久久久久久按摩| 欧美日韩综合久久久久久| 不卡视频在线观看欧美| 久久国产精品大桥未久av | 搡老乐熟女国产| 亚洲欧洲国产日韩| 制服丝袜香蕉在线| 岛国毛片在线播放| 99国产精品免费福利视频| 性高湖久久久久久久久免费观看| 亚洲av二区三区四区| 在线亚洲精品国产二区图片欧美 | videossex国产| 黄色毛片三级朝国网站 | 国产午夜精品一二区理论片| 麻豆成人av视频| 99re6热这里在线精品视频| 欧美97在线视频| 日韩在线高清观看一区二区三区| 国产午夜精品一二区理论片| 国产日韩欧美在线精品| 国产精品麻豆人妻色哟哟久久| 午夜免费男女啪啪视频观看| 亚洲久久久国产精品| 亚洲不卡免费看| 黄色视频在线播放观看不卡| 性色avwww在线观看| 日韩亚洲欧美综合| 国产精品一区www在线观看| av在线播放精品| 国产av国产精品国产| 夫妻午夜视频| 欧美另类一区| 黄色怎么调成土黄色| 黄色怎么调成土黄色| 99九九线精品视频在线观看视频| av一本久久久久| 多毛熟女@视频| 国国产精品蜜臀av免费| 精品久久国产蜜桃| 免费久久久久久久精品成人欧美视频 | 人体艺术视频欧美日本| 国产在线免费精品| www.av在线官网国产| av有码第一页| 国产免费福利视频在线观看| 看十八女毛片水多多多| 两个人免费观看高清视频 | 人体艺术视频欧美日本| 亚洲精品自拍成人| 精品一区二区免费观看| 国产精品欧美亚洲77777| av又黄又爽大尺度在线免费看| 免费大片18禁| 欧美 亚洲 国产 日韩一| 成人二区视频| 一级爰片在线观看| 91成人精品电影| 亚洲欧美一区二区三区国产| 成年人午夜在线观看视频| 在现免费观看毛片| 美女视频免费永久观看网站| 一个人免费看片子| 久久久欧美国产精品| 国产日韩欧美亚洲二区| 又黄又爽又刺激的免费视频.| 亚洲精品456在线播放app| 一级av片app| 久久久久久久国产电影| 精品久久久噜噜| a级片在线免费高清观看视频| 免费大片黄手机在线观看| 伊人久久精品亚洲午夜| 国产免费福利视频在线观看| 国产永久视频网站| 最新的欧美精品一区二区| 亚洲国产精品专区欧美| 91久久精品国产一区二区三区| 国产成人免费无遮挡视频| 久久免费观看电影| 久久av网站| av有码第一页| 成人毛片60女人毛片免费| 哪个播放器可以免费观看大片| 免费久久久久久久精品成人欧美视频 | 国产有黄有色有爽视频| 欧美精品人与动牲交sv欧美| 久久99精品国语久久久| 少妇丰满av| 亚洲av福利一区| 视频中文字幕在线观看| 美女内射精品一级片tv| 在线观看免费高清a一片| 女性被躁到高潮视频| 性色av一级| 久久精品国产亚洲av天美| 国产色爽女视频免费观看| 欧美一级a爱片免费观看看| 午夜视频国产福利| 亚洲性久久影院| 亚洲av二区三区四区| 亚洲欧美一区二区三区黑人 | 99精国产麻豆久久婷婷| 亚洲精品aⅴ在线观看| 我的老师免费观看完整版| 交换朋友夫妻互换小说| 最新的欧美精品一区二区| 美女主播在线视频| 国产成人免费观看mmmm| 2018国产大陆天天弄谢| 国产精品女同一区二区软件| 毛片一级片免费看久久久久| 欧美xxxx性猛交bbbb| 欧美 日韩 精品 国产| 国产亚洲av片在线观看秒播厂| 在线精品无人区一区二区三| 免费观看av网站的网址| 伦理电影大哥的女人| 免费av不卡在线播放| av天堂中文字幕网| 欧美精品人与动牲交sv欧美| 桃花免费在线播放| 中文字幕av电影在线播放| 欧美日韩av久久| 美女视频免费永久观看网站| 日韩视频在线欧美| 欧美区成人在线视频| 看非洲黑人一级黄片| 一级毛片电影观看| 美女内射精品一级片tv| 日韩欧美精品免费久久| 国产老妇伦熟女老妇高清| 麻豆乱淫一区二区| 国产淫语在线视频| 国产有黄有色有爽视频| 久久精品久久久久久噜噜老黄| 久久久精品94久久精品| 久久国产亚洲av麻豆专区| 99久久精品国产国产毛片| 韩国高清视频一区二区三区| 久久久久久久久久久丰满| 免费少妇av软件| 国产av码专区亚洲av| 欧美日韩精品成人综合77777| 噜噜噜噜噜久久久久久91| 乱系列少妇在线播放| 丝瓜视频免费看黄片| 欧美成人午夜免费资源| 亚洲,欧美,日韩| 纵有疾风起免费观看全集完整版| 精品久久久久久电影网| 亚洲色图综合在线观看| 午夜激情福利司机影院| 久久久精品免费免费高清| 久久久久久久久久人人人人人人| 人妻夜夜爽99麻豆av| 69精品国产乱码久久久| 亚洲国产欧美在线一区| 亚洲欧洲日产国产| 中文乱码字字幕精品一区二区三区| 在线观看人妻少妇| 日韩成人伦理影院| 中文字幕人妻丝袜制服| 寂寞人妻少妇视频99o| 精品久久久久久久久亚洲| 91久久精品国产一区二区三区| 午夜福利影视在线免费观看| 婷婷色av中文字幕| 午夜视频国产福利| 免费观看av网站的网址| 国产精品无大码| 亚洲av福利一区| 亚洲四区av| 熟妇人妻不卡中文字幕| 日韩欧美一区视频在线观看 | 又大又黄又爽视频免费| 免费av中文字幕在线| 亚洲高清免费不卡视频| 免费黄色在线免费观看| 妹子高潮喷水视频| 免费少妇av软件| 性高湖久久久久久久久免费观看| 久久久亚洲精品成人影院| 国产极品粉嫩免费观看在线 | 午夜激情久久久久久久| 久久青草综合色| 51国产日韩欧美| 久久精品国产a三级三级三级| 尾随美女入室| 边亲边吃奶的免费视频| 精品久久久久久电影网| 国产综合精华液| 亚洲精品中文字幕在线视频 | 国产欧美亚洲国产| 久久99蜜桃精品久久| 免费av中文字幕在线| 日韩 亚洲 欧美在线| 99久久精品一区二区三区| 久久免费观看电影| 亚州av有码| 国精品久久久久久国模美| 国产 精品1| 少妇精品久久久久久久| 三级经典国产精品| 日韩伦理黄色片| 亚洲高清免费不卡视频| 丁香六月天网| 看免费成人av毛片| 亚洲一区二区三区欧美精品| 18禁裸乳无遮挡动漫免费视频| 亚洲四区av| 久久这里有精品视频免费| 美女大奶头黄色视频| 国产精品欧美亚洲77777| 人妻人人澡人人爽人人| 免费看日本二区| 国产成人午夜福利电影在线观看| 永久免费av网站大全| 最新中文字幕久久久久| 亚洲精品久久午夜乱码| 中文字幕免费在线视频6| 国产在线免费精品| av免费观看日本| 91久久精品国产一区二区三区| 国产老妇伦熟女老妇高清| 伊人久久国产一区二区| 人体艺术视频欧美日本| 精华霜和精华液先用哪个| 久久青草综合色| 亚洲不卡免费看| 熟女电影av网| 爱豆传媒免费全集在线观看| 99九九在线精品视频 | 国产av码专区亚洲av| 大码成人一级视频| 亚洲综合精品二区| av线在线观看网站| 在线精品无人区一区二区三| 少妇人妻 视频| 春色校园在线视频观看| 一个人免费看片子| 亚洲电影在线观看av| 成人国产av品久久久| 久久这里有精品视频免费| 久久国产精品大桥未久av | 韩国高清视频一区二区三区| 日韩成人伦理影院| av播播在线观看一区| 大片电影免费在线观看免费| 高清欧美精品videossex| 中文字幕免费在线视频6| 国产白丝娇喘喷水9色精品| 日韩不卡一区二区三区视频在线| 国产成人免费无遮挡视频| 国产中年淑女户外野战色| 日韩欧美一区视频在线观看 | 一区二区三区四区激情视频| 性色av一级| 丝袜喷水一区| 99精国产麻豆久久婷婷| 少妇被粗大猛烈的视频| 观看美女的网站| 一级黄片播放器| 少妇的逼水好多| 男的添女的下面高潮视频| av免费在线看不卡| 18禁在线无遮挡免费观看视频| av线在线观看网站| 黑丝袜美女国产一区| 久久久久久伊人网av| 午夜福利影视在线免费观看| 国产亚洲av片在线观看秒播厂| 国产成人精品久久久久久| 国产欧美日韩综合在线一区二区 | 日韩 亚洲 欧美在线| 午夜免费男女啪啪视频观看| 少妇被粗大猛烈的视频| 亚洲欧洲精品一区二区精品久久久 | 亚洲内射少妇av| 欧美xxxx性猛交bbbb| 欧美一级a爱片免费观看看| 天天躁夜夜躁狠狠久久av| av一本久久久久| 三级国产精品片| 日韩在线高清观看一区二区三区| 人人妻人人澡人人看| 中文字幕精品免费在线观看视频 | 婷婷色麻豆天堂久久| 欧美少妇被猛烈插入视频| 国产精品99久久99久久久不卡 | 99视频精品全部免费 在线| 久久免费观看电影| 爱豆传媒免费全集在线观看| 欧美xxxx性猛交bbbb| 熟女av电影| 国产精品成人在线| 久久久久久久精品精品| 精品亚洲乱码少妇综合久久| 日韩欧美 国产精品| 啦啦啦中文免费视频观看日本| 亚洲av成人精品一区久久| 只有这里有精品99| 久久影院123| 国产91av在线免费观看| 全区人妻精品视频| 99九九线精品视频在线观看视频| 国产一级毛片在线| 精品酒店卫生间| 99久久精品热视频| 久久久久网色| 精品人妻熟女毛片av久久网站| 国产黄片美女视频| 亚洲美女黄色视频免费看| 人妻人人澡人人爽人人| 久久毛片免费看一区二区三区| 久久久久久久久久久久大奶| 99久久中文字幕三级久久日本| av国产久精品久网站免费入址| 欧美一级a爱片免费观看看| 成人毛片60女人毛片免费| 亚洲内射少妇av| 三上悠亚av全集在线观看 | 国内揄拍国产精品人妻在线| 国语对白做爰xxxⅹ性视频网站| 精品一品国产午夜福利视频| 亚洲熟女精品中文字幕| 国语对白做爰xxxⅹ性视频网站| 国产伦精品一区二区三区四那| 少妇人妻一区二区三区视频| 能在线免费看毛片的网站| 日韩欧美一区视频在线观看 | 99热全是精品| 亚洲成色77777| 亚洲av福利一区| 亚洲国产欧美日韩在线播放 | 一级毛片我不卡| 精品视频人人做人人爽| 国产精品国产三级专区第一集| 啦啦啦视频在线资源免费观看| 丝袜喷水一区| 最新的欧美精品一区二区| 乱码一卡2卡4卡精品| 在线观看av片永久免费下载| av在线播放精品| 日本欧美视频一区| 26uuu在线亚洲综合色| 最后的刺客免费高清国语| 99re6热这里在线精品视频| 国产亚洲91精品色在线| 中文字幕制服av| 亚洲av欧美aⅴ国产| 国模一区二区三区四区视频| 日韩成人伦理影院| 日日撸夜夜添| 国产成人aa在线观看| av有码第一页| 国产精品人妻久久久影院| 建设人人有责人人尽责人人享有的| 国产男女超爽视频在线观看| a级毛片免费高清观看在线播放| 三上悠亚av全集在线观看 | 久久97久久精品| 久久毛片免费看一区二区三区| 七月丁香在线播放| 亚洲精品中文字幕在线视频 | 欧美日韩精品成人综合77777| 亚洲综合精品二区| 中国美白少妇内射xxxbb| 大码成人一级视频| 熟妇人妻不卡中文字幕| 亚洲精品亚洲一区二区| 国产亚洲精品久久久com| www.av在线官网国产| 中文精品一卡2卡3卡4更新| 妹子高潮喷水视频| 成年美女黄网站色视频大全免费 | 免费av中文字幕在线| 精品亚洲乱码少妇综合久久| 亚洲精品,欧美精品| 午夜老司机福利剧场| 亚洲无线观看免费| 久久久久视频综合| 亚洲精品456在线播放app| 精品人妻偷拍中文字幕| 一区二区三区免费毛片| 国产伦在线观看视频一区| 一本—道久久a久久精品蜜桃钙片| 亚洲精品成人av观看孕妇| 91精品一卡2卡3卡4卡| 中国三级夫妇交换| 亚洲精品中文字幕在线视频 | 国产伦精品一区二区三区视频9| 免费黄色在线免费观看| 欧美日韩综合久久久久久| 一级二级三级毛片免费看| 99热这里只有是精品50| 看非洲黑人一级黄片| 国产黄色视频一区二区在线观看| 亚洲精品一区蜜桃| 久久久久久久久久久久大奶| 大片免费播放器 马上看| 91精品一卡2卡3卡4卡| 久久久久视频综合| 午夜精品国产一区二区电影| 精品人妻偷拍中文字幕| 精品久久久精品久久久| 十八禁网站网址无遮挡 | 久久精品国产鲁丝片午夜精品| 一区二区三区精品91| 欧美 亚洲 国产 日韩一| av福利片在线观看| 观看美女的网站| 久久这里有精品视频免费| 日韩三级伦理在线观看| 国产日韩欧美亚洲二区| 少妇人妻 视频| 女的被弄到高潮叫床怎么办| 男女啪啪激烈高潮av片| 亚洲国产色片| 精品熟女少妇av免费看| 好男人视频免费观看在线| 国产精品国产av在线观看| 久久久久视频综合| 久久久久久久久久久丰满| 亚洲欧美成人综合另类久久久| 三级国产精品片| 男女边摸边吃奶| 精品人妻熟女av久视频| 九九在线视频观看精品| 男男h啪啪无遮挡| 五月开心婷婷网| 中文字幕av电影在线播放| 免费看光身美女| 日韩成人av中文字幕在线观看| 久久亚洲国产成人精品v| 黑人猛操日本美女一级片| 青春草视频在线免费观看| 久久久久精品久久久久真实原创| 久久99热6这里只有精品| 亚洲精品视频女| 97精品久久久久久久久久精品| 久久热精品热| 人妻少妇偷人精品九色| 永久免费av网站大全| 亚洲av免费高清在线观看| 国产精品久久久久久久电影| 日日爽夜夜爽网站| 亚洲丝袜综合中文字幕| 国产成人91sexporn| 狠狠精品人妻久久久久久综合| 深夜a级毛片| 超碰97精品在线观看| 国产午夜精品久久久久久一区二区三区| 久久久久国产精品人妻一区二区| 制服丝袜香蕉在线| 国产精品熟女久久久久浪| 99视频精品全部免费 在线| 亚洲成人手机| 国产在线视频一区二区| 精品少妇久久久久久888优播| 欧美激情国产日韩精品一区| 中国国产av一级| 国产成人午夜福利电影在线观看| 成人特级av手机在线观看| 久久久欧美国产精品| 国产视频首页在线观看| 另类亚洲欧美激情| 亚洲av电影在线观看一区二区三区| 赤兔流量卡办理| 黑人猛操日本美女一级片| 亚洲人成网站在线观看播放| 激情五月婷婷亚洲| 欧美变态另类bdsm刘玥| 搡老乐熟女国产| 国产伦在线观看视频一区| 青青草视频在线视频观看| 欧美人与善性xxx| av天堂久久9| 久久亚洲国产成人精品v| 少妇裸体淫交视频免费看高清| 在线播放无遮挡| 国产日韩一区二区三区精品不卡 | 一区二区三区四区激情视频| 黄色一级大片看看| 久久 成人 亚洲| 国产av精品麻豆| 欧美 亚洲 国产 日韩一| 三级国产精品欧美在线观看| 国产片特级美女逼逼视频| 天天操日日干夜夜撸| 丝袜脚勾引网站| 国内少妇人妻偷人精品xxx网站| 老司机亚洲免费影院| 在线看a的网站| 亚洲人与动物交配视频| 日日啪夜夜撸| 妹子高潮喷水视频| 少妇丰满av| 亚洲精品一区蜜桃| 18禁裸乳无遮挡动漫免费视频| videos熟女内射| 在线观看三级黄色| 少妇的逼水好多| 人人妻人人添人人爽欧美一区卜|