• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    元宇宙的法律難題與規(guī)制思路研究

    2023-02-06 01:49:46何波
    大數(shù)據(jù) 2023年1期
    關(guān)鍵詞:法律發(fā)展

    何波

    中國信息通信研究院,北京 100191

    0 引言

    繼人工智能、區(qū)塊鏈、算法推薦等新技術(shù)、新業(yè)態(tài)、新應(yīng)用之后,元宇宙(metaverse)的概念被推向臺前,成為政、產(chǎn)、學(xué)、研關(guān)注的重點領(lǐng)域。隨著全球數(shù)字化轉(zhuǎn)型的加速推進(jìn),遠(yuǎn)程辦公、虛擬會議、在線教育、數(shù)字藏品交易等模式普遍推廣,加速了元宇宙的發(fā)展步伐。但是,目前各界對元宇宙尚沒有形成共識性或一致性的定義。如學(xué)術(shù)界認(rèn)為元宇宙“是整合多種新技術(shù)產(chǎn)生的虛實相融的新型互聯(lián)網(wǎng)應(yīng)用和社會形態(tài)”[1];政府部門認(rèn)為元宇宙“是新一代信息技術(shù)融合創(chuàng)新、驅(qū)動互聯(lián)網(wǎng)邁向Web 3.0發(fā)展的全新業(yè)態(tài)”;而產(chǎn)業(yè)界則認(rèn)為元宇宙是下一代互聯(lián)網(wǎng)的形態(tài),是互聯(lián)網(wǎng)從當(dāng)前的Web 2.0時代邁向Web 3.0時代的一場變革[2]。雖然各界在元宇宙的概念上還未達(dá)成一致,但在實踐中,元宇宙的發(fā)展速度已經(jīng)遠(yuǎn)超其理論的構(gòu)建,成為一種新的“技術(shù)-經(jīng)濟(jì)”范式。隨著元宇宙概念的普及,國內(nèi)外圍繞元宇宙的戰(zhàn)略布局全面推進(jìn)。這不僅深刻推動了技術(shù)進(jìn)步和商業(yè)模式變革,也極大地影響了人類社會生產(chǎn)生活的方方面面,給現(xiàn)有的法律制度和監(jiān)管實踐都帶來了沖擊和挑戰(zhàn)。元宇宙創(chuàng)造的世界可能是虛擬的,但元宇宙推動的交互活動、經(jīng)濟(jì)交易等都是真實的,其對現(xiàn)實世界產(chǎn)生的影響也是現(xiàn)實存在的。當(dāng)虛擬世界與現(xiàn)實世界發(fā)生碰撞時,就產(chǎn)生了一系列的風(fēng)險挑戰(zhàn)和法律適用難題[3]。隨著元宇宙應(yīng)用場景的不斷擴(kuò)展,其帶來的相關(guān)法律問題也會更加突出,應(yīng)當(dāng)引起立法和監(jiān)管部門的關(guān)注和重視,及時采取有效措施,依法規(guī)范元宇宙健康有序發(fā)展。

    1 元宇宙發(fā)展特征與風(fēng)險挑戰(zhàn)

    1.1 元宇宙的發(fā)展特征

    雖然各界對元宇宙的概念還存在不同的認(rèn)知,但綜合各方觀點及發(fā)展實踐來看,元宇宙具有鮮明的技術(shù)性、商業(yè)性、社會性、跨國性等特征,是在“技術(shù)-產(chǎn)業(yè)-社會”一體化互動發(fā)展過程中催生的新鮮事物,也是當(dāng)前經(jīng)濟(jì)社會數(shù)字化轉(zhuǎn)型的最前沿[4]。研究掌握這些特征是分析元宇宙法律風(fēng)險、提出應(yīng)對解決方案的重要基礎(chǔ)和前提。

    首先,元宇宙的發(fā)展具有鮮明的技術(shù)性,技術(shù)創(chuàng)新是元宇宙得以持續(xù)快速發(fā)展的關(guān)鍵基礎(chǔ)。從本質(zhì)上來看,元宇宙就是技術(shù)創(chuàng)新發(fā)展到一定階段的產(chǎn)物,也被認(rèn)為是新一代數(shù)字技術(shù)匯聚發(fā)展的結(jié)果。元宇宙的構(gòu)建需要5G/6G網(wǎng)絡(luò)、云計算、大數(shù)據(jù)、虛擬現(xiàn)實(VR)、增強(qiáng)現(xiàn)實(AR)、人工智能、區(qū)塊鏈等技術(shù)領(lǐng)域的創(chuàng)新,也離不開圖形引擎、仿真模型、先進(jìn)計算、人機(jī)交互、新型顯示等元宇宙底層技術(shù)的發(fā)展。例如,《2020—2021年元宇宙發(fā)展研究報告》指出,“5G技術(shù)為元宇宙發(fā)展提供通信基礎(chǔ),云計算提供算力基礎(chǔ),擴(kuò)展現(xiàn)實、機(jī)器人、腦機(jī)接口技術(shù)支持虛實界面,人工智能和數(shù)字孿生技術(shù)促進(jìn)元宇宙的內(nèi)容生產(chǎn)和沉浸體驗,區(qū)塊鏈技術(shù)則解決去中心化環(huán)境的認(rèn)證問題”[5]。從政府部門及頭部企業(yè)的布局來看,他們也將技術(shù)研發(fā)作為發(fā)展元宇宙的首要任務(wù),如《河南省元宇宙產(chǎn)業(yè)發(fā)展行動計劃(2022—2025年)》明確提出把“強(qiáng)化前沿基礎(chǔ)研究,推進(jìn)關(guān)鍵技術(shù)攻關(guān)”作為主要任務(wù)之首。值得關(guān)注的是,與元宇宙相關(guān)的技術(shù)具有匿名性、去中心化等特點,這些技術(shù)的特點也傳導(dǎo)至元宇宙應(yīng)用場景,成為元宇宙的特點。

    其次,現(xiàn)階段的元宇宙發(fā)展具有突出的商業(yè)性特征,具有巨大的經(jīng)濟(jì)潛力。美國學(xué)者的研究顯示,雖然元宇宙尚未顯示其發(fā)展的全部狀態(tài),但已經(jīng)逐步展現(xiàn)出巨大的經(jīng)濟(jì)價值。早在2021年10月,元宇宙企業(yè)的資本市場規(guī)模就已達(dá)到14.8萬億美元[3]。一方面,元宇宙的興起反映出傳統(tǒng)企業(yè)尤其是互聯(lián)網(wǎng)企業(yè)面向未來轉(zhuǎn)型的需求,大量資本開始投入這個新的領(lǐng)域,最典型的莫過于全球社交巨頭“臉書”(Facebook)公司改名為“元”(Meta),國內(nèi)的企業(yè)(如字節(jié)跳動、騰訊等)也紛紛開辟元宇宙業(yè)務(wù);另一方面,元宇宙為企業(yè)打造數(shù)字化未來提供了新的機(jī)會和商業(yè)模式。著名咨詢公司Gatner[6]認(rèn)為,有六大場景正在推動元宇宙的發(fā)展,包括游戲、數(shù)字人、虛擬空間、共享經(jīng)驗、代幣化資產(chǎn)以及空間計算等。從目前的發(fā)展實踐來看,數(shù)字金融正在成為元宇宙商業(yè)最活躍的領(lǐng)域,元宇宙中的各類活動與加密貨幣、非同質(zhì)化通證(non-fungible token,NFT)以及數(shù)字代幣等虛擬資產(chǎn)密切綁定,賦予元宇宙更顯著的商業(yè)特征和經(jīng)濟(jì)意義。

    再次,元宇宙的發(fā)展具有深刻的社會性。從組織形態(tài)來看,元宇宙在某種程度上被認(rèn)為是通過數(shù)字技術(shù)創(chuàng)造出來的新的人類社會形態(tài)[7]。元宇宙的發(fā)展與互聯(lián)網(wǎng)非常相似,都極大地拓展了人類社會活動的空間,推動現(xiàn)實社會與虛擬社會相互交錯、融合共生,突破了原有的物理邊界和限制,改變了人與人之間的連接和溝通方式,從而逐步重構(gòu)社會的組織方式。例如,Meta在改名前就已經(jīng)是全球最大的網(wǎng)絡(luò)社交平臺,其創(chuàng)始人扎克伯格想通過調(diào)整發(fā)展戰(zhàn)略將Meta變成一個用于社交和工作的元宇宙空間。與此同時,從目前元宇宙的應(yīng)用場景來看,其主要集中在三大類,即生活消費場景、經(jīng)濟(jì)生產(chǎn)場景以及在線辦公等協(xié)作空間場景。這些場景與人類社會現(xiàn)實生產(chǎn)生活高度重合,在某種程度上是人類社會活動在元宇宙世界的映射。

    最后,元宇宙已經(jīng)超越一國范圍,成為影響全球發(fā)展的新領(lǐng)域和各國共同關(guān)注的監(jiān)管重點,也正日益成為主要國家和地區(qū)進(jìn)行戰(zhàn)略布局及大國博弈的關(guān)鍵領(lǐng)域。當(dāng)前,越來越多的國家開始意識到發(fā)展元宇宙的重大戰(zhàn)略意義,積極布局元宇宙技術(shù)和產(chǎn)業(yè)發(fā)展規(guī)劃,試圖搶占元宇宙發(fā)展的技術(shù)主導(dǎo)權(quán)和規(guī)則制定權(quán)。例如,韓國國會議員提議頒布《元宇宙產(chǎn)業(yè)促進(jìn)法》以支持Web 3.0產(chǎn)業(yè)發(fā)展,其科學(xué)技術(shù)信息通信部發(fā)起并成立了由多家本土企業(yè)和機(jī)構(gòu)組成的“元宇宙聯(lián)盟”;日本經(jīng)濟(jì)產(chǎn)業(yè)省在大臣官邸下設(shè)立了一個名為“Web 3.0政策辦公室”的機(jī)構(gòu),積極推動元宇宙政策發(fā)展和實踐監(jiān)管。我國政府也開始重視元宇宙及相關(guān)產(chǎn)業(yè)技術(shù)發(fā)展,《中華人民共和國國民經(jīng)濟(jì)和社會發(fā)展第十四個五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》將“虛擬現(xiàn)實和增強(qiáng)現(xiàn)實”列入數(shù)字經(jīng)濟(jì)重點產(chǎn)業(yè)。2022年10月,工業(yè)和信息化部聯(lián)合教育部等多部門發(fā)布《虛擬現(xiàn)實與行業(yè)應(yīng)用融合發(fā)展行動計劃(2022—2026年)》,推動虛擬現(xiàn)實核心軟硬件突破,構(gòu)建虛擬現(xiàn)實行業(yè)應(yīng)用融合創(chuàng)新生態(tài)發(fā)展新局面。此外,國內(nèi)各地方政府也積極搶灘元宇宙發(fā)展,紛紛發(fā)布本地產(chǎn)業(yè)促進(jìn)戰(zhàn)略政策,如河南省印發(fā)《河南省元宇宙產(chǎn)業(yè)發(fā)展行動計劃(2022—2025年)》,提出打造集創(chuàng)新鏈、產(chǎn)業(yè)鏈、服務(wù)鏈、生態(tài)鏈于一體的全國元宇宙產(chǎn)業(yè)發(fā)展高地;北京市印發(fā)《北京城市副中心元宇宙創(chuàng)新發(fā)展行動計劃(2022—2024年)》,提出要系統(tǒng)推進(jìn)與元宇宙相關(guān)的產(chǎn)業(yè)在城市副中心落地發(fā)展,打造數(shù)字特征鮮明的城市科技創(chuàng)新高地。

    1.2 元宇宙的風(fēng)險挑戰(zhàn)

    一般而言,技術(shù)的演進(jìn)在某種程度上是具有不確定性的,按照熊彼特的“創(chuàng)造性破壞理論”,新技術(shù)的創(chuàng)新不僅創(chuàng)造了新的發(fā)展機(jī)遇,也帶來了相應(yīng)的挑戰(zhàn)和破壞。元宇宙作為一種基于新一代數(shù)字技術(shù)持續(xù)發(fā)展創(chuàng)新的新型經(jīng)濟(jì)和社會形態(tài),也是生產(chǎn)力提升和生產(chǎn)關(guān)系變革的統(tǒng)一,在重構(gòu)生產(chǎn)體系和經(jīng)濟(jì)發(fā)展的同時,必然會推動包括法律制度在內(nèi)的上層建筑的革新[8]。Gatner[6]公司認(rèn)為,元宇宙允許企業(yè)將數(shù)字業(yè)務(wù)向更加持久、去中心化、協(xié)作和互操作的方向擴(kuò)展,未來元宇宙與游戲、社交、購物、金融等領(lǐng)域的進(jìn)一步融合發(fā)展,會給政治、經(jīng)濟(jì)、文化、社會帶來全方位的影響,疊加元宇宙的技術(shù)性、商業(yè)性、社會性以及國際性等發(fā)展特點,會對原有法律制度和監(jiān)管規(guī)則造成不可避免的沖擊,引發(fā)多元風(fēng)險挑戰(zhàn)。例如,由于元宇宙的社會性,亟須制定一系列規(guī)范元宇宙社會關(guān)系與社會行為的基本準(zhǔn)則,以避免元宇宙在運行初期“野蠻生長”和出現(xiàn)“叢林現(xiàn)象”,建立健全基本的元宇宙社會控制與社會秩序[7]。

    1.3 國內(nèi)外的應(yīng)對立場

    如前所述,元宇宙創(chuàng)造的空間可能是虛擬的,但其給現(xiàn)實世界帶來的影響和挑戰(zhàn)是實際存在的,對元宇宙風(fēng)險的防范和監(jiān)管也正在成為全球各國面臨的共同挑戰(zhàn)。從國際社會來看,多國已經(jīng)開始注意到這些風(fēng)險,尤其是其中涉及的法律問題。正如英國專家指出的,雖然目前尚不清楚元宇宙的具體實踐形式,但是需要政府、私營部門、國際組織共同努力構(gòu)建監(jiān)管機(jī)制,在涉及數(shù)據(jù)處理等法律問題的同時,要關(guān)注產(chǎn)權(quán)保護(hù)與信息內(nèi)容等相關(guān)問題[9]。日本經(jīng)濟(jì)產(chǎn)業(yè)省在其發(fā)布的《關(guān)于虛擬空間行業(yè)未來可能性與課題的調(diào)查報告》中也指出,政府應(yīng)著重防范和解決“虛擬空間”的法律問題,對跨國界、跨平臺業(yè)務(wù)的法律適用條款加以完善,并與專業(yè)人士合作制定相關(guān)行業(yè)標(biāo)準(zhǔn)和指南。也有一些國家開始采取具體舉措,如韓國在提議頒布的《元宇宙產(chǎn)業(yè)促進(jìn)法案》中規(guī)定,直接隸屬于總理的元宇宙政策審查委員會將審議促進(jìn)該國元宇宙發(fā)展的政策,該法案還涉及用戶個人數(shù)據(jù)保護(hù)等法律問題[10]。

    從國內(nèi)監(jiān)管來看,元宇宙的相關(guān)風(fēng)險已經(jīng)引起社會各界和監(jiān)管部門的高度關(guān)注。2022年兩會期間,民進(jìn)中央發(fā)布《關(guān)于積極穩(wěn)妥推進(jìn)元宇宙技術(shù)和產(chǎn)業(yè)發(fā)展的提案》,提出面對元宇宙熱潮,要謹(jǐn)防借技術(shù)和概念的名義催生科技泡沫,建立對與元宇宙相關(guān)的領(lǐng)域的監(jiān)管治理體系。全國政協(xié)委員談劍鋒提出《關(guān)于加強(qiáng)對元宇宙市場的監(jiān)管 防范新型數(shù)字經(jīng)濟(jì)風(fēng)險》的提案,認(rèn)為元宇宙將給傳統(tǒng)互聯(lián)網(wǎng)的輿情治理、隱私保護(hù)等帶來更大挑戰(zhàn),相關(guān)行業(yè)的監(jiān)管部門應(yīng)提前研究監(jiān)管政策,預(yù)防可能引起的系統(tǒng)風(fēng)險[11]。我國監(jiān)管部門也采取了相關(guān)措施。2022年2月,中國銀保監(jiān)會處置非法集資部際聯(lián)席會議辦公室發(fā)布《關(guān)于防范以“元宇宙”名義進(jìn)行非法集資的風(fēng)險提示》,提出重點打擊編造虛假元宇宙投資項目、打著元宇宙區(qū)塊鏈游戲旗號詐騙、惡意炒作元宇宙房地產(chǎn)圈錢以及變相從事元宇宙虛擬幣非法牟利等行為[12]。

    2 元宇宙主要法律難題分析

    元宇宙作為現(xiàn)實社會的映射,不可避免存在傳統(tǒng)互聯(lián)網(wǎng)治理中面臨的共性法律難題,如網(wǎng)絡(luò)安全、個人信息與隱私保護(hù)、數(shù)據(jù)治理、網(wǎng)絡(luò)犯罪等。與此同時,元宇宙自身的形態(tài)特點和發(fā)展特征進(jìn)一步放大了原有的諸多法律問題,并可能產(chǎn)生更多新的問題,如數(shù)字虛擬資產(chǎn)、元宇宙生態(tài)治理以及元宇宙平臺責(zé)任等。這導(dǎo)致元宇宙中的法律問題具有特殊性和復(fù)雜性,僅靠傳統(tǒng)法律規(guī)則難以完全解決。當(dāng)前,元宇宙仍處在發(fā)展初期階段,還有很多潛在風(fēng)險沒有完全暴露出來。本節(jié)就目前元宇宙發(fā)展中已經(jīng)出現(xiàn)的主要法律難題進(jìn)行分析,如圖1所示。

    圖1 元宇宙主要法律難題概覽

    2.1 網(wǎng)絡(luò)安全問題

    網(wǎng)絡(luò)及其基礎(chǔ)設(shè)施是元宇宙發(fā)展的物質(zhì)基礎(chǔ),網(wǎng)絡(luò)安全也是元宇宙創(chuàng)新發(fā)展的基本前提和根本保障。當(dāng)前,發(fā)生在網(wǎng)絡(luò)虛擬世界中的攻擊越來越多,隨著元宇宙的不斷發(fā)展演進(jìn),網(wǎng)絡(luò)安全的風(fēng)險也會持續(xù)增加。其中,既有設(shè)備系統(tǒng)本身的安全問題,如分布式拒絕服務(wù)(distributed denial of service,DoS)攻擊,也有安全管理制度的問題,如元宇宙中數(shù)字身份認(rèn)證問題[13]。具體來看,元宇宙帶來的網(wǎng)絡(luò)安全問題可以從3個層面來理解。

    一是個人層面的身份管理安全問題。元宇宙給現(xiàn)有的個人網(wǎng)絡(luò)身份管理制度帶來了極大的沖擊和挑戰(zhàn)。同網(wǎng)絡(luò)世界一樣,元宇宙也強(qiáng)調(diào)統(tǒng)一的身份。元宇宙公司Roblox的CEO指出,元宇宙具有關(guān)鍵的身份特征,而元宇宙具有的匿名化特性促使數(shù)字身份成為解決元宇宙法律糾紛的前提條件。在元宇宙中,用戶可以創(chuàng)建自己的數(shù)字化身,以虛擬人的身份在元宇宙中進(jìn)行各種活動,但這與我國現(xiàn)行的“網(wǎng)絡(luò)實名制”管理要求存在沖突。當(dāng)前,我國的《中華人民共和國網(wǎng)絡(luò)安全法》(以下簡稱《網(wǎng)絡(luò)安全法》)、《中華人民共和國反恐怖主義法》、《電話用戶真實身份信息登記規(guī)定》等法律法規(guī)已經(jīng)明確了電信業(yè)務(wù)經(jīng)營者、互聯(lián)網(wǎng)信息服務(wù)提供者或網(wǎng)絡(luò)運營者登記用戶真實身份信息的要求,明確規(guī)定不得為不提供真實身份信息的用戶提供相關(guān)服務(wù)。根據(jù)這些規(guī)定,我國針對網(wǎng)絡(luò)用戶實行的是“后臺實名,前臺自愿”的網(wǎng)絡(luò)身份管理制度,電信業(yè)務(wù)經(jīng)營者、互聯(lián)網(wǎng)信息服務(wù)提供者或網(wǎng)絡(luò)運營者掌握了用戶網(wǎng)絡(luò)身份與真實身份之間的準(zhǔn)確對應(yīng)關(guān)系,即使在虛擬的網(wǎng)絡(luò)世界中,用戶的各項活動實際上是以后臺實名方式開展的。但在元宇宙中,各類主體通過數(shù)字化身開展活動時并不需要進(jìn)行實名身份驗證,而且人工智能技術(shù)的發(fā)展使深度偽造等無處不在,可以非常輕松地冒充他人的身份,因此難以確認(rèn)元宇宙中相關(guān)主體的虛擬身份與真實身份的對應(yīng)關(guān)系。這不僅與當(dāng)前我國法律要求的實名制存在沖突,也可能導(dǎo)致元宇宙中相關(guān)主體從事違法犯罪活動而無法對其進(jìn)行識別、規(guī)制。此時,法律主體虛擬身份的真實性問題顯然成為法律需要回應(yīng)的技術(shù)風(fēng)險。

    二是企業(yè)或產(chǎn)業(yè)層面的網(wǎng)絡(luò)運行安全問題。企業(yè)是元宇宙創(chuàng)新發(fā)展的核心主體,在元宇宙技術(shù)發(fā)展應(yīng)用的初期,既要解決原有的DoS攻擊等傳統(tǒng)安全問題,又要面臨許多未知的安全風(fēng)險。正如360集團(tuán)創(chuàng)始人周鴻祎所言,“元宇宙安全問題更應(yīng)引起關(guān)注,因為數(shù)字化程度越高,安全挑戰(zhàn)越大,未來對虛擬世界的攻擊會傷害到現(xiàn)實世界,在元宇宙的強(qiáng)大需求下,網(wǎng)絡(luò)安全也應(yīng)該隨之升級”[14]。元宇宙系統(tǒng)的全面開放和深度共享等特征比傳統(tǒng)網(wǎng)絡(luò)系統(tǒng)更容易受到網(wǎng)絡(luò)攻擊,以元宇宙的具體應(yīng)用場景VR和AR為例,通過互聯(lián)網(wǎng)將相關(guān)頭戴式設(shè)備連接到元宇宙,黑客很容易通過技術(shù)手段進(jìn)入這些設(shè)備,并竊取傳遞的信息,甚至破壞整個運行系統(tǒng)。我國《網(wǎng)絡(luò)安全法》對“網(wǎng)絡(luò)運行安全”提出了明確的管理要求,規(guī)定網(wǎng)絡(luò)運營者應(yīng)當(dāng)按照網(wǎng)絡(luò)安全等級保護(hù)制度的要求,履行采取技術(shù)措施防范網(wǎng)絡(luò)攻擊、網(wǎng)絡(luò)侵入等危害網(wǎng)絡(luò)安全行為的安全保護(hù)義務(wù),保障網(wǎng)絡(luò)免受干擾、破壞或者未經(jīng)授權(quán)的訪問1參見《網(wǎng)絡(luò)安全法》第二十一條。。但在元宇宙中,相關(guān)企業(yè)是否應(yīng)當(dāng)落實這些義務(wù),以及如何履行這些義務(wù),都是有待解決的重要問題。

    三是國家層面的政治經(jīng)濟(jì)安全問題。元宇宙具有去中心化的特點和跨國性的發(fā)展特征,當(dāng)前已經(jīng)成為國家間博弈競爭的新領(lǐng)域,可能給主權(quán)國家現(xiàn)有的安全治理體系帶來巨大挑戰(zhàn)[15]。一方面,元宇宙在某種程度上可以被看作一個“去中心化”的開放平臺,主權(quán)國家如何行使對元宇宙的管轄權(quán)?管轄的邊界又在哪里?網(wǎng)絡(luò)空間雖然沒有國界,但“網(wǎng)絡(luò)空間是有國家主權(quán)的”已經(jīng)成為國際社會的基本共識,并且已經(jīng)被寫入相關(guān)法律,我國《網(wǎng)絡(luò)安全法》第一條便明確提出“維護(hù)網(wǎng)絡(luò)空間主權(quán)和國家安全”。未來能否在元宇宙中行使國家主權(quán)和管轄權(quán),目前還沒有明確的立場和觀點。另一方面,元宇宙具有鮮明的技術(shù)性特征,高端芯片、人工智能、區(qū)塊鏈、數(shù)字孿生、云計算、圖像引擎等核心技術(shù)支撐起元宇宙的基礎(chǔ)架構(gòu)。但我國在關(guān)鍵技術(shù)方面仍屬于追趕者,部分領(lǐng)域存在“卡脖子”問題,只有加強(qiáng)關(guān)鍵核心技術(shù)攻關(guān),才能把控元宇宙安全命脈。

    2.2 個人信息與隱私保護(hù)

    雖然在元宇宙中用戶通常使用一個或多個虛擬角色/虛擬化身來開展活動,但這并非意味著就不存在濫用用戶個人信息、侵犯用戶隱私等問題。相比于傳統(tǒng)互聯(lián)網(wǎng),元宇宙顯著改變了個人信息收集使用的方式、類型和數(shù)量,給現(xiàn)有的個人信息保護(hù)法律制度帶來了沖擊。

    一是用戶個人在元宇宙中被收集的信息數(shù)量更加龐大,相應(yīng)地個人信息泄露、濫用風(fēng)險進(jìn)一步加劇。元宇宙是一個將現(xiàn)實世界與虛擬世界相結(jié)合又可以隨時切換的三維世界,其應(yīng)用場景更具有實時性、沉浸感等特征,在傳統(tǒng)二維數(shù)據(jù)收集使用的基礎(chǔ)上,還需要模擬現(xiàn)實世界的多樣化場景,對全身型虛擬化身、全身實時動作捕捉、周圍空間環(huán)境實時重建等三維數(shù)據(jù)進(jìn)行采集和加工[16]。在傳統(tǒng)互聯(lián)網(wǎng)商業(yè)模式中,一般只收集單一場景下的個人信息,如在網(wǎng)絡(luò)購物活動中,只會收集用戶的賬戶信息、個人支付信息等。但在元宇宙中,一個應(yīng)用可能同時收集用戶賬號、聊天記錄,甚至是個人在元宇宙中的運動、游戲、行動軌跡等全面的信息。這也意味著,相比于大量日常生活行為未被記錄的現(xiàn)實世界,元宇宙中用戶的所有行為和偏好有可能都被實時記錄,由此拼接出更立體、真實的用戶畫像,而這些個人信息數(shù)據(jù)一旦被泄露或者被不當(dāng)訪問,將會帶來比傳統(tǒng)網(wǎng)絡(luò)環(huán)境下更大的影響。再考慮到數(shù)據(jù)從一個元宇宙移植到另一個元宇宙所存在的安全漏洞,用戶的個人數(shù)據(jù)將面臨更嚴(yán)峻的泄露、詐騙等風(fēng)險。

    二是元宇宙中處理的個人信息類型更加敏感。在元宇宙中,元宇宙服務(wù)提供者以及VR、AR等設(shè)備提供者,通過運動追蹤和感知交互等技術(shù)可以收集大量用戶的聲音、動作以及生物信息等敏感個人信息。例如,在用戶佩戴VR/AR頭盔或者其他可穿戴設(shè)備后,用戶在元宇宙空間中的一切個體屬性和行為都以數(shù)字化的形式被實時、精確地記錄下來,包括細(xì)微的表情、眼睛動作,以及血壓、呼吸和腦電波等生理數(shù)據(jù)。這些信息大多屬于我國《中華人民共和國個人信息保護(hù)法》(以下簡稱《個人信息保護(hù)法》)中規(guī)定的敏感個人信息,一旦泄露或者被非法使用,可能導(dǎo)致用戶的人格尊嚴(yán)受到侵害或者人身、財產(chǎn)安全受到嚴(yán)重危害,因此只能在具有特定的目的和充分的必要性并采取嚴(yán)格保護(hù)措施的情形下,才能對其進(jìn)行收集使用2參見《個人信息保護(hù)法》第二十八條。。

    2.3 數(shù)據(jù)治理問題

    近年來,隨著經(jīng)濟(jì)社會數(shù)字化轉(zhuǎn)型加速推進(jìn),數(shù)據(jù)量迅猛增長,對經(jīng)濟(jì)發(fā)展、社會治理、人民生活產(chǎn)生了重大而深刻的影響。各國紛紛采取措施強(qiáng)化數(shù)據(jù)治理工作,我國也于2021年6月出臺《中華人民共和國數(shù)據(jù)安全法》(以下簡稱《數(shù)據(jù)安全法》),明確了我國數(shù)據(jù)治理的基本原則和主要制度。相比于傳統(tǒng)互聯(lián)網(wǎng),元宇宙與現(xiàn)實世界各領(lǐng)域頻繁交互,同AR、VR等終端設(shè)備廣泛鏈接,數(shù)據(jù)收集和產(chǎn)生的廣度、深度進(jìn)一步提升,不僅涉及用戶個人信息,更產(chǎn)生和收集了大量的設(shè)備數(shù)據(jù)、技術(shù)數(shù)據(jù)等。其中不乏重要數(shù)據(jù)甚至核心數(shù)據(jù),這些數(shù)據(jù)需要監(jiān)管部門重點關(guān)注。

    一是國內(nèi)數(shù)據(jù)治理問題。如前所述,元宇宙中存儲了大量數(shù)據(jù),包括個人數(shù)據(jù)和非個人數(shù)據(jù)。由于元宇宙具有社會性、商業(yè)性等發(fā)展特征,其收集和存儲的數(shù)據(jù)可能涵蓋經(jīng)濟(jì)社會發(fā)展的方方面面,包括大量支付數(shù)據(jù)、群體生物特征數(shù)據(jù)甚至是金融、電力等關(guān)鍵信息基礎(chǔ)設(shè)施數(shù)據(jù),可能引發(fā)數(shù)據(jù)安全風(fēng)險。我國《數(shù)據(jù)安全法》規(guī)定了數(shù)據(jù)分類分級保護(hù)制度,要求確定重要數(shù)據(jù)保護(hù)目錄,對列入目錄的數(shù)據(jù)進(jìn)行重點保護(hù);對于關(guān)系國家安全、國民經(jīng)濟(jì)命脈、重要民生、重大公共利益等的國家核心數(shù)據(jù),實行更加嚴(yán)格的管理制度3參見《數(shù)據(jù)安全法》第二十一條。。與此同時,我國還建立了數(shù)據(jù)安全風(fēng)險評估、報告、信息共享、監(jiān)測預(yù)警機(jī)制,數(shù)據(jù)安全應(yīng)急處置機(jī)制,以及數(shù)據(jù)安全審查制度和出口管制制度等。按照法律的規(guī)定,在我國境內(nèi)開展的數(shù)據(jù)處理活動及其安全監(jiān)管,都需要遵守上述制度規(guī)定。但元宇宙中的數(shù)據(jù)處理活動與傳統(tǒng)互聯(lián)網(wǎng)并不完全一致,如數(shù)據(jù)在不同元宇宙之間的共享、攜帶轉(zhuǎn)移,是否適用現(xiàn)有的法律規(guī)則及如何適用,目前還是待解之題。

    二是國際數(shù)據(jù)治理問題。元宇宙具有跨國性的發(fā)展特征,元宇宙中的主體往往來自全球多個國家和地區(qū),產(chǎn)生巨大的數(shù)據(jù)流量,從而導(dǎo)致國際數(shù)據(jù)治理的難題。一方面,元宇宙服務(wù)提供者通常向全球的用戶提供服務(wù),其是否應(yīng)當(dāng)遵守某個或某幾個主權(quán)國家的數(shù)據(jù)監(jiān)管法律制度?而不同的國家和地區(qū)對于數(shù)據(jù)監(jiān)管的要求是存在差別甚至沖突的,有的法律甚至還規(guī)定了域外管轄的效力。例如歐盟的《通用數(shù)據(jù)保護(hù)條例》,在特定情形下,即使相關(guān)主體在歐洲沒有實體存在,但對于相關(guān)活動中的數(shù)據(jù)處理行為,也需要遵守《通用數(shù)據(jù)保護(hù)條例》的規(guī)定[17]。這就造成了元宇宙中數(shù)據(jù)跨境治理的難題。另一方面,在元宇宙產(chǎn)業(yè)布局中,由于涉及技術(shù)合作,很多國內(nèi)企業(yè)會選擇向境外投資,如騰訊跨境投資美國元宇宙公司Roblox等。在元宇宙的合作開發(fā)及后續(xù)面向境內(nèi)用戶提供元宇宙服務(wù)的過程中,均有可能涉及數(shù)據(jù)跨境流動問題。從目前各國的監(jiān)管實踐來看,從政治、經(jīng)濟(jì)、文化等層面考量,均對數(shù)據(jù)跨境流動施加了不同程度的限制,尤其是涉及重要數(shù)據(jù)和核心數(shù)據(jù)的跨境提供,施加的條件更加嚴(yán)苛。例如,我國法律明確規(guī)定,數(shù)據(jù)處理者向境外提供重要數(shù)據(jù)的,應(yīng)當(dāng)通過所在地省級網(wǎng)信部門向國家網(wǎng)信部門申報數(shù)據(jù)出境安全評估4參見《數(shù)據(jù)出境安全評估辦法》第四條。。

    2.4 數(shù)字虛擬資產(chǎn)問題

    元宇宙已經(jīng)展現(xiàn)了巨大的經(jīng)濟(jì)潛力,并可能成為推動經(jīng)濟(jì)發(fā)展的新引擎。但與此同時,元宇宙經(jīng)濟(jì)潛力的發(fā)揮離不開數(shù)字虛擬資產(chǎn)的支撐。這些數(shù)字虛擬資產(chǎn)是元宇宙經(jīng)濟(jì)的基礎(chǔ)組成部分,也是元宇宙連通現(xiàn)實世界的經(jīng)濟(jì)橋梁。數(shù)字虛擬資產(chǎn)也稱虛擬財產(chǎn),是一種區(qū)別于傳統(tǒng)物權(quán)的新型財產(chǎn)形態(tài),而元宇宙中這些虛擬資產(chǎn)也帶來了一些新的法律問題。

    一是元宇宙中虛擬資產(chǎn)的財產(chǎn)屬性問題。與現(xiàn)實世界不同,在元宇宙中,所有的物體都是虛擬的,其存儲和使用也是以虛擬化的方式進(jìn)行的,如加密貨幣、NFT和代幣等,這些與傳統(tǒng)物權(quán)法中的有體物存在巨大區(qū)別。元宇宙虛擬物品不能歸為我國《民法典》中的不動產(chǎn)或者動產(chǎn),因此難以適用物權(quán)的設(shè)立、變更、轉(zhuǎn)讓和消滅等法律制度。例如,有學(xué)者認(rèn)為[18],無論是將NFT作為貨幣、證券、物,還是債權(quán),均存在難以解決的法理難題。從法律性質(zhì)上來看,虛擬資產(chǎn)不屬于傳統(tǒng)物權(quán)法上的客體,但其是否屬于真正的財產(chǎn)目前仍存在諸多爭議和分歧。一方面,我國《民法典》在總則規(guī)定“法律對數(shù)據(jù)、網(wǎng)絡(luò)虛擬財產(chǎn)的保護(hù)有規(guī)定的,依照其規(guī)定”5參見《民法典》第一百二十七條。,并沒有否認(rèn)虛擬資產(chǎn)的價值及附著在上面的相關(guān)權(quán)益;另一方面,相關(guān)監(jiān)管部門又發(fā)布了《關(guān)于防范代幣發(fā)行融資風(fēng)險的公告》等文件,提出“代幣或虛擬貨幣不由貨幣當(dāng)局發(fā)行,不具有法償性與強(qiáng)制性等貨幣屬性,不具有與貨幣等同的法律地位,不能也不應(yīng)作為貨幣在市場上流通使用”[19],明確否認(rèn)了代幣、虛擬貨幣等虛擬資產(chǎn)的價值。

    二是元宇宙中虛擬資產(chǎn)的權(quán)屬界定問題。在元宇宙中產(chǎn)生的虛擬資產(chǎn)應(yīng)當(dāng)屬于用戶個人還是元宇宙平臺服務(wù)提供者,目前既沒有實踐中的共識,更沒有法律上的界定,而這種資產(chǎn)權(quán)屬不明會嚴(yán)重影響到未來元宇宙的價值創(chuàng)造和技術(shù)創(chuàng)新。雖然從技術(shù)角度來看,相比于Web 2.0,Web 3.0是一個數(shù)據(jù)資產(chǎn)被確權(quán)的網(wǎng)絡(luò),用戶在元宇宙中創(chuàng)造的游戲人物、代幣等都可以作為其虛擬資產(chǎn)進(jìn)行確權(quán)[20],但從實踐來看,元宇宙平臺在提供服務(wù)的過程中付出了一定的加工和創(chuàng)造,因此平臺時常會利用其優(yōu)勢地位,通過用戶協(xié)議等方式將這些虛擬資產(chǎn)的權(quán)屬歸為自己。例如,在元宇宙游戲企業(yè)暴雪公司下屬的“魔獸世界”用戶協(xié)議中,包括用戶賬號、數(shù)據(jù)、代碼、虛擬商品(如貨幣和數(shù)字卡片)、所有角色及其名字在內(nèi)的所有權(quán)利、所有權(quán)和利益均歸平臺服務(wù)提供者所有[4]。

    三是元宇宙虛擬資產(chǎn)帶來的安全風(fēng)險問題。以NFT為例,作為數(shù)字原生經(jīng)濟(jì)的關(guān)鍵嘗試,NFT正演變?yōu)樵钪娼?jīng)濟(jì)系統(tǒng)的核心組件,其應(yīng)用范圍涉及游戲、藝術(shù)品、域名、保險、收藏等多個領(lǐng)域,市場前景廣闊,但同時也存在炒作、洗錢、非法金融活動等風(fēng)險隱患。2022年4月,中國互聯(lián)網(wǎng)金融協(xié)會、中國銀行業(yè)協(xié)會和中國證券業(yè)協(xié)會聯(lián)合發(fā)布《關(guān)于防范NFT相關(guān)金融風(fēng)險的倡議》,明確提出要“堅決遏制NFT金融化證券化傾向,從嚴(yán)防范非法金融活動風(fēng)險”[21]。與此同時,國際社會也高度關(guān)注數(shù)字資產(chǎn)及其可能引發(fā)的風(fēng)險。2022年3月,美國總統(tǒng)拜登簽署《關(guān)于確保負(fù)責(zé)任地發(fā)展數(shù)字資產(chǎn)的行政命令》,要求美國政府各部門在總統(tǒng)國家安全事務(wù)助理和總統(tǒng)經(jīng)濟(jì)政策助理的協(xié)調(diào)下通力合作,就數(shù)字資產(chǎn)的安全和轉(zhuǎn)移、支付系統(tǒng)的構(gòu)建、中央銀行數(shù)字貨幣等方面存在的問題以及未來發(fā)展展開研究,并提出要保護(hù)消費者和投資者,降低金融風(fēng)險,減輕數(shù)字資產(chǎn)濫用帶來的危害[22]。

    2.5 元宇宙生態(tài)治理問題

    長期以來,網(wǎng)絡(luò)空間被認(rèn)為是億萬網(wǎng)民共同的精神家園,網(wǎng)絡(luò)生態(tài)治理成為我國信息內(nèi)容治理的重要領(lǐng)域。云計算、大數(shù)據(jù)、人工智能、算法推薦等新技術(shù)的大規(guī)模應(yīng)用,引發(fā)網(wǎng)絡(luò)傳播秩序的深刻變革,而元宇宙的出現(xiàn)和快速發(fā)展,進(jìn)一步改變了信息內(nèi)容傳播的渠道和方式,帶來一系列新的挑戰(zhàn)。利用人工智能、深度合成等技術(shù)生成的海量虛擬內(nèi)容,是元宇宙賴以生存的重要基礎(chǔ),同時也是違法違規(guī)內(nèi)容制作、復(fù)制、傳播風(fēng)險的高發(fā)之地,更帶來深度偽造、虛假信息傳播、消解主流價值觀等一系列生態(tài)治理問題。為此,元宇宙公司Roblox在其社區(qū)準(zhǔn)則中明確禁止暴力脅迫、網(wǎng)絡(luò)欺凌騷擾、傳播暴力血腥內(nèi)容,以及支持、美化或宣傳任何恐怖主義或極端主義組織的內(nèi)容等。

    元宇宙中的生態(tài)治理問題突出體現(xiàn)在兩個亟須解決的典型場景。一是元宇宙中生態(tài)亂象對用戶個人權(quán)益的侵害?,F(xiàn)階段,由于缺乏明確的法律治理規(guī)則,元宇宙處在一種“社會失范”的監(jiān)管狀態(tài),淫穢色情、暴力恐怖等信息可以隨意傳播,網(wǎng)絡(luò)暴力、性別歧視、霸凌、敲詐勒索等行為屢禁不止。這些亂象不僅危害良好的社會風(fēng)氣,嚴(yán)重侵犯公民的合法權(quán)益,破壞元宇宙的生態(tài)環(huán)境,甚至可能對主流意識形態(tài)造成干擾和沖擊。二是元宇宙場景下虛假信息傳播的治理問題?;ヂ?lián)網(wǎng)的發(fā)展為虛假信息傳播提供了有效的渠道和工具,雖然監(jiān)管部門已經(jīng)采取措施解決相關(guān)問題,但技術(shù)的發(fā)展,尤其是元宇宙所依賴的人工智能技術(shù)和深度偽造技術(shù)的發(fā)展,進(jìn)一步加劇了各類虛假甚至錯誤信息的傳播[23]。2019年12月,國家互聯(lián)網(wǎng)信息辦公室(以下簡稱國家網(wǎng)信辦)發(fā)布了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》,明確了網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者應(yīng)當(dāng)遵守的法律義務(wù),包括不得制作、復(fù)制、發(fā)布含有散布謠言等11類內(nèi)容的違法信息,并采取措施防范和抵制制作、復(fù)制、發(fā)布含有宣揚低俗、庸俗、媚俗內(nèi)容等的不良信息。2022年12月,國家網(wǎng)信辦等三部門發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,要求任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律和行政法規(guī)禁止的信息。在元宇宙中,相關(guān)主體是否也應(yīng)當(dāng)遵守這些信息內(nèi)容生態(tài)治理的義務(wù)?相關(guān)規(guī)定仍有待明確。

    2.6 元宇宙平臺責(zé)任問題

    在Web 2.0時代,網(wǎng)絡(luò)平臺成為數(shù)字經(jīng)濟(jì)發(fā)展和產(chǎn)業(yè)創(chuàng)新的關(guān)鍵主體,平臺掌握了大量的資源,因此也成為政府監(jiān)管治理的重要對象。圍繞平臺責(zé)任的制度設(shè)計是Web 2.0時代立法工作的一項重要任務(wù),無論是我國的《中華人民共和國電子商務(wù)法》《中華人民共和國反不正當(dāng)競爭法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》,還是歐盟的《數(shù)字市場法》《數(shù)字服務(wù)法》,都明確了網(wǎng)絡(luò)平臺或數(shù)字平臺的特殊義務(wù)。例如,《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》要求網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺應(yīng)當(dāng)履行信息內(nèi)容管理主體責(zé)任,加強(qiáng)本平臺網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理6參見《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第八條。;歐盟的《數(shù)字市場法》旨在解決大型數(shù)字平臺在數(shù)字經(jīng)濟(jì)活動中產(chǎn)生的負(fù)面影響,通過規(guī)定統(tǒng)一的規(guī)則,確保歐盟境內(nèi)有“守門人”的數(shù)字市場的競爭性和公平性。進(jìn)入Web 3.0時代,元宇宙平臺作為重要的服務(wù)提供者,是否應(yīng)當(dāng)承擔(dān)與Web 2.0時代類似的責(zé)任義務(wù)呢?

    谷歌前首席執(zhí)行官施密特認(rèn)為,元宇宙將是移動互聯(lián)網(wǎng)的下一個階段;Meta創(chuàng)始人扎克伯格也表示,“可以把元宇宙看作移動互聯(lián)網(wǎng)的繼任者”[24]。因此,從某種程度上說,元宇宙的出現(xiàn)不僅沒有削弱傳統(tǒng)互聯(lián)網(wǎng)平臺的地位,反而推動越來越多的平臺開始轉(zhuǎn)向元宇宙領(lǐng)域,這些平臺企業(yè)借助元宇宙的技術(shù)與機(jī)制,采取一系列的改革創(chuàng)新舉措,使傳統(tǒng)平臺自身也開始攜帶新的勢能[25]。例如,騰訊也正在轉(zhuǎn)型為領(lǐng)先的元宇宙平臺企業(yè),以投資、合作等形式進(jìn)行全面布局,涉及VR/AR硬件開發(fā)、游戲平臺以及元宇宙內(nèi)容和服務(wù)等方面,并在內(nèi)部成立“擴(kuò)展現(xiàn)實”部門,為騰訊建立包括軟件和硬件在內(nèi)的擴(kuò)展現(xiàn)實業(yè)務(wù)。實踐中的元宇宙平臺責(zé)任問題已經(jīng)開始產(chǎn)生。2022年4月,杭州互聯(lián)網(wǎng)法院就全國首例NFT數(shù)字藏品侵權(quán)案件做出判決,法院綜合交易模式、技術(shù)特點、平臺控制能力、營利模式等因素,認(rèn)定被告某科技公司經(jīng)營的“元宇宙”平臺為新型網(wǎng)絡(luò)服務(wù)提供者。判決指出,平臺在NFT交易過程中對交易的控制能力強(qiáng)、審核控制成本可控,并且直接從交易中獲利,因而具有較高的注意義務(wù),該平臺作為NFT數(shù)字作品交易服務(wù)平臺,未盡到審查注意義務(wù),存在主觀過錯,其行為已構(gòu)成幫助侵權(quán),判決被告立即刪除涉案平臺上發(fā)布的NFT作品,并賠償原告經(jīng)濟(jì)損失[26]。

    2.7 網(wǎng)絡(luò)犯罪問題

    作為一種新的組織形態(tài),元宇宙為不法分子開展違法犯罪活動提供了新的領(lǐng)域,也帶來了一些新型網(wǎng)絡(luò)犯罪活動。如何對這類行為進(jìn)行定性及如何界定其法律責(zé)任,是目前各國監(jiān)管面臨的難題。一方面,元宇宙的發(fā)展越來越模糊了現(xiàn)實世界和虛擬世界的界限,推動傳統(tǒng)網(wǎng)絡(luò)犯罪行為滲透到新的虛擬世界。例如,Meta公司的元宇宙平臺已多次發(fā)生性侵事件,這在現(xiàn)實世界中是非常明確的違反刑法的犯罪行為,應(yīng)當(dāng)依法承擔(dān)刑事責(zé)任。但在虛擬的元宇宙中,雖然也違背了當(dāng)事人的意愿,但該行為是由元宇宙中虛擬人物實施的,不存在現(xiàn)實世界中的物理接觸,難以直接使用傳統(tǒng)刑法進(jìn)行規(guī)制,也難以將其認(rèn)定為刑事犯罪。有專家指出,在元宇宙持續(xù)發(fā)展的進(jìn)程中,“隨著元宇宙空間中人身本體五官感受和體驗的不斷增強(qiáng),屆時虛擬角色的虛擬性下降、全真性上升,人們可以通過元宇宙空間實現(xiàn)自己身體的復(fù)制,在此情況下,當(dāng)然會導(dǎo)致某種程度侵犯人身權(quán)利犯罪的實際發(fā)生”[27]。再如網(wǎng)絡(luò)賭博問題,美國學(xué)者通過觀察元宇宙游戲《第二人生》(Second Life)發(fā)現(xiàn),政府部門對賭博的監(jiān)管明顯與元宇宙的發(fā)展息息相關(guān),當(dāng)監(jiān)管部門禁止《第二人生》的賭博功能時,該游戲便失去了大量用戶和影響力[28]。

    另一方面,在元宇宙發(fā)展的現(xiàn)階段,即初期階段,諸多法律規(guī)則尚不清晰,加之與元宇宙相關(guān)的技術(shù)具有的去中心化、匿名化等特點,給了不法分子可乘之機(jī),導(dǎo)致新型犯罪行為不斷產(chǎn)生。例如,利用NFT進(jìn)行洗錢、非法集資等的犯罪行為屢見不鮮,也引起了越來越多國家監(jiān)管部門的關(guān)注。美國財政部在其發(fā)布的相關(guān)報告中明確提示要注意NFT交易市場中的洗錢行為;韓國金融監(jiān)督局也強(qiáng)化了對NFT和元宇宙等相關(guān)企業(yè)在上市過程中的資產(chǎn)交易審查[29]。此外,在元宇宙中盜用數(shù)字身份進(jìn)行網(wǎng)絡(luò)詐騙、利用元宇宙跨國性發(fā)展特征實施跨境虛擬犯罪以及其他侵犯用戶在元宇宙中的人身和財產(chǎn)權(quán)益的行為也層出不窮,這些犯罪與現(xiàn)實中的行為相似,但又是比較獨立的新類型,僅靠現(xiàn)有的法律制度還難以有效規(guī)制。

    3 依法規(guī)范元宇宙發(fā)展的考慮

    網(wǎng)絡(luò)空間不是“法外之地”,同理,元宇宙也不應(yīng)成為“法外之地”。元宇宙的興起和發(fā)展是新一代信息通信技術(shù)發(fā)展不可避免的結(jié)果和趨勢,也代表著新的生產(chǎn)力和新的發(fā)展方向,催生了一系列新業(yè)態(tài)、新模式,但相關(guān)法律制度還存在時間差、空白區(qū)。黨的二十大報告指出,必須更好地發(fā)揮法治固根本、穩(wěn)預(yù)期、利長遠(yuǎn)的保障作用,加強(qiáng)重點領(lǐng)域、新興領(lǐng)域、涉外領(lǐng)域立法,加強(qiáng)重點行業(yè)、重點領(lǐng)域安全監(jiān)管[30]。面對元宇宙快速發(fā)展的趨勢和產(chǎn)生的各類法律問題,應(yīng)堅持依法規(guī)范發(fā)展,在明確基本思路、原則的基礎(chǔ)上,指導(dǎo)相關(guān)部門針對性地重點推進(jìn)解決元宇宙發(fā)展面臨的主要法律難題。

    3.1 基本原則

    一是堅持安全可控發(fā)展,適度超前布局治理規(guī)則。雖然元宇宙還處于發(fā)展初期,但相關(guān)技術(shù)創(chuàng)新迭代速度快、業(yè)態(tài)應(yīng)用變化多,與傳統(tǒng)網(wǎng)絡(luò)空間相比,元宇宙具有更大的不可控制性和不可預(yù)知性。安全是發(fā)展的前提。元宇宙構(gòu)建了虛擬世界與現(xiàn)實社會高度交融的新社會形態(tài),導(dǎo)致傳統(tǒng)安全風(fēng)險與非傳統(tǒng)安全風(fēng)險相互疊加,治理元宇宙比治理現(xiàn)實世界更加復(fù)雜,因此,不能按照傳統(tǒng)互聯(lián)網(wǎng)發(fā)展遵循的“先發(fā)展再治理”的理念,需要提前劃定安全底線和發(fā)展紅線。對于監(jiān)管部門而言,應(yīng)保持適當(dāng)?shù)拿艚菪院颓罢靶?,跟上元宇宙領(lǐng)域快速發(fā)展的步伐,相關(guān)立法在時間節(jié)點上也需要具有超前性。與此同時,要處理好安全與發(fā)展的關(guān)系,我國元宇宙領(lǐng)域的法律規(guī)則應(yīng)當(dāng)及時回應(yīng)發(fā)展中出現(xiàn)的問題,最大限度地控制和減少元宇宙給國家安全、公共利益以及個人權(quán)利帶來的侵犯,實現(xiàn)安全、可控的基本目標(biāo)。

    二是堅持問題導(dǎo)向,確保元宇宙法律規(guī)則及時高效。元宇宙發(fā)展產(chǎn)生了很多新的問題,并呈現(xiàn)出交互性、虛擬性、匿名性等特點,需要法律與時俱進(jìn)、及時調(diào)整,有針對性地提供有效監(jiān)管依據(jù),規(guī)范行業(yè)有序發(fā)展。與此同時,元宇宙領(lǐng)域更新迭代速度快,技術(shù)應(yīng)用變化多,相應(yīng)地帶來法律社會關(guān)系的快速變化,與立法工作的程序性、穩(wěn)定性產(chǎn)生了矛盾[31]。要解決由此帶來的立法滯后性問題,相關(guān)部門必須調(diào)整立法思路,及時了解當(dāng)前元宇宙技術(shù)和產(chǎn)業(yè)發(fā)展的最新動向,從問題出發(fā),與時俱進(jìn),本著“急用先行”的原則,適時通過法律手段有針對性地解決元宇宙發(fā)展面臨的問題和降低風(fēng)險。一方面,對于實踐中已經(jīng)出現(xiàn)的、比較明確的問題和領(lǐng)域,如深度偽造、數(shù)據(jù)濫用等問題,要把握立法時機(jī),做到積極謀劃、主動立法;另一方面,對于剛剛出現(xiàn)苗頭、風(fēng)險還未完全暴露的領(lǐng)域,如數(shù)字虛擬資產(chǎn)性質(zhì)和權(quán)屬等問題,可以“讓子彈再飛一會兒”,密切跟進(jìn),掌握最新動向,分析研判總體態(tài)勢和存在的風(fēng)險隱患,做好研究預(yù)案,根據(jù)行業(yè)發(fā)展情況和成熟度分期分批進(jìn)行相應(yīng)的法律制度調(diào)整。

    三是用好用足現(xiàn)有法律法規(guī),將其延伸到元宇宙監(jiān)管領(lǐng)域。雖然元宇宙創(chuàng)造了一個似乎難以直接適用現(xiàn)實世界法律法規(guī)的虛擬空間,但元宇宙中的活動不僅停留在虛擬空間,其行為后果也對現(xiàn)實世界產(chǎn)生了影響[32]。與此同時,現(xiàn)實世界還為元宇宙的構(gòu)建提供了關(guān)鍵的數(shù)字基礎(chǔ)設(shè)施,因此有觀點指出,現(xiàn)實世界的法律應(yīng)當(dāng)是元宇宙治理的主要規(guī)則形式,元宇宙的治理也應(yīng)以現(xiàn)實物理世界為本[33]。從法律規(guī)則本身來看,法律具有普遍適用性,原則上可以延伸到所有主權(quán)國家管轄的范圍。從實踐情況來看,元宇宙中有一些問題也是傳統(tǒng)互聯(lián)網(wǎng)領(lǐng)域問題的延伸,如網(wǎng)絡(luò)安全、數(shù)據(jù)治理、個人信息保護(hù)等問題,對此我國已經(jīng)制定出臺了《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》等法律法規(guī),未來可以在元宇宙中直接使用或者針對元宇宙特征修改完善后使用。因此,元宇宙的法律規(guī)制應(yīng)當(dāng)建立在現(xiàn)有法律法規(guī)的基礎(chǔ)上,再通過立、改、廢、釋等立法手段,逐步建立健全元宇宙監(jiān)管法律制度體系,以應(yīng)對新技術(shù)、新應(yīng)用、新業(yè)態(tài)給法治建設(shè)帶來的挑戰(zhàn)。

    四是堅持綜合治理,發(fā)揮多手段、多主體作用。元宇宙作為現(xiàn)實世界和虛擬世界的融合形態(tài),其治理的模式已不再是傳統(tǒng)的監(jiān)管部門與監(jiān)管對象之間的單向管理模式,也不是僅僅依靠行政執(zhí)法、處罰等傳統(tǒng)手段就能完全解決的。應(yīng)當(dāng)順應(yīng)元宇宙跨界融合、跨界發(fā)展的特點,及時調(diào)整監(jiān)管思路,從單純的政府監(jiān)管向更加注重社會協(xié)同的治理轉(zhuǎn)變,加強(qiáng)監(jiān)管資源整合,推動形成政府主導(dǎo)、行業(yè)引導(dǎo)、企業(yè)履責(zé)、用戶自律、社會監(jiān)督等多主體參與,法律、政策、技術(shù)等多手段相結(jié)合的元宇宙綜合治理體系。例如,在治理主體方面,在政府主導(dǎo)下,更要注重發(fā)揮元宇宙平臺等企業(yè)主體的治理作用,通過壓實主體責(zé)任,切實提升監(jiān)管治理實效。再如,在治理手段方面,應(yīng)當(dāng)堅持法律手段與技術(shù)手段相結(jié)合,北京市也提出“探索治理與監(jiān)管沙盒機(jī)制,為新技術(shù)、新模式創(chuàng)新提供試驗田”。與此同時,元宇宙具有跨國性發(fā)展特征,其帶來的問題和挑戰(zhàn)是全球共同面臨的難題,因此,在立足國內(nèi)元宇宙監(jiān)管治理的同時,要加強(qiáng)同國際社會的交流與合作,積極參與并推動全球元宇宙治理規(guī)則的制定,以應(yīng)對人類共同的機(jī)遇和挑戰(zhàn)。

    3.2 具體規(guī)制建議

    當(dāng)前階段面臨著嚴(yán)峻挑戰(zhàn)和艱巨任務(wù),要妥善解決元宇宙發(fā)展中面臨的一系列突出矛盾和重大問題,必須堅持法治思維,以法治建設(shè)推進(jìn)元宇宙治理深刻變革,確保元宇宙始終沿著正確方向前進(jìn),實現(xiàn)以良法促進(jìn)發(fā)展、保障善治。在元宇宙發(fā)展的初期,元宇宙相關(guān)活動還不是社會的普遍現(xiàn)象,對元宇宙相關(guān)活動的法律規(guī)范主要還是針對個別行為或重點領(lǐng)域的調(diào)整,因此,要堅持問題導(dǎo)向,有針對性地重點解決網(wǎng)絡(luò)安全、個人信息與隱私保護(hù)、數(shù)據(jù)治理、數(shù)字財產(chǎn)、內(nèi)容生態(tài)治理、元宇宙平臺責(zé)任以及網(wǎng)絡(luò)犯罪等難題,密織法律之網(wǎng)、強(qiáng)化法治之力,統(tǒng)籌推進(jìn)元宇宙領(lǐng)域國內(nèi)法治和國外法治工作,確保元宇宙發(fā)展既生機(jī)勃勃,又井然有序。

    一是針對網(wǎng)絡(luò)安全問題,修訂完善相關(guān)法律法規(guī)?,F(xiàn)有的《網(wǎng)絡(luò)安全法》《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》等法律法規(guī)雖然可以延伸到元宇宙,但仍缺乏明確性和針對性。因此,一方面,可以通過修訂《網(wǎng)絡(luò)安全法》等法律法規(guī)的方式,增加相關(guān)條款或修改相關(guān)表述,進(jìn)一步明確規(guī)定元宇宙中相關(guān)主體應(yīng)當(dāng)履行的網(wǎng)絡(luò)安全義務(wù),以及國家對元宇宙中各項活動的管轄權(quán);另一方面,針對數(shù)字身份安全等具體安全問題,可考慮制定出臺專門的數(shù)字身份管理規(guī)定等配套規(guī)則。近期,歐盟等經(jīng)濟(jì)體積極推進(jìn)數(shù)字身份立法活動,歐盟委員會和歐洲理事會先后提出《歐盟數(shù)字身份框架計劃》和《關(guān)于歐洲數(shù)字身份框架的擬議立法的共同立場》,我國也應(yīng)加快研究建立專門的數(shù)字身份管理和認(rèn)證制度,推動由政府主導(dǎo)構(gòu)建的數(shù)字身份認(rèn)證服務(wù)體系,將網(wǎng)絡(luò)空間身份管理制度推及元宇宙空間。

    二是針對個人信息和隱私保護(hù)問題,強(qiáng)化法律和技術(shù)監(jiān)管。一方面,針對元宇宙風(fēng)險特點,制定完善個人信息保護(hù)法律規(guī)則。例如,歐洲議會在強(qiáng)調(diào)《通用數(shù)據(jù)保護(hù)條例》等現(xiàn)有隱私和個人數(shù)據(jù)保護(hù)框架適用于元宇宙的同時,也有觀點提出《通用數(shù)據(jù)保護(hù)條例》的設(shè)計初衷并不是為了解決當(dāng)前元宇宙帶來的挑戰(zhàn)和復(fù)雜問題,需要針對性進(jìn)行修訂和更新[34]。從我國來看,現(xiàn)有的《個人信息保護(hù)法》仍然是基于Web 2.0時代的特征制定的,未來需要針對Web 3.0和元宇宙的發(fā)展特點進(jìn)行調(diào)整完善,并進(jìn)一步明確強(qiáng)調(diào)元宇宙中個人信息和隱私保護(hù)的基本原則。另一方面,要充分發(fā)揮技術(shù)優(yōu)勢,強(qiáng)化元宇宙隱私保護(hù)的技術(shù)手段建設(shè)。圍繞個人信息泄露、濫用等風(fēng)險,加強(qiáng)隱私計算、聯(lián)邦學(xué)習(xí)、區(qū)塊鏈等技術(shù)研發(fā)和創(chuàng)新,提出元宇宙場景下保護(hù)個人信息和隱私的有效解決方案。

    三是針對數(shù)據(jù)治理問題,持續(xù)健全各項配套規(guī)則。目前,我國建立了以《數(shù)據(jù)安全法》為核心的數(shù)據(jù)治理法律制度體系,但這些頂層制度設(shè)計規(guī)定多為原則性的內(nèi)容,需要加快出臺相關(guān)配套規(guī)定,明確在元宇宙場景下如何具體適用。一方面,針對重要數(shù)據(jù)保護(hù)、數(shù)據(jù)分類分級、數(shù)據(jù)安全審查、數(shù)據(jù)交易流通等重點制度如何具體落實,應(yīng)盡快制定詳細(xì)的實施規(guī)則;另一方面,對于數(shù)據(jù)跨境流動等已經(jīng)通過《數(shù)據(jù)出境安全評估辦法》《個人信息保護(hù)認(rèn)證實施規(guī)則》開始落地實施的制度,應(yīng)針對元宇宙場景中數(shù)據(jù)跨境流動的特點和監(jiān)管需求做出相應(yīng)調(diào)整或補(bǔ)充規(guī)定。

    四是針對虛擬資產(chǎn)問題,加快研究建立監(jiān)管使用規(guī)則。元宇宙中的虛擬資產(chǎn)類型多樣,具有多元屬性。從本質(zhì)上來看,虛擬資產(chǎn)是數(shù)據(jù)和代碼,然而這串?dāng)?shù)據(jù)和代碼背后承載著豐富而復(fù)雜的內(nèi)容。對于虛擬資產(chǎn)的定性,如果僅僅從傳統(tǒng)的財產(chǎn)權(quán)視角進(jìn)行單一的認(rèn)定是不科學(xué)的,也很難做出統(tǒng)一的監(jiān)管規(guī)則。因此,可考慮針對不同類型的虛擬資產(chǎn)制定分類的監(jiān)管方式。例如,可以率先對當(dāng)前關(guān)注度最高、使用最廣泛的NFT的監(jiān)管,研究制定具體的制度規(guī)則。此前中國互聯(lián)網(wǎng)金融協(xié)會聯(lián)合發(fā)布的《關(guān)于防范NFT相關(guān)金融風(fēng)險的倡議》已經(jīng)在社會各界形成了一定的共識,可在此基礎(chǔ)上將相關(guān)內(nèi)容上升為法律制度規(guī)則,從而使其具備強(qiáng)制約束力。與此同時,在解決虛擬資產(chǎn)問題方面,還可以鼓勵“司法先行”,充分發(fā)揮互聯(lián)網(wǎng)法院案件類型化、審理專業(yè)化的優(yōu)勢,通過司法審判實踐來推動虛擬資產(chǎn)相關(guān)規(guī)則的確立。

    五是針對元宇宙生態(tài)治理、平臺責(zé)任和網(wǎng)絡(luò)犯罪問題,統(tǒng)籌推進(jìn)相關(guān)領(lǐng)域秩序規(guī)范。從實踐來看,這3個領(lǐng)域的問題更多涉及對市場秩序和發(fā)展環(huán)境的影響,現(xiàn)有法律法規(guī)基本是可以延伸適用到相關(guān)領(lǐng)域的。例如,可以通過制定司法解釋或者修訂相關(guān)規(guī)則的適用范圍,明確元宇宙中的相關(guān)活動和主體應(yīng)當(dāng)遵守現(xiàn)有規(guī)定。具體而言,首先,對于元宇宙內(nèi)容生態(tài)治理,可充分利用此前發(fā)布的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》,其中對網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺、網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者、網(wǎng)絡(luò)行業(yè)組織等主體規(guī)定了信息內(nèi)容生態(tài)治理義務(wù)和要求,可以通過解釋的方式延伸到元宇宙相關(guān)主體。與此同時,針對深度偽造、虛假信息等重點突出問題,推動出臺具體領(lǐng)域的配套規(guī)則。其次,對于元宇宙平臺責(zé)任問題,考慮到我國目前針對平臺監(jiān)管還沒有制定專門的立法,各個行業(yè)領(lǐng)域的平臺治理規(guī)則也不盡統(tǒng)一,可考慮研究制定專門的《平臺管理法》,在適用范圍和監(jiān)管制度設(shè)計中將元宇宙元素納入其中,進(jìn)而在法律層面統(tǒng)一規(guī)定各類平臺的義務(wù)設(shè)置,防范超大型平臺可能帶來的系統(tǒng)性風(fēng)險。最后,對于元宇宙中的犯罪問題,應(yīng)當(dāng)堅持從嚴(yán)規(guī)制的原則。雖然有觀點主張直接沿用現(xiàn)實世界中的犯罪理論,以便執(zhí)法部門能夠便捷地使用現(xiàn)有的完備刑事程序來執(zhí)法[3],但也不能簡單粗暴地將元宇宙中所有的犯罪行為直接套用現(xiàn)有的刑事法律規(guī)則,應(yīng)當(dāng)考慮不同類型的元宇宙犯罪行為特征,有針對性地進(jìn)行規(guī)制。例如,需要區(qū)分是在現(xiàn)實社會中打著元宇宙的名義實施的犯罪,還是基于元宇宙而產(chǎn)生的新型犯罪行為。對于假借元宇宙名義實施的犯罪,按照現(xiàn)有規(guī)定判斷即可;對于元宇宙中的新型犯罪行為,可以通過司法解釋的方式對其性質(zhì)進(jìn)行認(rèn)定。

    4 結(jié)束語

    元宇宙的未來已來,人類社會從現(xiàn)實世界延伸至虛擬世界似乎也難以避免。元宇宙既是技術(shù)創(chuàng)新的重大成果,也是當(dāng)今技術(shù)創(chuàng)新最活躍的關(guān)鍵領(lǐng)域,同時也對經(jīng)濟(jì)社會方方面面產(chǎn)生著重大影響,帶來一系列風(fēng)險和挑戰(zhàn),并對現(xiàn)有法律制度體系形成沖擊。元宇宙不是法外之地,同樣需要講法治,需要維護(hù)國家主權(quán)安全、社會公共利益以及公民個人權(quán)益。元宇宙引發(fā)的一系列法律難題本質(zhì)上是技術(shù)對法律的沖擊,但又與現(xiàn)有技術(shù)安全風(fēng)險不完全一樣?!凹夹g(shù)前進(jìn)一小步,管理難度增加一大步”,需要準(zhǔn)確識變、科學(xué)應(yīng)變,正確認(rèn)識發(fā)展形勢、發(fā)展規(guī)律,堅持問題導(dǎo)向,依法規(guī)范元宇宙創(chuàng)新發(fā)展。國家和有關(guān)部門已經(jīng)開始注意到元宇宙的相關(guān)法律風(fēng)險,先后制定發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于防范以“元宇宙”名義進(jìn)行非法集資的風(fēng)險提示》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等。地方政府在推動元宇宙產(chǎn)業(yè)發(fā)展的同時,也提出要加強(qiáng)元宇宙政策法規(guī)研究,構(gòu)建元宇宙治理體系等。元宇宙屬于正在發(fā)展的新生事物,不能因為已經(jīng)出現(xiàn)的問題風(fēng)險就貿(mào)然扼殺,應(yīng)當(dāng)在堅守安全發(fā)展的前提下,合理運用立、改、廢、釋等立法手段,逐步構(gòu)建適應(yīng)元宇宙發(fā)展規(guī)律和特點的規(guī)則體系,推動其健康有序、安全可控發(fā)展。

    猜你喜歡
    法律發(fā)展
    法律推理與法律一體化
    法律方法(2022年1期)2022-07-21 09:17:10
    邁上十四五發(fā)展“新跑道”,打好可持續(xù)發(fā)展的“未來牌”
    中國核電(2021年3期)2021-08-13 08:56:36
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    法律適用中的邏輯思維
    法律方法(2019年3期)2019-09-11 06:27:06
    從HDMI2.1與HDCP2.3出發(fā),思考8K能否成為超高清發(fā)展的第二階段
    砥礪奮進(jìn) 共享發(fā)展
    華人時刊(2017年21期)2018-01-31 02:24:01
    改性瀝青的應(yīng)用與發(fā)展
    北方交通(2016年12期)2017-01-15 13:52:53
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
    “會”與“展”引導(dǎo)再制造發(fā)展
    汽車零部件(2014年9期)2014-09-18 09:19:14
    又黄又爽又刺激的免费视频.| 久久人人爽人人片av| 99国产精品一区二区蜜桃av| a级毛片a级免费在线| 亚洲熟妇中文字幕五十中出| 男人舔女人下体高潮全视频| 欧美日韩精品成人综合77777| 午夜福利高清视频| 亚洲成人av在线免费| 九草在线视频观看| 免费av观看视频| 美女被艹到高潮喷水动态| 国内久久婷婷六月综合欲色啪| 欧美3d第一页| av女优亚洲男人天堂| 国产av一区在线观看免费| 国产真实伦视频高清在线观看| 精品一区二区三区人妻视频| 熟女电影av网| 小说图片视频综合网站| 免费看光身美女| 亚洲丝袜综合中文字幕| 乱码一卡2卡4卡精品| 国产久久久一区二区三区| 成人鲁丝片一二三区免费| 在线免费观看不下载黄p国产| 亚洲婷婷狠狠爱综合网| 国产精品,欧美在线| 国产熟女欧美一区二区| 特级一级黄色大片| 18+在线观看网站| 在线国产一区二区在线| 可以在线观看毛片的网站| 国产精品麻豆人妻色哟哟久久 | 亚洲无线观看免费| 啦啦啦韩国在线观看视频| 午夜久久久久精精品| 99久久成人亚洲精品观看| 亚洲av电影不卡..在线观看| 免费看av在线观看网站| 久久99热6这里只有精品| 成年免费大片在线观看| 国产人妻一区二区三区在| 成人性生交大片免费视频hd| 99riav亚洲国产免费| 成人无遮挡网站| 中国美女看黄片| 国产高清有码在线观看视频| 国产高清有码在线观看视频| 精品免费久久久久久久清纯| 亚洲av一区综合| 一级二级三级毛片免费看| 欧美一区二区亚洲| 九九热线精品视视频播放| 麻豆国产97在线/欧美| 亚洲欧洲日产国产| 国产精品三级大全| 日韩强制内射视频| 欧美性猛交╳xxx乱大交人| 国产精品爽爽va在线观看网站| 欧美一区二区国产精品久久精品| 国产av不卡久久| 免费不卡的大黄色大毛片视频在线观看 | 亚洲中文字幕一区二区三区有码在线看| 欧美区成人在线视频| 成年女人看的毛片在线观看| 久久久久久久久久久免费av| 少妇熟女aⅴ在线视频| 九草在线视频观看| 大香蕉久久网| av天堂中文字幕网| 中文亚洲av片在线观看爽| 精品不卡国产一区二区三区| 三级男女做爰猛烈吃奶摸视频| av福利片在线观看| 夫妻性生交免费视频一级片| 三级男女做爰猛烈吃奶摸视频| av天堂中文字幕网| 国产亚洲精品久久久久久毛片| 欧美精品一区二区大全| 日韩一本色道免费dvd| 国产精品久久久久久亚洲av鲁大| 噜噜噜噜噜久久久久久91| 老师上课跳d突然被开到最大视频| 国产色爽女视频免费观看| 黄色欧美视频在线观看| 99热精品在线国产| 久久久久久久久中文| 亚洲人成网站在线观看播放| 久久久久免费精品人妻一区二区| 特级一级黄色大片| 九草在线视频观看| 欧美区成人在线视频| 日本黄大片高清| 悠悠久久av| 男女啪啪激烈高潮av片| 免费看a级黄色片| 精华霜和精华液先用哪个| 男女做爰动态图高潮gif福利片| 国产精品国产三级国产av玫瑰| 亚洲自偷自拍三级| 久久精品综合一区二区三区| 一级二级三级毛片免费看| 国产高清有码在线观看视频| 日日干狠狠操夜夜爽| 亚洲精品影视一区二区三区av| 日韩三级伦理在线观看| 99久久中文字幕三级久久日本| ponron亚洲| 黄片无遮挡物在线观看| 日韩精品有码人妻一区| 久久中文看片网| 成年女人永久免费观看视频| 偷拍熟女少妇极品色| 岛国在线免费视频观看| 一级毛片我不卡| 午夜爱爱视频在线播放| 成年免费大片在线观看| 亚洲人成网站在线播| 国产大屁股一区二区在线视频| 天堂网av新在线| 久久久欧美国产精品| 亚洲欧美日韩东京热| 美女脱内裤让男人舔精品视频 | 91aial.com中文字幕在线观看| 日韩精品有码人妻一区| 亚州av有码| 成人特级av手机在线观看| 午夜亚洲福利在线播放| 性插视频无遮挡在线免费观看| 国产精华一区二区三区| 一进一出抽搐动态| 日本黄色片子视频| 欧美高清性xxxxhd video| 国产高清三级在线| 在线播放无遮挡| 国语自产精品视频在线第100页| 国产极品精品免费视频能看的| 波多野结衣高清无吗| 亚洲美女视频黄频| 亚州av有码| 黄色视频,在线免费观看| 夜夜爽天天搞| 国产老妇伦熟女老妇高清| 日本撒尿小便嘘嘘汇集6| 99热这里只有精品一区| 国产在线精品亚洲第一网站| 赤兔流量卡办理| 久久鲁丝午夜福利片| 欧美区成人在线视频| 亚洲精品自拍成人| 搡女人真爽免费视频火全软件| 长腿黑丝高跟| 国产黄片视频在线免费观看| 99riav亚洲国产免费| 国产成人aa在线观看| 又爽又黄无遮挡网站| 久久久久久久亚洲中文字幕| av在线亚洲专区| 亚洲成人av在线免费| 欧美一区二区精品小视频在线| 国产三级在线视频| 菩萨蛮人人尽说江南好唐韦庄 | 身体一侧抽搐| 自拍偷自拍亚洲精品老妇| 国产精品久久久久久精品电影| 丰满乱子伦码专区| 精品久久久久久久末码| 中文字幕精品亚洲无线码一区| 免费看av在线观看网站| 国产色爽女视频免费观看| 日韩在线高清观看一区二区三区| 亚洲成人av在线免费| 此物有八面人人有两片| 高清日韩中文字幕在线| 99九九线精品视频在线观看视频| 97热精品久久久久久| 国产精品一二三区在线看| 午夜久久久久精精品| 97超碰精品成人国产| 国产老妇女一区| av在线观看视频网站免费| 亚洲美女视频黄频| 97超碰精品成人国产| 亚洲色图av天堂| 国产精品综合久久久久久久免费| 精华霜和精华液先用哪个| 国产男人的电影天堂91| а√天堂www在线а√下载| 亚洲国产色片| 亚洲av不卡在线观看| 亚洲人成网站在线观看播放| 国产精品一区二区在线观看99 | 一级毛片电影观看 | 3wmmmm亚洲av在线观看| 亚洲熟妇中文字幕五十中出| 欧美zozozo另类| 国产成人aa在线观看| 亚洲图色成人| 中国美白少妇内射xxxbb| 熟女电影av网| 婷婷色综合大香蕉| 国国产精品蜜臀av免费| 精品久久久久久久末码| 国产69精品久久久久777片| 十八禁国产超污无遮挡网站| 日韩成人伦理影院| 麻豆久久精品国产亚洲av| www日本黄色视频网| 国产一区亚洲一区在线观看| а√天堂www在线а√下载| 麻豆成人午夜福利视频| 亚洲不卡免费看| 国产午夜精品论理片| 身体一侧抽搐| 五月伊人婷婷丁香| 亚洲无线在线观看| 亚洲欧美日韩卡通动漫| 免费看美女性在线毛片视频| 在线观看午夜福利视频| 欧美zozozo另类| 亚洲成a人片在线一区二区| av在线老鸭窝| 国产白丝娇喘喷水9色精品| 国产极品天堂在线| 国产成人精品婷婷| 欧美成人a在线观看| 婷婷色av中文字幕| 欧美潮喷喷水| 亚洲第一区二区三区不卡| 久久精品国产自在天天线| 青春草亚洲视频在线观看| 国产亚洲精品久久久com| 午夜福利成人在线免费观看| 亚洲人成网站在线观看播放| 亚洲一区二区三区色噜噜| avwww免费| 青青草视频在线视频观看| 久久久久网色| 观看免费一级毛片| 成人高潮视频无遮挡免费网站| 国产极品天堂在线| 国产男人的电影天堂91| 欧美成人一区二区免费高清观看| 成人鲁丝片一二三区免费| 亚洲丝袜综合中文字幕| 成人亚洲欧美一区二区av| 国产一区二区在线观看日韩| 日韩强制内射视频| 成人av在线播放网站| 国产高清三级在线| 亚洲经典国产精华液单| 成人三级黄色视频| 99九九线精品视频在线观看视频| av女优亚洲男人天堂| 观看免费一级毛片| 欧美不卡视频在线免费观看| 国产真实伦视频高清在线观看| 国产一区二区三区在线臀色熟女| 久久久国产成人免费| 最近最新中文字幕大全电影3| 波野结衣二区三区在线| 久久99蜜桃精品久久| 噜噜噜噜噜久久久久久91| 久久久国产成人免费| 男女那种视频在线观看| 99视频精品全部免费 在线| 少妇丰满av| 嫩草影院新地址| 成年免费大片在线观看| 人人妻人人看人人澡| 天天躁夜夜躁狠狠久久av| 寂寞人妻少妇视频99o| 日本成人三级电影网站| 黄片wwwwww| 一个人免费在线观看电影| 成人av在线播放网站| 啦啦啦韩国在线观看视频| 免费观看在线日韩| 99热网站在线观看| 国产精品久久久久久av不卡| 国产91av在线免费观看| 伊人久久精品亚洲午夜| 中文欧美无线码| 乱人视频在线观看| 99热全是精品| 免费一级毛片在线播放高清视频| 日本-黄色视频高清免费观看| 国产私拍福利视频在线观看| videossex国产| 亚洲精品乱码久久久v下载方式| 人妻制服诱惑在线中文字幕| 亚洲国产精品sss在线观看| 乱人视频在线观看| 少妇熟女欧美另类| 成人午夜精彩视频在线观看| av在线蜜桃| 91精品一卡2卡3卡4卡| 欧美精品一区二区大全| 床上黄色一级片| av女优亚洲男人天堂| 天堂网av新在线| 麻豆久久精品国产亚洲av| 中文精品一卡2卡3卡4更新| 日本欧美国产在线视频| 日韩欧美国产在线观看| 亚洲人成网站在线播放欧美日韩| 我的女老师完整版在线观看| 插阴视频在线观看视频| 精品人妻一区二区三区麻豆| 久久久久久久久久久免费av| 久久99热这里只有精品18| 一边摸一边抽搐一进一小说| 国产av一区在线观看免费| 插逼视频在线观看| 亚洲精品色激情综合| 久久久色成人| 一级毛片aaaaaa免费看小| 一区二区三区高清视频在线| 国产黄a三级三级三级人| 久久久国产成人免费| 亚洲丝袜综合中文字幕| 大型黄色视频在线免费观看| 欧美一区二区国产精品久久精品| 久99久视频精品免费| 国产精品野战在线观看| 亚洲激情五月婷婷啪啪| 嫩草影院精品99| 国产69精品久久久久777片| 伊人久久精品亚洲午夜| 久久精品久久久久久噜噜老黄 | 乱人视频在线观看| 成人二区视频| 岛国毛片在线播放| 日韩制服骚丝袜av| 能在线免费看毛片的网站| 久久人妻av系列| 亚洲一区二区三区色噜噜| 波多野结衣高清作品| 国产美女午夜福利| 国产伦理片在线播放av一区 | 精品久久久久久久久av| 日韩 亚洲 欧美在线| 少妇的逼水好多| 亚洲自拍偷在线| 欧美激情在线99| 久久精品国产鲁丝片午夜精品| 女同久久另类99精品国产91| 国产高清视频在线观看网站| 熟女人妻精品中文字幕| 在线播放无遮挡| 免费观看a级毛片全部| 天天躁日日操中文字幕| 十八禁国产超污无遮挡网站| 国产女主播在线喷水免费视频网站 | 一级毛片我不卡| 国产成人精品一,二区 | 国产亚洲精品久久久com| 青春草视频在线免费观看| 中文字幕av成人在线电影| 青春草亚洲视频在线观看| 蜜桃亚洲精品一区二区三区| 人妻制服诱惑在线中文字幕| 亚洲欧美成人综合另类久久久 | 性插视频无遮挡在线免费观看| 久久人妻av系列| 熟女人妻精品中文字幕| 国产大屁股一区二区在线视频| 91久久精品电影网| 少妇熟女aⅴ在线视频| 亚洲欧美日韩东京热| 国产高清激情床上av| 久久九九热精品免费| 少妇的逼水好多| www日本黄色视频网| 好男人视频免费观看在线| 午夜精品一区二区三区免费看| 男人舔奶头视频| 天美传媒精品一区二区| 欧美极品一区二区三区四区| 在线观看免费视频日本深夜| 波多野结衣高清作品| 久久人人爽人人片av| 看免费成人av毛片| 国产一区亚洲一区在线观看| 韩国av在线不卡| 白带黄色成豆腐渣| 国产成年人精品一区二区| 最近的中文字幕免费完整| 国产精品99久久久久久久久| 国内揄拍国产精品人妻在线| 久久九九热精品免费| 在线国产一区二区在线| 日韩精品有码人妻一区| 99riav亚洲国产免费| 联通29元200g的流量卡| 黄片无遮挡物在线观看| 亚洲高清免费不卡视频| 国产探花在线观看一区二区| 国产精品无大码| 亚洲五月天丁香| 国产色婷婷99| 国产精品无大码| 亚洲精品久久国产高清桃花| 久久这里有精品视频免费| 亚洲自拍偷在线| 精品久久久久久久末码| 免费一级毛片在线播放高清视频| 美女大奶头视频| 亚洲四区av| 国产伦一二天堂av在线观看| 村上凉子中文字幕在线| 精品久久久久久久末码| 成人欧美大片| 少妇被粗大猛烈的视频| 亚洲欧美日韩高清专用| 在线播放无遮挡| 久久这里只有精品中国| 亚洲欧美中文字幕日韩二区| 免费看光身美女| 久久久久久久久久黄片| 国产精品一二三区在线看| 婷婷精品国产亚洲av| 天堂√8在线中文| 成人亚洲精品av一区二区| 天堂中文最新版在线下载 | 亚洲精品日韩在线中文字幕 | 精品少妇黑人巨大在线播放 | 亚洲欧洲国产日韩| 精品一区二区三区视频在线| www.av在线官网国产| 久久人人爽人人爽人人片va| 婷婷色av中文字幕| 亚洲中文字幕一区二区三区有码在线看| 18禁在线播放成人免费| 乱码一卡2卡4卡精品| 国产亚洲5aaaaa淫片| 亚洲va在线va天堂va国产| 国产午夜精品论理片| 99热网站在线观看| 国产视频内射| 久久精品91蜜桃| 欧美性感艳星| 国产成人a区在线观看| 18禁黄网站禁片免费观看直播| 亚洲国产精品成人久久小说 | 深夜精品福利| 啦啦啦啦在线视频资源| 国产成人精品久久久久久| 中国国产av一级| 一本精品99久久精品77| 亚洲成人精品中文字幕电影| 午夜老司机福利剧场| 国产伦一二天堂av在线观看| 国产一区亚洲一区在线观看| 久久精品国产99精品国产亚洲性色| 欧美三级亚洲精品| 精品免费久久久久久久清纯| 亚洲丝袜综合中文字幕| 午夜a级毛片| 简卡轻食公司| 亚洲成人av在线免费| 免费看美女性在线毛片视频| 成人美女网站在线观看视频| av免费观看日本| 亚洲成人久久爱视频| 黄色日韩在线| 美女xxoo啪啪120秒动态图| 午夜久久久久精精品| 亚洲国产精品sss在线观看| 欧美色视频一区免费| 欧美激情久久久久久爽电影| 亚洲无线在线观看| 精品人妻一区二区三区麻豆| 91aial.com中文字幕在线观看| 国内精品宾馆在线| www.av在线官网国产| 一级毛片电影观看 | 丝袜美腿在线中文| 久久这里有精品视频免费| 丰满人妻一区二区三区视频av| 欧美3d第一页| 日本免费一区二区三区高清不卡| 国模一区二区三区四区视频| 麻豆成人av视频| 久久久久久久午夜电影| 天堂影院成人在线观看| 美女大奶头视频| 一进一出抽搐动态| 高清午夜精品一区二区三区 | 日韩欧美在线乱码| 色吧在线观看| 亚洲精品乱码久久久v下载方式| 日韩av不卡免费在线播放| 亚洲四区av| 国产黄片美女视频| 深爱激情五月婷婷| 久久久久久久久中文| 黑人高潮一二区| 亚洲人成网站在线播| 亚洲欧美精品专区久久| 久99久视频精品免费| 国产精品久久久久久久电影| 最近中文字幕高清免费大全6| 国产午夜精品一二区理论片| 色吧在线观看| 国产精品久久电影中文字幕| 亚洲精品久久久久久婷婷小说 | 日韩欧美三级三区| 午夜精品国产一区二区电影 | 久久久久久久久久成人| 国产一区二区亚洲精品在线观看| 中文字幕人妻熟人妻熟丝袜美| 日韩中字成人| 日韩一区二区三区影片| 12—13女人毛片做爰片一| 亚洲va在线va天堂va国产| 亚洲最大成人中文| 少妇裸体淫交视频免费看高清| 成人一区二区视频在线观看| 亚洲一级一片aⅴ在线观看| 九九爱精品视频在线观看| 久久99蜜桃精品久久| 少妇熟女欧美另类| 国产爱豆传媒在线观看| 成人av在线播放网站| 国产亚洲精品久久久久久毛片| 欧美在线一区亚洲| 一个人看视频在线观看www免费| 九九热线精品视视频播放| 精品国内亚洲2022精品成人| av免费在线看不卡| 又爽又黄无遮挡网站| 亚洲真实伦在线观看| 亚洲人与动物交配视频| 永久网站在线| 春色校园在线视频观看| 欧美日韩综合久久久久久| 成人午夜高清在线视频| 欧美+日韩+精品| 18禁在线播放成人免费| 国产激情偷乱视频一区二区| 国产一区亚洲一区在线观看| 国产亚洲av片在线观看秒播厂 | 好男人视频免费观看在线| 欧美激情久久久久久爽电影| 一级二级三级毛片免费看| 亚洲成av人片在线播放无| 色综合站精品国产| 成人一区二区视频在线观看| 日韩制服骚丝袜av| 亚洲欧美精品综合久久99| 自拍偷自拍亚洲精品老妇| 久久久久性生活片| 2022亚洲国产成人精品| 51国产日韩欧美| 久久欧美精品欧美久久欧美| 美女 人体艺术 gogo| 亚洲激情五月婷婷啪啪| 亚洲欧美中文字幕日韩二区| 国产成人精品久久久久久| 亚洲va在线va天堂va国产| 插逼视频在线观看| 久久久久九九精品影院| 三级经典国产精品| 99久久无色码亚洲精品果冻| 色综合色国产| 一区二区三区四区激情视频 | 亚洲国产欧美人成| 欧美最黄视频在线播放免费| 天堂√8在线中文| 免费人成在线观看视频色| 一边亲一边摸免费视频| 日韩大尺度精品在线看网址| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 欧美性感艳星| 麻豆成人av视频| 一夜夜www| 国内精品一区二区在线观看| av在线播放精品| 九草在线视频观看| 国产高清有码在线观看视频| 特级一级黄色大片| 69人妻影院| 亚洲色图av天堂| 好男人视频免费观看在线| 女同久久另类99精品国产91| 亚洲欧美清纯卡通| 国产午夜福利久久久久久| 亚洲av免费高清在线观看| 1000部很黄的大片| 亚洲欧美中文字幕日韩二区| 一区二区三区高清视频在线| 久久久久网色| 亚洲激情五月婷婷啪啪| 少妇人妻精品综合一区二区 | 少妇的逼好多水| 天堂av国产一区二区熟女人妻| 国产精品爽爽va在线观看网站| 国产精品不卡视频一区二区| 99九九线精品视频在线观看视频| 国产精品99久久久久久久久| 亚洲aⅴ乱码一区二区在线播放| 欧美不卡视频在线免费观看| 性插视频无遮挡在线免费观看| 一级黄色大片毛片| 亚洲五月天丁香| 亚洲中文字幕日韩| 中国美女看黄片| 国产免费男女视频| 我要看日韩黄色一级片| 欧美人与善性xxx| 丰满乱子伦码专区| 亚洲人成网站高清观看| 深夜精品福利|