• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    虛擬數(shù)字人的二重法律向度及法律性質界定

    2023-11-11 07:36:04夏晨斌
    長白學刊 2023年6期
    關鍵詞:主體法律

    鄭 飛,夏晨斌

    (1.北京交通大學法學院,北京 100044;2.耀時跨境數(shù)據(jù)合規(guī)研究院,南京 210019)

    一、引言

    虛擬數(shù)字人隨著元宇宙的爆火而被大眾所知,并走進法律人的視野。然而,與元宇宙一樣,虛擬數(shù)字人并非新興技術概念,而是“經(jīng)典概念新生”。雖然學界與實務界對虛擬數(shù)字人的名稱和技術路徑仍有較大爭議,但在其“具有特定類人功能”這一核心特征上具有共識[1]。

    虛擬數(shù)字人可以追溯到1951 年澳大利亞第一次計算機大會上的計算機CSIRAC。該計算機因為演奏了電影《桂河大橋》的主題曲,成為世界上第一臺具有類人音樂演奏功能的計算機。1961年,美國貝爾實驗室成功研制出了第一臺名為IBM7094 的唱歌(Daisy Bell)計算機。但這一階段的計算機尚不具備類人形象,只具備單一且孤立的“特定類人功能”。20 世紀80 年代,虛擬數(shù)字人實現(xiàn)了由單一“特定類人功能”向多元“特定類人功能”,以及由僅具有類人功能向同時兼具類人形象的雙重跨越。例如,初代虛擬數(shù)字人,也被譽為初代虛擬歌姬的日本動漫人物“林明美”,在1982年發(fā)行專輯并上榜Oricon音樂排行榜[2]。其兼具類人形象以及類人功能的熒幕化形象,為后世的虛擬數(shù)字人發(fā)展奠定了基本架構,并將虛擬數(shù)字人發(fā)展與應用推向了快車道。

    隨著大規(guī)模語言模型技術取得突破,虛擬數(shù)字人與AI 技術呈現(xiàn)融生發(fā)展趨勢。AI 驅動的交互型虛擬數(shù)字人從最初單一的音樂、影視文化圈層,走向更加多元的泛文化與泛娛樂圈層。隨著虛擬數(shù)字人概念得到廣泛關注,其相關產(chǎn)業(yè)繁榮發(fā)展,所伴生的技術風險和法律問題也逐漸被法學界關注。但法學界對虛擬數(shù)字人的趨勢認識和性質研究均存在不足之處。一是趨勢研究附庸技術,僅討論技術發(fā)展趨勢,未探究技術演化背后法律層面的深層次轉向。二是對虛擬數(shù)字人法律性質的研究或過于超前,或刻舟求劍、單一討論,缺乏將法律性質考察置于趨勢背景之下的動態(tài)思維。三是對虛擬數(shù)字人的性質厘定或多或少存在“削足適履”的情況,不敢質疑當前法律原理及法律系統(tǒng)的合理性。

    二、虛擬數(shù)字人的演化趨勢

    (一)形象真人化

    形象愈發(fā)真人化是虛擬數(shù)字人技術演化的重要特征。如前所述,1982 年虛擬歌姬“林明美”的成功,鎖定了虛擬數(shù)字人熒幕化和形象真人化的基本技術路線。盡管20 世紀80 年代也曾出現(xiàn)過卡通動物化和人物形象線條化等非真人形象化的趨勢,但這主要因為當時電腦CG與3D技術不發(fā)達,動漫形象主要依靠手繪,而精美人像制作的創(chuàng)作周期與創(chuàng)作成本顯著高于動物形象和線條人物形象制作,因此這一階段也曾出現(xiàn)過諸如“Chipmunk Song”“Archies”等非真人形象虛擬數(shù)字人。但進入90 年代,隨著電腦CG 技術和3D 技術的發(fā)展,虛擬數(shù)字人技術的發(fā)展又回到了追求形象真人化的軌道上。例如,1996 年日本娛樂公司Horipro 開發(fā)了風靡一時的3D 虛擬偶像伊達杏子(Kyoko Date);次年,韓國Adamaoft 公司也發(fā)布了虛擬歌手亞當(Adam),并發(fā)行了專輯。進入2000 年,隨著影視工業(yè)動捕、面捕技術的發(fā)展,虛擬數(shù)字人衍生出了計算機塑形、真人驅動的運作模式。2001年世界上首個由真人驅動的虛擬數(shù)字人——虛擬主持人阿娜諾娃(Ananova)在英國誕生。2011 年,電影《阿凡達》標志著各項影視工業(yè)技術及其融合應用進入成熟階段。得益于3D 虛擬影像攝影系統(tǒng),真人演員的動作與表情可以被持續(xù)實時捕捉,并映射到CG角色上。新技術運用使得虛擬人物的形象、動作、表情都達到了“如幻如真”的效果[3]。例如,2015年,日本石川夫婦發(fā)布的虛擬數(shù)字人Saya,更是難以通過肉眼分辨其真假。

    (二)內核智能化

    在2015 年之前,虛擬數(shù)字人的驅動主要通過視頻動畫制作或者真人內核驅動的方式實現(xiàn)。2015年之后,AI技術逐步用于虛擬數(shù)字人驅動之中,使其內核逐步脫離人工操作,進入智能化和自動化狀態(tài)。2017 年,騰訊NEXT Studios 與AI Lab 啟動了交互型虛擬數(shù)字人Siren 項目。2018 年,通過為虛擬數(shù)字人Saya增加面部表情識別AI模塊,使其具備了基于表情分析的情感回應與交流能力。同年,新華社與搜狗發(fā)布了智能新聞播報AI合成主播。隨著GPT等大規(guī)模語言模型、深度合成、人類反饋強化學習等技術在虛擬數(shù)字人領域的綜合應用,虛擬數(shù)字人正展現(xiàn)出愈發(fā)智能的驅動能力,包括通過智能自然語言處理實現(xiàn)多輪自主對話、通過對抗式生產(chǎn)網(wǎng)絡進行獨立藝術創(chuàng)作、通過情感計算實現(xiàn)實時微表情表達等。2023 年,多模態(tài)大模型的技術突破更是使得虛擬數(shù)字人在感知能力、思維決策、內容輸出等方面更上一層樓,在思維、語言、行為上更接近真人[4]。當前已有研究成果可以證明,基于多模態(tài)的虛擬數(shù)字人模型可以根據(jù)人類語言指令即時自主地進行高仿真的語音、微表情和肢體語言互動[5]??梢哉f,近年來,AI技術的注入使得虛擬數(shù)字人實現(xiàn)了從“好看的皮囊”向“有趣的靈魂”的飛躍,更有學者稱其“具有了‘類人’的心智特征”[1]。

    (三)功能身份化

    功能身份化主要體現(xiàn)在兩個方面。其一是數(shù)字化身。數(shù)字化身的出現(xiàn)使得虛擬數(shù)字人不再只是單純的熒幕形象,而是具備身份識別和身份認同雙重功能的數(shù)字身份[6]。數(shù)字化身作為現(xiàn)實社會中人類進入虛擬空間開展活動的橋梁和紐帶,使得虛擬數(shù)字人具備了身份功能。其二是陪伴型虛擬數(shù)字人。所謂陪伴型虛擬數(shù)字人,是指“由情感驅動的,依托人工智能情感計算技術的,擁有人類外形特征、行為和思想的,具有人格化和情感化的,依賴顯示設備存在的虛擬形象”[7]。如果說“陪伴功能”是陪伴型虛擬數(shù)字人的外在之“表”,那么,“情感驅動”則是陪伴型虛擬數(shù)字人的內在之“核”。思維克隆、情感交互使得虛擬數(shù)字人滿足了人類對情感陪伴的高階需求,特別是滿足了對逝去親人的思念需求。例如,2020 年,韓國文化廣播公司(Munhwa Broadcasting Corp)將一位母親已故女兒的形象制作成VR 虛擬數(shù)字人,實現(xiàn)了母親與女兒虛擬團聚。遺憾的是,受限于當時的自然語言處理技術,這種團聚體驗更多是結構性的,而非交互性的[8]。但隨著多模態(tài)大模型的技術突破,更真切的交互式虛擬團聚可期成為現(xiàn)實。同時,虛擬團聚使得家庭成員基于身份關系的共有記憶敘事得以延續(xù),從某種意義而言,家庭身份關系也得以虛擬延續(xù)。

    三、虛擬數(shù)字人演化趨勢的二重法律向度

    (一)客體主體化

    從哲學上說,“自康德確立先驗自我并將經(jīng)驗從主體性認知中徹底剔除之后,被抽象為絕對人類中心主義的主體性正式走上舞臺”[9]。在人類歷史的長河中,以絕對人類中心主義為核心的抽象主體性曾長期被視為是一種應然態(tài)。然而,人類對于機器人卻沒有自然形成恒定、統(tǒng)一、奉為圭臬般的主體性認識。人類一方面希望并追求給予機器人主體性以滿足“自我神話”的“超主體”物質精神需求,一方面又害怕重蹈尼采“上帝之死”宣告的覆轍。這種對機器人“神我”方“失我”的薛定諤態(tài)又恰恰證偽了抽象主體性的應然性。從法律上來說,人類的主體性也并非與生俱來。康德雖然創(chuàng)設了“倫理人”,但是作為大陸法系民法濫觴的德國民法卻沒有采納“倫理人”構造,而是選擇了基于“權利能力”的“形式人”構造[10]。換言之,“形式人”因具有“權利能力”而成為法律主體,而不因是“倫理人”成為法律主體。質言之,自然人不具有應然法律主體性。因此,無論是理論層面還是技術層面,都存在法律客體主體化的空間。

    在證成法律客體主體化的可行性后,還需要明晰主體性的本體為何。有學者從自然人與法人的歸納分析角度推導出主體包括三大要素:一是意志,二是目的性存在,三是自律[11]。也有學者從哲學主體性和法律主體的基本概念出發(fā),將主體性概括為兩個方面,即自由意志和責任承擔[12]。從自由意志與責任承擔、目的性存在和自律的內在邏輯關系來看,自由意志既是前提也是基礎,也即可以將主體性的本體理解為自由意志。但何為自由意志?康德曾將自由意志概括為:“通過我們的意愿、慎思和選擇,我們自主地發(fā)起了一些行動,從而這個世界就會變得和沒有我們這些行動之前有所不同。”[13]但這一自由并非絕對自由,從自由論與決定論的關系來看,世界、社會對人的決定固然有所限制,但限制之下,人類并非毫無選擇。因此,“自由—決定”相容論認為,所謂自由意志不必強調外部限制存在與否,而只側重行動取決于自己[13]。從其表述來看,其與《歐洲機器人技術民事法律規(guī)則》第AA 條關于自主性的描述十分契合。所謂自主性即“作出獨立于外在控制或影響的決定并實施這些決定的能力”[14]。因此,法律層面的主體性又可以從晦澀難懂的“自由意志”具象為“自主性”,而客體的主體化也即“自主性”化。

    從虛擬數(shù)字人的演化趨勢來看,其驅動技術總體歷經(jīng)了“動畫驅動”——“中之人驅動”——“AI驅動”等三大階段。三大階段也分別對應著虛擬數(shù)字人從“無自主性”到“外部控制自主性”再到“內在自發(fā)自主性”的三級飛越。雖然目前的AI技術尚未實現(xiàn)完全意義上的集成多模態(tài)化,其智能水平也不足以使虛擬數(shù)字人具備與人近似甚至一致的自主意識和強自主性。但是,其正在從客體的繭房中破繭已是不爭的事實。有學者甚至樂觀地認為,以當前計算機的計算能力和指數(shù)級的建模與新皮質重塑能力,到2029年人工智能和虛擬數(shù)字人就將臨近“人”的奇點[15]xvii。

    (二)物格人格化

    長久以來,“人”“物”之間的相對二分主義似乎是一種根植于法學思維中的潛意識。早在羅馬時期,羅馬法就用“物”一詞將其所涵蓋的客觀存在范疇與有血有肉的人區(qū)分開來,并將“與自由人(homo liber)的相對性”視為《羅馬物權法》下“物”的基本特性[16]1。隨后,羅馬古典法學家蓋尤斯又以三分法的方式將“人”與“物”在法哲學范疇上做了進一步切割,他在《法學階梯》中寫道,“我們所使用的一切法,或者涉及人,或者涉及物,或者涉及訴訟”[17]4。至拜占庭時期,優(yōu)士丁尼《法學總論》不僅繼承了蓋尤斯的“人”“物”“訟”三分法[18]48,還開啟了法律史上的第一次大規(guī)模法哲學化運動[19]。作為大陸法系民法范式與理論濫觴的《法國民法典》對《法學總論》的推崇是不言而喻的。這使得“人”“物”二分主義不僅隨著法的繼承滲透進了歐洲近現(xiàn)代的民事法律之中,還深刻影響了近現(xiàn)代民法哲學基本觀念的形塑[20]。時至今日,這一觀念仍然具有極強的生命力。例如,很多法學家熱衷于用人工智能主體資格之否定,來證成其屬于客體之物。仿佛只需要論證某一客觀存在不是人也不是擬制之人就等于證明了其屬于物。

    然而,“人”與“物”之間只是“非黑即白”的簡單絕對值關系嗎?從三次技術革命對物、人間關系帶來的深刻變革和變革引起的哲學轉向來看,答案是否定的。進入二十世紀,存在主義學派意識到將“物”視為“人”之對象,認為“物”的意義來源于人之賦予是欠妥當?shù)?,傳統(tǒng)的“對象性物論”存在嚴重缺陷,進而提出了“物性存在論”,認為人不存在對物優(yōu)先性,“人”“物”不是絕對二分的,而是交融影響的“網(wǎng)絡”[21]。哲學認識的轉向也帶動了法學認識的轉向,我國有學者論述了現(xiàn)代意義之物還具有倫理性和人格性,并提出了人格物概念[22]。另有學者則在傳統(tǒng)普通物(有體物)、特殊物(無體物)的基礎上又提出了倫理物的概念。所謂倫理物,被認為是物格中處于最高地位之“物”,其主要特點是具有生命或人格利益[23]。也有學者提出了財產(chǎn)權人格化的問題[24]。總之,物格的人格化已經(jīng)是法學界的一種新認知,這種認知與哲學上“物性存在論”的轉向不謀而合??梢姡瑐鹘y(tǒng)思維下的“人”“物”二元對立區(qū)分思想已非絕對,物格的人格化認識亦有自洽之處。

    虛擬數(shù)字人的演化趨勢至少有二重人格化表現(xiàn)。

    一是表體的人格化。所謂表體人格化即虛擬數(shù)字人表面和行為的真人化所帶來的人格化趨勢。1970 年,日本學者森政弘首次提出“恐怖谷(不気味の谷)”效應,揭示了人類對人形機器人的獨有心理活動。所謂“恐怖谷”效應,即人類會隨著人形機器人與真人的近似程度產(chǎn)生先正面,后負面,再到正面心理活動的變化,其中負面階段的波谷被稱為“恐怖谷”[25]。如圖1所示。

    圖1 恐怖谷效應示意圖

    盡管森政弘對“恐怖谷”效應理論僅是歸納性總結,未作大量實證分析。但其依然揭示了人對人類形象有著相較于其他所有事物所不同的獨特心理認知。后來,英國學者在對“恐怖谷”效應的實證研究中,將此類擬人化傾向歸結為“伊莉莎效應(Eliza Effect)”,并發(fā)現(xiàn)人類會把人類認知及人類感情本能地附加在人形機器人身上[26]。此外,從腦科學的認識機制出發(fā),當人形機器人與人類足夠像時,人類感覺器官(丘腦)到情感系統(tǒng)(杏仁體)發(fā)出的認知電信號就會與知覺和認知系統(tǒng)(大腦皮層)發(fā)出的認知電信號吻合,從而將其本能地視為人類[27]。當前虛擬數(shù)字人的高仿真性已經(jīng)使其越過了“恐怖谷”鴻溝,IP 虛擬數(shù)字人的大火以及虛擬主播行業(yè)的興起就證明了這一點。綜上所述,人類很樂意在主觀認知上將高度真人化的虛擬數(shù)字人視為人類,并為其附加人類獨有的人際情感。這種表體認識的人格化是其本體物上人格權化的重要基礎。

    二是本體的物上人格權化。所謂本體的物上人格權化是指虛擬數(shù)字人自身功能所帶來的人格化。首先,作為數(shù)字化身的虛擬數(shù)字人,正成為現(xiàn)實中人們進入虛擬數(shù)字世界的“數(shù)皮面具”,而其與真人之間愈發(fā)強烈的紐帶關系,使得其開始具備若干物上人格權利益。例如,數(shù)字仿像與真人的肖像之間形成了連接對應關系,使其可能承載一定的肖像權。同時,作為數(shù)字化身的虛擬數(shù)字人還開始具備人格尊嚴色彩。例如,一般情況下,行為人對另一方的普通物進行猥褻性行為,幾乎無法給對方帶來人格尊嚴困擾。但是使用數(shù)字化身對另一方數(shù)字化身做出性侵害行為卻可以給對方造成人格尊嚴損害[28]。其次,數(shù)字化身的個人身份化本身也帶有人格權色彩??梢哉f人格權法律規(guī)制的起點就是個人身份權的保護[29]。個人身份權從法理上又可以區(qū)分為靜態(tài)個人身份權和動態(tài)個人身份權。所謂靜態(tài)個人身份權即姓名權、肖像權等權利,而除此之外還有與之相對的動態(tài)個人身份權,該種權利于1974年在意大利羅馬上訴法院的司法實踐中被確認。動態(tài)個人身份權更加強調人在社會環(huán)境中的鏡像化特征,也即包括人際關系、意識形態(tài)、政治宗教等在內的身份認同[29]。從數(shù)字化身來看,在元宇宙視角下,其允許用戶在虛擬社群構建形成新的社會關系與身份認同。盡管數(shù)字化身在部分情形下僅被視為個人的游戲工具或品質投射,但也確實存在個人對數(shù)字化身產(chǎn)生身份認同的情況[30]158。最后,除了數(shù)字化身產(chǎn)生的創(chuàng)設性身份外,如前所述,陪伴型虛擬數(shù)字人也可能帶來承繼性身份。而承繼性身份又會帶來形式上的身份人格權,因為每個人的人格利益不局限于自己,還包括親屬身份關系帶來的人格關愛利益[31]。雖然此種情形下親人已故,但“死后人格權利益”仍然值得保護,并可以附著其上??偠灾?,在形象真人化、內核智能化、功能身份化的作用下,作為客體之物的虛擬數(shù)字人正展現(xiàn)出愈發(fā)顯著的人格化特征。

    四、虛擬數(shù)字人二重法律向度下的法律屬性界定

    (一)虛擬數(shù)字人的“主體性”討論

    1.當前虛擬數(shù)字人不具有“主體性”

    虛擬數(shù)字人的客體主體化及物格人格化趨勢似乎使得學界對其主體性認識產(chǎn)生了過于超前和樂觀的預期。這種錯誤認識同時出現(xiàn)在非智能驅動虛擬數(shù)字人和智能驅動虛擬數(shù)字人上。就非智能驅動虛擬數(shù)字人而言,有學者認為“中之人”驅動型虛擬數(shù)字人應具有“自然人所擁有的法律地位”[32]。也有學者認為,其具有“數(shù)字生命”[33]。就智能驅動虛擬數(shù)字人而言,有學者認為其“非人”可“人”[32]。也有學者認為其雖有思考、意識和意志,但其內涵不是“人”,故無主體性討論必要[33]。

    以上認識反映了法學界當前在虛擬數(shù)字人技術、法律主體性理論以及技術與主體性適配等方面存在認識混淆。就智能驅動型虛擬數(shù)字人而言,以技術認識為例,學界對智能驅動型虛擬數(shù)字人的技術自主性認識過于超前。諸多學者均認為智能驅動型虛擬數(shù)字人具有自我意志和獨立思考能力。且不說智能驅動型虛擬數(shù)字人的自主化和智能化程度依據(jù)其適配的AI 不同而有所不同,不可一概而論,更何況當前AI 技術水平尚未走出弱人工智能階段。所謂的機器學習,例如,卷積神經(jīng)網(wǎng)絡、對抗式生成網(wǎng)絡、生成式預訓練轉換器等都未超出數(shù)算邏輯的范疇。其雖然外在行動與人類活動看似無異,但其與人類意識活動有著云泥之別,只具有形式自主性,而不具有實質自主性。這種愈發(fā)自主、智能的形式自主性雖然正無限趨近于人類意識活動的實質自主性,但只要其尚未越過該“形”“實”之間的鴻溝,就不具備主體性可能。

    此外,學界對法律上的主體性資格認識也存在誤區(qū)。在對人工智能和虛擬數(shù)字人的主體性證成中,學界或通過推導其不屬于“人”來證偽其法律主體性[33],或通過列舉他國法律實踐中對機器人賦予形式主體資格的孤例來證成“非人”具有“人”之主體性可能[32]。上述認識均存在偏狹之處。其一,未認識到自然人并非應然是法律之主體。例如,在優(yōu)士丁尼《法學總論》中,自然人被分為自由人與奴隸,自由人可以因為人格減等而成為奴隸,奴隸也可以因為解放而成為自由人[18]14。同時,也未認識到自然人并非法律唯一之主體,在現(xiàn)代法律體系中,除了自然人外,法人也屬于法律主體。事實上,法律地位與民法認可或確立的“人”沒有直接關聯(lián)性[34]17。其二,未認識到主體何以為主體。主體之所以為主體,除了具備自主性外,還需具備權利義務的承擔能力[10]。換言之,法律意義上的主體具有形式性,該形式等于自主性+權利義務承擔能力?!靶问饺恕辈灰虿痪哂小皞惱硇浴薄吧浴倍痪哂兄黧w資格,孤例也不因形式資格賦予而具有主體性。就目前而言,虛擬數(shù)字人雖然具備了形式自主性,但其尚不具備權利和義務的承擔能力,不具有主體性。

    除智能驅動型虛擬數(shù)字人外,學界對非智能驅動型虛擬數(shù)字人的主體性認識也存在誤區(qū)。有觀點認為,數(shù)字化身應具有自然人一般的主體地位[32]。也有觀點認為,數(shù)字化身具有版權法層面的主體性,也即作者[20]。上述觀點都認為數(shù)字化身具有人類智慧與機器機能“交融”“共生”的特點,與自然人人格緊密相連,是自然人精神的延展與投射,是數(shù)字生命的新形態(tài)。這種觀點顯然混淆了數(shù)字生命的概念,以及“皮囊”與“本體”之間的界限。一是數(shù)字生命所指涉的是“具有與自然人類相同智能甚至超越自然人類智能的數(shù)字生靈”。二是數(shù)字化身僅是自然人在虛擬世界中的數(shù)字化形象,僅是一副數(shù)字皮囊。雖然數(shù)字化身因為真人驅動而具有類人智慧活動,但該智慧不歸屬于數(shù)字化身本身,而歸屬于背后驅動的“中之人”。而且,當“中之人”未上線時,數(shù)字化身不會加載在虛擬空間之中,這與人類的睡眠狀態(tài)不同。人類的本體是持續(xù)存在于現(xiàn)實空間的,而數(shù)字化身則處于非線性存續(xù)狀態(tài)。如果認為其具有與自然人一樣的主體性,也就意味著要承認其主體性的薛定諤態(tài),這與法律的確定性與穩(wěn)定性要求是相悖的。另外,假如因數(shù)字化身是真人驅動,具有人機交融、共生的特色就擬定為自然人主體的話,那么,電影中通過數(shù)字捕捉驅動的虛擬人和各大平臺中的IP 虛擬主播都應視為自然人主體,這顯然是荒謬的。因此,就當前虛擬數(shù)字人而言,不論其以何種形式驅動,均不具有法律意義上的“主體性”。

    2.未來強AI驅動型虛擬數(shù)字人具有“主體性”可能

    虛擬數(shù)字人的最終形態(tài),即強AI 或超AI 驅動型虛擬數(shù)字人。所謂強AI 驅動型虛擬數(shù)字人,實際上可以看作擁有逼真人形的AI。學界對強AI和超AI的法律主體地位分歧較小。人工智能體主體資格肯定說和有限主體資格說普遍認為,生物特征或生理結構從來不是民事法律主體資格的判斷依據(jù)[35],且“人類中心主義”本身具有不合理性[36]。因此,只要人工智能體擁有類人智慧特征,具有自主性,能夠自我運行、自我學習、推理結果并做出合理決策,它就能夠擁有主體資格或至少擁有有限主體資格[37]。

    強AI驅動型虛擬數(shù)字人,從形式上看,其完全符合上述描述,甚至當前以ChatGPT 為代表的通用大模型都能在形式層面滿足上述要件。但是,對于法律性質的“主體性”討論還需要深研其實質。對強AI 驅動虛擬數(shù)字人的實質“主體性”討論需要回到技術原理本身。長期以來,法學界對AI 的法律主體性討論囿于人工智能基礎理論“符號主義”和“聯(lián)結主義”之中。支持AI法律主體資格否定說的學者多從“符號主義”出發(fā),而支持肯定說的學者則多從“聯(lián)結主義”出發(fā)[38][39],但隨著認知科學的發(fā)展,“符號主義”與“聯(lián)結主義”走向整合,并產(chǎn)生了“結構-行為”主義。這一主義指導下的人工智能技術走向是模擬人腦神經(jīng)元結構和意識層次結構,并通過模擬主體與環(huán)境之間的交互,實現(xiàn)“行為—認識—決策”這一意識運作機制[40]。因此,從理論實質上看,強人工智能不僅復現(xiàn)了人類意志之形式載體——神經(jīng)元,還復現(xiàn)了人類意志之實質形態(tài)——類人意識層次結構。而最為關鍵的是,基于環(huán)境交互進行的“行為—認識—決策”活動,與人類“實踐—認識—再實踐—再認識”的辯證唯物主義認識論活動高度一致,而這種能動的反作用則是其具有類人自我意志的最佳證明。

    此外,從法律主體性的實質上說,法律主體除了具有自我意志之自主性外,還需要具有權利義務的承擔能力。而權利義務之承擔首先需要主體具有行為能力。繼續(xù)拆解行為能力的內涵,以民事行為能力為例,可以將其理解為主體知道行為之法律意義,并以獨立之意識表示,追求行為之法律結果。前述已證明了“結構-行為”主義理論下強AI具有自我意志,至于使AI認識到法律之意義并追求行為之結果,完全可以依賴深度學習技術實現(xiàn)。因此,從原理上說,強AI同樣具有行為能力。獨立的自主意志加上完整的行為能力,也就意味著強AI 具備權利義務承擔的能力以及對過錯的認識和承擔能力,屬于法律主體范疇。

    對于強AI或超AI屬于何種法律主體,學界亦有爭議,包括電子人格說、電子代理說、中間主體說、自然人參照說和法人擬制說[13]。其中電子人格說、電子代理說均因具有較為明顯的理論瑕疵而日漸式微。電子人格說忽視了AI與生俱來的工具屬性,電子代理說則僅適用于民事層面法律關系[41]。自然人參照說和法人擬制說也存在諸多瑕疵。首先,自然人參照說和法人擬制說犯了電子人格說忽視AI 工具屬性的錯誤;其次,AI 不屬于倫理人,即便是具有逼真外形和內核的超AI 驅動型虛擬數(shù)字人,其構成本質依然不是外之“血肉”與內之“倫理”,而是數(shù)據(jù)與算法。因此,其與自然人有著本質區(qū)別。就法人而言,法人是自然人的集合,AI與自然人之間尚有云泥之別,更不用說法人[40]。因此,自然人參照說與法人擬制說也難以站住腳跟,更可行的路徑是采信中間主體說。所謂中間主體,是指位于主體范疇之中,但處于物到人之間過渡階段的新興法律主體[42]140。對于該主體的稱謂,目前學界尚未命名。考慮到其雖為法律主體,但其不具有倫理性,仍具有較強工具性的特性,可參照“人格物”定義,將其命名為“物格人”①“物格人”之“物”做“財產(chǎn)”理解或蓋尤斯《法學階梯》之“物”理解,表明該主體僅具有承擔財產(chǎn)性權利義務的有限主體能力,不具有完全主體資格。其作為主體的同時,比“人”要低一個位階,不具有完整人格,與“形式人”共同組成法律上之“人”。。

    (二)虛擬數(shù)字人的“客體”歸屬

    1.虛擬數(shù)字人不屬于“物”

    針對當前虛擬數(shù)字人“物格人格化”現(xiàn)象,難以將其歸入一般物之中,更可行的做法是將其與人格物、倫理物做匹配。在對“物”的認識之中,有學者發(fā)現(xiàn)了由“財產(chǎn)”及“人”路徑上的中間橋梁——人格物。所謂人格物即負載人格利益之物[22]。有學者則在不重塑現(xiàn)有民法結構的基礎上,在“物”的范疇內進行“改良”,提出了倫理物。所謂倫理物,即具有生命或者人格利益的物[23]。

    但是,不論是倫理物還是人格物,其本質都屬于“物”的范疇?!斗▽W階梯》將物(Res)分為有體物和無體物,并以無體物統(tǒng)攝除有體物以外的一切內容[21]。這一分類實際上囊括了“財產(chǎn)”及“權利”兩個范疇。無體物的概念在諸多法律文本中得到繼承和體現(xiàn),如前文所述的優(yōu)士丁尼《法學總論》,以及1811年《奧地利帝國普通民法典》[43]和1855年《智利共和國民法典》[44]等。然而1900年的《德意志民法典》卻幾乎徹底拋棄了無體物概念,其要求法律上的“物”必須是有體物[20]。作為我國近現(xiàn)代民法濫觴的《大清民律草案》,同樣借鑒了德、日民法中對“物”的有體性要求,例如,其在第166 條規(guī)定:“稱物者謂有體物?!盵45]因此,在我國民法的歷史敘事中,乃至在整個大陸法系民法的歷史敘事中,都將“物”視為有體物。就現(xiàn)代民法意義上的“物”而言,我國民法雖未對“物”做出設定,但通說依然認為民法上之“物”應為有體物[46]42。而人格物和倫理物都屬于現(xiàn)行民法體系中“物”之特殊種屬,理應符合這一基本內涵[47]。換言之,無論是對倫理物還是人格物的保護都應置于物權之下。

    就虛擬數(shù)字人而言,產(chǎn)業(yè)界對虛擬數(shù)字人的定義缺乏一致性,特別是在其技術及技術效果描述上大相徑庭。但是,產(chǎn)業(yè)界對虛擬數(shù)字人的非實體性認識卻出奇一致。例如,2021年12月15日知名公眾號“量子位”發(fā)布的《虛擬數(shù)字人深度產(chǎn)業(yè)報告(2021)》認為,虛擬數(shù)字人存在于“非物理世界”中。又如2022年11月由“行行查”發(fā)布的《2022年中國虛擬數(shù)字人行業(yè)研究報告》認為,虛擬數(shù)字人與機器人不同,其需要依靠顯示設備存在,其不具有實體性[1]。因此,虛擬數(shù)字人雖為蓋尤斯所言之無體物,卻又無法落入現(xiàn)代民法學范疇上“物”的概念之中,成了是“物”非“物”的存在,自然無法納入人格物與倫理物范疇中。

    此外,有學者認為人格物的概念將隨著人類科技與認識的發(fā)展覆蓋于諸如虛擬資產(chǎn)等無體物之上,并以“無線電”屬于現(xiàn)行法律下之“物”來證明物的“物質性”與“有體性”的突破[47]。但這種推導與認識存在若干缺陷。一是“無線電”本質是一種電磁波,依然屬于物質范疇。二是此種認識忽視了《德意志民法典》擯棄蓋尤斯《法學階梯》“無體物”的歷史因應與實質內涵。隨著對民法學權利概念認識的逐漸深入,“無體物”逐漸從混沌一體的概念功能分化為知識產(chǎn)權、票據(jù)權利等客體,并獨立納入現(xiàn)代民事法律體系中,因此再創(chuàng)造“無體物”是對現(xiàn)行法律體系的顛覆[48]。因此,“無線電”的納入不能視為對“物”的有體性的顛覆?,F(xiàn)行民法中對“物”的“有體性”突破仍局限于無體自然物質上,而此種突破僅能視為“但書”。三是此認識不可避免地具有時代局限性。隨著虛擬財產(chǎn)法律屬性大論戰(zhàn)的收尾,“債權”“物權”等學說日漸式微,“知識產(chǎn)權”與“新興權利”學說逐漸占據(jù)上風,其中對“物權”說的批判主要集中在“物”的有體性問題上[49]。因而,從易于實踐的角度出發(fā),現(xiàn)行法學界普遍將人類智能成果創(chuàng)造的數(shù)據(jù)資產(chǎn)納入知識產(chǎn)權中,而非物權之下。因此,當前技術條件下的虛擬數(shù)字人無法被簡單視為“物”,自然也不享有相應的物權。

    2.虛擬數(shù)字人屬于“人格作品”

    2020 年《中華人民共和國著作權法》已將“法律、行政法規(guī)規(guī)定的其他作品”修改為“符合作品特征的其他智力成果”。我國著作權法吸收了大陸法系著作權理論,與英美法系版權法只保護作品財產(chǎn)利益不同,我國著作權法律體系既保護著作財產(chǎn)權,也保護著作人格權[50]。其中,著作人格權主要用以保護作者的作品人格權利益,其一般由五大方面組成:歸屬權(也叫署名權)、修改權及其衍生出的保護作品完整權、發(fā)表權、追續(xù)權、收回權[51]。因此,我國著作權法實際上承認作品的人格權屬性,同時,將著作權視為作品財產(chǎn)權利與作品人格權利的整合,具有獨特的權利二元一體構造特征,這一特征使其與一般物、債、票據(jù)、證券等形成了鮮明對比。虛擬數(shù)字人,從財產(chǎn)與人格權利復合屬性的角度來說,在現(xiàn)行法律體系下的所有法律客體中恐怕沒有比作品更為合適的歸屬。

    但是,從虛擬數(shù)字人的演化趨勢來看,只有動畫CG型虛擬數(shù)字人,即非驅動型虛擬數(shù)字人可以完美落入“作品”的范疇,并由著作權為其提供周延的權利保障。而其他驅動型虛擬數(shù)字人,無論是“中之人”驅動的數(shù)字化身,還是弱AI 驅動的虛擬數(shù)字人,都難以套入其中,若是硬要套入,則必須削足適履。因為,從權利的生成邏輯上講,虛擬數(shù)字人的“物”上人格權無法涵蓋在現(xiàn)行著作人格權下。首先,從著作人格權的內容來看,其無法對虛擬數(shù)字人的“物”(蓋尤斯所言之“物”)上人格權利益進行涵蓋。此外,虛擬數(shù)字人所具有的人格權利益,也與著作人格權的產(chǎn)生邏輯不一致。著作人格權以“創(chuàng)作”作為權利主體與權利之間的生成邏輯起點及聯(lián)系紐帶,但虛擬數(shù)字人所具有的“物”上人格權不來源于“創(chuàng)作”,而來源于“使用”,或來源于權利人自身。而且,虛擬數(shù)字人的“物”上人格權權利主體與著作人格權權利主體往往不一致。著作人格權權利主體歸于作者,盡管我國著作權法中將部分權利主體與作者剝離開來,但這僅是基于商業(yè)自由需要的特殊限縮處理[51]。而虛擬數(shù)字人的“物”上人格權的權利主體卻沒有與作者之間的嚴格對應關系,其可以是作者,也可以是事實使用者。由此,驅動型虛擬數(shù)字人在現(xiàn)行法律體系下產(chǎn)生了本體雖然應落入“作品”范疇,但一旦落入其中就喪失了其“物”上人格權利益的保護空間的悖論。

    要為驅動型虛擬數(shù)字人在“作品”范疇中找到一個合適的歸屬,還需先行剖析這一悖論,并解決這一悖論。從悖論產(chǎn)生的原因來看,我國著作權法體系采用的是“著作財產(chǎn)權—著作人格權”一體化構造,這一構造的最大特征在于為著作這一對象設置了有限的、“混為一體”的混合性權利。混合性權利設計的最大好處在于能兼顧著作權主體的財產(chǎn)與人格利益,而缺點也十分明顯,就是使得“著作權難以簡單歸為任何一種民事權利類型”,從而產(chǎn)生了“知識產(chǎn)權既不是人格權也不是財產(chǎn)權”的論斷[50],使得虛擬數(shù)字人即便納入著作權之中,其法律屬性與權利保護依然似是而非。

    縱觀著作權法的發(fā)展歷程,最早的著作權法應是1709 年英國制定的《安娜法案》(the Statute of Anne)。彼時的版權法與著作權法并無二致,雙方都認可作品的財產(chǎn)權屬性,并由該對象的財產(chǎn)權屬性衍生出了基于財產(chǎn)權一元體系的版權法。進入19 世紀后,以英美為代表的版權法與以法國為代表的著作權法逐漸分道揚鑣。主要原因在于,越來越多的學者對洛克的自然財產(chǎn)權產(chǎn)生了質疑,并認識到作品除了具有本身屬于作者的財產(chǎn)權利外,還具有與作者相關的人身屬性利益。隨著法國司法實踐的深入,法國最高法院發(fā)現(xiàn)財產(chǎn)權不足以解釋和保護著作權,于是1957 年法國修訂著作權法并增加了著作人格權內容[52]。但是,自著作人格權入法以來,其權利的內涵與外延再無較大變化。實際上,著作人格權所涵蓋的范疇不僅極為狹小,而且外延過于嚴苛。造成這一問題的根本原因在于,雖然認識到了“作品”具有作者的天然人格權利延伸,卻忽視了“作品”與“物”一樣可以經(jīng)由使用和倫理化產(chǎn)生后天人格權利賦予。這也導致“作品”的著作人格權無法像“物”的物上人格權一樣“兩條腿走路”。

    為使驅動型虛擬數(shù)字人得以劃入“作品”范疇中并為其配置適當?shù)闹鳈?,應首先順應虛擬數(shù)字人客體主體化、物格人格化的時代趨勢,參照人格物,在現(xiàn)行“作品”概念下衍生出更加細分的“一般財產(chǎn)型作品”與“特殊人格型作品”概念。其次對“二元一體”的著作權進行改造,使其得以充實“人格作品”的權利內涵與外延。具體而言,從法律原理上說,民事權利總是以一定的“客體”為區(qū)分,而在民法上,這一客體通常被解釋為“標的”。換言之,“標的”與民事權利之間存在對應關系。從著作權法與版權法對作品的最初態(tài)度來看,其應是“一一對應”關系。隨著著作的人格權利益被發(fā)現(xiàn),英美和法國才在“一一對應”立場上走向了分歧。但仔細觀察版權法和著作權法就會發(fā)現(xiàn),二者之間的分歧并沒有想象中巨大。如果說只承認財產(chǎn)權利益的英美版權法是保守的“一一對應”堅守者,那么,財產(chǎn)與人格權利二元一體化的法國著作權法也只不過是改良的“一一對應”試探者。法國著作權法僅是對其中權利端的“一”進行了擴容,而未放棄“一一對應”的基本立場。從版權法到著作權法的“一一對應”變遷可以提煉出以下幾個論斷。一是“一一對應”也需要遵循社會存在決定社會意識的唯物史觀。二是著作人格權并非著作權的應許權利,其是順應作品人格權利益的發(fā)現(xiàn)而人為添加的權利。三是著作人格權的內涵隨著時代的發(fā)展而不斷豐富?;谏鲜稣摂?,對著作人格權的改造可以從以下幾個方面展開。一是進一步突破著作權法背后暗藏的“一一對應”“二元一體”等枷鎖,構建“二元分離”的著作權法律體系。二是分別將驅動型虛擬數(shù)字人的本體財產(chǎn)性利益和“物”上人格權利益劃入財產(chǎn)權—著作財產(chǎn)權和人格權—著作人格權之中。三是完成對著作人格權的改造,在現(xiàn)行“作者—作品”一致性著作人格權的基礎上,增設“作者—作品”非一致性著作人格權,即基于使用產(chǎn)生的“物”上人格權利益。

    五、結語

    本文以虛擬數(shù)字人為研究對象,從其法律意義上的客體主體化和物格人格化二重角度出發(fā),分別討論了虛擬數(shù)字人是否具有主體性可能和應歸入何種客體之中,從而得出了除強AI驅動型虛擬數(shù)字人以外均無具有主體性可能、其他虛擬數(shù)字人應納入“作品”客體范疇中的結論。從虛擬數(shù)字人的發(fā)展趨勢來看,未來虛擬數(shù)字人發(fā)展路徑大致可以分為非驅動型虛擬數(shù)字人和驅動型虛擬數(shù)字人,而驅動型虛擬數(shù)字人又可以分為人類驅動型虛擬數(shù)字人和人工智能驅動型虛擬數(shù)字人。其中,尤以人工智能驅動型虛擬數(shù)字人發(fā)展?jié)摿ψ畲螅渥罱K形態(tài)甚至可能是“硅基生命”。因此,對人工智能驅動型虛擬數(shù)字人的法律性質研究,需要堅持發(fā)展的觀點看問題,在持續(xù)跟蹤認知科學前沿理論與強人工智能最新技術的基礎上,不斷“格物致知”。

    猜你喜歡
    主體法律
    法律推理與法律一體化
    法律方法(2022年1期)2022-07-21 09:17:10
    論自然人破產(chǎn)法的適用主體
    南大法學(2021年3期)2021-08-13 09:22:32
    從“我”到“仲肯”——阿來小說中敘述主體的轉變
    阿來研究(2021年1期)2021-07-31 07:39:04
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    法律適用中的邏輯思維
    法律方法(2019年3期)2019-09-11 06:27:06
    技術創(chuàng)新體系的5個主體
    中國自行車(2018年9期)2018-10-13 06:17:10
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    懷舊風勁吹,80、90后成懷舊消費主體
    金色年華(2016年13期)2016-02-28 01:43:27
    “互助獻血”質疑聲背后的法律困惑
    論多元主體的生成
    国产精品国产av在线观看| 久久99一区二区三区| 日韩人妻高清精品专区| 777米奇影视久久| 校园人妻丝袜中文字幕| 午夜激情福利司机影院| 91成人精品电影| 看免费成人av毛片| 国产 一区精品| 欧美另类一区| 精品一区二区三区视频在线| 国产在线一区二区三区精| 国产探花极品一区二区| 国产精品国产三级专区第一集| 国产精品人妻久久久影院| 在线观看免费高清a一片| 亚洲欧美中文字幕日韩二区| 免费人成在线观看视频色| 国产有黄有色有爽视频| 我的女老师完整版在线观看| 最后的刺客免费高清国语| 特大巨黑吊av在线直播| 欧美激情国产日韩精品一区| 日本色播在线视频| 高清不卡的av网站| 丝袜在线中文字幕| 国产在线视频一区二区| 人人妻人人澡人人看| 日本爱情动作片www.在线观看| 在线免费观看不下载黄p国产| 高清在线视频一区二区三区| 全区人妻精品视频| 亚洲一级一片aⅴ在线观看| 男男h啪啪无遮挡| 18禁动态无遮挡网站| 亚洲国产精品999| 亚洲欧美精品自产自拍| 97超视频在线观看视频| 插阴视频在线观看视频| 内地一区二区视频在线| 99视频精品全部免费 在线| 搡女人真爽免费视频火全软件| av国产精品久久久久影院| 日本黄色片子视频| 人人妻人人爽人人添夜夜欢视频| 欧美人与性动交α欧美精品济南到 | 日韩免费高清中文字幕av| 亚洲国产成人一精品久久久| 岛国毛片在线播放| 最黄视频免费看| 在线观看美女被高潮喷水网站| 国产视频内射| 国产欧美亚洲国产| 亚洲av成人精品一二三区| 久久97久久精品| 国产一级毛片在线| 人妻制服诱惑在线中文字幕| 日韩不卡一区二区三区视频在线| 精品少妇久久久久久888优播| 热re99久久精品国产66热6| 久久av网站| 22中文网久久字幕| 精品一区在线观看国产| 久久久久国产精品人妻一区二区| 欧美人与善性xxx| 成人手机av| 亚洲av电影在线观看一区二区三区| 一边摸一边做爽爽视频免费| 成年人免费黄色播放视频| 日本色播在线视频| 日日摸夜夜添夜夜爱| 亚洲国产成人一精品久久久| 国产av码专区亚洲av| av免费在线看不卡| 国产精品一区www在线观看| 久久狼人影院| 婷婷色麻豆天堂久久| 免费av中文字幕在线| 99久国产av精品国产电影| 又黄又爽又刺激的免费视频.| 99视频精品全部免费 在线| 七月丁香在线播放| 国产老妇伦熟女老妇高清| 美女中出高潮动态图| 寂寞人妻少妇视频99o| 少妇人妻久久综合中文| 亚洲,一卡二卡三卡| av不卡在线播放| 天天影视国产精品| 日韩av不卡免费在线播放| 国产亚洲午夜精品一区二区久久| 一边摸一边做爽爽视频免费| 国产精品一区二区三区四区免费观看| 欧美日韩精品成人综合77777| 日本爱情动作片www.在线观看| 亚洲av综合色区一区| 久久久欧美国产精品| a级毛片在线看网站| 一级a做视频免费观看| 国产 精品1| 久久狼人影院| 91aial.com中文字幕在线观看| 久久99热这里只频精品6学生| 999精品在线视频| 国产精品99久久久久久久久| 极品人妻少妇av视频| 大片免费播放器 马上看| 99久久人妻综合| 国产精品久久久久久久电影| 亚洲内射少妇av| 欧美精品亚洲一区二区| 80岁老熟妇乱子伦牲交| 国产黄频视频在线观看| 91久久精品国产一区二区成人| 国产爽快片一区二区三区| 黄色配什么色好看| 国产国语露脸激情在线看| 国产免费视频播放在线视频| 午夜影院在线不卡| 大香蕉久久成人网| 毛片一级片免费看久久久久| 亚洲第一av免费看| 亚洲av中文av极速乱| 搡老乐熟女国产| 97精品久久久久久久久久精品| 国产av一区二区精品久久| 18在线观看网站| 免费大片18禁| 亚洲国产欧美日韩在线播放| 黄色一级大片看看| 精品久久久久久电影网| 简卡轻食公司| kizo精华| 一区在线观看完整版| 久久97久久精品| 亚洲国产精品国产精品| 久久免费观看电影| 国精品久久久久久国模美| 成人亚洲欧美一区二区av| 2021少妇久久久久久久久久久| 搡老乐熟女国产| 亚洲情色 制服丝袜| 国产国拍精品亚洲av在线观看| 亚洲美女视频黄频| 欧美xxⅹ黑人| 日本av免费视频播放| 国产片内射在线| av女优亚洲男人天堂| 极品少妇高潮喷水抽搐| 日本免费在线观看一区| 国国产精品蜜臀av免费| 午夜精品国产一区二区电影| 欧美日韩一区二区视频在线观看视频在线| 日日撸夜夜添| 国产 精品1| 男人添女人高潮全过程视频| 国产成人精品福利久久| 中文精品一卡2卡3卡4更新| 有码 亚洲区| av不卡在线播放| 亚洲不卡免费看| 午夜福利,免费看| 亚洲精品自拍成人| 91精品国产国语对白视频| 日日啪夜夜爽| 亚洲精品日韩在线中文字幕| 免费观看无遮挡的男女| 美女中出高潮动态图| 亚洲成色77777| av免费观看日本| 国产国拍精品亚洲av在线观看| 一级毛片我不卡| 免费看av在线观看网站| 久久久久久久久久成人| 久久精品久久久久久噜噜老黄| 成人漫画全彩无遮挡| 一级毛片我不卡| 一本大道久久a久久精品| 午夜激情av网站| 91成人精品电影| 国产毛片在线视频| 我的老师免费观看完整版| 色吧在线观看| 国产精品嫩草影院av在线观看| 国产亚洲精品第一综合不卡 | 伊人亚洲综合成人网| av又黄又爽大尺度在线免费看| 亚洲国产最新在线播放| 亚洲图色成人| 你懂的网址亚洲精品在线观看| 亚洲在久久综合| 亚洲av欧美aⅴ国产| 国产精品国产三级国产av玫瑰| 男男h啪啪无遮挡| 女的被弄到高潮叫床怎么办| 久久久久国产网址| 一区在线观看完整版| 亚州av有码| 亚洲四区av| 少妇精品久久久久久久| 久久久国产精品麻豆| 日韩一本色道免费dvd| 国产免费又黄又爽又色| 欧美三级亚洲精品| 日本猛色少妇xxxxx猛交久久| 久久国内精品自在自线图片| 婷婷成人精品国产| 免费av不卡在线播放| 人人妻人人澡人人看| 最近中文字幕高清免费大全6| av卡一久久| 嘟嘟电影网在线观看| 在线观看人妻少妇| 久久久久国产网址| 国产精品秋霞免费鲁丝片| 少妇猛男粗大的猛烈进出视频| 99热这里只有精品一区| 久久久久久久久久人人人人人人| 啦啦啦在线观看免费高清www| 免费日韩欧美在线观看| 91精品一卡2卡3卡4卡| 韩国av在线不卡| 搡女人真爽免费视频火全软件| 人人澡人人妻人| 婷婷成人精品国产| 免费观看av网站的网址| av一本久久久久| 丝瓜视频免费看黄片| 亚洲av日韩在线播放| 久久青草综合色| 国产高清三级在线| 成人手机av| 观看美女的网站| 国产亚洲av片在线观看秒播厂| 插逼视频在线观看| xxxhd国产人妻xxx| 久久久久久久亚洲中文字幕| 少妇被粗大猛烈的视频| 欧美xxxx性猛交bbbb| 岛国毛片在线播放| 丰满迷人的少妇在线观看| videos熟女内射| 黄片无遮挡物在线观看| 国产片特级美女逼逼视频| 国产伦理片在线播放av一区| 亚洲综合色网址| 人妻少妇偷人精品九色| 欧美日本中文国产一区发布| 国产精品欧美亚洲77777| 成年av动漫网址| 天天操日日干夜夜撸| 久久99热这里只频精品6学生| 欧美97在线视频| 少妇丰满av| 美女国产高潮福利片在线看| 看十八女毛片水多多多| 视频中文字幕在线观看| 秋霞伦理黄片| av又黄又爽大尺度在线免费看| 久久久久国产精品人妻一区二区| 免费观看av网站的网址| 99久久综合免费| 熟女av电影| 亚洲av男天堂| 亚洲国产成人一精品久久久| 国产黄色免费在线视频| 日韩免费高清中文字幕av| 亚洲,欧美,日韩| 精品午夜福利在线看| 人妻系列 视频| 美女中出高潮动态图| 国产精品成人在线| 91在线精品国自产拍蜜月| 韩国高清视频一区二区三区| 成年美女黄网站色视频大全免费 | tube8黄色片| 在线观看免费日韩欧美大片 | 满18在线观看网站| 一二三四中文在线观看免费高清| 赤兔流量卡办理| 国产伦精品一区二区三区视频9| 一边摸一边做爽爽视频免费| 国产成人精品无人区| 亚洲色图综合在线观看| 97超碰精品成人国产| 亚洲av.av天堂| 久久精品久久久久久久性| 满18在线观看网站| 美女内射精品一级片tv| 久久久久国产网址| 久久人人爽av亚洲精品天堂| 人妻 亚洲 视频| 极品人妻少妇av视频| 国产无遮挡羞羞视频在线观看| 欧美xxⅹ黑人| 亚洲综合精品二区| 亚洲人成77777在线视频| 在线观看国产h片| 午夜福利视频在线观看免费| 国产精品秋霞免费鲁丝片| 久久精品国产亚洲网站| 一级,二级,三级黄色视频| 插阴视频在线观看视频| 看免费成人av毛片| 久久人人爽av亚洲精品天堂| 亚洲精品一二三| 97超视频在线观看视频| 久久精品国产亚洲av天美| 国产午夜精品久久久久久一区二区三区| 中文乱码字字幕精品一区二区三区| 久久久久久久久久久免费av| 亚洲欧美日韩卡通动漫| 亚洲性久久影院| √禁漫天堂资源中文www| 极品少妇高潮喷水抽搐| 菩萨蛮人人尽说江南好唐韦庄| 欧美亚洲日本最大视频资源| 国产精品国产三级专区第一集| 亚洲精品日本国产第一区| 久久久久久久久久人人人人人人| 亚洲精品av麻豆狂野| 午夜免费男女啪啪视频观看| 黑人猛操日本美女一级片| 亚洲国产毛片av蜜桃av| 国产精品国产三级国产av玫瑰| 久久久久久久国产电影| 国产精品一国产av| 亚洲成人一二三区av| 亚洲精品视频女| 国产精品熟女久久久久浪| 久久女婷五月综合色啪小说| 91精品伊人久久大香线蕉| 精品少妇黑人巨大在线播放| 成人18禁高潮啪啪吃奶动态图 | 国产极品粉嫩免费观看在线 | 高清黄色对白视频在线免费看| 午夜91福利影院| 国产探花极品一区二区| 成人漫画全彩无遮挡| 精品一品国产午夜福利视频| 日韩av免费高清视频| 99久久人妻综合| 亚洲精品aⅴ在线观看| 亚洲国产最新在线播放| 久久精品人人爽人人爽视色| 热re99久久国产66热| 国产一区二区三区综合在线观看 | 久久99热6这里只有精品| 91精品国产九色| 国产亚洲精品第一综合不卡 | 国产精品不卡视频一区二区| 亚洲精品色激情综合| videos熟女内射| 草草在线视频免费看| 女的被弄到高潮叫床怎么办| 在线观看免费日韩欧美大片 | 精品国产一区二区久久| 高清毛片免费看| 国产一区二区在线观看日韩| 91精品国产九色| 日本av免费视频播放| a级毛色黄片| 亚洲一区二区三区欧美精品| 99热全是精品| 国产黄频视频在线观看| 妹子高潮喷水视频| 制服诱惑二区| 国产欧美日韩一区二区三区在线 | 精品亚洲乱码少妇综合久久| 另类亚洲欧美激情| 午夜视频国产福利| 久久狼人影院| 日韩一区二区视频免费看| 大又大粗又爽又黄少妇毛片口| 麻豆精品久久久久久蜜桃| 久久久久久久大尺度免费视频| 夜夜爽夜夜爽视频| 久久久久国产网址| 免费观看在线日韩| 一区在线观看完整版| 亚洲欧洲精品一区二区精品久久久 | 亚洲成人av在线免费| 最新的欧美精品一区二区| 五月玫瑰六月丁香| 热re99久久国产66热| 精品少妇内射三级| 一边摸一边做爽爽视频免费| 久久久午夜欧美精品| 国产黄色视频一区二区在线观看| 日韩av在线免费看完整版不卡| a 毛片基地| 美女大奶头黄色视频| 黄色视频在线播放观看不卡| 亚洲一区二区三区欧美精品| 国产乱来视频区| 午夜日本视频在线| 在线观看www视频免费| 国产午夜精品久久久久久一区二区三区| 久久久精品区二区三区| 欧美人与性动交α欧美精品济南到 | 亚洲av成人精品一二三区| 午夜91福利影院| 精品人妻熟女av久视频| 高清午夜精品一区二区三区| 99re6热这里在线精品视频| 国产又色又爽无遮挡免| 亚洲国产精品国产精品| 久久久久久久大尺度免费视频| 99热这里只有精品一区| 日本欧美视频一区| 欧美变态另类bdsm刘玥| 高清视频免费观看一区二区| videosex国产| 日韩强制内射视频| 久久久国产欧美日韩av| 五月伊人婷婷丁香| 国产成人aa在线观看| 插逼视频在线观看| av国产精品久久久久影院| 国产免费又黄又爽又色| 男女边摸边吃奶| 亚洲婷婷狠狠爱综合网| av视频免费观看在线观看| 亚洲综合色惰| 麻豆乱淫一区二区| 日本-黄色视频高清免费观看| 视频中文字幕在线观看| 欧美一级a爱片免费观看看| 69精品国产乱码久久久| 亚洲图色成人| 久久人人爽人人爽人人片va| 国产又色又爽无遮挡免| 啦啦啦中文免费视频观看日本| 一个人看视频在线观看www免费| 在线观看免费高清a一片| 亚洲av二区三区四区| 人妻人人澡人人爽人人| 国产女主播在线喷水免费视频网站| 亚洲四区av| 日韩av不卡免费在线播放| 少妇熟女欧美另类| 少妇被粗大猛烈的视频| 精品亚洲成国产av| 啦啦啦在线观看免费高清www| 日韩一区二区视频免费看| 美女xxoo啪啪120秒动态图| 国产探花极品一区二区| av电影中文网址| 我的老师免费观看完整版| 亚洲精品成人av观看孕妇| 日本午夜av视频| 自线自在国产av| 亚洲精品色激情综合| 欧美变态另类bdsm刘玥| 国精品久久久久久国模美| 精品国产露脸久久av麻豆| a 毛片基地| 亚洲美女黄色视频免费看| 欧美激情 高清一区二区三区| 18禁在线播放成人免费| 免费高清在线观看日韩| 国产 精品1| 国产精品偷伦视频观看了| 免费黄网站久久成人精品| 七月丁香在线播放| 国产午夜精品一二区理论片| 久久精品久久精品一区二区三区| 亚洲成人av在线免费| 黄色视频在线播放观看不卡| 黄片无遮挡物在线观看| av在线app专区| 在线观看三级黄色| 亚洲无线观看免费| 能在线免费看毛片的网站| 亚洲av欧美aⅴ国产| 超碰97精品在线观看| 亚洲av成人精品一二三区| 国产色婷婷99| 成人漫画全彩无遮挡| 成人亚洲精品一区在线观看| 简卡轻食公司| 亚洲熟女精品中文字幕| 丝瓜视频免费看黄片| 国产国拍精品亚洲av在线观看| 亚洲精品一二三| 男男h啪啪无遮挡| 欧美日韩一区二区视频在线观看视频在线| 国产精品一区www在线观看| 国产精品偷伦视频观看了| 久久精品国产a三级三级三级| 国产国拍精品亚洲av在线观看| 日日摸夜夜添夜夜添av毛片| 毛片一级片免费看久久久久| 男女免费视频国产| 亚洲精品中文字幕在线视频| 桃花免费在线播放| 亚洲精品一二三| 大片免费播放器 马上看| 天天操日日干夜夜撸| 美女视频免费永久观看网站| 国产一区亚洲一区在线观看| 久久久久久久久久成人| 亚洲精品国产av成人精品| 这个男人来自地球电影免费观看 | 国产亚洲欧美精品永久| 麻豆成人av视频| videossex国产| 久久热精品热| 亚洲美女搞黄在线观看| 有码 亚洲区| 99国产精品免费福利视频| 日韩免费高清中文字幕av| 日产精品乱码卡一卡2卡三| 熟妇人妻不卡中文字幕| 2018国产大陆天天弄谢| 国产探花极品一区二区| 色婷婷久久久亚洲欧美| 日本午夜av视频| 日本欧美视频一区| 亚洲精品久久午夜乱码| 狠狠婷婷综合久久久久久88av| 少妇熟女欧美另类| 久久久久久久久大av| 80岁老熟妇乱子伦牲交| 大片免费播放器 马上看| a级毛片在线看网站| 熟妇人妻不卡中文字幕| 欧美少妇被猛烈插入视频| 日韩熟女老妇一区二区性免费视频| 国产探花极品一区二区| xxxhd国产人妻xxx| 亚洲精品久久成人aⅴ小说 | 天天操日日干夜夜撸| 久久韩国三级中文字幕| 免费看光身美女| 国产高清有码在线观看视频| 伦理电影大哥的女人| 99久久综合免费| 国产av码专区亚洲av| 2021少妇久久久久久久久久久| 亚洲av日韩在线播放| 曰老女人黄片| freevideosex欧美| a级毛色黄片| 亚洲天堂av无毛| 蜜桃久久精品国产亚洲av| www.色视频.com| 欧美精品高潮呻吟av久久| 2018国产大陆天天弄谢| 80岁老熟妇乱子伦牲交| 亚洲国产精品一区三区| 看免费成人av毛片| 精品少妇内射三级| 肉色欧美久久久久久久蜜桃| 国产片特级美女逼逼视频| 少妇的逼好多水| 久久久久久久久久久免费av| 99热6这里只有精品| 我的女老师完整版在线观看| 欧美激情国产日韩精品一区| a级毛片黄视频| 亚洲欧洲国产日韩| 国产不卡av网站在线观看| 精品国产国语对白av| 国产精品偷伦视频观看了| av在线老鸭窝| 一区二区三区四区激情视频| 亚洲精品aⅴ在线观看| 蜜桃久久精品国产亚洲av| 日韩强制内射视频| 欧美日韩一区二区视频在线观看视频在线| 熟女人妻精品中文字幕| 婷婷色麻豆天堂久久| 欧美 日韩 精品 国产| 欧美日韩成人在线一区二区| 丰满乱子伦码专区| 亚洲精华国产精华液的使用体验| 久久99热这里只频精品6学生| 老司机影院毛片| a级毛片黄视频| 91aial.com中文字幕在线观看| 国产69精品久久久久777片| 亚洲美女黄色视频免费看| 狠狠精品人妻久久久久久综合| www.色视频.com| 美女中出高潮动态图| 成人18禁高潮啪啪吃奶动态图 | 国产精品久久久久久久电影| 人妻人人澡人人爽人人| 全区人妻精品视频| 欧美精品亚洲一区二区| 欧美精品一区二区免费开放| 亚洲av不卡在线观看| 亚洲欧洲国产日韩| 亚洲国产成人一精品久久久| 亚洲av男天堂| 亚洲欧美色中文字幕在线| 国产一区亚洲一区在线观看| 少妇被粗大的猛进出69影院 | 日韩不卡一区二区三区视频在线| 十八禁高潮呻吟视频| 大码成人一级视频| 91精品一卡2卡3卡4卡| 日日爽夜夜爽网站| 国产av码专区亚洲av| av女优亚洲男人天堂| 在线观看免费日韩欧美大片 | 亚洲美女视频黄频| 精品亚洲成国产av| 欧美另类一区| 欧美人与善性xxx| 99九九在线精品视频| 91午夜精品亚洲一区二区三区| 啦啦啦啦在线视频资源| 亚洲av成人精品一二三区|