• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論對(duì)深度偽造侵犯自然人聲音利益的規(guī)制

    2022-02-23 18:37:40邾立軍李蘇珂
    行政與法 2022年11期
    關(guān)鍵詞:深度

    □ 邾立軍,李蘇珂

    (上海對(duì)外經(jīng)貿(mào)大學(xué) 法學(xué)院,上海 201620)

    隨著新興技術(shù)的不斷發(fā)展和廣泛應(yīng)用,自然人聲音中蘊(yùn)含的價(jià)值日益凸顯,如高德地圖通過語音合成技術(shù)將一些明星的聲音制作成導(dǎo)航語音包吸引用戶。除明星以外,普通人的聲音同樣被挖掘出潛在價(jià)值,如淘寶出現(xiàn)了專門提供聲音服務(wù)的店鋪,消費(fèi)者在付款后可以選擇自己喜歡的人聲完成特定指令。然而,新興技術(shù)的不當(dāng)利用也會(huì)破壞既有的法律秩序與法律規(guī)范,有利益價(jià)值的自然人聲音容易受到侵害的可能,如現(xiàn)實(shí)中不斷出現(xiàn)的非法篡改自然人聲音、利用技術(shù)手段合成偽造自然人聲音等侵權(quán)行為。術(shù)語“Deepfake”(深度偽造)是由英文“deep learning”(深度學(xué)習(xí))和“fake”(偽造)組合而成,深度偽造通過人工智能和機(jī)器學(xué)習(xí)形成,是一種基于人工智能通過深度學(xué)習(xí)利用人物圖像合成技術(shù)將已有圖像或視頻疊加到既有影像上。[1]《中華人民共和國(guó)民法典》(以下簡(jiǎn)稱《民法典》)第一千零二十三條第二款首次對(duì)自然人聲音利益保護(hù)作出了回應(yīng),在人格權(quán)編中正式承認(rèn)了自然人享有聲音利益,且明確“對(duì)自然人聲音的保護(hù),參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定”?!睹穹ǖ洹返谝磺Я阋皇艞l規(guī)定:“任何組織或者個(gè)人不得以丑化、污損,或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。”這對(duì)利用先進(jìn)技術(shù)偽造他人聲音的侵權(quán)行為進(jìn)行了規(guī)制,正面回應(yīng)了對(duì)聲音利益的保護(hù)。目前,國(guó)內(nèi)學(xué)者對(duì)自然人聲音利益保護(hù)的研究主要集中在是否應(yīng)當(dāng)將自然人聲音利益上升為一項(xiàng)獨(dú)立人格權(quán)給予保護(hù)。有學(xué)者主張將聲音上升為聽覺類人格權(quán)的“獨(dú)立確權(quán)說”,[2]有學(xué)者主張將肖像權(quán)規(guī)范擴(kuò)張涵蓋聲音的“肖像權(quán)擴(kuò)張保護(hù)說”,[3]也有學(xué)者主張“聲音語言權(quán)說”。[4]美國(guó)是第一個(gè)回應(yīng)深度偽造問題的國(guó)家,其對(duì)于深度偽造的治理相對(duì)比較完善。其中,美國(guó)《深度偽造責(zé)任法案》規(guī)定了多種法律處置手段,明確禁止深度偽造,對(duì)于我國(guó)規(guī)制深度偽造侵犯自然人聲音利益的保護(hù)問題具有重要的研究?jī)r(jià)值。

    一、我國(guó)規(guī)制深度偽造侵犯自然人聲音利益面臨的困境

    (一)參照肖像權(quán)保護(hù)但難以直接適用肖像權(quán)的侵權(quán)構(gòu)成要件

    我國(guó)《民法典》第一千零二十三條第二款規(guī)定:“對(duì)自然人聲音的保護(hù),參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。”首次明確承認(rèn)了自然人享有聲音利益且參照肖像權(quán)進(jìn)行保護(hù)。我國(guó)《立法技術(shù)規(guī)范(試行)(一)》規(guī)定:“‘參照’一般用于沒有直接納入法律調(diào)整范圍,但是又屬于該范圍邏輯內(nèi)涵自然延伸的事項(xiàng)?!惫蕝⒄者m用一般在待規(guī)范事物性質(zhì)相同且適用法律相似而出現(xiàn),在內(nèi)涵上屬于對(duì)法律的擴(kuò)張適用,在效力上則具有“準(zhǔn)法”的性質(zhì),其弱于強(qiáng)制性效力規(guī)定但又強(qiáng)于一般的任意性規(guī)定。[5]有學(xué)者建議法官在審理侵犯聲音利益的案件時(shí),應(yīng)參照侵犯肖像權(quán)的案件進(jìn)行類似性的考量和適用。[6]《民法典》第一千零一十九條除規(guī)定了常見的污損、丑化等傳統(tǒng)侵犯肖像權(quán)的行為外,還新增了“利用信息技術(shù)偽造”的新型侵權(quán)方式,這種方式指的是新興的深度偽造技術(shù)。有學(xué)者認(rèn)為,侵犯肖像權(quán)應(yīng)符合三個(gè)要件:一是未征得權(quán)利人同意,行為人擅自使用他人肖像;二是行為人有使用肖像的行為,既包括出于營(yíng)利目的的使用,也包括非營(yíng)利目的使用,如污損、丑化他人等;三是無阻卻違法事由。在前述構(gòu)成要件下,只要行為人未經(jīng)肖像權(quán)人同意利用先進(jìn)技術(shù)偽造他人肖像,且沒有違法阻卻事由,行為人則構(gòu)成侵權(quán)。[7]

    需要指出的是,雖然聲音和肖像作為標(biāo)表性人格特征具有相似性,但我國(guó)聲音沒有像肖像一樣上升為獨(dú)立的人格權(quán),其僅僅是一項(xiàng)被法律承認(rèn)的人格利益。[8]權(quán)利和利益不同,“權(quán)利就是類型化和有名化了的合法利益”,[9]權(quán)利具有規(guī)范性和確定性的特點(diǎn),對(duì)于是否侵權(quán)、侵犯何權(quán)、如何救濟(jì)等問題,法律已經(jīng)給出了明確的回答,因此法律對(duì)權(quán)利的保護(hù)是一種全面、積極的保護(hù)。對(duì)尚未被確定為權(quán)利的利益來說,法律沒有對(duì)其內(nèi)涵和外延作出明確的界定,因利益的內(nèi)容不明、邊界不清往往導(dǎo)致行為人無法從法律規(guī)范中得到明確指引,故基于維護(hù)行為自由的目的,應(yīng)當(dāng)對(duì)權(quán)利和利益進(jìn)行區(qū)分以及適當(dāng)限制對(duì)利益的保護(hù)。[10]與對(duì)權(quán)利的保護(hù)相比,對(duì)利益進(jìn)行保護(hù)時(shí)需要提高其違法性的判斷標(biāo)準(zhǔn),[11]避免過度限制行為自由而導(dǎo)致侵權(quán)責(zé)任泛濫。倘若對(duì)自然人聲音依照侵犯肖像權(quán)同等標(biāo)準(zhǔn)予以保護(hù),實(shí)則將聲音利益變相“權(quán)利化”,容易導(dǎo)致某些原本應(yīng)當(dāng)屬于權(quán)利人容忍范疇的行為也被貼上侵權(quán)的標(biāo)簽。如行為人出于調(diào)侃、戲謔的心態(tài),利用深度偽造技術(shù)偽造自然人聲音,主觀上沒有丑化、侮辱等侵權(quán)的惡意,而此時(shí)若將其行為認(rèn)定為侵犯聲音利益的侵權(quán)行為不免有些過于嚴(yán)苛。故自然人聲音利益保護(hù)無法完全等同于肖像權(quán)保護(hù),[12]難以直接參照肖像權(quán)的侵權(quán)責(zé)任構(gòu)成要件。

    (二)行為人對(duì)虛假音頻負(fù)有顯著標(biāo)識(shí)義務(wù)但未明確“顯著”標(biāo)準(zhǔn)

    我國(guó)《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第十一條規(guī)定:“網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的,應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)?!边@一條款規(guī)定了行為人對(duì)深度偽造虛假音頻的顯著標(biāo)識(shí)義務(wù),義務(wù)主體包括網(wǎng)絡(luò)音視頻信息服務(wù)的使用者和網(wǎng)絡(luò)音視頻信息服務(wù)的提供者。實(shí)際上,當(dāng)網(wǎng)絡(luò)音視頻信息服務(wù)的提供者制作、發(fā)布、傳播音頻時(shí),其地位相當(dāng)于普通的網(wǎng)絡(luò)用戶。之所以對(duì)特定主體施加顯著標(biāo)識(shí)義務(wù),是因?yàn)樯疃葘W(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)的濫用帶來的虛假信息爆炸、個(gè)人權(quán)益受損等負(fù)面影響過大,而對(duì)深度偽造的虛假音頻進(jìn)行顯著標(biāo)識(shí)可以有效地區(qū)分“真假”,將深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)的消極影響降低到最小程度,平衡利益保護(hù)和技術(shù)發(fā)展之間的沖突。值得注意的是,判斷行為人是否以顯著方式對(duì)深度偽造的虛假音視頻進(jìn)行標(biāo)識(shí)與認(rèn)定行為人的主觀過錯(cuò)程度、虛假音視頻在網(wǎng)絡(luò)上傳播后造成的后果大小等關(guān)鍵問題密切相關(guān),容易影響法官對(duì)行為人是否構(gòu)成侵權(quán)以及損害賠償范圍大小的判斷,故應(yīng)當(dāng)明確對(duì)虛假音視頻進(jìn)行顯著標(biāo)識(shí)的認(rèn)定標(biāo)準(zhǔn),統(tǒng)一司法適用。

    (三)給予雙重救濟(jì)但侵權(quán)賠償數(shù)額難以確定

    作為銜接人格權(quán)編和侵權(quán)責(zé)任編的條款,《民法典》第九百九十五條將侵害人格權(quán)的法律適用引致到了侵權(quán)責(zé)任編,即人格權(quán)編中沒有對(duì)侵害人格權(quán)作出特別規(guī)定的,可以適用侵權(quán)規(guī)則的一般要件;當(dāng)人格權(quán)編中有特殊規(guī)定的,應(yīng)當(dāng)優(yōu)先適用特殊的人格權(quán)侵權(quán)要件,[13]故聲音利益作為人格利益應(yīng)當(dāng)同時(shí)具備人格權(quán)請(qǐng)求權(quán)和侵權(quán)請(qǐng)求權(quán)這兩種救濟(jì)保護(hù)途徑。人格權(quán)編中規(guī)定的特殊的民事救濟(jì)主要有兩類:一類是受害人基于人格請(qǐng)求權(quán)這一絕對(duì)權(quán)請(qǐng)求侵權(quán)人停止侵害、排除妨害、消除危險(xiǎn)、消除影響、恢復(fù)名譽(yù)、賠禮道歉,且上述請(qǐng)求權(quán)沒有訴訟時(shí)效的限制。另一類是受害人向人民法院申請(qǐng)責(zé)令行為人停止有關(guān)行為的禁令。申請(qǐng)禁令不需要證明行為人存在過錯(cuò),僅證明行為人正在實(shí)施或即將實(shí)施侵權(quán)行為且不及時(shí)制止將會(huì)給權(quán)利人造成難以彌補(bǔ)的損失即可。作為一種暫時(shí)性的措施,禁令制度可以在糾紛被解決之前能夠有效防止受害人的損失進(jìn)一步擴(kuò)大。[14]因此,若他人利用深度偽造技術(shù)侵犯自然人的聲音利益,符合條件的受害人可以及時(shí)向人民法院申請(qǐng)禁令。侵權(quán)責(zé)任編中對(duì)侵犯自然人聲音利益的救濟(jì)主要是損害賠償,我國(guó)采取的是“實(shí)際損失或所獲利潤(rùn)”的計(jì)算模式。根據(jù)《民法典》的有關(guān)規(guī)定,侵害他人人身權(quán)益造成財(cái)產(chǎn)損失的,按照被侵權(quán)人受到的實(shí)際損失或者侵權(quán)人獲得的利益進(jìn)行賠償,若以上兩種情形難以確定且雙方當(dāng)事人難以協(xié)商一致的,由人民法院根據(jù)實(shí)際情況確定賠償數(shù)額;侵害自然人人身權(quán)益造成嚴(yán)重精神損害的,被侵權(quán)人有權(quán)請(qǐng)求精神損害賠償?,F(xiàn)實(shí)生活中,他人利用深度偽造侵犯自然人聲音利益多發(fā)于網(wǎng)絡(luò)環(huán)境。一旦行為人偽造、公開了包含自然人聲音的虛假音頻,這一侵權(quán)行為造成的損害后果往往是嚴(yán)重且難以預(yù)估的。除此之外,若行為人利用先進(jìn)技術(shù)偽造他人的聲音用于廣告或者其他商業(yè)用途,被侵權(quán)人則容易陷入網(wǎng)絡(luò)環(huán)境取證復(fù)雜、損失不明的困境;若利用深度偽造技術(shù)偽造他人的聲音致使他人遭受精神損害,被侵權(quán)人的損失將難以計(jì)算?!蹲罡呷嗣穹ㄔ宏P(guān)于確定民事侵權(quán)精神損害賠償責(zé)任若干問題的解釋》第十條規(guī)定:“精神損害的賠償數(shù)額根據(jù)以下因素確定:(一)侵權(quán)人的過錯(cuò)程度,法律另有規(guī)定的除外;(二)侵害的手段、場(chǎng)合、行為方式等具體情節(jié);(三)侵權(quán)行為所造成的后果;(四)侵權(quán)人的獲利情況;(五)侵權(quán)人承擔(dān)責(zé)任的經(jīng)濟(jì)能力;(六)受訴法院所在地平均生活水平。”這對(duì)法官行使自由裁量權(quán)有一定的限制和指引作用,但司法實(shí)踐中法官酌情確定的精神損害賠償數(shù)額差異較大,容易導(dǎo)致被侵權(quán)人的精神損害無法得到有效救濟(jì)。

    (四)網(wǎng)絡(luò)服務(wù)提供者對(duì)侵權(quán)負(fù)有審查義務(wù)但審查義務(wù)過輕

    自媒體時(shí)代,人人都可能有意或者無意地成為虛假信息的傳播源。網(wǎng)絡(luò)服務(wù)提供者在他人利用信息網(wǎng)絡(luò)實(shí)施侵權(quán)行為的事后應(yīng)當(dāng)盡到對(duì)侵權(quán)通知的審查義務(wù),并根據(jù)對(duì)初步證據(jù)的審查結(jié)果及時(shí)采取刪除、屏蔽、斷開鏈接等必要措施,這表明網(wǎng)絡(luò)服務(wù)提供者負(fù)有審查初步侵權(quán)證據(jù)的義務(wù)。[15]除此之外,網(wǎng)絡(luò)服務(wù)提供者在收到網(wǎng)絡(luò)用戶證明自己不構(gòu)成侵權(quán)的反通知時(shí),應(yīng)及時(shí)將這一反通知轉(zhuǎn)送給權(quán)利人,以便權(quán)利人采取相關(guān)的行動(dòng),反通知到達(dá)的合理期限也是權(quán)利人投訴或提起訴訟的合理期限,若網(wǎng)絡(luò)服務(wù)提供者在此期間內(nèi)沒有收到權(quán)利人已經(jīng)采取相應(yīng)措施的通知,則應(yīng)及時(shí)終止所采取的措施。因此,網(wǎng)絡(luò)服務(wù)提供者在被侵權(quán)用戶和侵權(quán)用戶之間承擔(dān)重要的連接作用,既要承擔(dān)“通知—取下”的義務(wù),也要承擔(dān)“反通知—恢復(fù)”的義務(wù),即具有雙重義務(wù)。[16]隨著網(wǎng)絡(luò)內(nèi)容識(shí)別和過濾技術(shù)的進(jìn)步,網(wǎng)絡(luò)服務(wù)提供者可以基于標(biāo)簽、關(guān)鍵詞、視頻時(shí)長(zhǎng)、智能內(nèi)容分析等多個(gè)維度對(duì)傳播內(nèi)容進(jìn)行審查篩選,也可以利用機(jī)器學(xué)習(xí)、圖像處理、語言分析等多種手段對(duì)文本、圖像或影音作品進(jìn)行處理,從而有效達(dá)到事先預(yù)防侵權(quán)的效果。[17]

    二、美國(guó)《深度偽造責(zé)任法案》關(guān)于深度偽造音頻侵權(quán)責(zé)任的規(guī)定

    深度偽造一詞最初源自于國(guó)外一位名叫“deepfakes”的網(wǎng)絡(luò)用戶,其于2017年在社交網(wǎng)絡(luò)上發(fā)布了將數(shù)位知名女演員的臉替換到色情表演者身上的一系列虛假視頻。因虛假視頻制作質(zhì)量較高,導(dǎo)致一些公眾難辨真假,引發(fā)了公眾的廣泛關(guān)注。自此之后,深度偽造技術(shù)開始進(jìn)入公眾的視野。這一技術(shù)除可用于制作虛假視頻外,還可用于實(shí)現(xiàn)聲音合成、視頻分辨率修復(fù)以及圖片藝術(shù)風(fēng)格遷移。[18]在《深度偽造責(zé)任法案》中,深度偽造①See DEEP FAKES Accountability Act,§1041(n)(3).一詞被定義為“任何視頻記錄、電影膠片、錄音、電子圖像或照片,或者依靠技術(shù)手段衍生出的任何技術(shù)性的語音和行為”,對(duì)深度偽造技術(shù)生成的記錄從內(nèi)容和技術(shù)上都作了界定:從內(nèi)容層面而言,記錄虛構(gòu)了一個(gè)人沒有作出的講話和行為;從技術(shù)層面而言,記錄的生成主要依賴先進(jìn)的技術(shù)手段,而非模仿他人說話或動(dòng)作的能力。

    (一)深度偽造虛假音頻侵權(quán)的責(zé)任構(gòu)成要件

    美國(guó)《深度偽造責(zé)任法案》主要是規(guī)制利用深度偽造傳播虛假信息而造成的侵權(quán),但其規(guī)制的不是一般虛假信息的傳播,而是令一般理性人認(rèn)識(shí)到可能使他人遭受到實(shí)際損害或者煽動(dòng)暴力、干預(yù)選舉、擾亂秩序等非法的虛假信息。除此之外,《深度偽造責(zé)任法案》還定義了“先進(jìn)技術(shù)偽造記錄”的概念,是指未經(jīng)自然人生前同意或自然人死后的繼承人同意,利用深度偽造技術(shù)制作的視聽記錄虛構(gòu)了行為人沒有從事過的活動(dòng)①實(shí)質(zhì)性活動(dòng)包括任何虛假的言論、行為或描述,這些言論、行為或描述會(huì)使理性人認(rèn)識(shí)到有可能給他人利益或社會(huì)利益造成實(shí)質(zhì)損害,包括不當(dāng)表述、名譽(yù)損害、騷擾、經(jīng)濟(jì)損失、煽動(dòng)暴力、干擾公共政策辯論或選舉等其他違法行為。,且一般理性人在考慮視聽記錄的質(zhì)量或傳播渠道后,有理由相信偽造記錄的真實(shí)性②See DEEP FAKES Accountability Act,§1041(n)(1).。

    實(shí)踐中,美國(guó)采用了“理性人標(biāo)準(zhǔn)”判斷行為人是否存在主觀過錯(cuò),理性人作為法律擬制的人不是以完美的形象出現(xiàn),而是代表著社會(huì)的一般道德水平和教育程度。[19]根據(jù)美國(guó)《侵權(quán)法重述第二版:條文部分》第285節(jié)之規(guī)定,理性人的行為標(biāo)準(zhǔn)可以通過下列方式確定:“⑴由一部有此規(guī)定的法律或者行政法規(guī)確立;⑵由法庭從一部無此規(guī)定的法律或者行政法規(guī)中采納;⑶由一項(xiàng)司法裁決所確立;⑷如果沒有此類法律、法規(guī)或裁決,由初審法官或者陪審團(tuán)根據(jù)案件的事實(shí)具體適用?!保?0]《深度偽造責(zé)任法案》多處采用了理性人的表述。如作為理性人應(yīng)當(dāng)認(rèn)識(shí)到在其利用深度偽造技術(shù)制作的記錄中,如果謊稱自然人或死者真實(shí)從事了某些行為,可能會(huì)對(duì)其造成實(shí)際損害,此為理性人的合理預(yù)見義務(wù)。同時(shí),《深度偽造責(zé)任法案》明確規(guī)定了行為人以傳播為目的制作偽造記錄或者明知是偽造記錄而傳播時(shí),應(yīng)保證這個(gè)記錄符合一定的條件,即記錄中插入表明該記錄包含偽造的音頻或視頻元素的水印,或者在記錄一開始作出詳細(xì)的披露,以告知人們?cè)撚涗浀膫卧斐潭?,此為理性人的合理行?dòng)義務(wù)。若行為人違反了前述兩個(gè)義務(wù),則可以認(rèn)定行為人存在過失。筆者認(rèn)為,美國(guó)《深度偽造責(zé)任法案》判斷深度偽造是否侵權(quán)需要滿足以下四個(gè)要件:一是行為人以傳播為目的制作描述實(shí)質(zhì)性活動(dòng)的偽造記錄或者明知是前述記錄而傳播;二是上述傳播沒有履行注意義務(wù)。行為人沒有保證其傳播偽造記錄符合嵌入水印和披露的要求,包括沒有披露和更改披露,即本身沒有作出任何披露、刪除或掩蓋他人作出的披露;三是造成受害人損害;四是損害與深度偽造行為之間具有因果關(guān)系,即受害人受到的損害是由行為人的深度偽造行為引起的。

    (二)行為人對(duì)深度偽造虛假音頻的嵌入水印與披露義務(wù):注意義務(wù)的履行及其例外

    行為人是否保證先進(jìn)技術(shù)偽造記錄在傳播過程中符合美國(guó)《深度偽造責(zé)任法案》規(guī)定,這是判斷行為人是否履行合理注意義務(wù)或判斷行為人是否存在過失的重要因素?!渡疃葌卧熵?zé)任法案》對(duì)此有兩個(gè)方面的要求:一是嵌入水印的要求,二是作出披露的要求①See DEEP FAKES Accountability Act,§1041(a).,這兩個(gè)方面的要求統(tǒng)稱為披露義務(wù)。首先,對(duì)所有包含視覺元素的先進(jìn)技術(shù)偽造記錄來說都應(yīng)嵌入一個(gè)數(shù)字水印,其中必須清楚地表明記錄包含改變的音頻或者視頻元素②See DEEP FAKES Accountability Act,§1041(b).。其次,美國(guó)根據(jù)包含元素的不同,把偽造記錄分為包含音頻和視覺元素的偽造記錄、包含視覺元素的偽造記錄、包含音頻元素的偽造記錄三類,并對(duì)其需要作出的披露行為分別作出了詳細(xì)規(guī)定。對(duì)深度偽造的音頻來說,記錄必須在播放初始即作出明確的口頭聲明,表明記錄包含偽造的音頻元素,并對(duì)偽造程度作出簡(jiǎn)要描述。如果偽造音頻的長(zhǎng)度超過兩分鐘,則每隔兩分鐘必須重復(fù)前述口頭聲明,額外描述記錄改動(dòng)的情況③See DEEP FAKES Accountability Act,§1041(e).。《深度偽造責(zé)任法案》通過規(guī)定披露義務(wù)可以有效避免他人對(duì)深度偽造記錄發(fā)生誤認(rèn),能夠遏制虛假信息的傳播。

    此外,《深度偽造責(zé)任法案》還規(guī)定了違反注意義務(wù)的例外情形。對(duì)嵌入水印的要求來說,其不適用由司法部長(zhǎng)根據(jù)規(guī)定決定應(yīng)當(dāng)被排除在此類要求之外的先進(jìn)技術(shù)偽造記錄④See DEEP FAKES Accountability Act,§1041(j)(2).。對(duì)于披露要求來說,其不適用下列六種情況:(一)行為人在先進(jìn)技術(shù)偽造記錄中作出了代替性的披露,且理性人認(rèn)為代替性披露比《深度偽造責(zé)任法案》中規(guī)定的披露更為顯著;(二)記錄制作過程的前提是保證記錄最終傳播時(shí)符合披露要求;(三)主要包含真實(shí)人物,如表演藝術(shù)家的圖像或錄音且未經(jīng)過實(shí)質(zhì)性修改;(四)因編輯電影、電視、音樂以及類似作品或者制作其衍生作品而產(chǎn)生的記錄,記錄的原始內(nèi)容是在本法頒布前創(chuàng)作的且取得了記錄中出現(xiàn)的人同意;(五)記錄中偽造的自然人實(shí)質(zhì)性活動(dòng)不會(huì)導(dǎo)致一個(gè)理性人產(chǎn)生誤認(rèn),如模仿表演或出版物、歷史再現(xiàn)、虛構(gòu)的廣播節(jié)目、虛構(gòu)的電視節(jié)目或電影節(jié)目等;(六)為了促進(jìn)公共安全或國(guó)家安全,由美國(guó)的官員或雇員在其授權(quán)范圍內(nèi)制作的⑤See DEEP FAKES Accountability Act,§1041(j)(1).。以上六種例外情況下,如果行為人沒有對(duì)先進(jìn)技術(shù)偽造記錄嵌入符合《深度偽造責(zé)任法案》要求的水印或完成披露,也不視為其對(duì)注意義務(wù)的違反。

    (三)深度偽造虛假音頻侵權(quán)的民事救濟(jì)

    美國(guó)對(duì)利用深度偽造技術(shù)給他人造成損害的行為分別規(guī)定了刑事、行政和民事責(zé)任等予以全面救濟(jì),因立足于民法視角研究對(duì)深度偽造侵犯聲音利益的規(guī)制,故筆者只探討美國(guó)《深度偽造責(zé)任法案》中的民事救濟(jì)部分規(guī)定。一方面,根據(jù)《深度偽造責(zé)任法案》中對(duì)私人訴權(quán)部分的規(guī)定,任何自然人、公司或者其他實(shí)體因?yàn)樵谙冗M(jìn)技術(shù)偽造記錄中被展示,均可以提起民事訴訟獲得賠償救濟(jì)。被侵權(quán)人可以要求侵權(quán)人賠償因侵權(quán)行為遭受的實(shí)際損害以及違反披露義務(wù)而得到的衍生利潤(rùn);若實(shí)際損害以及衍生利潤(rùn)難以計(jì)算或者計(jì)算后低于《深度偽造責(zé)任法案》規(guī)定的數(shù)額時(shí),被侵權(quán)人可以直接請(qǐng)求根據(jù)《深度偽造責(zé)任法案》規(guī)定的較高數(shù)額獲得賠償?;趷毫映潭鹊牟煌渡疃葌卧熵?zé)任法案》將侵權(quán)行為分為三類:第一類是若致使受害人遭受了實(shí)際損害或面臨遭受實(shí)際損害的現(xiàn)實(shí)風(fēng)險(xiǎn),則每個(gè)先進(jìn)技術(shù)偽造記錄需向被侵權(quán)人賠償5萬美元;第二類是偽造記錄在致使被侵權(quán)人遭受實(shí)際損害或遭受實(shí)際損害的現(xiàn)實(shí)風(fēng)險(xiǎn)的基礎(chǔ)上,進(jìn)一步捏造了自然人實(shí)施惡劣行為的事實(shí),則每個(gè)偽造記錄賠償10萬美元;第三類是若先進(jìn)技術(shù)偽造記錄包含明顯的視覺性質(zhì)的色情內(nèi)容,且意圖通過偽造記錄捏造他人參與此類性行為的事實(shí),或通過偽造他人處于裸體狀態(tài)的記錄意圖羞辱或騷擾他人,則每個(gè)記錄賠償15萬美元①See DEEP FAKES Accountability Act,§1041(g)(2)(A)-(g)(2)(D).。《深度偽造責(zé)任法案》有關(guān)侵權(quán)行為的分類規(guī)定和賠償數(shù)額的梯度設(shè)置,細(xì)化了深度偽造侵權(quán)的責(zé)任后果,賦予了被侵權(quán)人在實(shí)際損害和法定賠償之間的選擇權(quán),有利于被侵權(quán)人獲得較多的賠償。另一方面,被侵權(quán)人除了可以要求侵權(quán)人對(duì)其損失進(jìn)行金錢賠償外,還可以對(duì)沒有披露或者更改披露的先進(jìn)技術(shù)偽造記錄申請(qǐng)禁令救濟(jì)。所謂禁令救濟(jì),指的是強(qiáng)制侵權(quán)人遵守在先進(jìn)技術(shù)偽造記錄中嵌入水印的標(biāo)識(shí)要求和作出書面或口頭聲明的披露要求②See DEEP FAKES Accountability Act,§1041(g)(3).。

    (四)軟件制造商的促進(jìn)透明度義務(wù)

    美國(guó)《深度偽造責(zé)任法案》涉及了對(duì)軟件制造商的要求,主要包含兩個(gè)方面:一是要求軟件制造商對(duì)制作的軟件是否會(huì)被用于制作深度偽造記錄承擔(dān)合理預(yù)見義務(wù),但《深度偽造責(zé)任法案》中對(duì)“合理的理由”沒有作出詳細(xì)解釋,故需要軟件制造商根據(jù)自己所制造的軟件用途、功能等依賴其經(jīng)驗(yàn)進(jìn)行具體判斷。二是若軟件制造商合理地預(yù)見到自己制作的軟件可能被用于制作偽造記錄,應(yīng)當(dāng)保證自己所制作的軟件符合下列要求:軟件滿足對(duì)深度偽造記錄插入水印和作出披露的需求;保證其使用條款或者其他相似披露足以達(dá)到使該軟件的用戶知曉《深度偽造責(zé)任法案》規(guī)定的法律義務(wù)的程度③See DEEP FAKES Accountability Act,sec.3.??梢?,《深度偽造責(zé)任法案》對(duì)軟件制造商促進(jìn)透明度義務(wù)的要求是行為人可以履行披露義務(wù)的前提。

    值得關(guān)注的是,美國(guó)《深度偽造責(zé)任法案》也存在一些問題。如沒有規(guī)定若軟件制造商違反促進(jìn)透明度義務(wù)時(shí)應(yīng)承擔(dān)的法律責(zé)任后果;僅強(qiáng)調(diào)了對(duì)深度偽造制造者進(jìn)行處罰而沒有涉及平臺(tái)的責(zé)任,在難以查明深度偽造制造者時(shí)不利于給予受害者充分的救濟(jì)④See Anne Pechenik Gieseke,“The New Weapon of Choice”:Law's Current Inability to Properly Address Deepfake Pornography,73 VAND.L.REV.1479(2020).。因此,我國(guó)在規(guī)制深度偽造侵犯自然人聲音利益時(shí),對(duì)這些問題應(yīng)予以重視。

    三、我國(guó)深度偽造侵犯自然人聲音利益的規(guī)制建議

    (一)明確深度偽造侵犯自然人聲音利益的構(gòu)成要件

    我國(guó)《民法典》第一千一百六十五條沒有明確區(qū)分民事權(quán)利和民事利益,采用的是“民事權(quán)益”的概括表述,受到了一些學(xué)者的質(zhì)疑,認(rèn)為應(yīng)當(dāng)對(duì)權(quán)利和利益區(qū)分保護(hù),“其他利益不應(yīng)與絕對(duì)權(quán)采用相同的保護(hù)手段,應(yīng)考慮利益是否被特別保護(hù)性規(guī)定保護(hù)、侵權(quán)人主觀狀態(tài)以及雙方關(guān)系緊密程度,等等。”[21]因自然人聲音利益沒有上升到一項(xiàng)獨(dú)立的人格權(quán),而僅僅作為人格利益參照肖像權(quán)獲得保護(hù),故認(rèn)定侵權(quán)行為成立需要綜合考慮行為人主觀過錯(cuò)程度以及損害后果等多方面因素。

    筆者認(rèn)為,我國(guó)深度偽造侵犯聲音利益的責(zé)任構(gòu)成要件應(yīng)包含四個(gè)方面:一是行為人未經(jīng)他人同意利用先進(jìn)技術(shù)偽造他人聲音。二是行為人具有故意或重大過失。侵權(quán)人的主觀過錯(cuò)程度是區(qū)分權(quán)利和利益保護(hù)程度的關(guān)鍵,“過失侵害他人利益不應(yīng)當(dāng)一律承擔(dān)侵權(quán)責(zé)任”。[22]對(duì)于故意的認(rèn)定,若行為人利用先進(jìn)技術(shù)偽造他人聲音用于廣告宣傳、商業(yè)推銷等營(yíng)利用途可以直接推定其具有侵權(quán)故意;若行為人出于非營(yíng)利目的偽造他人聲音,則必須具有主觀惡意才可依法適用肖像權(quán)的有關(guān)規(guī)定予以規(guī)制,[23]如丑化、侮辱、歪曲事實(shí)、貶損、騷擾他人等;除故意外,若行為人存在重大過失也可以構(gòu)成對(duì)他人聲音利益的侵犯。判斷行為人是否具有重大過失可以借鑒美國(guó)《深度偽造責(zé)任法案》關(guān)于行為人是否履行了注意義務(wù)的標(biāo)準(zhǔn),即行為人利用先進(jìn)技術(shù)偽造包含自然人聲音的虛假音頻時(shí),若沒有以顯著方式對(duì)偽造音頻作出標(biāo)識(shí),可以認(rèn)定行為人主觀上存在重大過失,應(yīng)當(dāng)責(zé)令行為人對(duì)其造成的損害結(jié)果承擔(dān)賠償責(zé)任。三是行為人深度偽造他人聲音的行為造成了損害。四是行為和損害后果之間具有因果關(guān)系。基于前述對(duì)侵權(quán)責(zé)任構(gòu)成要件的分析,若行為人單純出于個(gè)人欣賞、紀(jì)念、調(diào)侃、戲謔或者科學(xué)研究、藝術(shù)創(chuàng)作等目的,利用先進(jìn)技術(shù)偽造他人聲音的行為,或者雖然利用先進(jìn)技術(shù)偽造他人的聲音但已經(jīng)進(jìn)行明顯標(biāo)識(shí)的行為應(yīng)當(dāng)屬于公眾容忍的范圍,不應(yīng)當(dāng)被認(rèn)定為侵犯自然人聲音利益的侵權(quán)行為。

    (二)明確深度偽造虛假音頻的顯著標(biāo)識(shí)義務(wù)

    關(guān)于利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等先進(jìn)技術(shù)制作、發(fā)布、傳播偽造音頻時(shí)進(jìn)行顯著標(biāo)識(shí)的判斷標(biāo)準(zhǔn),其核心本質(zhì)是判斷行為人對(duì)制作或傳播的音頻是否盡到了合理的注意義務(wù)。因此,可以借鑒美國(guó)《深度偽造責(zé)任法案》關(guān)于音頻披露的要求和禁令救濟(jì)制度,要求行為人對(duì)包含自然人聲音的深度偽造音頻履行一定的披露義務(wù),明確可以執(zhí)行的披露要求,并以此作為顯著標(biāo)識(shí)的最低判斷標(biāo)準(zhǔn),從而達(dá)到事先預(yù)防的目的。首先,行為人制作、傳播深度偽造的虛假音頻或者明知是前述音頻而傳播時(shí),應(yīng)當(dāng)在音頻開始即作出明確的口頭聲明,表明音頻內(nèi)包含的自然人聲音是利用先進(jìn)技術(shù)手段制作而得,并對(duì)偽造的程度及篡改的內(nèi)容予以說明。如果音頻的時(shí)長(zhǎng)超過兩分鐘,則在其后每隔兩分鐘均需重復(fù)前述的口頭聲明。其次,利用先進(jìn)技術(shù)偽造自然人聲音而生成的音頻應(yīng)使用嵌入水印或者添加標(biāo)簽的方式明確標(biāo)識(shí)。再次,若行為人通過先進(jìn)技術(shù)篡改現(xiàn)有的包含自然人聲音的音頻,還應(yīng)在深度偽造的音頻之后附加原版完整音頻進(jìn)行對(duì)比。以上措施可以作為判斷行為人是否履行顯著標(biāo)識(shí)義務(wù)的標(biāo)準(zhǔn)。

    (三)損害類型化并分等級(jí)給予救濟(jì)

    面對(duì)深度偽造侵犯自然人聲音利益的賠償數(shù)額,我國(guó)可以參考美國(guó)《深度偽造責(zé)任法案》的相關(guān)規(guī)定,將深度偽造侵犯自然人聲音利益行為進(jìn)行類型歸納,并針對(duì)侵權(quán)行為造成的各類損害后果規(guī)定不同等級(jí)的賠償數(shù)額,從而達(dá)到事后救濟(jì)和懲罰的目的。筆者認(rèn)為,可以將這種侵權(quán)行為分為以下幾個(gè)類型:(一)利用先進(jìn)技術(shù)偽造他人聲音,致使他人遭受損害或面臨損害威脅;(二)利用先進(jìn)技術(shù)偽造他人聲音歪曲事實(shí)或?qū)嵤┢垓_行為,致使他人遭受實(shí)際損害或面臨損害威脅;(三)利用先進(jìn)技術(shù)偽造他人聲音侮辱、丑化他人,致使他人名譽(yù)受損或面臨損害威脅;(四)以違反公序良俗的方式利用先進(jìn)技術(shù)偽造他人聲音。當(dāng)被侵權(quán)人因?yàn)榍謾?quán)行為遭受損害,被侵權(quán)人的損失或侵權(quán)人獲利難以確定且雙方對(duì)賠償數(shù)額難以協(xié)商一致,需要法院根據(jù)自由裁量酌定確定賠償數(shù)額時(shí),可對(duì)前述侵犯自然人聲音利益不同類型的行為規(guī)定不同等級(jí)的損害賠償數(shù)額,這能夠?yàn)榉ü賹徖眍愃频那謾?quán)案件確定損害賠償數(shù)額提供參照,在此基礎(chǔ)上結(jié)合侵權(quán)人的過錯(cuò)程度、侵權(quán)影響范圍等因素進(jìn)行自由裁量。

    (四)增加網(wǎng)絡(luò)服務(wù)提供者對(duì)深度偽造虛假音頻的預(yù)防區(qū)分審查義務(wù)

    為了減少利用先進(jìn)技術(shù)非法偽造自然人聲音這一侵權(quán)行為帶來的損害,網(wǎng)絡(luò)服務(wù)提供者應(yīng)盡到合理的信息監(jiān)管義務(wù),對(duì)基于平臺(tái)傳播的音頻進(jìn)行積極審查,主動(dòng)甄別深度偽造侵犯他人利益的音頻并及時(shí)采取措施。網(wǎng)絡(luò)服務(wù)提供者應(yīng)當(dāng)對(duì)基于深度學(xué)習(xí)而制作的含有自然人聲音的虛假音視頻進(jìn)行事前預(yù)防審查,根據(jù)虛假音頻是否履行披露義務(wù)進(jìn)行區(qū)分。對(duì)已經(jīng)履行披露義務(wù)的深度偽造音頻進(jìn)行形式審查時(shí),主要審查該音頻是否對(duì)其偽造程度作出明確口頭說明或者其他顯著標(biāo)識(shí);對(duì)未履行披露義務(wù)的深度偽造音頻,應(yīng)當(dāng)對(duì)其內(nèi)容進(jìn)行實(shí)質(zhì)審查并拒絕傳播明顯侵犯他人聲音利益和違反社會(huì)公德或公序良俗的偽造音頻。對(duì)于審核未通過的音頻,網(wǎng)絡(luò)服務(wù)提供者應(yīng)將審核未通過的理由告知網(wǎng)絡(luò)用戶,待修改審查通過后可以繼續(xù)為其提供服務(wù)。雖然對(duì)網(wǎng)絡(luò)服務(wù)提供者施加了更高的審查義務(wù),但鑒于深度偽造的音頻一旦在互聯(lián)網(wǎng)上傳播,極易給權(quán)利主體造成損害,且網(wǎng)絡(luò)服務(wù)提供者已經(jīng)具備篩選、屏蔽、推薦或者審核信息的能力,[24]如美國(guó)有些網(wǎng)絡(luò)服務(wù)提供者與視頻網(wǎng)站通過技術(shù)設(shè)置檢測(cè)虛假偽造視頻的算法,判定是否是虛假視頻,從而對(duì)行為人上傳視頻進(jìn)行監(jiān)測(cè)和鑒別,實(shí)現(xiàn)篩選與攔截的目的。同時(shí),網(wǎng)絡(luò)服務(wù)提供者還可以通過設(shè)置嵌入視頻水印和“數(shù)字指紋”等手段來確定這些視頻的來源。[25]因此,要求網(wǎng)絡(luò)服務(wù)提供者有針對(duì)性地對(duì)深度偽造音頻進(jìn)行預(yù)防區(qū)分審查是可行且必要的。

    猜你喜歡
    深度
    深度理解不等關(guān)系
    四增四減 深度推進(jìn)
    深度理解一元一次方程
    深度觀察
    深度觀察
    深度觀察
    深度觀察
    芻議深度報(bào)道的深度與“文”度
    新聞傳播(2016年10期)2016-09-26 12:14:59
    提升深度報(bào)道量與質(zhì)
    新聞傳播(2015年10期)2015-07-18 11:05:40
    微小提議 深度思考
    日韩欧美在线二视频| 国产精品自产拍在线观看55亚洲| 精品一区二区三卡| 婷婷精品国产亚洲av在线| 国产欧美日韩一区二区三区在线| 伊人久久大香线蕉亚洲五| 999久久久国产精品视频| 韩国精品一区二区三区| 亚洲精品国产精品久久久不卡| 99国产综合亚洲精品| 真人一进一出gif抽搐免费| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲精品国产色婷婷电影| 国产亚洲精品一区二区www| 国产精品98久久久久久宅男小说| 亚洲成人免费av在线播放| 日韩欧美三级三区| 亚洲一区二区三区欧美精品| 国产高清国产精品国产三级| 欧美人与性动交α欧美软件| 免费看a级黄色片| 久久天堂一区二区三区四区| 18禁裸乳无遮挡免费网站照片 | 精品国产亚洲在线| 国产精品亚洲一级av第二区| 在线观看免费视频日本深夜| 99精国产麻豆久久婷婷| 亚洲精华国产精华精| av在线播放免费不卡| 亚洲国产精品合色在线| 99riav亚洲国产免费| 男女下面插进去视频免费观看| 国产xxxxx性猛交| 久久久久国产一级毛片高清牌| 麻豆av在线久日| 黑丝袜美女国产一区| 国产午夜精品久久久久久| 19禁男女啪啪无遮挡网站| 亚洲片人在线观看| 国产在线精品亚洲第一网站| 久久亚洲真实| 99热国产这里只有精品6| 午夜精品在线福利| 91麻豆精品激情在线观看国产 | 久久精品91无色码中文字幕| 欧美大码av| 免费看十八禁软件| 日韩大码丰满熟妇| 日韩av在线大香蕉| 黑丝袜美女国产一区| 日韩免费高清中文字幕av| 视频区图区小说| 一边摸一边做爽爽视频免费| 欧美中文日本在线观看视频| 成人亚洲精品av一区二区 | 国产精品综合久久久久久久免费 | 精品久久久精品久久久| 成年版毛片免费区| 成人特级黄色片久久久久久久| 好男人电影高清在线观看| 国产精品香港三级国产av潘金莲| 黑丝袜美女国产一区| 欧美人与性动交α欧美精品济南到| 色综合欧美亚洲国产小说| 自拍欧美九色日韩亚洲蝌蚪91| 日日摸夜夜添夜夜添小说| 成人永久免费在线观看视频| 女性被躁到高潮视频| www.自偷自拍.com| 亚洲av美国av| 亚洲一码二码三码区别大吗| 国产黄色免费在线视频| av片东京热男人的天堂| 一级毛片女人18水好多| 好看av亚洲va欧美ⅴa在| 999久久久精品免费观看国产| 日韩 欧美 亚洲 中文字幕| 国产av精品麻豆| 成人手机av| 国产av一区在线观看免费| 麻豆一二三区av精品| 在线观看www视频免费| 久久久国产欧美日韩av| 亚洲激情在线av| 免费高清在线观看日韩| 性色av乱码一区二区三区2| 丰满的人妻完整版| 国产免费现黄频在线看| 欧美日韩一级在线毛片| 精品国产一区二区久久| 亚洲国产中文字幕在线视频| 高清欧美精品videossex| 日韩精品青青久久久久久| 人人妻人人爽人人添夜夜欢视频| 每晚都被弄得嗷嗷叫到高潮| 亚洲美女黄片视频| 午夜免费观看网址| 亚洲av电影在线进入| 成年人黄色毛片网站| bbb黄色大片| 亚洲视频免费观看视频| 午夜福利免费观看在线| 老鸭窝网址在线观看| 国产熟女午夜一区二区三区| e午夜精品久久久久久久| 免费av中文字幕在线| 日日爽夜夜爽网站| a级毛片黄视频| 欧美日韩亚洲高清精品| 精品人妻1区二区| 男女下面进入的视频免费午夜 | 老鸭窝网址在线观看| 一级作爱视频免费观看| 久久草成人影院| 黑人欧美特级aaaaaa片| 美国免费a级毛片| 变态另类成人亚洲欧美熟女 | ponron亚洲| 日本 av在线| 国产三级黄色录像| av超薄肉色丝袜交足视频| 欧美日韩福利视频一区二区| 国产97色在线日韩免费| 久久热在线av| 两性午夜刺激爽爽歪歪视频在线观看 | 亚洲国产欧美一区二区综合| 久久香蕉激情| 制服人妻中文乱码| 91精品国产国语对白视频| 成人特级黄色片久久久久久久| 久久热在线av| 亚洲国产欧美网| 女人爽到高潮嗷嗷叫在线视频| 丰满饥渴人妻一区二区三| 新久久久久国产一级毛片| 国产一区二区三区综合在线观看| 久久久久久久久久久久大奶| 午夜精品久久久久久毛片777| 亚洲精品国产一区二区精华液| 热re99久久国产66热| 精品少妇一区二区三区视频日本电影| 999久久久国产精品视频| 国产91精品成人一区二区三区| 国产一区二区三区综合在线观看| 男女下面插进去视频免费观看| 三级毛片av免费| 淫妇啪啪啪对白视频| 激情在线观看视频在线高清| 亚洲全国av大片| 日本黄色日本黄色录像| 男人的好看免费观看在线视频 | 日本五十路高清| 99热只有精品国产| 老鸭窝网址在线观看| av网站在线播放免费| 亚洲va日本ⅴa欧美va伊人久久| 亚洲五月色婷婷综合| 在线观看日韩欧美| 午夜久久久在线观看| 黑人操中国人逼视频| 法律面前人人平等表现在哪些方面| 真人一进一出gif抽搐免费| 国产精品自产拍在线观看55亚洲| 亚洲人成伊人成综合网2020| 午夜日韩欧美国产| 757午夜福利合集在线观看| 在线观看免费视频日本深夜| 日韩精品青青久久久久久| 亚洲精品一区av在线观看| 成人国产一区最新在线观看| 午夜影院日韩av| 亚洲成人精品中文字幕电影 | 18禁国产床啪视频网站| 欧美人与性动交α欧美精品济南到| 99久久综合精品五月天人人| 亚洲精品av麻豆狂野| www.自偷自拍.com| 大陆偷拍与自拍| 女警被强在线播放| 国产精品 欧美亚洲| 一级a爱视频在线免费观看| 亚洲片人在线观看| 久久人妻福利社区极品人妻图片| 欧美中文日本在线观看视频| 一本大道久久a久久精品| 国产男靠女视频免费网站| 亚洲精品粉嫩美女一区| a级毛片在线看网站| 在线观看免费午夜福利视频| 亚洲一区高清亚洲精品| 精品久久久久久成人av| 日韩免费高清中文字幕av| 亚洲美女黄片视频| 欧美日韩乱码在线| 丝袜人妻中文字幕| 亚洲精品中文字幕一二三四区| 99久久精品国产亚洲精品| 亚洲精品国产色婷婷电影| 少妇 在线观看| 日韩欧美一区二区三区在线观看| cao死你这个sao货| 成人18禁高潮啪啪吃奶动态图| 久久精品91蜜桃| 亚洲av美国av| 欧美日韩视频精品一区| 成人18禁高潮啪啪吃奶动态图| 一夜夜www| 无人区码免费观看不卡| 色播在线永久视频| 欧美精品亚洲一区二区| 国产乱人伦免费视频| 国产精品国产av在线观看| 91国产中文字幕| 亚洲av成人一区二区三| 亚洲国产毛片av蜜桃av| 黄色视频,在线免费观看| 麻豆国产av国片精品| 窝窝影院91人妻| 午夜视频精品福利| 天天添夜夜摸| 一级片'在线观看视频| 亚洲欧美日韩另类电影网站| 国产一区二区三区综合在线观看| 亚洲成a人片在线一区二区| 一本大道久久a久久精品| 日韩精品免费视频一区二区三区| 免费看十八禁软件| 高清av免费在线| 一级黄色大片毛片| 美女高潮喷水抽搐中文字幕| 欧美日韩视频精品一区| 久久 成人 亚洲| 午夜免费成人在线视频| 中文字幕另类日韩欧美亚洲嫩草| 欧美成狂野欧美在线观看| 精品久久久久久成人av| 水蜜桃什么品种好| 久久中文看片网| 亚洲精品中文字幕一二三四区| 欧美人与性动交α欧美精品济南到| 黄片播放在线免费| 无限看片的www在线观看| 欧美av亚洲av综合av国产av| 亚洲黑人精品在线| 不卡一级毛片| 久久久水蜜桃国产精品网| 国产麻豆69| 欧美性长视频在线观看| 国产蜜桃级精品一区二区三区| 国产精华一区二区三区| 可以在线观看毛片的网站| 乱人伦中国视频| 黄频高清免费视频| 多毛熟女@视频| 夜夜看夜夜爽夜夜摸 | av网站免费在线观看视频| 精品一区二区三区av网在线观看| 国产欧美日韩一区二区三区在线| videosex国产| 国内久久婷婷六月综合欲色啪| 国产无遮挡羞羞视频在线观看| 国产欧美日韩精品亚洲av| 大香蕉久久成人网| 久久精品国产99精品国产亚洲性色 | 久久久国产精品麻豆| 亚洲欧美激情综合另类| 亚洲午夜理论影院| 色在线成人网| 日韩欧美三级三区| 男女午夜视频在线观看| 色综合站精品国产| 极品人妻少妇av视频| 在线十欧美十亚洲十日本专区| 国产免费av片在线观看野外av| 国产av精品麻豆| 黄色怎么调成土黄色| 亚洲熟妇熟女久久| 18禁国产床啪视频网站| 亚洲欧洲精品一区二区精品久久久| 高清毛片免费观看视频网站 | 亚洲人成伊人成综合网2020| 免费观看精品视频网站| 国产区一区二久久| 性少妇av在线| 69av精品久久久久久| 久久精品国产清高在天天线| 亚洲国产欧美日韩在线播放| 好男人电影高清在线观看| 桃色一区二区三区在线观看| 高清av免费在线| 国产1区2区3区精品| 夫妻午夜视频| 国产精品 欧美亚洲| 校园春色视频在线观看| 欧美另类亚洲清纯唯美| 国产成+人综合+亚洲专区| 国产精品1区2区在线观看.| 动漫黄色视频在线观看| 欧美日韩精品网址| 亚洲成av片中文字幕在线观看| 一级,二级,三级黄色视频| 免费在线观看亚洲国产| 最新美女视频免费是黄的| 国产熟女xx| 丰满饥渴人妻一区二区三| 亚洲欧美日韩无卡精品| 天堂动漫精品| 亚洲精品粉嫩美女一区| 99国产综合亚洲精品| 久久久久久久精品吃奶| 国产av又大| 色尼玛亚洲综合影院| 精品久久久久久久久久免费视频 | 欧美国产精品va在线观看不卡| 涩涩av久久男人的天堂| 五月开心婷婷网| 99精品久久久久人妻精品| 黄色丝袜av网址大全| 国产人伦9x9x在线观看| tocl精华| 精品久久蜜臀av无| 脱女人内裤的视频| 激情在线观看视频在线高清| 神马国产精品三级电影在线观看 | 国产欧美日韩一区二区三区在线| 久热这里只有精品99| 日韩视频一区二区在线观看| 久久这里只有精品19| 真人做人爱边吃奶动态| 免费在线观看影片大全网站| 长腿黑丝高跟| 在线观看免费日韩欧美大片| 成人影院久久| 老熟妇乱子伦视频在线观看| 丁香欧美五月| 18禁美女被吸乳视频| 国产单亲对白刺激| 欧美乱码精品一区二区三区| 色在线成人网| 大陆偷拍与自拍| 国产欧美日韩综合在线一区二区| 免费一级毛片在线播放高清视频 | 亚洲五月色婷婷综合| 国产亚洲欧美精品永久| 99国产精品一区二区三区| 在线视频色国产色| 久久99一区二区三区| 免费久久久久久久精品成人欧美视频| 曰老女人黄片| 精品国产美女av久久久久小说| a级毛片在线看网站| 国产人伦9x9x在线观看| 一区二区三区激情视频| 国产免费av片在线观看野外av| 国产精华一区二区三区| 日韩大尺度精品在线看网址 | 亚洲成人久久性| 极品教师在线免费播放| 国产97色在线日韩免费| 亚洲欧美精品综合一区二区三区| 久久中文看片网| 久久久国产成人免费| 亚洲国产欧美网| 久久人人精品亚洲av| cao死你这个sao货| 国产aⅴ精品一区二区三区波| 国产精品亚洲一级av第二区| 人人妻人人爽人人添夜夜欢视频| 国产精品秋霞免费鲁丝片| netflix在线观看网站| 国产在线观看jvid| 少妇的丰满在线观看| 麻豆一二三区av精品| 纯流量卡能插随身wifi吗| 久久久久久大精品| 久久精品国产99精品国产亚洲性色 | 久久久久久免费高清国产稀缺| 国产欧美日韩精品亚洲av| 久久午夜亚洲精品久久| 免费一级毛片在线播放高清视频 | 国产精品综合久久久久久久免费 | 18禁观看日本| 嫩草影院精品99| 久久狼人影院| 日韩高清综合在线| 午夜91福利影院| 久久精品国产亚洲av香蕉五月| 一区二区三区精品91| 国产精品一区二区在线不卡| 欧美日韩精品网址| 99精品欧美一区二区三区四区| 亚洲精品成人av观看孕妇| 久久精品国产清高在天天线| 成年人黄色毛片网站| 精品卡一卡二卡四卡免费| 欧美在线黄色| 国产黄色免费在线视频| 精品高清国产在线一区| 久久久国产欧美日韩av| 在线天堂中文资源库| 精品久久久久久电影网| 亚洲午夜精品一区,二区,三区| 亚洲国产看品久久| 啪啪无遮挡十八禁网站| 国产精品 欧美亚洲| 午夜视频精品福利| 久久99一区二区三区| 成人亚洲精品av一区二区 | 久久久久久久精品吃奶| 一级毛片女人18水好多| 自线自在国产av| 久久人妻熟女aⅴ| 一级作爱视频免费观看| 精品久久久久久成人av| 亚洲一区二区三区不卡视频| 免费在线观看影片大全网站| 久久久久久久午夜电影 | 亚洲精品中文字幕在线视频| 88av欧美| bbb黄色大片| 精品一区二区三区av网在线观看| 久久欧美精品欧美久久欧美| 黄片大片在线免费观看| 99久久99久久久精品蜜桃| 久久精品aⅴ一区二区三区四区| 这个男人来自地球电影免费观看| 中文字幕高清在线视频| 国产一卡二卡三卡精品| 99香蕉大伊视频| 9191精品国产免费久久| 亚洲一区二区三区不卡视频| av电影中文网址| 波多野结衣高清无吗| 我的亚洲天堂| 中亚洲国语对白在线视频| 男女做爰动态图高潮gif福利片 | 人人妻人人澡人人看| 日韩精品中文字幕看吧| 国产欧美日韩精品亚洲av| 人妻久久中文字幕网| 无遮挡黄片免费观看| 麻豆av在线久日| 久久久久国产精品人妻aⅴ院| 黑丝袜美女国产一区| 久久人妻av系列| 亚洲成a人片在线一区二区| 两性午夜刺激爽爽歪歪视频在线观看 | 国产亚洲精品一区二区www| 国产又色又爽无遮挡免费看| 在线观看免费日韩欧美大片| 亚洲av成人一区二区三| 亚洲激情在线av| 亚洲人成电影免费在线| 岛国在线观看网站| 久久久国产精品麻豆| 在线播放国产精品三级| 亚洲第一av免费看| 大香蕉久久成人网| 脱女人内裤的视频| 大型黄色视频在线免费观看| 中亚洲国语对白在线视频| 人妻丰满熟妇av一区二区三区| 欧美av亚洲av综合av国产av| 午夜精品在线福利| 久久久久久久久中文| 亚洲精品一二三| 精品久久久久久成人av| 久久欧美精品欧美久久欧美| 亚洲一区二区三区欧美精品| 丝袜美足系列| 亚洲av成人av| 多毛熟女@视频| 亚洲全国av大片| 母亲3免费完整高清在线观看| 亚洲 欧美一区二区三区| 久久国产精品男人的天堂亚洲| 午夜精品在线福利| 国产精品久久久久成人av| 亚洲精品一区av在线观看| 久久久久久大精品| 在线观看日韩欧美| 9191精品国产免费久久| 黄色 视频免费看| 日韩欧美一区二区三区在线观看| 啪啪无遮挡十八禁网站| 亚洲免费av在线视频| 中文字幕av电影在线播放| 亚洲精品在线美女| 十八禁网站免费在线| 桃红色精品国产亚洲av| 国产成人影院久久av| 中文字幕色久视频| 亚洲精品成人av观看孕妇| 国产黄a三级三级三级人| 精品午夜福利视频在线观看一区| 国产精品免费视频内射| 99精品欧美一区二区三区四区| 久久中文字幕人妻熟女| 成年人免费黄色播放视频| 中出人妻视频一区二区| 亚洲国产毛片av蜜桃av| 午夜老司机福利片| 18禁观看日本| 视频区图区小说| 纯流量卡能插随身wifi吗| 日韩大码丰满熟妇| 欧美日韩瑟瑟在线播放| 99在线人妻在线中文字幕| 免费av中文字幕在线| 色在线成人网| 亚洲欧美激情综合另类| 亚洲精品在线美女| 精品福利永久在线观看| 精品卡一卡二卡四卡免费| 欧美激情 高清一区二区三区| 欧美成人免费av一区二区三区| 老司机靠b影院| 老鸭窝网址在线观看| 91九色精品人成在线观看| 亚洲男人天堂网一区| 精品日产1卡2卡| 亚洲专区中文字幕在线| 中文欧美无线码| 国产精品一区二区精品视频观看| 99精国产麻豆久久婷婷| 两个人看的免费小视频| 精品国产一区二区三区四区第35| 无人区码免费观看不卡| 国产高清视频在线播放一区| 日韩大码丰满熟妇| www日本在线高清视频| 日本a在线网址| 免费在线观看视频国产中文字幕亚洲| 免费高清视频大片| 又大又爽又粗| 一本综合久久免费| 久久久精品欧美日韩精品| 亚洲男人的天堂狠狠| 欧美+亚洲+日韩+国产| 久久久久久久久久久久大奶| 精品高清国产在线一区| 99国产精品免费福利视频| 我的亚洲天堂| 他把我摸到了高潮在线观看| 精品欧美一区二区三区在线| 精品电影一区二区在线| 国产色视频综合| 亚洲自偷自拍图片 自拍| 欧美激情极品国产一区二区三区| 亚洲精品久久午夜乱码| 另类亚洲欧美激情| 老司机福利观看| 巨乳人妻的诱惑在线观看| 精品久久久久久电影网| 自线自在国产av| 免费在线观看黄色视频的| 亚洲三区欧美一区| 麻豆av在线久日| 亚洲欧美日韩另类电影网站| 18禁美女被吸乳视频| 香蕉久久夜色| 黄片小视频在线播放| 欧美一级毛片孕妇| 在线视频色国产色| 女人被狂操c到高潮| 国产精品久久久av美女十八| 色婷婷av一区二区三区视频| 国产深夜福利视频在线观看| 波多野结衣一区麻豆| 成人av一区二区三区在线看| 中文字幕人妻熟女乱码| 成人国产一区最新在线观看| 视频区图区小说| 亚洲 国产 在线| 日本一区二区免费在线视频| 老熟妇仑乱视频hdxx| 一区在线观看完整版| 国产亚洲精品久久久久久毛片| 视频在线观看一区二区三区| 亚洲av五月六月丁香网| 大型av网站在线播放| 在线十欧美十亚洲十日本专区| 中文字幕另类日韩欧美亚洲嫩草| av电影中文网址| 日韩欧美免费精品| 午夜精品在线福利| 妹子高潮喷水视频| 亚洲色图 男人天堂 中文字幕| 亚洲欧美精品综合一区二区三区| 18美女黄网站色大片免费观看| 一区二区三区激情视频| 电影成人av| 色婷婷久久久亚洲欧美| 90打野战视频偷拍视频| 天堂影院成人在线观看| 国产精品影院久久| 欧美成狂野欧美在线观看| 高清欧美精品videossex| 黄片小视频在线播放| 精品日产1卡2卡| 村上凉子中文字幕在线| 成人黄色视频免费在线看| 欧美日韩精品网址| 国产有黄有色有爽视频| 久久影院123| 国产又爽黄色视频| 国产极品粉嫩免费观看在线| 亚洲 欧美 日韩 在线 免费| 国产伦人伦偷精品视频| 美女福利国产在线| 1024香蕉在线观看| 欧美黄色淫秽网站| 18禁观看日本| 久久九九热精品免费| 午夜激情av网站|