• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    管窺人工智能換臉技術(shù)的法律風(fēng)險(xiǎn)與防范

    2020-07-28 09:02:40張?jiān)娐?/span>姚天沖
    法制與社會(huì) 2020年19期
    關(guān)鍵詞:法律風(fēng)險(xiǎn)應(yīng)對措施

    張?jiān)娐∫μ鞗_

    關(guān)鍵詞 換臉技術(shù) 深度偽造 法律風(fēng)險(xiǎn) 應(yīng)對措施

    作者簡介:張?jiān)娐?,東北大學(xué)文法學(xué)院法學(xué)系,研究方向:法學(xué);姚天沖,東北大學(xué)文法學(xué)院法學(xué)系副教授,法學(xué)博士,研究生導(dǎo)師,遼寧省政府法律顧問。

    中圖分類號:D920.4 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻(xiàn)標(biāo)識碼:A ? ? ? ? ? ?? ? ? ? ? ?DOI:10.19387/j.cnki.1009-0592.2020.07.002

    一、問題的提出

    近日,一款名叫ZAO 的換臉軟件打著“僅需一張照片,出演天下好戲”的名號在各大應(yīng)用市場高分出道,上線伊始就受到了廣泛熱議,正如其所宣傳,用戶在下載該應(yīng)用后,僅僅需要上傳一張符合較低要求分辨率的照片,人工智能技術(shù)便可以完整識別并提取照片中的信息,例如人臉的面部表情、言語動(dòng)態(tài)和視線聚焦角度等,便可以用照片中的人臉替換掉任意一個(gè)視頻素材中任何人的臉。然而這場換臉熱卻逐漸變味,憑借其迷惑性在諸多領(lǐng)域興風(fēng)作浪。

    這樣的面部合成技術(shù)真的能做到天衣無縫嗎?實(shí)則不盡然,這些生成的圖片與視頻畢竟是算法拼湊的產(chǎn)物,技術(shù)師編寫的普適性技術(shù)應(yīng)用在具體的場景中,在各個(gè)細(xì)節(jié)都做到以假亂真,一時(shí)迷惑眾人的同時(shí),難免會(huì)有一些疏忽,也存在著一些漏洞。一家西班牙公司REGIUM通過 this person does not exist.com 這個(gè)造臉網(wǎng)站,利用人工智能GAN技術(shù)以及英偉達(dá)的模型合成了四個(gè)虛擬工程師,作為網(wǎng)站的開發(fā)者,但由于在照片背景處理和人臉眼鏡附近的扭曲失真而被投資方發(fā)現(xiàn),然而這并非僅憑人眼或算法可以及時(shí)洞察的,需要依托一定的技術(shù)手段與生活經(jīng)驗(yàn)與靈活的思維加以辨別。

    此項(xiàng)技術(shù)問世后一度引發(fā)爭議,甚至出現(xiàn)了將明星照片代入色情視頻的產(chǎn)業(yè)鏈條,即便封閉相關(guān)搜索,技術(shù)的流失與源代碼泄露猶如潘多拉盒子被打開,以深度學(xué)習(xí)算法(生成式對抗網(wǎng)絡(luò))為基礎(chǔ)的技術(shù)不斷被修正,自動(dòng)演進(jìn)能力也出乎意料的演化。迫在眉睫的“真相危機(jī)”不斷涌現(xiàn),不斷污染網(wǎng)絡(luò)空間,帶來視覺沖擊的同時(shí),還有哪些潛在的社會(huì)危害?一系列違法與侵權(quán)代價(jià)、法律風(fēng)險(xiǎn)到底應(yīng)該由哪些主體對此類危害負(fù)責(zé)?各個(gè)國家的政府組織對此態(tài)度如何?當(dāng)下既問世的應(yīng)對法是否具有實(shí)際效力?我們是否能夠?qū)さ靡粭l更加完善、更加周全的應(yīng)對出路?

    二、人工智能換臉技術(shù)概述

    探求一項(xiàng)技術(shù)所引發(fā)的可能性社會(huì)問題,需要從技術(shù)本身入手,當(dāng)下人工智能技術(shù)發(fā)展正處于由弱人工智能向強(qiáng)人工智能過渡的階段,深度學(xué)習(xí)技術(shù)的廣泛應(yīng)用使人工智能的操作日趨自動(dòng)化,換臉技術(shù)便是“深度學(xué)習(xí)+”的一種表現(xiàn)。

    (一)換臉技術(shù)概念與原理

    換臉技術(shù),即所謂的“換臉術(shù)”主要是通過人工智能“深度偽造”技術(shù)實(shí)現(xiàn)的,“深度偽造”實(shí)質(zhì)上是一個(gè)合成詞項(xiàng),是“深度學(xué)習(xí)”+“偽造”的結(jié)果。①“人工智能深度學(xué)習(xí)”能力近年來突飛猛進(jìn),某種程度上來說已經(jīng)形成了多層聯(lián)結(jié)的神經(jīng)網(wǎng),可以自動(dòng)導(dǎo)入數(shù)據(jù)、自動(dòng)計(jì)算并完成任務(wù)。技術(shù)的原理是通過一種密集光度一致性辦法(Dense Photometric Consistency measure),達(dá)到跟蹤源和目標(biāo)視頻中臉部表情的實(shí)時(shí)轉(zhuǎn)換,由于間隔的時(shí)間很短,使得“復(fù)制”面部表情成為可能。實(shí)質(zhì)上,就是通過深度學(xué)習(xí)識別“源數(shù)據(jù)”,提取素材中的面部特征、表情細(xì)節(jié)以及動(dòng)態(tài)變化,在此基礎(chǔ)上經(jīng)過大量的經(jīng)驗(yàn)積累與數(shù)據(jù)分析,就可以由系統(tǒng)自動(dòng)形成偽造的動(dòng)態(tài)人臉并將其覆蓋疊加到原素材上,以實(shí)現(xiàn)更新變換,創(chuàng)建的圖像模型作為新數(shù)據(jù)就是人工智能的算法產(chǎn)物。換臉技術(shù)的發(fā)展是人工智能學(xué)習(xí)發(fā)展到更高階段的彰顯,具有雙鏈條能力的“對抗生成網(wǎng)絡(luò)”模型才是“換臉術(shù)”的核心,優(yōu)化與傳統(tǒng)的人工智能學(xué)習(xí)技術(shù),對抗生成網(wǎng)絡(luò)模型具有雙鏈條,同時(shí)進(jìn)行的神經(jīng)網(wǎng)絡(luò),各司其職,在生成新數(shù)據(jù)的同時(shí)又實(shí)現(xiàn)了對生成物的自動(dòng)鑒別驗(yàn)證,從某種程度上說“對抗生成網(wǎng)絡(luò)”實(shí)現(xiàn)了幾近于由單純完成人類命題進(jìn)化到了自學(xué)自驗(yàn)的“無監(jiān)督學(xué)習(xí)模式”。

    (二)換臉技術(shù)的流程

    換臉技術(shù)涉及到兩個(gè)方面的操作。源數(shù)據(jù)開始輸入后,先從人臉的識別開始,從眾多元素中察覺檢測到需要更換的部分,即是對人臉信息的檢索與提取,圖像信息自然錄入系統(tǒng)數(shù)據(jù)庫之后再開啟,圖像信息進(jìn)行分析與運(yùn)算,換言之人臉識別是人臉轉(zhuǎn)換的第一階段。

    接下來是對抗生成網(wǎng)絡(luò)(GAN)的運(yùn)作,兩組神經(jīng)網(wǎng)絡(luò)“生成器”與“鑒別器”是此項(xiàng)技術(shù)的靈魂所在,通過二者的對抗實(shí)現(xiàn)換臉任務(wù)的落實(shí)。所獲取的目標(biāo)人物的照片與視頻信息匯總而成的數(shù)據(jù)集在“生成器”神經(jīng)中制造出新的影像,又在“鑒別器”神經(jīng)中進(jìn)行新舊對比,檢測對比結(jié)果為真實(shí)時(shí)開展下一步的圖像替換。由單張的圖片到視頻轉(zhuǎn)換上,大體上需要經(jīng)過以下步驟,首先是把源視頻素材以幀為單位切分,提取其中的待轉(zhuǎn)換面部區(qū)間與信息,導(dǎo)入到訓(xùn)練模型中進(jìn)行替換整合并生成視頻,經(jīng)過系統(tǒng)后期制作,提高偽造視頻的清晰度與真實(shí)度。在整套系統(tǒng)運(yùn)行,基本無需人腦分析、人工剪輯和再校對,實(shí)現(xiàn)了人類角色的轉(zhuǎn)變。

    (三)換臉技術(shù)的應(yīng)用

    換臉技術(shù)的功能再強(qiáng)大,不過是人類思維概念的具象化與操作化,數(shù)據(jù)素材庫的填充離不開人類的資源提供,生成物用途也由人類意向主導(dǎo)。在技術(shù)實(shí)現(xiàn)途徑上,人工智能換臉技術(shù)常見的使用方式主要包括三種:一是將真人換臉成真人象;二是將真人換臉成尚可識別身份的虛擬形象;三是完全拋開真人形象設(shè)定把真人換臉后形成純虛擬形象,其他具體應(yīng)用都是依托此三種基礎(chǔ)變形而來。

    三、人工智能換臉技術(shù)的安全隱患與法律風(fēng)險(xiǎn)

    技術(shù)具有兩面性,人工智能的發(fā)展也難以脫離此定律。換臉技術(shù)的生成物最大特點(diǎn)就是虛構(gòu)性,虛構(gòu)內(nèi)容不同、利用手段不同、用途目的不同都會(huì)產(chǎn)生不同的法律后果。人工智能換臉技術(shù)當(dāng)下的三種應(yīng)用形式具有的一個(gè)共性就是以真人為載體,輸出形象可能變化萬千,根據(jù)輸出形式的不同還會(huì)造成不同的侵權(quán)可能。換臉技術(shù)本質(zhì)上是一種偽造手段,超脫娛樂功能,社會(huì)的危害程度不容小覷,濫用風(fēng)險(xiǎn)涉及方方面面,“深度偽造”的算法技術(shù)與學(xué)習(xí)能力加持應(yīng)用,相輔相成進(jìn)一步使得對其應(yīng)用可能產(chǎn)生不同于一般視頻偽造處理技術(shù)的風(fēng)險(xiǎn)。從換臉?biāo)惴ǖ募夹g(shù)來看,依據(jù)步驟設(shè)計(jì)可以把此項(xiàng)技術(shù)的安全風(fēng)險(xiǎn)分類成人臉信息提取信息的安全隱患、人臉變換時(shí)的法律責(zé)任以及生成物應(yīng)用不當(dāng)?shù)目赡苄燥L(fēng)險(xiǎn)三個(gè)方面綜合考慮。

    (一)侵犯公民人身權(quán)利

    1.個(gè)人信息泄露與身份偽造

    面部識別是換臉的第一步,區(qū)別于其他生物識別方式,人臉識別方式具有自然性、不被察覺性和非強(qiáng)制性,大數(shù)據(jù)時(shí)代人臉信息具有的價(jià)值也越來越高,被泄露被交易的成本也越來越低,個(gè)人信息與數(shù)據(jù)的泄露可能性也大大提高。由于人臉識別技術(shù)與應(yīng)用的發(fā)達(dá),此類信息的易得程度大大提升,據(jù)不完整統(tǒng)計(jì),2019年網(wǎng)絡(luò)商城中公開售賣的人臉數(shù)據(jù)達(dá)到17萬條(北京青年報(bào))。當(dāng)下網(wǎng)絡(luò)信息的互通,單張的照片中的面部信息背后將隱含著大量的身份信息。即便是合法的相關(guān)人臉數(shù)據(jù)庫開發(fā)的公司在收集前欠缺同意協(xié)議的簽訂,以“ZAO”的用戶協(xié)議為例② ,用戶在使用之前被強(qiáng)制簽訂換臉時(shí)同意或確保肖像權(quán)利人同意授予服務(wù)提供商肖像權(quán)的使用以及圖片視頻的使用和改造。換言之,在主動(dòng)上傳照片的同時(shí)就是允許了應(yīng)用平臺對個(gè)人敏感信息的采集,加入了系統(tǒng)的數(shù)據(jù)庫,由此就面臨著個(gè)人身份的公開與身份結(jié)構(gòu),個(gè)人信息被濫用后果的安全風(fēng)險(xiǎn)難以評估。面部識別已然成為身份認(rèn)證的重要方式,面部表情動(dòng)圖的偽造相當(dāng)于身份盜用,通過對人臉識別的偽造,開啟惡性木馬算法的設(shè)備攻擊,入侵竊取使用者的個(gè)人信息的情況將一發(fā)不可收拾。除此之外,當(dāng)下的規(guī)制只停留于事后的救濟(jì)措施,只能是刪除與下架,已流失的信息具有不可追回性,隱形危害輻射范圍難以控制。

    2.對個(gè)人肖像權(quán)、名譽(yù)權(quán)和著作權(quán)的侵犯

    換臉過程中,擅自進(jìn)行利用他人的面部圖像或視頻素材時(shí)刻面臨著民事侵權(quán)責(zé)任。首先,在未經(jīng)許可的情況下,擅自在“換臉”技術(shù)中使用含有他人外在真實(shí)容貌特征的照片,且以營利為目的,則認(rèn)定構(gòu)成肖像權(quán)侵權(quán)。若存在將他人肖像“換臉”到某些不雅視頻等行為,以致可能造成受害人社會(huì)評價(jià)降低的,則侵權(quán)人還涉嫌侵犯受害者的名譽(yù)權(quán)。在名譽(yù)權(quán)的損害認(rèn)定上,一般采取推定的方法,只要能夠證明是虛假事實(shí),且具有侮辱、誹謗性,并且該等事實(shí)可能為公眾所知,就可推導(dǎo)受害人的名譽(yù)遭受損害。其次,在未經(jīng)許可的情況下,擅自在“換臉”技術(shù)中使用純虛擬形象,因虛擬形象本身不涉及肖像權(quán)、名譽(yù)權(quán)的問題,則涉嫌侵犯該虛擬形象著作權(quán)人的著作權(quán)。被訴侵權(quán)行為的內(nèi)容、被告是否實(shí)施了被訴侵權(quán)行為、被告有無過錯(cuò)、是否造成損害、被訴侵權(quán)行為與損害之間有無因果關(guān)系等均是審查范圍。同時(shí),在未經(jīng)許可的情況下,擅自在“換臉”技術(shù)中使用含有他人肖像的角色圖片,此時(shí),既涉嫌侵犯肖像權(quán)、名譽(yù)權(quán),也涉嫌侵犯著作權(quán)人的著作權(quán)。

    (二)威脅社會(huì)倫理價(jià)值觀

    1.身份結(jié)構(gòu)與商品化

    人類的面部與身份特征都被數(shù)字化,算法將人的身份拆解,傳統(tǒng)意義上的身份特質(zhì)分解并與他人的身份特質(zhì)再組合重構(gòu),人工智能再造的虛擬形象以擬制主體身份展現(xiàn)在真實(shí)的人類面前,在倫理上必然造成社會(huì)的恐慌與倫理重構(gòu)。人的體貌特征融合后不再具體的某個(gè)人典型的身份,跨越了國界種族的限制,失去了辨識度,一方面容易造成社會(huì)角色混亂與身份特征混淆。另一方面,自然人的身份被商品化也并非當(dāng)下社會(huì)倫理所能接受,在相關(guān)人員不知情情況下,復(fù)制、改造他人的面孔,甚至惡意融合不雅內(nèi)容以謀求金錢利益,構(gòu)成對他人尊嚴(yán)的損害,被解構(gòu)整合身份特征的人淪為被消費(fèi)的商品。

    2.真?zhèn)涡刨囄C(jī)

    現(xiàn)階段深度偽造的生成物所依托的技術(shù)手段足以達(dá)到以假亂真的程度,“眼見為實(shí)”的一般真理不再適用,人類難以在日常的社會(huì)生活中區(qū)分?jǐn)?shù)字面孔與自然人,虛假內(nèi)容輕易取得信任,真?zhèn)沃骐y上加難,合理的猜測與過度猜忌的界限更加難以平衡,在新聞?lì)I(lǐng)域和司法領(lǐng)域必然造成更大的信賴難題,真?zhèn)谓缦薇粩?shù)字化操縱,娛樂的趣味性與真相的真實(shí)性在混淆視聽的人工智能生成物問世后更加模糊?!皧蕵分了馈钡呐で鷥r(jià)值沖擊著當(dāng)下倫理觀,進(jìn)而引發(fā)一場社會(huì)信任危機(jī)。

    (三)危害社會(huì)秩序穩(wěn)定

    1.輻射領(lǐng)域行業(yè)危機(jī)

    模型建設(shè)能力已經(jīng)能夠達(dá)到令人信服的程度,換臉技術(shù)制造的“假人臉”基本達(dá)到了應(yīng)對人臉識別的要求,當(dāng)下人臉識別在很多身份認(rèn)證中已經(jīng)成為了實(shí)名制身份定位的輔助手段,由此輻射的領(lǐng)域涉及方方面面。特別是金融系統(tǒng)中對動(dòng)態(tài)人臉的認(rèn)證承認(rèn)度與本人親臨的效力幾乎對等,換臉技術(shù)使此認(rèn)證邏輯徹底崩塌,高于照片認(rèn)證的活體動(dòng)態(tài)監(jiān)測邏輯完全失效。顯然,當(dāng)下社會(huì)各界并沒有做好應(yīng)對措施,在自然人人臉的識別與擬制視頻的對比上,現(xiàn)有應(yīng)用于社會(huì)生活的設(shè)備尚未具備這樣的能力,這為包括金融界在內(nèi)的認(rèn)證必須行業(yè)造成了極大地身份識別困難,公安系統(tǒng)、門禁簽到等社會(huì)生活領(lǐng)域也都會(huì)受到顛覆性的影響。

    2.公共信息污染

    公共信息及市場參與者互聯(lián)互通的共享信息,公共信息安全在信息時(shí)代的重要性不容小覷,人工智能深度學(xué)習(xí)與偽造技術(shù)的快速成長,制造音視頻與圖像為入侵病毒盜用公共安全信息創(chuàng)造了便利條件。一些企業(yè)為了在技術(shù)新興階段盡早占領(lǐng)先機(jī),奪得市場份額,在技術(shù)應(yīng)用上不能周全顧及安全隱患的規(guī)范,導(dǎo)致市場信息混亂,防治界定標(biāo)準(zhǔn)缺乏,現(xiàn)階段司法領(lǐng)域就涉嫌傳播、組織制作不雅視頻的行為給出了明確的懲治,以牟利為目的,制作、復(fù)制、出版、販賣、傳播淫穢物品的也將面臨刑事處罰,但除此之外的其他危害社會(huì)公共信息領(lǐng)域凈化安全的行為標(biāo)準(zhǔn)因市場準(zhǔn)入標(biāo)準(zhǔn)和判定體系的規(guī)范化缺失,威脅市場信息共享和競爭的良性循環(huán)。

    3.政治穩(wěn)定與國際秩序破壞

    宗教信仰、種族國籍、國際政治領(lǐng)域所涉及的問題具有敏感性,更加需要真實(shí)報(bào)道與平等人權(quán)的保護(hù),肆意更換外貌特征與偽造具有特殊意義的視頻在這些領(lǐng)域的濫用,在社會(huì)穩(wěn)定上的破壞力可能直接引發(fā)難以控制的后果。利用偽造技術(shù)生成政治領(lǐng)袖發(fā)表不當(dāng)言論的音視頻,不符宗教信仰的行為,威脅國際關(guān)系的各種材料,將會(huì)大幅度增加社會(huì)關(guān)系復(fù)雜性,不利于社會(huì)穩(wěn)定局面與國家長治久安。

    四、國外應(yīng)對人工智能換臉技術(shù)的現(xiàn)狀與啟示

    換臉技術(shù)一經(jīng)問世在國際范圍內(nèi)引發(fā)了大量專家學(xué)者的思考,侵權(quán)行為與危害社會(huì)秩序的行為相繼發(fā)生,各國政府紛紛積極出臺應(yīng)對措施,處理手段與實(shí)踐結(jié)果各有特色,政府、應(yīng)用平臺與技術(shù)開發(fā)者都被賦予了相應(yīng)的義務(wù)。

    (一)加拿大

    加拿大在對換臉技術(shù)在司法上具有明確立場,且已經(jīng)確定了侵權(quán)責(zé)任問題的相關(guān)解釋。加拿大魁北克省《魁北克民法典》中規(guī)定了此類侵權(quán)的范圍和形式界定,有目的地使用他人姓名、圖像、肖像或聲音而非合法的公眾信息的行為均可視為侵犯他人隱私,以隱私侵犯為受人身權(quán)利侵犯的受害者提供司法保護(hù),并且可依法獲得相應(yīng)的救濟(jì)賠償?!吨Z維奇命令》就換臉技術(shù)所涉及的調(diào)查問題給出了具體的措施,法律與媒體相輔相成,二者聯(lián)袂共同針對換臉應(yīng)用隱藏的違法違規(guī)行為進(jìn)行調(diào)查取證,社交平臺作為信息的擁有者與數(shù)據(jù)存儲平臺必須配合法院,強(qiáng)迫相關(guān)平臺調(diào)取平臺使用者的真實(shí)信息,匿名身份不再是違法的保護(hù)傘,追根溯源依法追究侵權(quán)者侵權(quán)責(zé)任。

    加拿大的法院命令出臺之迅速值得贊嘆,能夠在問題出現(xiàn)的短時(shí)間內(nèi)及時(shí)出臺指導(dǎo)性命令,確定將媒體平臺在規(guī)制中的責(zé)任與義務(wù),多主體聯(lián)動(dòng)的治理局面構(gòu)建,為其他國家的應(yīng)對措施探索提供借鑒,具有啟示意義。

    (二)歐盟

    當(dāng)下歐盟各國未出臺關(guān)于針對換臉技術(shù)的法律法規(guī),尚且還處于破壞性威脅處理的論證階段。但一向?qū)W(wǎng)絡(luò)安全相當(dāng)重視的歐盟國家不可能無動(dòng)于衷,尤其是涉及個(gè)人隱私與權(quán)益的部分,以《關(guān)于涉及個(gè)人資料處理的個(gè)人保護(hù)以及此類資料自由流動(dòng)的指令》為核心,形成了較為完整規(guī)范的個(gè)人信息保護(hù)法律體系。并且相當(dāng)重視對相關(guān)個(gè)人資料的掌握者的問題更加敏感,在法律中明確了這類群體的責(zé)任與義務(wù),資源收集也有一系列規(guī)范,在公民的基本人權(quán)與第三方信息匯總與收集之間尋求最佳平衡點(diǎn),否則構(gòu)成違法行為。行政機(jī)關(guān)也發(fā)揮了較大的作用,歐盟各成員國國內(nèi)都設(shè)有專門的數(shù)據(jù)信息安全保護(hù)部門與工作組,這類機(jī)構(gòu)不僅僅可以為國民提供咨詢服務(wù),還通過法律授權(quán)的方式擁有調(diào)查與接入法律技術(shù)的權(quán)力,擁有較強(qiáng)的執(zhí)行力,以致力于為國民提供直接、專門的救濟(jì)渠道。

    歐盟國家在網(wǎng)絡(luò)信息安全上基本形成了對個(gè)人信息保護(hù)的完整體系,對平臺的信息使用有一定的規(guī)制標(biāo)準(zhǔn),個(gè)人信息泄漏后的救濟(jì)措施也很便民可行,為其他國家的網(wǎng)絡(luò)問題解決拓展了思路,起到了模范作用,網(wǎng)絡(luò)時(shí)代對個(gè)人信息的保護(hù)需要完備系統(tǒng)的法律規(guī)范。

    (三)美國

    美國的應(yīng)對行為具有技術(shù)監(jiān)管的顯著特征,以行業(yè)自律為主,但政府也發(fā)揮了一定的規(guī)制監(jiān)管作用。美國已經(jīng)明確認(rèn)識到“深度偽造”技術(shù)對國家安全造成負(fù)面影響的嚴(yán)峻形勢,國家情報(bào)總監(jiān)丹·科茨在《全球威脅評估報(bào)告》中表示“深度偽造”技術(shù)會(huì)生成虛假卻令人深信的影音產(chǎn)物,對美國以及其他國家安全都會(huì)造成不良威脅。2018 年,美國的技術(shù)開發(fā)者針對偽造人臉的算法創(chuàng)建了甄別分辨系統(tǒng),通過構(gòu)建包容海量的偽造圖像的數(shù)據(jù)庫訓(xùn)練更強(qiáng)大的人工智能系統(tǒng),以對抗現(xiàn)存的深度偽造算法③。2019年美國專就Deepfakes開展了聽證會(huì),有學(xué)者建議國會(huì)對《通信規(guī)范法》中互聯(lián)網(wǎng)平臺無須為使用者的行為負(fù)責(zé)的規(guī)定進(jìn)行修改,此項(xiàng)提議目前尚未落實(shí),在法律法規(guī)上美國沒有做出實(shí)質(zhì)性的應(yīng)對措施,仍然滯留在輿論探討與不斷在眾議院提出議案的層面。但是,就實(shí)踐操作上,迫于各界的壓力,換臉技術(shù)在美國境內(nèi)網(wǎng)站上已經(jīng)被封,討論版被清除,開源代碼也被清除。

    由美國的應(yīng)對可見,用技術(shù)對抗技術(shù),用更強(qiáng)大的技術(shù)約束技術(shù),在人工智能時(shí)代的重要性與必要性,加快技術(shù)發(fā)展,研發(fā)一套能夠鑒別偽造視頻的新技術(shù),人工智能時(shí)代需要?jiǎng)?chuàng)新規(guī)制手段,技術(shù)手段的應(yīng)用在當(dāng)今社會(huì)的治理中地位日趨重要。

    五、我國應(yīng)對人工智能換臉技術(shù)法律風(fēng)險(xiǎn)的防范建議

    按照當(dāng)下人工智能技術(shù)的發(fā)展速度,有效科學(xué)的風(fēng)險(xiǎn)防范措施極為重要,我國在換臉技術(shù)的可能性危害爆發(fā)前,要充分吸取其他國家的經(jīng)驗(yàn),從完善立法、促進(jìn)防范技術(shù)發(fā)展、創(chuàng)新規(guī)制手段實(shí)現(xiàn)共治氛圍入手,積極應(yīng)對挑戰(zhàn)。

    (一)完善現(xiàn)有法律法規(guī),增設(shè)人工智能領(lǐng)域立法

    新興領(lǐng)域的出現(xiàn)必然帶來立法沖擊,個(gè)人信息的公開化在信息時(shí)代缺乏限定,侵權(quán)的司法界定也具有一定難度,并且人工智能的侵權(quán)主體界定復(fù)雜多元,當(dāng)下對人工智能相關(guān)領(lǐng)域的人身權(quán)利保護(hù)缺乏足夠的法律法規(guī)規(guī)制,人工智能技術(shù)的開發(fā)者、平臺技術(shù)運(yùn)營商以及技術(shù)使用者的責(zé)任分配混亂混淆?!吨腥A人民共和國網(wǎng)絡(luò)安全法》和《互聯(lián)網(wǎng)電子公告服務(wù)管理規(guī)定》④是在司法技術(shù)中運(yùn)用的主要專門性法律法規(guī),對于互聯(lián)網(wǎng)與人工智能時(shí)代科技的不斷進(jìn)步來說,一定程度上面對專業(yè)性問題具有立法空白。首先,應(yīng)該從立法角度界定人工智能領(lǐng)域個(gè)人的人身信息范圍,以便明確人身權(quán)利具體保護(hù)內(nèi)容。其次,建立人工智能產(chǎn)業(yè)鏈追責(zé)機(jī)制,應(yīng)該形成覆蓋從算法開發(fā)階段到產(chǎn)出生成物的傳播利用階段的安全與責(zé)任標(biāo)準(zhǔn),真正實(shí)現(xiàn)環(huán)環(huán)相扣的制度規(guī)范,以免問題發(fā)生時(shí)的相互推諉與問責(zé)主體不清。當(dāng)下適用的《公共安全人臉識別應(yīng)用圖像技術(shù)要求》作為行政法規(guī),已經(jīng)在對新問題的立法跟進(jìn)中做出了第一步突破,除此之外,更具有普適性的生物信息識別等相關(guān)問題還需進(jìn)一步強(qiáng)化立法規(guī)制,《中華人民共和國個(gè)人信息保護(hù)法》正在擬制,其中對此專題應(yīng)該有些涉及,以便化解技術(shù)邏輯的倫理價(jià)值矛盾與定義模糊問題,真正實(shí)現(xiàn)對個(gè)人信息的保護(hù)。

    (二)技術(shù)打假,開發(fā)破解系統(tǒng)

    兼顧救濟(jì)的前提是甄別偽造圖像,通過技術(shù)破解深度偽造的產(chǎn)物不僅能夠助力司法調(diào)查中的舉證問題,還能解決公眾的真相辨別之疑惑。借鑒美國的對抗甄別系統(tǒng),用更強(qiáng)大的人工智能對抗人工智能。區(qū)塊鏈程度就可以在此領(lǐng)域發(fā)揮優(yōu)勢,區(qū)塊有公共密碼和設(shè)置私人密碼,密碼采用新函數(shù)編寫,幾乎不可破解,著重培養(yǎng)區(qū)塊鏈技術(shù)人才,利用其不可逆性進(jìn)行人工智能變臉生成物的辨別。同時(shí),一些技術(shù)研發(fā)人員提出構(gòu)建以太坊智能合約技術(shù)出口和普適性思路,通過星際文件系統(tǒng)將所有的信息整合起來,復(fù)制全部數(shù)據(jù),并跟蹤全部數(shù)據(jù)的使用情況,不斷對比分析原始數(shù)據(jù)的變換來尋找被偽造的成分。

    (三)發(fā)揮媒介把關(guān)人作用,強(qiáng)化行業(yè)自律

    根據(jù)“守門人”理論⑤,信息傳播同樣也設(shè)置了若干的“關(guān)卡”,信息傳播能否順利,主要取決于這些關(guān)卡之間的連結(jié)和彼此恪守的準(zhǔn)則。強(qiáng)化平臺責(zé)任,對生成物進(jìn)行篩選與衡量,做好把關(guān),基于用戶個(gè)人的合理適度需求偽造的換臉結(jié)果可以得到認(rèn)可,行業(yè)自身在“技術(shù)正當(dāng)技術(shù)”層面約定自律規(guī)范,制定統(tǒng)一明確標(biāo)準(zhǔn),在視頻的傳播、用戶信息采集、識別技術(shù)共同應(yīng)用和檢索偽造成果資料,甚至是用戶的準(zhǔn)入門檻等諸多方面約定行業(yè)規(guī)范,并增強(qiáng)行業(yè)規(guī)范的效力,在自我責(zé)任認(rèn)定與履行上強(qiáng)化行業(yè)內(nèi)部的規(guī)制,在行業(yè)內(nèi)部建立完善的監(jiān)督管理機(jī)制,用自我約束、自我監(jiān)督的手段優(yōu)化人工智能換臉技術(shù)的使用方式,搭建起人工智能領(lǐng)域,技術(shù)進(jìn)化至強(qiáng)人工智能時(shí)代里行業(yè)自律的具體實(shí)施準(zhǔn)則,凈化互聯(lián)網(wǎng)空間。

    (四)剛?cè)岵?jì),豐富規(guī)制手段

    平臺責(zé)任的承擔(dān)現(xiàn)階段以行政處罰為主,一概而論通過硬性的罰款或強(qiáng)制性清理已發(fā)生的服務(wù)漏洞只能是在事后進(jìn)行補(bǔ)救,具有特事特辦色彩,不能從根源上形成具有一般性的規(guī)制措施。應(yīng)豐富行政規(guī)制的手段,根據(jù)具體情況進(jìn)行,如行政約談的柔性規(guī)制方式與硬性的行政處罰相結(jié)合。相關(guān)行政部門可以與技術(shù)開發(fā)方或應(yīng)用服務(wù)提供者相關(guān)負(fù)責(zé)人進(jìn)行定期行政約談,對階段性發(fā)生的或可能出現(xiàn)的安全風(fēng)險(xiǎn)加以整改要求限制,要求相關(guān)主體嚴(yán)格按照國家法律法規(guī)以及相關(guān)主管部門建議,組織進(jìn)行內(nèi)部自行調(diào)整,依法依規(guī)收集使用用戶個(gè)人信息,規(guī)范協(xié)議條款,強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個(gè)人信息安全保護(hù)。更新條款與用戶協(xié)議,刪除具有漏洞的技術(shù)點(diǎn)或使用規(guī)則。剛?cè)岵⑿校笃脚_方與使用者在用戶信息的收集與處理、素材庫的發(fā)布與使用標(biāo)準(zhǔn)、生成圖像視頻的導(dǎo)出等諸多方面,做出符合法律規(guī)范于一般社會(huì)倫理道德的約定規(guī)范。

    六、結(jié)語

    換臉技術(shù)的應(yīng)用不可避免的對人類社會(huì)生活呈現(xiàn)出了負(fù)面影響,不可從優(yōu)劣角度直接定義深度偽造的換臉技術(shù)作為人工智能領(lǐng)域的衍生品的屬性,正確合法的應(yīng)用技術(shù)尤為關(guān)鍵。應(yīng)該以人工智能技術(shù)為工具,充分發(fā)揮政府、公眾、平臺的各自優(yōu)勢,明確義務(wù)與責(zé)任,形成一體化的治理體系,降低換臉技術(shù)為社會(huì)造成的安全隱患,必須完善共治以著力破解真?zhèn)涡刨囄C(jī),使換臉技術(shù)的應(yīng)用與演化在道德倫理與法律法規(guī)的控制內(nèi),由此發(fā)揮人工智能時(shí)代的技術(shù)優(yōu)勢。

    注釋:

    ①“深度偽造”的過程就是將原始的圖片和視頻素材等數(shù)據(jù)遞給換臉技術(shù),此后僅僅依靠算法的自身運(yùn)算,在大量的訓(xùn)練與演算運(yùn)行基礎(chǔ)上自動(dòng)完成換臉操作。

    ② ZAO的用戶協(xié)議顯示:用戶在使用“ZAO”的時(shí)候,如果把臉換成自己或其他人的臉,意味著同意或確保肖像權(quán)利人同意授予“ZAO”及其關(guān)聯(lián)公司全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利,包括但不限于:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權(quán)利人的肖像權(quán),以及利用技術(shù)對您或肖像權(quán)利人的肖像進(jìn)行形式改動(dòng)。

    ③美國國防高級研究計(jì)劃局則發(fā)起了一項(xiàng)重大的媒體取證研究計(jì)劃,它借助Media?Forensics 技術(shù)來自動(dòng)檢測換臉操作,提供如何執(zhí)行這些操作的詳細(xì)信息,來確定視頻或圖像是否進(jìn)行了深度偽造。

    ④《互聯(lián)網(wǎng)電子公告服務(wù)管理規(guī)定》第 12 條:“電子公告服務(wù)提供者應(yīng)當(dāng)對上網(wǎng)用戶的個(gè)人信息保密,未經(jīng)上網(wǎng)用戶同意不得向他人泄露,但法律另有規(guī)定的除外。”《互聯(lián)網(wǎng)電子郵件服務(wù)管理辦法》第 9 條:“互聯(lián)網(wǎng)電子郵件服務(wù)提供者對用戶的個(gè)人注冊信息和互聯(lián)網(wǎng)電子郵件地址,負(fù)有保密的義務(wù)。互聯(lián)網(wǎng)電子郵件服務(wù)提供者及其工作人員不得非法使用用戶的個(gè)人注冊信息資料和互聯(lián)網(wǎng)電子郵件地址;未經(jīng)用戶同意,不得泄露用戶的個(gè)人注冊信息和互聯(lián)網(wǎng)電子郵件地址,但法律、行政法規(guī)另有規(guī)定的除外。”

    ⑤守門人是一種理論的代稱,它是盧因在1947年提出來的,信息總是沿著包含有門區(qū)的某些渠道流動(dòng),在那里,或是根據(jù)公正無私的規(guī)定,或是根據(jù)'守門人'的個(gè)人意見,對信息或是商品是否被允許進(jìn)入渠道或是繼續(xù)在渠道里流動(dòng)作出決定。

    參考文獻(xiàn):

    [1]陳盼.歐盟網(wǎng)絡(luò)隱私權(quán)保護(hù)模式研究——兼述歐盟對Facebook面部識別技術(shù)的調(diào)查[J].研究生法學(xué),2013,28(4):135-143.

    [2]王祿生.論“深度偽造”智能技術(shù)的一體化規(guī)制[J].東方法學(xué),2019(6):58-68.

    [3]王飛龍.人臉識別技術(shù)及其安全性綜述[J].信息記錄材料,2018,19(12):229-230.

    [4]黨家玉.人工智能的倫理與法律風(fēng)險(xiǎn)問題研究[J].信息安全研究,2017,3(12):1080- 1090.

    猜你喜歡
    法律風(fēng)險(xiǎn)應(yīng)對措施
    企業(yè)所得稅法律風(fēng)險(xiǎn)分析及防控
    合伙企業(yè)法律風(fēng)險(xiǎn)實(shí)證分析
    淺析商業(yè)銀行法律風(fēng)險(xiǎn)防控體系優(yōu)化建設(shè)過程中存在的問題及對策
    法制博覽(2016年11期)2016-11-14 10:57:01
    淺析大學(xué)生創(chuàng)業(yè)法制教育存在的問題及對策
    文教資料(2016年19期)2016-11-07 10:57:54
    輸變電設(shè)備運(yùn)行及安全防范措施
    中國市場(2016年36期)2016-10-19 04:01:46
    手機(jī)通訊行業(yè)消費(fèi)者權(quán)益保護(hù)研究
    科技視界(2016年21期)2016-10-17 18:43:20
    淺析“營改增”背景下房地產(chǎn)企業(yè)的稅負(fù)變化及應(yīng)對措施
    商(2016年27期)2016-10-17 06:02:28
    施工企業(yè)營改增對會(huì)計(jì)核算的影響與應(yīng)對措施
    淺析高職院校學(xué)生厭學(xué)現(xiàn)象及應(yīng)對措施
    考試周刊(2016年77期)2016-10-09 12:17:14
    中小企業(yè)如何應(yīng)對“營改增”
    99在线视频只有这里精品首页| 人人妻人人添人人爽欧美一区卜| 欧美激情久久久久久爽电影 | 巨乳人妻的诱惑在线观看| 天天影视国产精品| 丁香欧美五月| 久久久久久亚洲精品国产蜜桃av| 19禁男女啪啪无遮挡网站| 国产免费现黄频在线看| 亚洲人成77777在线视频| 嫩草影院精品99| 精品福利永久在线观看| 在线观看免费日韩欧美大片| 国产精品美女特级片免费视频播放器 | 欧美日韩亚洲高清精品| 国产精品一区二区三区四区久久 | 亚洲成人国产一区在线观看| 久久性视频一级片| av国产精品久久久久影院| 欧美精品亚洲一区二区| 又黄又粗又硬又大视频| aaaaa片日本免费| 久久伊人香网站| 久久精品国产99精品国产亚洲性色 | 国产亚洲精品第一综合不卡| 国产高清videossex| 国产精品av久久久久免费| 中文字幕另类日韩欧美亚洲嫩草| 大型黄色视频在线免费观看| 少妇粗大呻吟视频| 最好的美女福利视频网| 黄色女人牲交| 国产欧美日韩精品亚洲av| 久久国产乱子伦精品免费另类| 国产日韩一区二区三区精品不卡| 又大又爽又粗| 18美女黄网站色大片免费观看| 亚洲色图 男人天堂 中文字幕| 中文欧美无线码| 69精品国产乱码久久久| 久久久久久亚洲精品国产蜜桃av| 婷婷丁香在线五月| 18禁黄网站禁片午夜丰满| 视频区图区小说| 无人区码免费观看不卡| 欧美精品一区二区免费开放| 91国产中文字幕| 无人区码免费观看不卡| av福利片在线| 波多野结衣一区麻豆| 在线观看免费日韩欧美大片| 黄色片一级片一级黄色片| 校园春色视频在线观看| 国产亚洲欧美98| 欧美另类亚洲清纯唯美| 少妇的丰满在线观看| 丁香六月欧美| 日韩大码丰满熟妇| 免费观看人在逋| 天天躁狠狠躁夜夜躁狠狠躁| 国产成人欧美| 久热爱精品视频在线9| 50天的宝宝边吃奶边哭怎么回事| 成熟少妇高潮喷水视频| 午夜福利在线免费观看网站| 神马国产精品三级电影在线观看 | 午夜91福利影院| 欧美精品啪啪一区二区三区| 午夜两性在线视频| 国产精品一区二区免费欧美| 天堂影院成人在线观看| 18美女黄网站色大片免费观看| 久久精品国产清高在天天线| 老汉色∧v一级毛片| 亚洲精品一卡2卡三卡4卡5卡| 久久久久精品国产欧美久久久| 美女福利国产在线| 成人亚洲精品av一区二区 | 国产成+人综合+亚洲专区| 国产亚洲精品久久久久5区| av网站免费在线观看视频| 午夜老司机福利片| 老司机午夜福利在线观看视频| 亚洲国产精品一区二区三区在线| 欧美日韩亚洲综合一区二区三区_| www.自偷自拍.com| 久久狼人影院| 国产真人三级小视频在线观看| ponron亚洲| 亚洲国产毛片av蜜桃av| 欧美日本亚洲视频在线播放| 久久精品国产清高在天天线| 动漫黄色视频在线观看| 国产成人欧美| 日韩成人在线观看一区二区三区| 国产精品香港三级国产av潘金莲| 国产精品久久久av美女十八| 国产野战对白在线观看| 超碰97精品在线观看| 欧美日韩亚洲高清精品| 成人三级黄色视频| 国产欧美日韩一区二区三区在线| 亚洲第一av免费看| 亚洲精品中文字幕在线视频| 女人高潮潮喷娇喘18禁视频| 免费看a级黄色片| 久久国产乱子伦精品免费另类| 天堂俺去俺来也www色官网| 黄片播放在线免费| 久久九九热精品免费| 久久亚洲真实| 精品欧美一区二区三区在线| 欧美另类亚洲清纯唯美| 人人澡人人妻人| 精品国内亚洲2022精品成人| 日韩国内少妇激情av| 一个人免费在线观看的高清视频| 琪琪午夜伦伦电影理论片6080| 一级片免费观看大全| 精品一区二区三区四区五区乱码| 国产亚洲精品久久久久5区| 香蕉国产在线看| 少妇的丰满在线观看| 国产欧美日韩综合在线一区二区| 黄色毛片三级朝国网站| av在线播放免费不卡| 麻豆av在线久日| 欧美久久黑人一区二区| 村上凉子中文字幕在线| 国产黄色免费在线视频| 亚洲av成人一区二区三| 巨乳人妻的诱惑在线观看| 视频在线观看一区二区三区| 男男h啪啪无遮挡| 亚洲美女黄片视频| 亚洲黑人精品在线| 亚洲精品av麻豆狂野| 国产男靠女视频免费网站| 欧美日韩亚洲综合一区二区三区_| 人妻久久中文字幕网| 黑人巨大精品欧美一区二区mp4| 欧美日本中文国产一区发布| 99久久精品国产亚洲精品| 亚洲国产精品合色在线| 亚洲成人国产一区在线观看| 午夜老司机福利片| 757午夜福利合集在线观看| 12—13女人毛片做爰片一| 日本黄色日本黄色录像| 最新在线观看一区二区三区| 亚洲 欧美 日韩 在线 免费| 俄罗斯特黄特色一大片| 久久国产精品人妻蜜桃| 波多野结衣av一区二区av| av超薄肉色丝袜交足视频| 国产精品一区二区免费欧美| 伊人久久大香线蕉亚洲五| 久久人妻福利社区极品人妻图片| xxx96com| 亚洲第一av免费看| 久久九九热精品免费| 国产亚洲精品综合一区在线观看 | 老司机午夜福利在线观看视频| 少妇 在线观看| 亚洲精品美女久久久久99蜜臀| 波多野结衣一区麻豆| 精品第一国产精品| 亚洲欧美精品综合一区二区三区| 99在线人妻在线中文字幕| 久久久国产成人精品二区 | 亚洲一区中文字幕在线| 啦啦啦 在线观看视频| 精品久久久久久电影网| 欧美成人午夜精品| 国产精品爽爽va在线观看网站 | 亚洲五月天丁香| 人妻丰满熟妇av一区二区三区| av中文乱码字幕在线| 免费人成视频x8x8入口观看| 一级毛片高清免费大全| 18禁国产床啪视频网站| 国产成人一区二区三区免费视频网站| 在线观看66精品国产| 国产一区二区在线av高清观看| 久久精品国产99精品国产亚洲性色 | 欧美最黄视频在线播放免费 | 精品一区二区三区四区五区乱码| 亚洲欧美激情在线| 天堂中文最新版在线下载| 搡老乐熟女国产| 欧美+亚洲+日韩+国产| 久久99一区二区三区| 91老司机精品| 色在线成人网| 国产精华一区二区三区| 国产精品乱码一区二三区的特点 | 麻豆国产av国片精品| 免费在线观看视频国产中文字幕亚洲| 亚洲精品美女久久av网站| 日本撒尿小便嘘嘘汇集6| av免费在线观看网站| 国产一区二区激情短视频| 老司机福利观看| 超碰97精品在线观看| 午夜亚洲福利在线播放| 一区二区三区国产精品乱码| 久久中文看片网| 色婷婷av一区二区三区视频| 欧美日韩黄片免| 99国产综合亚洲精品| 国产高清videossex| 亚洲精品在线观看二区| tocl精华| 国产精品99久久99久久久不卡| 美女高潮到喷水免费观看| 亚洲男人的天堂狠狠| 老熟妇仑乱视频hdxx| 高清黄色对白视频在线免费看| 午夜免费鲁丝| 免费av毛片视频| 性少妇av在线| 午夜视频精品福利| 超色免费av| 国产成+人综合+亚洲专区| 人人妻人人爽人人添夜夜欢视频| www.精华液| 欧美+亚洲+日韩+国产| 久久精品91无色码中文字幕| netflix在线观看网站| 久久天堂一区二区三区四区| 91麻豆av在线| 新久久久久国产一级毛片| 十八禁人妻一区二区| 国产伦一二天堂av在线观看| 国产精品二区激情视频| 黑人猛操日本美女一级片| 久久欧美精品欧美久久欧美| 黄片大片在线免费观看| 老司机在亚洲福利影院| 久久久国产精品麻豆| 国产av一区在线观看免费| av天堂在线播放| 91国产中文字幕| 老司机亚洲免费影院| 成年人免费黄色播放视频| 欧美日韩亚洲国产一区二区在线观看| 黑人巨大精品欧美一区二区蜜桃| 中文欧美无线码| 美女国产高潮福利片在线看| 亚洲av电影在线进入| xxx96com| 他把我摸到了高潮在线观看| 免费久久久久久久精品成人欧美视频| 亚洲成人精品中文字幕电影 | 亚洲人成网站在线播放欧美日韩| 高清黄色对白视频在线免费看| 免费一级毛片在线播放高清视频 | 午夜免费激情av| 国产免费男女视频| 黄色视频,在线免费观看| 久久午夜综合久久蜜桃| 在线观看一区二区三区激情| 热99re8久久精品国产| 亚洲欧美激情在线| 亚洲黑人精品在线| 女性被躁到高潮视频| 五月开心婷婷网| 中文字幕最新亚洲高清| 一区二区日韩欧美中文字幕| 成人三级做爰电影| 18禁观看日本| 欧美色视频一区免费| 午夜激情av网站| av在线天堂中文字幕 | 亚洲视频免费观看视频| 高清av免费在线| 97碰自拍视频| 一进一出抽搐动态| 成人av一区二区三区在线看| 欧美成人性av电影在线观看| 午夜91福利影院| 久久国产精品影院| 久久中文字幕人妻熟女| 亚洲av片天天在线观看| videosex国产| 久久 成人 亚洲| 午夜福利,免费看| 免费久久久久久久精品成人欧美视频| 国产又爽黄色视频| 99久久综合精品五月天人人| 欧美日本亚洲视频在线播放| 色婷婷av一区二区三区视频| 日本免费一区二区三区高清不卡 | 中文欧美无线码| 久久精品91蜜桃| 天堂√8在线中文| 中文字幕最新亚洲高清| 另类亚洲欧美激情| 高清在线国产一区| 国产av一区二区精品久久| 中出人妻视频一区二区| 欧美av亚洲av综合av国产av| 国产区一区二久久| 国产三级在线视频| 女警被强在线播放| 18禁观看日本| 女警被强在线播放| 好男人电影高清在线观看| 久久精品亚洲av国产电影网| 亚洲成人免费电影在线观看| 18美女黄网站色大片免费观看| 久久久久国产精品人妻aⅴ院| 人人妻人人爽人人添夜夜欢视频| 国产在线精品亚洲第一网站| 国产免费av片在线观看野外av| 91麻豆av在线| 免费看a级黄色片| bbb黄色大片| 欧美亚洲日本最大视频资源| 日韩高清综合在线| 女同久久另类99精品国产91| 国产黄色免费在线视频| 欧美成人午夜精品| 母亲3免费完整高清在线观看| 午夜福利影视在线免费观看| 黑丝袜美女国产一区| 啦啦啦在线免费观看视频4| 亚洲男人天堂网一区| 男女高潮啪啪啪动态图| 久久精品国产清高在天天线| 国产aⅴ精品一区二区三区波| 男女下面进入的视频免费午夜 | 自线自在国产av| 国产熟女午夜一区二区三区| 老熟妇仑乱视频hdxx| 亚洲色图 男人天堂 中文字幕| 亚洲三区欧美一区| 国产精品偷伦视频观看了| 久久国产精品影院| 十八禁人妻一区二区| 国产精品免费视频内射| 高清毛片免费观看视频网站 | 日日干狠狠操夜夜爽| 亚洲专区字幕在线| 精品免费久久久久久久清纯| 亚洲va日本ⅴa欧美va伊人久久| 99国产综合亚洲精品| 色播在线永久视频| 亚洲性夜色夜夜综合| 精品国内亚洲2022精品成人| 欧美在线黄色| 国产熟女午夜一区二区三区| 九色亚洲精品在线播放| 国产成人精品无人区| 欧美性长视频在线观看| 69av精品久久久久久| 热99国产精品久久久久久7| 性色av乱码一区二区三区2| 亚洲一区二区三区不卡视频| 日本免费a在线| 韩国av一区二区三区四区| 精品久久久久久久毛片微露脸| 看片在线看免费视频| 亚洲熟妇中文字幕五十中出 | 俄罗斯特黄特色一大片| 两性午夜刺激爽爽歪歪视频在线观看 | 亚洲欧美日韩高清在线视频| 成年人免费黄色播放视频| 国产99久久九九免费精品| 免费高清视频大片| 美女福利国产在线| 99国产综合亚洲精品| 国产亚洲精品一区二区www| 99国产综合亚洲精品| 搡老熟女国产l中国老女人| 亚洲人成77777在线视频| 9191精品国产免费久久| 性色av乱码一区二区三区2| 99国产精品一区二区三区| 精品免费久久久久久久清纯| 老司机在亚洲福利影院| 午夜免费激情av| 精品国产超薄肉色丝袜足j| 91国产中文字幕| 国产99白浆流出| 亚洲色图 男人天堂 中文字幕| 老汉色∧v一级毛片| 亚洲一卡2卡3卡4卡5卡精品中文| 一进一出抽搐gif免费好疼 | 国产主播在线观看一区二区| 国产aⅴ精品一区二区三区波| 岛国视频午夜一区免费看| 91老司机精品| 久久久久久久午夜电影 | 交换朋友夫妻互换小说| 国产精品免费视频内射| 两性夫妻黄色片| 成人av一区二区三区在线看| 日韩一卡2卡3卡4卡2021年| 99国产极品粉嫩在线观看| aaaaa片日本免费| 无遮挡黄片免费观看| 自拍欧美九色日韩亚洲蝌蚪91| 欧美在线黄色| 成人影院久久| 国产黄a三级三级三级人| 国产1区2区3区精品| 久久香蕉国产精品| 一本综合久久免费| av网站免费在线观看视频| 精品少妇一区二区三区视频日本电影| 欧美日韩视频精品一区| 好男人电影高清在线观看| 亚洲成a人片在线一区二区| 亚洲国产精品999在线| 亚洲第一欧美日韩一区二区三区| 一区二区日韩欧美中文字幕| 亚洲在线自拍视频| 90打野战视频偷拍视频| 欧美国产精品va在线观看不卡| 欧美成人性av电影在线观看| 国产视频一区二区在线看| 午夜精品在线福利| 日韩欧美国产一区二区入口| 两个人免费观看高清视频| 成人手机av| 国产精品一区二区精品视频观看| av在线天堂中文字幕 | 国产深夜福利视频在线观看| 又大又爽又粗| 国产精品国产高清国产av| 露出奶头的视频| 精品久久久久久久久久免费视频 | 成人手机av| 欧美成人午夜精品| cao死你这个sao货| 热99国产精品久久久久久7| 嫩草影院精品99| 中文字幕av电影在线播放| 99精品欧美一区二区三区四区| 国产高清videossex| 久久狼人影院| 夫妻午夜视频| 亚洲精品美女久久久久99蜜臀| 91精品国产国语对白视频| 国产有黄有色有爽视频| 久热爱精品视频在线9| 如日韩欧美国产精品一区二区三区| 女人被躁到高潮嗷嗷叫费观| 成人国语在线视频| 国产免费av片在线观看野外av| 淫妇啪啪啪对白视频| 久久久国产精品麻豆| 成人影院久久| 另类亚洲欧美激情| 丰满人妻熟妇乱又伦精品不卡| 亚洲精品久久成人aⅴ小说| 欧美大码av| 男女做爰动态图高潮gif福利片 | 久久人妻av系列| 19禁男女啪啪无遮挡网站| 咕卡用的链子| a级毛片在线看网站| 国产99白浆流出| 国产麻豆69| 精品国产一区二区三区四区第35| 久久国产精品人妻蜜桃| 亚洲av电影在线进入| 女性被躁到高潮视频| 超色免费av| 自线自在国产av| 中出人妻视频一区二区| 日韩欧美三级三区| 欧美日韩国产mv在线观看视频| 国产成人精品无人区| 激情视频va一区二区三区| 国产麻豆69| 男人舔女人下体高潮全视频| 高潮久久久久久久久久久不卡| 国产精品爽爽va在线观看网站 | 亚洲人成伊人成综合网2020| 午夜精品国产一区二区电影| 亚洲一卡2卡3卡4卡5卡精品中文| 免费在线观看影片大全网站| 亚洲人成电影免费在线| 免费少妇av软件| 久久热在线av| 久久久水蜜桃国产精品网| 精品久久久久久久久久免费视频 | 精品久久久久久成人av| 中文字幕人妻丝袜一区二区| 成人永久免费在线观看视频| 这个男人来自地球电影免费观看| 波多野结衣高清无吗| xxx96com| 久久久精品欧美日韩精品| 亚洲一区中文字幕在线| 麻豆国产av国片精品| 亚洲欧美日韩无卡精品| 黑人欧美特级aaaaaa片| 成在线人永久免费视频| 亚洲精品一卡2卡三卡4卡5卡| 一级作爱视频免费观看| 一级a爱片免费观看的视频| xxx96com| 免费观看人在逋| 亚洲熟女毛片儿| 亚洲欧美激情综合另类| 国产欧美日韩一区二区三| 国产1区2区3区精品| 亚洲一码二码三码区别大吗| 久久婷婷成人综合色麻豆| 国产成人欧美在线观看| 亚洲成av片中文字幕在线观看| 咕卡用的链子| 黄片大片在线免费观看| 村上凉子中文字幕在线| 久久热在线av| 中文字幕人妻丝袜制服| 久久久久久免费高清国产稀缺| 国产97色在线日韩免费| 亚洲,欧美精品.| 欧美日韩国产mv在线观看视频| 中国美女看黄片| 国产深夜福利视频在线观看| www.熟女人妻精品国产| 久久久久久大精品| 精品少妇一区二区三区视频日本电影| 亚洲欧美激情综合另类| 国产91精品成人一区二区三区| netflix在线观看网站| 在线观看午夜福利视频| 国产男靠女视频免费网站| 天堂影院成人在线观看| 俄罗斯特黄特色一大片| 久久精品91蜜桃| 久久久国产成人精品二区 | 女人爽到高潮嗷嗷叫在线视频| 中国美女看黄片| 婷婷精品国产亚洲av在线| 国产av一区在线观看免费| 亚洲av电影在线进入| 亚洲欧美日韩另类电影网站| 日本撒尿小便嘘嘘汇集6| 宅男免费午夜| 亚洲专区字幕在线| tocl精华| 久久狼人影院| 看黄色毛片网站| 久久天躁狠狠躁夜夜2o2o| 久久久久亚洲av毛片大全| 国产精品 欧美亚洲| 国产欧美日韩精品亚洲av| 精品国产国语对白av| 久久精品国产亚洲av高清一级| 在线观看66精品国产| 超色免费av| 色哟哟哟哟哟哟| 精品国产一区二区久久| 免费看a级黄色片| 成人三级做爰电影| 18禁国产床啪视频网站| 两性夫妻黄色片| 99国产精品一区二区三区| 日本黄色日本黄色录像| 在线观看舔阴道视频| 狠狠狠狠99中文字幕| 久久国产精品影院| 国产av又大| 亚洲专区中文字幕在线| 日本撒尿小便嘘嘘汇集6| 亚洲国产精品999在线| 丰满人妻熟妇乱又伦精品不卡| 老汉色av国产亚洲站长工具| 国产成+人综合+亚洲专区| 一边摸一边抽搐一进一小说| 成人av一区二区三区在线看| 可以免费在线观看a视频的电影网站| 国产免费av片在线观看野外av| 国产成人av激情在线播放| 在线天堂中文资源库| 91九色精品人成在线观看| 老鸭窝网址在线观看| 欧美日韩黄片免| 国产成人av教育| 久久国产乱子伦精品免费另类| 正在播放国产对白刺激| 女性生殖器流出的白浆| 欧美激情久久久久久爽电影 | 色精品久久人妻99蜜桃| 久久婷婷成人综合色麻豆| 桃色一区二区三区在线观看| 丰满的人妻完整版| 啦啦啦在线免费观看视频4| 久久中文字幕一级| 亚洲五月色婷婷综合| 在线观看免费午夜福利视频| 91字幕亚洲| 女警被强在线播放| 日韩成人在线观看一区二区三区| 在线av久久热| 亚洲精品一二三| 看黄色毛片网站| 在线看a的网站| 又紧又爽又黄一区二区| 一区二区三区精品91| 国产成人欧美| 国产区一区二久久| 精品一品国产午夜福利视频| 天堂影院成人在线观看| 天堂√8在线中文| 久久精品亚洲精品国产色婷小说| 一级片免费观看大全| 每晚都被弄得嗷嗷叫到高潮| 久久久久久亚洲精品国产蜜桃av|