• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    管窺人工智能換臉技術(shù)的法律風(fēng)險(xiǎn)與防范

    2020-07-28 09:02:40張?jiān)娐?/span>姚天沖
    法制與社會(huì) 2020年19期
    關(guān)鍵詞:法律風(fēng)險(xiǎn)應(yīng)對措施

    張?jiān)娐∫μ鞗_

    關(guān)鍵詞 換臉技術(shù) 深度偽造 法律風(fēng)險(xiǎn) 應(yīng)對措施

    作者簡介:張?jiān)娐?,東北大學(xué)文法學(xué)院法學(xué)系,研究方向:法學(xué);姚天沖,東北大學(xué)文法學(xué)院法學(xué)系副教授,法學(xué)博士,研究生導(dǎo)師,遼寧省政府法律顧問。

    中圖分類號:D920.4 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻(xiàn)標(biāo)識碼:A ? ? ? ? ? ?? ? ? ? ? ?DOI:10.19387/j.cnki.1009-0592.2020.07.002

    一、問題的提出

    近日,一款名叫ZAO 的換臉軟件打著“僅需一張照片,出演天下好戲”的名號在各大應(yīng)用市場高分出道,上線伊始就受到了廣泛熱議,正如其所宣傳,用戶在下載該應(yīng)用后,僅僅需要上傳一張符合較低要求分辨率的照片,人工智能技術(shù)便可以完整識別并提取照片中的信息,例如人臉的面部表情、言語動(dòng)態(tài)和視線聚焦角度等,便可以用照片中的人臉替換掉任意一個(gè)視頻素材中任何人的臉。然而這場換臉熱卻逐漸變味,憑借其迷惑性在諸多領(lǐng)域興風(fēng)作浪。

    這樣的面部合成技術(shù)真的能做到天衣無縫嗎?實(shí)則不盡然,這些生成的圖片與視頻畢竟是算法拼湊的產(chǎn)物,技術(shù)師編寫的普適性技術(shù)應(yīng)用在具體的場景中,在各個(gè)細(xì)節(jié)都做到以假亂真,一時(shí)迷惑眾人的同時(shí),難免會(huì)有一些疏忽,也存在著一些漏洞。一家西班牙公司REGIUM通過 this person does not exist.com 這個(gè)造臉網(wǎng)站,利用人工智能GAN技術(shù)以及英偉達(dá)的模型合成了四個(gè)虛擬工程師,作為網(wǎng)站的開發(fā)者,但由于在照片背景處理和人臉眼鏡附近的扭曲失真而被投資方發(fā)現(xiàn),然而這并非僅憑人眼或算法可以及時(shí)洞察的,需要依托一定的技術(shù)手段與生活經(jīng)驗(yàn)與靈活的思維加以辨別。

    此項(xiàng)技術(shù)問世后一度引發(fā)爭議,甚至出現(xiàn)了將明星照片代入色情視頻的產(chǎn)業(yè)鏈條,即便封閉相關(guān)搜索,技術(shù)的流失與源代碼泄露猶如潘多拉盒子被打開,以深度學(xué)習(xí)算法(生成式對抗網(wǎng)絡(luò))為基礎(chǔ)的技術(shù)不斷被修正,自動(dòng)演進(jìn)能力也出乎意料的演化。迫在眉睫的“真相危機(jī)”不斷涌現(xiàn),不斷污染網(wǎng)絡(luò)空間,帶來視覺沖擊的同時(shí),還有哪些潛在的社會(huì)危害?一系列違法與侵權(quán)代價(jià)、法律風(fēng)險(xiǎn)到底應(yīng)該由哪些主體對此類危害負(fù)責(zé)?各個(gè)國家的政府組織對此態(tài)度如何?當(dāng)下既問世的應(yīng)對法是否具有實(shí)際效力?我們是否能夠?qū)さ靡粭l更加完善、更加周全的應(yīng)對出路?

    二、人工智能換臉技術(shù)概述

    探求一項(xiàng)技術(shù)所引發(fā)的可能性社會(huì)問題,需要從技術(shù)本身入手,當(dāng)下人工智能技術(shù)發(fā)展正處于由弱人工智能向強(qiáng)人工智能過渡的階段,深度學(xué)習(xí)技術(shù)的廣泛應(yīng)用使人工智能的操作日趨自動(dòng)化,換臉技術(shù)便是“深度學(xué)習(xí)+”的一種表現(xiàn)。

    (一)換臉技術(shù)概念與原理

    換臉技術(shù),即所謂的“換臉術(shù)”主要是通過人工智能“深度偽造”技術(shù)實(shí)現(xiàn)的,“深度偽造”實(shí)質(zhì)上是一個(gè)合成詞項(xiàng),是“深度學(xué)習(xí)”+“偽造”的結(jié)果。①“人工智能深度學(xué)習(xí)”能力近年來突飛猛進(jìn),某種程度上來說已經(jīng)形成了多層聯(lián)結(jié)的神經(jīng)網(wǎng),可以自動(dòng)導(dǎo)入數(shù)據(jù)、自動(dòng)計(jì)算并完成任務(wù)。技術(shù)的原理是通過一種密集光度一致性辦法(Dense Photometric Consistency measure),達(dá)到跟蹤源和目標(biāo)視頻中臉部表情的實(shí)時(shí)轉(zhuǎn)換,由于間隔的時(shí)間很短,使得“復(fù)制”面部表情成為可能。實(shí)質(zhì)上,就是通過深度學(xué)習(xí)識別“源數(shù)據(jù)”,提取素材中的面部特征、表情細(xì)節(jié)以及動(dòng)態(tài)變化,在此基礎(chǔ)上經(jīng)過大量的經(jīng)驗(yàn)積累與數(shù)據(jù)分析,就可以由系統(tǒng)自動(dòng)形成偽造的動(dòng)態(tài)人臉并將其覆蓋疊加到原素材上,以實(shí)現(xiàn)更新變換,創(chuàng)建的圖像模型作為新數(shù)據(jù)就是人工智能的算法產(chǎn)物。換臉技術(shù)的發(fā)展是人工智能學(xué)習(xí)發(fā)展到更高階段的彰顯,具有雙鏈條能力的“對抗生成網(wǎng)絡(luò)”模型才是“換臉術(shù)”的核心,優(yōu)化與傳統(tǒng)的人工智能學(xué)習(xí)技術(shù),對抗生成網(wǎng)絡(luò)模型具有雙鏈條,同時(shí)進(jìn)行的神經(jīng)網(wǎng)絡(luò),各司其職,在生成新數(shù)據(jù)的同時(shí)又實(shí)現(xiàn)了對生成物的自動(dòng)鑒別驗(yàn)證,從某種程度上說“對抗生成網(wǎng)絡(luò)”實(shí)現(xiàn)了幾近于由單純完成人類命題進(jìn)化到了自學(xué)自驗(yàn)的“無監(jiān)督學(xué)習(xí)模式”。

    (二)換臉技術(shù)的流程

    換臉技術(shù)涉及到兩個(gè)方面的操作。源數(shù)據(jù)開始輸入后,先從人臉的識別開始,從眾多元素中察覺檢測到需要更換的部分,即是對人臉信息的檢索與提取,圖像信息自然錄入系統(tǒng)數(shù)據(jù)庫之后再開啟,圖像信息進(jìn)行分析與運(yùn)算,換言之人臉識別是人臉轉(zhuǎn)換的第一階段。

    接下來是對抗生成網(wǎng)絡(luò)(GAN)的運(yùn)作,兩組神經(jīng)網(wǎng)絡(luò)“生成器”與“鑒別器”是此項(xiàng)技術(shù)的靈魂所在,通過二者的對抗實(shí)現(xiàn)換臉任務(wù)的落實(shí)。所獲取的目標(biāo)人物的照片與視頻信息匯總而成的數(shù)據(jù)集在“生成器”神經(jīng)中制造出新的影像,又在“鑒別器”神經(jīng)中進(jìn)行新舊對比,檢測對比結(jié)果為真實(shí)時(shí)開展下一步的圖像替換。由單張的圖片到視頻轉(zhuǎn)換上,大體上需要經(jīng)過以下步驟,首先是把源視頻素材以幀為單位切分,提取其中的待轉(zhuǎn)換面部區(qū)間與信息,導(dǎo)入到訓(xùn)練模型中進(jìn)行替換整合并生成視頻,經(jīng)過系統(tǒng)后期制作,提高偽造視頻的清晰度與真實(shí)度。在整套系統(tǒng)運(yùn)行,基本無需人腦分析、人工剪輯和再校對,實(shí)現(xiàn)了人類角色的轉(zhuǎn)變。

    (三)換臉技術(shù)的應(yīng)用

    換臉技術(shù)的功能再強(qiáng)大,不過是人類思維概念的具象化與操作化,數(shù)據(jù)素材庫的填充離不開人類的資源提供,生成物用途也由人類意向主導(dǎo)。在技術(shù)實(shí)現(xiàn)途徑上,人工智能換臉技術(shù)常見的使用方式主要包括三種:一是將真人換臉成真人象;二是將真人換臉成尚可識別身份的虛擬形象;三是完全拋開真人形象設(shè)定把真人換臉后形成純虛擬形象,其他具體應(yīng)用都是依托此三種基礎(chǔ)變形而來。

    三、人工智能換臉技術(shù)的安全隱患與法律風(fēng)險(xiǎn)

    技術(shù)具有兩面性,人工智能的發(fā)展也難以脫離此定律。換臉技術(shù)的生成物最大特點(diǎn)就是虛構(gòu)性,虛構(gòu)內(nèi)容不同、利用手段不同、用途目的不同都會(huì)產(chǎn)生不同的法律后果。人工智能換臉技術(shù)當(dāng)下的三種應(yīng)用形式具有的一個(gè)共性就是以真人為載體,輸出形象可能變化萬千,根據(jù)輸出形式的不同還會(huì)造成不同的侵權(quán)可能。換臉技術(shù)本質(zhì)上是一種偽造手段,超脫娛樂功能,社會(huì)的危害程度不容小覷,濫用風(fēng)險(xiǎn)涉及方方面面,“深度偽造”的算法技術(shù)與學(xué)習(xí)能力加持應(yīng)用,相輔相成進(jìn)一步使得對其應(yīng)用可能產(chǎn)生不同于一般視頻偽造處理技術(shù)的風(fēng)險(xiǎn)。從換臉?biāo)惴ǖ募夹g(shù)來看,依據(jù)步驟設(shè)計(jì)可以把此項(xiàng)技術(shù)的安全風(fēng)險(xiǎn)分類成人臉信息提取信息的安全隱患、人臉變換時(shí)的法律責(zé)任以及生成物應(yīng)用不當(dāng)?shù)目赡苄燥L(fēng)險(xiǎn)三個(gè)方面綜合考慮。

    (一)侵犯公民人身權(quán)利

    1.個(gè)人信息泄露與身份偽造

    面部識別是換臉的第一步,區(qū)別于其他生物識別方式,人臉識別方式具有自然性、不被察覺性和非強(qiáng)制性,大數(shù)據(jù)時(shí)代人臉信息具有的價(jià)值也越來越高,被泄露被交易的成本也越來越低,個(gè)人信息與數(shù)據(jù)的泄露可能性也大大提高。由于人臉識別技術(shù)與應(yīng)用的發(fā)達(dá),此類信息的易得程度大大提升,據(jù)不完整統(tǒng)計(jì),2019年網(wǎng)絡(luò)商城中公開售賣的人臉數(shù)據(jù)達(dá)到17萬條(北京青年報(bào))。當(dāng)下網(wǎng)絡(luò)信息的互通,單張的照片中的面部信息背后將隱含著大量的身份信息。即便是合法的相關(guān)人臉數(shù)據(jù)庫開發(fā)的公司在收集前欠缺同意協(xié)議的簽訂,以“ZAO”的用戶協(xié)議為例② ,用戶在使用之前被強(qiáng)制簽訂換臉時(shí)同意或確保肖像權(quán)利人同意授予服務(wù)提供商肖像權(quán)的使用以及圖片視頻的使用和改造。換言之,在主動(dòng)上傳照片的同時(shí)就是允許了應(yīng)用平臺對個(gè)人敏感信息的采集,加入了系統(tǒng)的數(shù)據(jù)庫,由此就面臨著個(gè)人身份的公開與身份結(jié)構(gòu),個(gè)人信息被濫用后果的安全風(fēng)險(xiǎn)難以評估。面部識別已然成為身份認(rèn)證的重要方式,面部表情動(dòng)圖的偽造相當(dāng)于身份盜用,通過對人臉識別的偽造,開啟惡性木馬算法的設(shè)備攻擊,入侵竊取使用者的個(gè)人信息的情況將一發(fā)不可收拾。除此之外,當(dāng)下的規(guī)制只停留于事后的救濟(jì)措施,只能是刪除與下架,已流失的信息具有不可追回性,隱形危害輻射范圍難以控制。

    2.對個(gè)人肖像權(quán)、名譽(yù)權(quán)和著作權(quán)的侵犯

    換臉過程中,擅自進(jìn)行利用他人的面部圖像或視頻素材時(shí)刻面臨著民事侵權(quán)責(zé)任。首先,在未經(jīng)許可的情況下,擅自在“換臉”技術(shù)中使用含有他人外在真實(shí)容貌特征的照片,且以營利為目的,則認(rèn)定構(gòu)成肖像權(quán)侵權(quán)。若存在將他人肖像“換臉”到某些不雅視頻等行為,以致可能造成受害人社會(huì)評價(jià)降低的,則侵權(quán)人還涉嫌侵犯受害者的名譽(yù)權(quán)。在名譽(yù)權(quán)的損害認(rèn)定上,一般采取推定的方法,只要能夠證明是虛假事實(shí),且具有侮辱、誹謗性,并且該等事實(shí)可能為公眾所知,就可推導(dǎo)受害人的名譽(yù)遭受損害。其次,在未經(jīng)許可的情況下,擅自在“換臉”技術(shù)中使用純虛擬形象,因虛擬形象本身不涉及肖像權(quán)、名譽(yù)權(quán)的問題,則涉嫌侵犯該虛擬形象著作權(quán)人的著作權(quán)。被訴侵權(quán)行為的內(nèi)容、被告是否實(shí)施了被訴侵權(quán)行為、被告有無過錯(cuò)、是否造成損害、被訴侵權(quán)行為與損害之間有無因果關(guān)系等均是審查范圍。同時(shí),在未經(jīng)許可的情況下,擅自在“換臉”技術(shù)中使用含有他人肖像的角色圖片,此時(shí),既涉嫌侵犯肖像權(quán)、名譽(yù)權(quán),也涉嫌侵犯著作權(quán)人的著作權(quán)。

    (二)威脅社會(huì)倫理價(jià)值觀

    1.身份結(jié)構(gòu)與商品化

    人類的面部與身份特征都被數(shù)字化,算法將人的身份拆解,傳統(tǒng)意義上的身份特質(zhì)分解并與他人的身份特質(zhì)再組合重構(gòu),人工智能再造的虛擬形象以擬制主體身份展現(xiàn)在真實(shí)的人類面前,在倫理上必然造成社會(huì)的恐慌與倫理重構(gòu)。人的體貌特征融合后不再具體的某個(gè)人典型的身份,跨越了國界種族的限制,失去了辨識度,一方面容易造成社會(huì)角色混亂與身份特征混淆。另一方面,自然人的身份被商品化也并非當(dāng)下社會(huì)倫理所能接受,在相關(guān)人員不知情情況下,復(fù)制、改造他人的面孔,甚至惡意融合不雅內(nèi)容以謀求金錢利益,構(gòu)成對他人尊嚴(yán)的損害,被解構(gòu)整合身份特征的人淪為被消費(fèi)的商品。

    2.真?zhèn)涡刨囄C(jī)

    現(xiàn)階段深度偽造的生成物所依托的技術(shù)手段足以達(dá)到以假亂真的程度,“眼見為實(shí)”的一般真理不再適用,人類難以在日常的社會(huì)生活中區(qū)分?jǐn)?shù)字面孔與自然人,虛假內(nèi)容輕易取得信任,真?zhèn)沃骐y上加難,合理的猜測與過度猜忌的界限更加難以平衡,在新聞?lì)I(lǐng)域和司法領(lǐng)域必然造成更大的信賴難題,真?zhèn)谓缦薇粩?shù)字化操縱,娛樂的趣味性與真相的真實(shí)性在混淆視聽的人工智能生成物問世后更加模糊?!皧蕵分了馈钡呐で鷥r(jià)值沖擊著當(dāng)下倫理觀,進(jìn)而引發(fā)一場社會(huì)信任危機(jī)。

    (三)危害社會(huì)秩序穩(wěn)定

    1.輻射領(lǐng)域行業(yè)危機(jī)

    模型建設(shè)能力已經(jīng)能夠達(dá)到令人信服的程度,換臉技術(shù)制造的“假人臉”基本達(dá)到了應(yīng)對人臉識別的要求,當(dāng)下人臉識別在很多身份認(rèn)證中已經(jīng)成為了實(shí)名制身份定位的輔助手段,由此輻射的領(lǐng)域涉及方方面面。特別是金融系統(tǒng)中對動(dòng)態(tài)人臉的認(rèn)證承認(rèn)度與本人親臨的效力幾乎對等,換臉技術(shù)使此認(rèn)證邏輯徹底崩塌,高于照片認(rèn)證的活體動(dòng)態(tài)監(jiān)測邏輯完全失效。顯然,當(dāng)下社會(huì)各界并沒有做好應(yīng)對措施,在自然人人臉的識別與擬制視頻的對比上,現(xiàn)有應(yīng)用于社會(huì)生活的設(shè)備尚未具備這樣的能力,這為包括金融界在內(nèi)的認(rèn)證必須行業(yè)造成了極大地身份識別困難,公安系統(tǒng)、門禁簽到等社會(huì)生活領(lǐng)域也都會(huì)受到顛覆性的影響。

    2.公共信息污染

    公共信息及市場參與者互聯(lián)互通的共享信息,公共信息安全在信息時(shí)代的重要性不容小覷,人工智能深度學(xué)習(xí)與偽造技術(shù)的快速成長,制造音視頻與圖像為入侵病毒盜用公共安全信息創(chuàng)造了便利條件。一些企業(yè)為了在技術(shù)新興階段盡早占領(lǐng)先機(jī),奪得市場份額,在技術(shù)應(yīng)用上不能周全顧及安全隱患的規(guī)范,導(dǎo)致市場信息混亂,防治界定標(biāo)準(zhǔn)缺乏,現(xiàn)階段司法領(lǐng)域就涉嫌傳播、組織制作不雅視頻的行為給出了明確的懲治,以牟利為目的,制作、復(fù)制、出版、販賣、傳播淫穢物品的也將面臨刑事處罰,但除此之外的其他危害社會(huì)公共信息領(lǐng)域凈化安全的行為標(biāo)準(zhǔn)因市場準(zhǔn)入標(biāo)準(zhǔn)和判定體系的規(guī)范化缺失,威脅市場信息共享和競爭的良性循環(huán)。

    3.政治穩(wěn)定與國際秩序破壞

    宗教信仰、種族國籍、國際政治領(lǐng)域所涉及的問題具有敏感性,更加需要真實(shí)報(bào)道與平等人權(quán)的保護(hù),肆意更換外貌特征與偽造具有特殊意義的視頻在這些領(lǐng)域的濫用,在社會(huì)穩(wěn)定上的破壞力可能直接引發(fā)難以控制的后果。利用偽造技術(shù)生成政治領(lǐng)袖發(fā)表不當(dāng)言論的音視頻,不符宗教信仰的行為,威脅國際關(guān)系的各種材料,將會(huì)大幅度增加社會(huì)關(guān)系復(fù)雜性,不利于社會(huì)穩(wěn)定局面與國家長治久安。

    四、國外應(yīng)對人工智能換臉技術(shù)的現(xiàn)狀與啟示

    換臉技術(shù)一經(jīng)問世在國際范圍內(nèi)引發(fā)了大量專家學(xué)者的思考,侵權(quán)行為與危害社會(huì)秩序的行為相繼發(fā)生,各國政府紛紛積極出臺應(yīng)對措施,處理手段與實(shí)踐結(jié)果各有特色,政府、應(yīng)用平臺與技術(shù)開發(fā)者都被賦予了相應(yīng)的義務(wù)。

    (一)加拿大

    加拿大在對換臉技術(shù)在司法上具有明確立場,且已經(jīng)確定了侵權(quán)責(zé)任問題的相關(guān)解釋。加拿大魁北克省《魁北克民法典》中規(guī)定了此類侵權(quán)的范圍和形式界定,有目的地使用他人姓名、圖像、肖像或聲音而非合法的公眾信息的行為均可視為侵犯他人隱私,以隱私侵犯為受人身權(quán)利侵犯的受害者提供司法保護(hù),并且可依法獲得相應(yīng)的救濟(jì)賠償?!吨Z維奇命令》就換臉技術(shù)所涉及的調(diào)查問題給出了具體的措施,法律與媒體相輔相成,二者聯(lián)袂共同針對換臉應(yīng)用隱藏的違法違規(guī)行為進(jìn)行調(diào)查取證,社交平臺作為信息的擁有者與數(shù)據(jù)存儲平臺必須配合法院,強(qiáng)迫相關(guān)平臺調(diào)取平臺使用者的真實(shí)信息,匿名身份不再是違法的保護(hù)傘,追根溯源依法追究侵權(quán)者侵權(quán)責(zé)任。

    加拿大的法院命令出臺之迅速值得贊嘆,能夠在問題出現(xiàn)的短時(shí)間內(nèi)及時(shí)出臺指導(dǎo)性命令,確定將媒體平臺在規(guī)制中的責(zé)任與義務(wù),多主體聯(lián)動(dòng)的治理局面構(gòu)建,為其他國家的應(yīng)對措施探索提供借鑒,具有啟示意義。

    (二)歐盟

    當(dāng)下歐盟各國未出臺關(guān)于針對換臉技術(shù)的法律法規(guī),尚且還處于破壞性威脅處理的論證階段。但一向?qū)W(wǎng)絡(luò)安全相當(dāng)重視的歐盟國家不可能無動(dòng)于衷,尤其是涉及個(gè)人隱私與權(quán)益的部分,以《關(guān)于涉及個(gè)人資料處理的個(gè)人保護(hù)以及此類資料自由流動(dòng)的指令》為核心,形成了較為完整規(guī)范的個(gè)人信息保護(hù)法律體系。并且相當(dāng)重視對相關(guān)個(gè)人資料的掌握者的問題更加敏感,在法律中明確了這類群體的責(zé)任與義務(wù),資源收集也有一系列規(guī)范,在公民的基本人權(quán)與第三方信息匯總與收集之間尋求最佳平衡點(diǎn),否則構(gòu)成違法行為。行政機(jī)關(guān)也發(fā)揮了較大的作用,歐盟各成員國國內(nèi)都設(shè)有專門的數(shù)據(jù)信息安全保護(hù)部門與工作組,這類機(jī)構(gòu)不僅僅可以為國民提供咨詢服務(wù),還通過法律授權(quán)的方式擁有調(diào)查與接入法律技術(shù)的權(quán)力,擁有較強(qiáng)的執(zhí)行力,以致力于為國民提供直接、專門的救濟(jì)渠道。

    歐盟國家在網(wǎng)絡(luò)信息安全上基本形成了對個(gè)人信息保護(hù)的完整體系,對平臺的信息使用有一定的規(guī)制標(biāo)準(zhǔn),個(gè)人信息泄漏后的救濟(jì)措施也很便民可行,為其他國家的網(wǎng)絡(luò)問題解決拓展了思路,起到了模范作用,網(wǎng)絡(luò)時(shí)代對個(gè)人信息的保護(hù)需要完備系統(tǒng)的法律規(guī)范。

    (三)美國

    美國的應(yīng)對行為具有技術(shù)監(jiān)管的顯著特征,以行業(yè)自律為主,但政府也發(fā)揮了一定的規(guī)制監(jiān)管作用。美國已經(jīng)明確認(rèn)識到“深度偽造”技術(shù)對國家安全造成負(fù)面影響的嚴(yán)峻形勢,國家情報(bào)總監(jiān)丹·科茨在《全球威脅評估報(bào)告》中表示“深度偽造”技術(shù)會(huì)生成虛假卻令人深信的影音產(chǎn)物,對美國以及其他國家安全都會(huì)造成不良威脅。2018 年,美國的技術(shù)開發(fā)者針對偽造人臉的算法創(chuàng)建了甄別分辨系統(tǒng),通過構(gòu)建包容海量的偽造圖像的數(shù)據(jù)庫訓(xùn)練更強(qiáng)大的人工智能系統(tǒng),以對抗現(xiàn)存的深度偽造算法③。2019年美國專就Deepfakes開展了聽證會(huì),有學(xué)者建議國會(huì)對《通信規(guī)范法》中互聯(lián)網(wǎng)平臺無須為使用者的行為負(fù)責(zé)的規(guī)定進(jìn)行修改,此項(xiàng)提議目前尚未落實(shí),在法律法規(guī)上美國沒有做出實(shí)質(zhì)性的應(yīng)對措施,仍然滯留在輿論探討與不斷在眾議院提出議案的層面。但是,就實(shí)踐操作上,迫于各界的壓力,換臉技術(shù)在美國境內(nèi)網(wǎng)站上已經(jīng)被封,討論版被清除,開源代碼也被清除。

    由美國的應(yīng)對可見,用技術(shù)對抗技術(shù),用更強(qiáng)大的技術(shù)約束技術(shù),在人工智能時(shí)代的重要性與必要性,加快技術(shù)發(fā)展,研發(fā)一套能夠鑒別偽造視頻的新技術(shù),人工智能時(shí)代需要?jiǎng)?chuàng)新規(guī)制手段,技術(shù)手段的應(yīng)用在當(dāng)今社會(huì)的治理中地位日趨重要。

    五、我國應(yīng)對人工智能換臉技術(shù)法律風(fēng)險(xiǎn)的防范建議

    按照當(dāng)下人工智能技術(shù)的發(fā)展速度,有效科學(xué)的風(fēng)險(xiǎn)防范措施極為重要,我國在換臉技術(shù)的可能性危害爆發(fā)前,要充分吸取其他國家的經(jīng)驗(yàn),從完善立法、促進(jìn)防范技術(shù)發(fā)展、創(chuàng)新規(guī)制手段實(shí)現(xiàn)共治氛圍入手,積極應(yīng)對挑戰(zhàn)。

    (一)完善現(xiàn)有法律法規(guī),增設(shè)人工智能領(lǐng)域立法

    新興領(lǐng)域的出現(xiàn)必然帶來立法沖擊,個(gè)人信息的公開化在信息時(shí)代缺乏限定,侵權(quán)的司法界定也具有一定難度,并且人工智能的侵權(quán)主體界定復(fù)雜多元,當(dāng)下對人工智能相關(guān)領(lǐng)域的人身權(quán)利保護(hù)缺乏足夠的法律法規(guī)規(guī)制,人工智能技術(shù)的開發(fā)者、平臺技術(shù)運(yùn)營商以及技術(shù)使用者的責(zé)任分配混亂混淆?!吨腥A人民共和國網(wǎng)絡(luò)安全法》和《互聯(lián)網(wǎng)電子公告服務(wù)管理規(guī)定》④是在司法技術(shù)中運(yùn)用的主要專門性法律法規(guī),對于互聯(lián)網(wǎng)與人工智能時(shí)代科技的不斷進(jìn)步來說,一定程度上面對專業(yè)性問題具有立法空白。首先,應(yīng)該從立法角度界定人工智能領(lǐng)域個(gè)人的人身信息范圍,以便明確人身權(quán)利具體保護(hù)內(nèi)容。其次,建立人工智能產(chǎn)業(yè)鏈追責(zé)機(jī)制,應(yīng)該形成覆蓋從算法開發(fā)階段到產(chǎn)出生成物的傳播利用階段的安全與責(zé)任標(biāo)準(zhǔn),真正實(shí)現(xiàn)環(huán)環(huán)相扣的制度規(guī)范,以免問題發(fā)生時(shí)的相互推諉與問責(zé)主體不清。當(dāng)下適用的《公共安全人臉識別應(yīng)用圖像技術(shù)要求》作為行政法規(guī),已經(jīng)在對新問題的立法跟進(jìn)中做出了第一步突破,除此之外,更具有普適性的生物信息識別等相關(guān)問題還需進(jìn)一步強(qiáng)化立法規(guī)制,《中華人民共和國個(gè)人信息保護(hù)法》正在擬制,其中對此專題應(yīng)該有些涉及,以便化解技術(shù)邏輯的倫理價(jià)值矛盾與定義模糊問題,真正實(shí)現(xiàn)對個(gè)人信息的保護(hù)。

    (二)技術(shù)打假,開發(fā)破解系統(tǒng)

    兼顧救濟(jì)的前提是甄別偽造圖像,通過技術(shù)破解深度偽造的產(chǎn)物不僅能夠助力司法調(diào)查中的舉證問題,還能解決公眾的真相辨別之疑惑。借鑒美國的對抗甄別系統(tǒng),用更強(qiáng)大的人工智能對抗人工智能。區(qū)塊鏈程度就可以在此領(lǐng)域發(fā)揮優(yōu)勢,區(qū)塊有公共密碼和設(shè)置私人密碼,密碼采用新函數(shù)編寫,幾乎不可破解,著重培養(yǎng)區(qū)塊鏈技術(shù)人才,利用其不可逆性進(jìn)行人工智能變臉生成物的辨別。同時(shí),一些技術(shù)研發(fā)人員提出構(gòu)建以太坊智能合約技術(shù)出口和普適性思路,通過星際文件系統(tǒng)將所有的信息整合起來,復(fù)制全部數(shù)據(jù),并跟蹤全部數(shù)據(jù)的使用情況,不斷對比分析原始數(shù)據(jù)的變換來尋找被偽造的成分。

    (三)發(fā)揮媒介把關(guān)人作用,強(qiáng)化行業(yè)自律

    根據(jù)“守門人”理論⑤,信息傳播同樣也設(shè)置了若干的“關(guān)卡”,信息傳播能否順利,主要取決于這些關(guān)卡之間的連結(jié)和彼此恪守的準(zhǔn)則。強(qiáng)化平臺責(zé)任,對生成物進(jìn)行篩選與衡量,做好把關(guān),基于用戶個(gè)人的合理適度需求偽造的換臉結(jié)果可以得到認(rèn)可,行業(yè)自身在“技術(shù)正當(dāng)技術(shù)”層面約定自律規(guī)范,制定統(tǒng)一明確標(biāo)準(zhǔn),在視頻的傳播、用戶信息采集、識別技術(shù)共同應(yīng)用和檢索偽造成果資料,甚至是用戶的準(zhǔn)入門檻等諸多方面約定行業(yè)規(guī)范,并增強(qiáng)行業(yè)規(guī)范的效力,在自我責(zé)任認(rèn)定與履行上強(qiáng)化行業(yè)內(nèi)部的規(guī)制,在行業(yè)內(nèi)部建立完善的監(jiān)督管理機(jī)制,用自我約束、自我監(jiān)督的手段優(yōu)化人工智能換臉技術(shù)的使用方式,搭建起人工智能領(lǐng)域,技術(shù)進(jìn)化至強(qiáng)人工智能時(shí)代里行業(yè)自律的具體實(shí)施準(zhǔn)則,凈化互聯(lián)網(wǎng)空間。

    (四)剛?cè)岵?jì),豐富規(guī)制手段

    平臺責(zé)任的承擔(dān)現(xiàn)階段以行政處罰為主,一概而論通過硬性的罰款或強(qiáng)制性清理已發(fā)生的服務(wù)漏洞只能是在事后進(jìn)行補(bǔ)救,具有特事特辦色彩,不能從根源上形成具有一般性的規(guī)制措施。應(yīng)豐富行政規(guī)制的手段,根據(jù)具體情況進(jìn)行,如行政約談的柔性規(guī)制方式與硬性的行政處罰相結(jié)合。相關(guān)行政部門可以與技術(shù)開發(fā)方或應(yīng)用服務(wù)提供者相關(guān)負(fù)責(zé)人進(jìn)行定期行政約談,對階段性發(fā)生的或可能出現(xiàn)的安全風(fēng)險(xiǎn)加以整改要求限制,要求相關(guān)主體嚴(yán)格按照國家法律法規(guī)以及相關(guān)主管部門建議,組織進(jìn)行內(nèi)部自行調(diào)整,依法依規(guī)收集使用用戶個(gè)人信息,規(guī)范協(xié)議條款,強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個(gè)人信息安全保護(hù)。更新條款與用戶協(xié)議,刪除具有漏洞的技術(shù)點(diǎn)或使用規(guī)則。剛?cè)岵⑿校笃脚_方與使用者在用戶信息的收集與處理、素材庫的發(fā)布與使用標(biāo)準(zhǔn)、生成圖像視頻的導(dǎo)出等諸多方面,做出符合法律規(guī)范于一般社會(huì)倫理道德的約定規(guī)范。

    六、結(jié)語

    換臉技術(shù)的應(yīng)用不可避免的對人類社會(huì)生活呈現(xiàn)出了負(fù)面影響,不可從優(yōu)劣角度直接定義深度偽造的換臉技術(shù)作為人工智能領(lǐng)域的衍生品的屬性,正確合法的應(yīng)用技術(shù)尤為關(guān)鍵。應(yīng)該以人工智能技術(shù)為工具,充分發(fā)揮政府、公眾、平臺的各自優(yōu)勢,明確義務(wù)與責(zé)任,形成一體化的治理體系,降低換臉技術(shù)為社會(huì)造成的安全隱患,必須完善共治以著力破解真?zhèn)涡刨囄C(jī),使換臉技術(shù)的應(yīng)用與演化在道德倫理與法律法規(guī)的控制內(nèi),由此發(fā)揮人工智能時(shí)代的技術(shù)優(yōu)勢。

    注釋:

    ①“深度偽造”的過程就是將原始的圖片和視頻素材等數(shù)據(jù)遞給換臉技術(shù),此后僅僅依靠算法的自身運(yùn)算,在大量的訓(xùn)練與演算運(yùn)行基礎(chǔ)上自動(dòng)完成換臉操作。

    ② ZAO的用戶協(xié)議顯示:用戶在使用“ZAO”的時(shí)候,如果把臉換成自己或其他人的臉,意味著同意或確保肖像權(quán)利人同意授予“ZAO”及其關(guān)聯(lián)公司全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利,包括但不限于:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權(quán)利人的肖像權(quán),以及利用技術(shù)對您或肖像權(quán)利人的肖像進(jìn)行形式改動(dòng)。

    ③美國國防高級研究計(jì)劃局則發(fā)起了一項(xiàng)重大的媒體取證研究計(jì)劃,它借助Media?Forensics 技術(shù)來自動(dòng)檢測換臉操作,提供如何執(zhí)行這些操作的詳細(xì)信息,來確定視頻或圖像是否進(jìn)行了深度偽造。

    ④《互聯(lián)網(wǎng)電子公告服務(wù)管理規(guī)定》第 12 條:“電子公告服務(wù)提供者應(yīng)當(dāng)對上網(wǎng)用戶的個(gè)人信息保密,未經(jīng)上網(wǎng)用戶同意不得向他人泄露,但法律另有規(guī)定的除外。”《互聯(lián)網(wǎng)電子郵件服務(wù)管理辦法》第 9 條:“互聯(lián)網(wǎng)電子郵件服務(wù)提供者對用戶的個(gè)人注冊信息和互聯(lián)網(wǎng)電子郵件地址,負(fù)有保密的義務(wù)。互聯(lián)網(wǎng)電子郵件服務(wù)提供者及其工作人員不得非法使用用戶的個(gè)人注冊信息資料和互聯(lián)網(wǎng)電子郵件地址;未經(jīng)用戶同意,不得泄露用戶的個(gè)人注冊信息和互聯(lián)網(wǎng)電子郵件地址,但法律、行政法規(guī)另有規(guī)定的除外。”

    ⑤守門人是一種理論的代稱,它是盧因在1947年提出來的,信息總是沿著包含有門區(qū)的某些渠道流動(dòng),在那里,或是根據(jù)公正無私的規(guī)定,或是根據(jù)'守門人'的個(gè)人意見,對信息或是商品是否被允許進(jìn)入渠道或是繼續(xù)在渠道里流動(dòng)作出決定。

    參考文獻(xiàn):

    [1]陳盼.歐盟網(wǎng)絡(luò)隱私權(quán)保護(hù)模式研究——兼述歐盟對Facebook面部識別技術(shù)的調(diào)查[J].研究生法學(xué),2013,28(4):135-143.

    [2]王祿生.論“深度偽造”智能技術(shù)的一體化規(guī)制[J].東方法學(xué),2019(6):58-68.

    [3]王飛龍.人臉識別技術(shù)及其安全性綜述[J].信息記錄材料,2018,19(12):229-230.

    [4]黨家玉.人工智能的倫理與法律風(fēng)險(xiǎn)問題研究[J].信息安全研究,2017,3(12):1080- 1090.

    猜你喜歡
    法律風(fēng)險(xiǎn)應(yīng)對措施
    企業(yè)所得稅法律風(fēng)險(xiǎn)分析及防控
    合伙企業(yè)法律風(fēng)險(xiǎn)實(shí)證分析
    淺析商業(yè)銀行法律風(fēng)險(xiǎn)防控體系優(yōu)化建設(shè)過程中存在的問題及對策
    法制博覽(2016年11期)2016-11-14 10:57:01
    淺析大學(xué)生創(chuàng)業(yè)法制教育存在的問題及對策
    文教資料(2016年19期)2016-11-07 10:57:54
    輸變電設(shè)備運(yùn)行及安全防范措施
    中國市場(2016年36期)2016-10-19 04:01:46
    手機(jī)通訊行業(yè)消費(fèi)者權(quán)益保護(hù)研究
    科技視界(2016年21期)2016-10-17 18:43:20
    淺析“營改增”背景下房地產(chǎn)企業(yè)的稅負(fù)變化及應(yīng)對措施
    商(2016年27期)2016-10-17 06:02:28
    施工企業(yè)營改增對會(huì)計(jì)核算的影響與應(yīng)對措施
    淺析高職院校學(xué)生厭學(xué)現(xiàn)象及應(yīng)對措施
    考試周刊(2016年77期)2016-10-09 12:17:14
    中小企業(yè)如何應(yīng)對“營改增”
    制服丝袜香蕉在线| 九九爱精品视频在线观看| 久久97久久精品| 黑人欧美特级aaaaaa片| 欧美少妇被猛烈插入视频| 欧美日韩福利视频一区二区| 免费在线观看黄色视频的| 亚洲熟女精品中文字幕| 欧美精品一区二区大全| 国产精品二区激情视频| 国产成人91sexporn| 欧美日韩福利视频一区二区| 午夜老司机福利片| 制服诱惑二区| 69精品国产乱码久久久| 国产精品 国内视频| 久久人妻熟女aⅴ| 天天操日日干夜夜撸| 肉色欧美久久久久久久蜜桃| 99国产综合亚洲精品| 午夜福利免费观看在线| 欧美黑人欧美精品刺激| 熟女av电影| 人妻一区二区av| 宅男免费午夜| 午夜免费观看性视频| 蜜桃在线观看..| 在线观看人妻少妇| 国产成人系列免费观看| 搡老岳熟女国产| 国产精品香港三级国产av潘金莲 | 久久毛片免费看一区二区三区| 一二三四在线观看免费中文在| 久久精品国产综合久久久| 91精品伊人久久大香线蕉| 9191精品国产免费久久| 国产成人免费无遮挡视频| 卡戴珊不雅视频在线播放| 欧美乱码精品一区二区三区| 免费在线观看视频国产中文字幕亚洲 | 国产在视频线精品| 人妻人人澡人人爽人人| av电影中文网址| 亚洲一区中文字幕在线| 国产日韩欧美视频二区| 热re99久久精品国产66热6| 国产无遮挡羞羞视频在线观看| 久久久久久久大尺度免费视频| 免费黄网站久久成人精品| 亚洲伊人色综图| 日本欧美视频一区| 考比视频在线观看| 亚洲国产日韩一区二区| 久久国产精品大桥未久av| 在线天堂最新版资源| 亚洲国产精品一区二区三区在线| 日韩人妻精品一区2区三区| 成人黄色视频免费在线看| 日韩伦理黄色片| 国产成人91sexporn| 久久久国产一区二区| 国产人伦9x9x在线观看| 我的亚洲天堂| 久久精品国产综合久久久| 久久久久网色| 午夜激情av网站| 国产无遮挡羞羞视频在线观看| 女人被躁到高潮嗷嗷叫费观| 国产在线一区二区三区精| 天天躁狠狠躁夜夜躁狠狠躁| 午夜免费观看性视频| 精品少妇黑人巨大在线播放| 午夜福利在线免费观看网站| 制服丝袜香蕉在线| 亚洲精品视频女| 国产精品成人在线| 少妇被粗大猛烈的视频| 一区二区av电影网| 熟女少妇亚洲综合色aaa.| 亚洲av电影在线观看一区二区三区| 观看美女的网站| 久久精品国产综合久久久| 热99国产精品久久久久久7| 国产老妇伦熟女老妇高清| 免费黄色在线免费观看| 超碰97精品在线观看| 狠狠精品人妻久久久久久综合| 亚洲av在线观看美女高潮| 精品国产一区二区三区四区第35| 久热这里只有精品99| 久久久欧美国产精品| 岛国毛片在线播放| 叶爱在线成人免费视频播放| 中文天堂在线官网| 最新的欧美精品一区二区| 欧美日韩视频精品一区| 日本一区二区免费在线视频| 一本—道久久a久久精品蜜桃钙片| 少妇的丰满在线观看| 欧美国产精品一级二级三级| 国产99久久九九免费精品| 我要看黄色一级片免费的| 一二三四在线观看免费中文在| 老汉色∧v一级毛片| 嫩草影视91久久| 午夜影院在线不卡| 精品视频人人做人人爽| 欧美激情 高清一区二区三区| 亚洲国产精品999| 黑人欧美特级aaaaaa片| 婷婷色综合大香蕉| 一区二区av电影网| 久久久国产一区二区| 久久久久久久精品精品| 国产精品熟女久久久久浪| 最近的中文字幕免费完整| 另类精品久久| 国产野战对白在线观看| 丁香六月天网| 黄色 视频免费看| 国产精品久久久av美女十八| 欧美老熟妇乱子伦牲交| 人人妻人人澡人人爽人人夜夜| 国产精品.久久久| 精品国产乱码久久久久久男人| 男女免费视频国产| 永久免费av网站大全| 大香蕉久久成人网| 精品一区二区免费观看| 美女扒开内裤让男人捅视频| 亚洲色图综合在线观看| 国产精品熟女久久久久浪| 国产精品一区二区精品视频观看| 国产无遮挡羞羞视频在线观看| 日韩视频在线欧美| 高清视频免费观看一区二区| 大陆偷拍与自拍| 午夜福利网站1000一区二区三区| 高清黄色对白视频在线免费看| 欧美激情极品国产一区二区三区| 亚洲人成77777在线视频| 亚洲一区二区三区欧美精品| 别揉我奶头~嗯~啊~动态视频 | 亚洲一区中文字幕在线| 中文字幕亚洲精品专区| 亚洲欧美色中文字幕在线| 国产毛片在线视频| 欧美xxⅹ黑人| 国产精品偷伦视频观看了| 最近最新中文字幕免费大全7| 中文字幕最新亚洲高清| 热re99久久国产66热| 黄色视频在线播放观看不卡| 亚洲国产成人一精品久久久| 精品国产一区二区三区四区第35| 国产欧美亚洲国产| 精品福利永久在线观看| 国产极品粉嫩免费观看在线| 国产男人的电影天堂91| 两性夫妻黄色片| 免费观看a级毛片全部| 美女大奶头黄色视频| 亚洲伊人久久精品综合| 一级毛片电影观看| 王馨瑶露胸无遮挡在线观看| 午夜激情av网站| 人人妻,人人澡人人爽秒播 | 999精品在线视频| 日本欧美视频一区| 国产在线免费精品| 永久免费av网站大全| 日本一区二区免费在线视频| 男女高潮啪啪啪动态图| 王馨瑶露胸无遮挡在线观看| 亚洲欧美一区二区三区国产| 乱人伦中国视频| 黄色视频不卡| 1024视频免费在线观看| 日本vs欧美在线观看视频| 日韩成人av中文字幕在线观看| av电影中文网址| 国产欧美日韩一区二区三区在线| a级片在线免费高清观看视频| 成年美女黄网站色视频大全免费| 只有这里有精品99| 一本色道久久久久久精品综合| 精品少妇久久久久久888优播| 免费日韩欧美在线观看| 中文字幕制服av| 久久亚洲国产成人精品v| 成年美女黄网站色视频大全免费| 69精品国产乱码久久久| √禁漫天堂资源中文www| netflix在线观看网站| 麻豆精品久久久久久蜜桃| 国产日韩欧美在线精品| 黄色一级大片看看| 香蕉国产在线看| √禁漫天堂资源中文www| 夜夜骑夜夜射夜夜干| 免费黄网站久久成人精品| 国产又色又爽无遮挡免| 丝袜美腿诱惑在线| 日本午夜av视频| 亚洲精品国产一区二区精华液| 王馨瑶露胸无遮挡在线观看| 激情视频va一区二区三区| 精品国产一区二区三区四区第35| 岛国毛片在线播放| 最新的欧美精品一区二区| 日韩av免费高清视频| 天美传媒精品一区二区| 免费黄色在线免费观看| 波多野结衣av一区二区av| 亚洲国产看品久久| 成人午夜精彩视频在线观看| 国产黄色视频一区二区在线观看| 午夜福利视频在线观看免费| 亚洲成av片中文字幕在线观看| a级毛片在线看网站| 亚洲免费av在线视频| 在线观看免费高清a一片| 国产片特级美女逼逼视频| 精品亚洲成国产av| 精品人妻熟女毛片av久久网站| 一级,二级,三级黄色视频| 欧美日韩亚洲国产一区二区在线观看 | 欧美少妇被猛烈插入视频| av在线播放精品| 建设人人有责人人尽责人人享有的| 国产日韩欧美在线精品| 欧美日韩亚洲综合一区二区三区_| 街头女战士在线观看网站| √禁漫天堂资源中文www| 老司机亚洲免费影院| 亚洲欧美色中文字幕在线| 亚洲成人av在线免费| 精品一区二区三区四区五区乱码 | 69精品国产乱码久久久| 国产亚洲欧美精品永久| 国产av国产精品国产| 一级黄片播放器| 搡老岳熟女国产| 色网站视频免费| 精品国产一区二区久久| 久久ye,这里只有精品| 水蜜桃什么品种好| 一个人免费看片子| 女性生殖器流出的白浆| 欧美日韩视频精品一区| 久久热在线av| 国产亚洲一区二区精品| 亚洲人成网站在线观看播放| 国产熟女欧美一区二区| 欧美日韩成人在线一区二区| 一级片'在线观看视频| 9191精品国产免费久久| 蜜桃国产av成人99| 国产又色又爽无遮挡免| 中文天堂在线官网| 亚洲国产欧美在线一区| 99久久99久久久精品蜜桃| 狠狠精品人妻久久久久久综合| 亚洲国产精品999| 亚洲av中文av极速乱| 国产激情久久老熟女| 久久久久网色| 精品一品国产午夜福利视频| 精品国产乱码久久久久久男人| 久久久久视频综合| 99久国产av精品国产电影| 韩国精品一区二区三区| 五月开心婷婷网| 国产精品一国产av| 成人漫画全彩无遮挡| 麻豆精品久久久久久蜜桃| 久久天堂一区二区三区四区| 久久精品国产亚洲av高清一级| 亚洲免费av在线视频| 日韩免费高清中文字幕av| 极品少妇高潮喷水抽搐| 19禁男女啪啪无遮挡网站| 操出白浆在线播放| 国产1区2区3区精品| 在线观看www视频免费| 高清视频免费观看一区二区| 亚洲av中文av极速乱| 国产精品一区二区在线不卡| 精品少妇一区二区三区视频日本电影 | 久久久精品区二区三区| 精品一区二区三卡| 在线天堂最新版资源| 在线观看三级黄色| 在现免费观看毛片| 午夜免费观看性视频| 伊人亚洲综合成人网| 各种免费的搞黄视频| 亚洲综合精品二区| 伊人久久国产一区二区| 尾随美女入室| 亚洲国产看品久久| 国产深夜福利视频在线观看| avwww免费| 岛国毛片在线播放| 伊人久久国产一区二区| 欧美变态另类bdsm刘玥| 亚洲人成电影观看| 久久99热这里只频精品6学生| 18禁观看日本| 国产av码专区亚洲av| 欧美日韩亚洲国产一区二区在线观看 | 日韩电影二区| 纵有疾风起免费观看全集完整版| 国产成人啪精品午夜网站| 日韩中文字幕欧美一区二区 | 一本一本久久a久久精品综合妖精| av免费观看日本| 啦啦啦视频在线资源免费观看| 丁香六月天网| 国产女主播在线喷水免费视频网站| 久久影院123| 欧美 日韩 精品 国产| 国产精品.久久久| 狂野欧美激情性xxxx| 91精品国产国语对白视频| 天堂中文最新版在线下载| 欧美日韩成人在线一区二区| 日本av手机在线免费观看| 18禁动态无遮挡网站| 亚洲人成77777在线视频| 亚洲国产欧美在线一区| 亚洲精品第二区| 欧美日本中文国产一区发布| 日本vs欧美在线观看视频| 美女国产高潮福利片在线看| kizo精华| 日韩精品有码人妻一区| 老司机亚洲免费影院| 国产av一区二区精品久久| 国产精品无大码| 9191精品国产免费久久| 久久婷婷青草| 国产熟女午夜一区二区三区| 欧美乱码精品一区二区三区| 国产午夜精品一二区理论片| 街头女战士在线观看网站| 啦啦啦视频在线资源免费观看| 午夜福利视频在线观看免费| 亚洲av国产av综合av卡| 久久青草综合色| 涩涩av久久男人的天堂| 国产精品久久久久久人妻精品电影 | 一级,二级,三级黄色视频| 久久热在线av| 激情视频va一区二区三区| 午夜福利免费观看在线| 亚洲av福利一区| 如何舔出高潮| 精品国产露脸久久av麻豆| 欧美少妇被猛烈插入视频| 午夜精品国产一区二区电影| 亚洲第一区二区三区不卡| 国产男人的电影天堂91| 亚洲av综合色区一区| 天天添夜夜摸| 男女边吃奶边做爰视频| 在线亚洲精品国产二区图片欧美| 国产成人精品久久久久久| 久久综合国产亚洲精品| 精品亚洲乱码少妇综合久久| 麻豆av在线久日| 91精品伊人久久大香线蕉| 无遮挡黄片免费观看| 1024视频免费在线观看| 午夜日韩欧美国产| 青春草视频在线免费观看| 国产 一区精品| 嫩草影院入口| 美女中出高潮动态图| 国产女主播在线喷水免费视频网站| 久久午夜综合久久蜜桃| 嫩草影视91久久| 满18在线观看网站| 丰满迷人的少妇在线观看| 久久人人97超碰香蕉20202| 午夜福利网站1000一区二区三区| 成人漫画全彩无遮挡| videos熟女内射| 一级,二级,三级黄色视频| 一二三四中文在线观看免费高清| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲精品,欧美精品| 欧美乱码精品一区二区三区| 亚洲人成网站在线观看播放| 国产精品秋霞免费鲁丝片| 久久人人爽人人片av| 日韩熟女老妇一区二区性免费视频| 国产精品免费大片| 国产精品一二三区在线看| 久久鲁丝午夜福利片| 国产精品人妻久久久影院| 老司机亚洲免费影院| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲色图 男人天堂 中文字幕| 99久国产av精品国产电影| 精品人妻熟女毛片av久久网站| 桃花免费在线播放| 中文乱码字字幕精品一区二区三区| 国产欧美亚洲国产| 亚洲精品国产一区二区精华液| 国产欧美日韩一区二区三区在线| 制服丝袜香蕉在线| 亚洲,一卡二卡三卡| 精品一品国产午夜福利视频| 免费在线观看黄色视频的| 国产精品免费视频内射| 成人免费观看视频高清| 国产精品欧美亚洲77777| 亚洲精品一区蜜桃| 亚洲人成电影观看| 午夜福利影视在线免费观看| 男女床上黄色一级片免费看| 成人三级做爰电影| 熟妇人妻不卡中文字幕| 久久免费观看电影| 精品少妇内射三级| 宅男免费午夜| 国产极品粉嫩免费观看在线| 最近的中文字幕免费完整| 天天添夜夜摸| 黑人欧美特级aaaaaa片| 青春草视频在线免费观看| 亚洲av成人精品一二三区| 一级a爱视频在线免费观看| 久久国产精品大桥未久av| 国产一区二区 视频在线| 亚洲国产毛片av蜜桃av| 国产一区二区三区av在线| 丝瓜视频免费看黄片| 老汉色av国产亚洲站长工具| 2018国产大陆天天弄谢| 亚洲av在线观看美女高潮| 黄片无遮挡物在线观看| 一二三四在线观看免费中文在| 精品国产露脸久久av麻豆| 啦啦啦视频在线资源免费观看| 免费在线观看完整版高清| 国产激情久久老熟女| 国产亚洲精品第一综合不卡| 国产精品一国产av| 97精品久久久久久久久久精品| 狠狠婷婷综合久久久久久88av| 中文字幕高清在线视频| 日本黄色日本黄色录像| 国产精品一区二区在线不卡| 精品国产一区二区三区四区第35| 一区二区av电影网| 蜜桃国产av成人99| 这个男人来自地球电影免费观看 | 黑丝袜美女国产一区| 国产一区亚洲一区在线观看| 在线亚洲精品国产二区图片欧美| 成年人午夜在线观看视频| 精品国产一区二区三区久久久樱花| 久久99热这里只频精品6学生| 国产成人午夜福利电影在线观看| 午夜激情久久久久久久| 丁香六月天网| 免费在线观看黄色视频的| 国产精品一二三区在线看| 中文天堂在线官网| 色婷婷久久久亚洲欧美| 叶爱在线成人免费视频播放| 卡戴珊不雅视频在线播放| 一本一本久久a久久精品综合妖精| svipshipincom国产片| 精品国产一区二区三区四区第35| 国产成人欧美在线观看 | 男女高潮啪啪啪动态图| 久久精品熟女亚洲av麻豆精品| 国产成人免费观看mmmm| 男人舔女人的私密视频| 日本午夜av视频| 一边摸一边做爽爽视频免费| 亚洲七黄色美女视频| 久久 成人 亚洲| 日本黄色日本黄色录像| 久久综合国产亚洲精品| av视频免费观看在线观看| av网站在线播放免费| 日本91视频免费播放| 人人妻人人澡人人看| 蜜桃国产av成人99| 久久性视频一级片| 亚洲欧美日韩另类电影网站| 亚洲av日韩在线播放| 夜夜骑夜夜射夜夜干| 亚洲成人av在线免费| 嫩草影院入口| 性高湖久久久久久久久免费观看| 综合色丁香网| 深夜精品福利| 亚洲情色 制服丝袜| 尾随美女入室| 成人18禁高潮啪啪吃奶动态图| 久久毛片免费看一区二区三区| 亚洲国产中文字幕在线视频| 欧美黑人精品巨大| svipshipincom国产片| 80岁老熟妇乱子伦牲交| 中文精品一卡2卡3卡4更新| 国产成人系列免费观看| 国产成人91sexporn| 精品人妻一区二区三区麻豆| 亚洲国产av新网站| 久久人人97超碰香蕉20202| 欧美日韩福利视频一区二区| 悠悠久久av| 99香蕉大伊视频| 老司机靠b影院| 看非洲黑人一级黄片| 男人舔女人的私密视频| 欧美日韩一级在线毛片| 女的被弄到高潮叫床怎么办| 欧美日韩视频精品一区| 美女视频免费永久观看网站| 哪个播放器可以免费观看大片| 韩国高清视频一区二区三区| a级毛片在线看网站| 秋霞在线观看毛片| 国产黄频视频在线观看| 热re99久久精品国产66热6| 亚洲美女黄色视频免费看| 丰满饥渴人妻一区二区三| 免费高清在线观看视频在线观看| 国产精品国产三级国产专区5o| 中文欧美无线码| 女人被躁到高潮嗷嗷叫费观| 欧美日韩福利视频一区二区| 久久久久久久大尺度免费视频| 久久精品久久久久久噜噜老黄| 在线亚洲精品国产二区图片欧美| 欧美人与性动交α欧美精品济南到| 纯流量卡能插随身wifi吗| 别揉我奶头~嗯~啊~动态视频 | √禁漫天堂资源中文www| 考比视频在线观看| 成人影院久久| 尾随美女入室| 校园人妻丝袜中文字幕| 黄色视频不卡| 热re99久久国产66热| 国产熟女欧美一区二区| 99久国产av精品国产电影| 满18在线观看网站| 精品卡一卡二卡四卡免费| 午夜福利,免费看| 日本爱情动作片www.在线观看| 国产成人午夜福利电影在线观看| 亚洲精品乱久久久久久| 亚洲美女搞黄在线观看| 成人国产麻豆网| 亚洲成人免费av在线播放| 成年女人毛片免费观看观看9 | 欧美另类一区| 欧美老熟妇乱子伦牲交| 亚洲精品久久午夜乱码| 19禁男女啪啪无遮挡网站| 男男h啪啪无遮挡| 99国产综合亚洲精品| 欧美国产精品va在线观看不卡| 男女下面插进去视频免费观看| 中文乱码字字幕精品一区二区三区| 中文天堂在线官网| 精品少妇一区二区三区视频日本电影 | 亚洲国产欧美一区二区综合| 97精品久久久久久久久久精品| 久久99精品国语久久久| 欧美 日韩 精品 国产| 精品一区二区三区四区五区乱码 | 最近2019中文字幕mv第一页| 1024视频免费在线观看| 在线观看www视频免费| 99香蕉大伊视频| 极品少妇高潮喷水抽搐| xxx大片免费视频| 国产av一区二区精品久久| 久久影院123| 九草在线视频观看| 亚洲综合精品二区| 男的添女的下面高潮视频| 亚洲精品在线美女| 视频区图区小说| 国产精品久久久av美女十八| 夫妻午夜视频| 99国产精品免费福利视频| 丝袜美足系列| 欧美xxⅹ黑人| 久久人人爽人人片av| 亚洲熟女精品中文字幕| www.自偷自拍.com| 午夜激情久久久久久久| 熟女av电影| 一区二区三区四区激情视频| 欧美日韩综合久久久久久| 美女国产高潮福利片在线看| 国产精品偷伦视频观看了| 自线自在国产av| 亚洲av福利一区| 国产精品久久久人人做人人爽| 人人妻人人添人人爽欧美一区卜| 久久精品人人爽人人爽视色| 在线 av 中文字幕| 汤姆久久久久久久影院中文字幕| 欧美日韩亚洲高清精品|