• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能創(chuàng)作物信息披露問題的著作權(quán)法規(guī)制*

    2022-12-17 13:12:27王影航
    中國科技期刊研究 2022年21期
    關(guān)鍵詞:識(shí)別性著作權(quán)法創(chuàng)作

    □文│王影航

    近年來,人工智能(artificial intelligence,即AI)在創(chuàng)作領(lǐng)域的運(yùn)用日漸增多。AI機(jī)器人在新聞寫作、文學(xué)創(chuàng)作、圖片生成、視頻與音樂制作等方面所生成內(nèi)容的創(chuàng)造性不亞于人類作品,甚至由此衍生出“AI創(chuàng)作”(AI creation)的概念。[1]在學(xué)界與實(shí)務(wù)部門普遍認(rèn)為AI創(chuàng)作物不屬于人類作品的情況下,如何識(shí)別AI創(chuàng)作物與人類作品,已成為不容忽視的重要問題。[2]現(xiàn)實(shí)中,隨著AI創(chuàng)作軟件走向應(yīng)用端,AI創(chuàng)作物信息披露缺失的情況越發(fā)嚴(yán)重。眼下,已有司法判決注意到這一問題。在菲林律所訴百度網(wǎng)訊公司一案中,原告并未披露涉案內(nèi)容是由AI創(chuàng)作的,而法院認(rèn)為人工智能使用者有義務(wù)在創(chuàng)作物中添加軟件標(biāo)識(shí),標(biāo)明“系軟件自動(dòng)生成”,否則有悖誠信原則。[3]在學(xué)界,人工智能創(chuàng)作物的識(shí)別及其相關(guān)信息披露問題卻鮮有學(xué)者予以關(guān)注。有學(xué)者曾反思道,人工智能創(chuàng)作物因信息披露缺失而實(shí)際上受到著作權(quán)保護(hù),是當(dāng)下舉證規(guī)則造成的現(xiàn)象,但沒有提出具體的解決對(duì)策。[4]事實(shí)上,從保障版權(quán)市場秩序與有關(guān)產(chǎn)業(yè)安全效益的層面出發(fā),除了在創(chuàng)作物上添加軟件標(biāo)識(shí),AI軟件研發(fā)者或者使用者是否應(yīng)承擔(dān)更多的信息披露義務(wù)?除了AI研發(fā)者與使用者,是否還有其他主體諸如AI創(chuàng)作物的傳播者、利用者,應(yīng)履行與其合法權(quán)益相匹配的信息披露義務(wù)?相關(guān)主體未履行信息披露義務(wù)必須承擔(dān)怎樣的法律責(zé)任,如何保障相關(guān)主體高效便利地履行信息披露義務(wù)?這些問題仍有待進(jìn)一步探索。

    一、AI創(chuàng)作物信息披露的應(yīng)然范圍與規(guī)制依據(jù)

    與傳統(tǒng)人類作品相比,AI創(chuàng)作物所涉及的主體信息、技術(shù)信息與行為模式更加復(fù)雜。[5]從人工智能法律治理的基本趨勢與強(qiáng)調(diào)現(xiàn)代性風(fēng)險(xiǎn)防控的風(fēng)險(xiǎn)社會(huì)理論出發(fā),AI創(chuàng)作物在發(fā)布時(shí)應(yīng)當(dāng)予以披露的信息至少包括以下兩大類:

    1. AI創(chuàng)作物識(shí)別性信息:基于著作權(quán)法區(qū)分規(guī)制AI創(chuàng)作物與人類作品之需

    國際知識(shí)產(chǎn)權(quán)協(xié)會(huì)(AIPPI)于2019年的調(diào)查顯示,區(qū)分AI創(chuàng)作活動(dòng)與人類創(chuàng)作行為,合理有差異地規(guī)制AI創(chuàng)作物與人類作品,同時(shí)在AI創(chuàng)作物內(nèi)部根據(jù)人類干預(yù)程度的高低進(jìn)行區(qū)別保護(hù),系當(dāng)下世界各國關(guān)于AI創(chuàng)作物權(quán)益保護(hù)的主流觀點(diǎn)。[6]在AI創(chuàng)作物與人類作品的外觀高度相似的情況下,進(jìn)行區(qū)分保護(hù)的前提是具有足夠的信息識(shí)別兩者。因此,立法者應(yīng)當(dāng)對(duì)AI創(chuàng)作物識(shí)別性信息的披露進(jìn)行必要的規(guī)制,這是著作權(quán)法落實(shí)誠實(shí)信用原則以及維護(hù)版權(quán)市場交易秩序的必要舉措,也是基于分配正義的要求合理甄別與規(guī)范不同創(chuàng)作高度的AI創(chuàng)作物的應(yīng)有之義。值得注意的是,從AI創(chuàng)作物內(nèi)部出現(xiàn)區(qū)分保護(hù)趨勢的基本要求出發(fā),AI創(chuàng)作物識(shí)別性信息的范圍,不能限于“創(chuàng)作物源于AI”的簡單標(biāo)志,而要結(jié)合甄別與規(guī)范AI創(chuàng)作物的需要予以擴(kuò)大與細(xì)化。具體而言,AI創(chuàng)作物識(shí)別性信息至少包括以下兩類:

    一是外觀識(shí)別性信息,包括但不限于AI創(chuàng)作物的特定標(biāo)志以及其他突出提醒創(chuàng)作物標(biāo)志的信息。AI創(chuàng)作物外觀識(shí)別性信息的披露目的,在于區(qū)分權(quán)利外觀高度相似的AI創(chuàng)作物與人類作品??紤]到AI創(chuàng)作技術(shù)的飛速發(fā)展以及人類社會(huì)的天然惰性與趨利性,若AI創(chuàng)作物外觀識(shí)別性信息不納入強(qiáng)制披露的范圍,或發(fā)生一些潛在問題,如某些單位或個(gè)人為了謀取有關(guān)內(nèi)容的“作者”之名以及相關(guān)利益而修飾AI創(chuàng)作物,不僅可能以“濫用作品侵權(quán)之訴”的形式干擾他人對(duì)AI創(chuàng)作物的合理使用,還可能以“批量低成本生產(chǎn)”的優(yōu)勢反向打壓其他自然人創(chuàng)作的積極性,進(jìn)而影響版權(quán)市場秩序的穩(wěn)定以及著作權(quán)法所倡導(dǎo)的文化繁榮。

    二是權(quán)益識(shí)別性信息,包括但不限于AI創(chuàng)作軟件信息、創(chuàng)作物權(quán)屬聲明、權(quán)益管理信息以及其他反映人類獨(dú)創(chuàng)性干預(yù)的相關(guān)信息。AI創(chuàng)作物權(quán)益識(shí)別性信息的披露目的,在于區(qū)分人類干預(yù)程度不同的AI創(chuàng)作物,從而決定賦予相應(yīng)創(chuàng)作物以何種形態(tài)的法律保護(hù)。從AIPPI的調(diào)查結(jié)果來看,對(duì)于人類具有獨(dú)創(chuàng)性干預(yù)的AI創(chuàng)作物,各國基本承認(rèn)其保護(hù)的必要性,并嘗試給予其接近狹義著作權(quán)或者鄰接權(quán)的保護(hù);而對(duì)于不具有人類獨(dú)創(chuàng)性干預(yù)的AI創(chuàng)作物,各國基本認(rèn)為應(yīng)不予保護(hù)或給予較弱的保護(hù)。在我國的司法實(shí)踐中,北京知識(shí)產(chǎn)權(quán)法院曾基于人類干預(yù)不足而認(rèn)定AI創(chuàng)作的檢索報(bào)告不屬于人類作品,并從激勵(lì)論出發(fā)將相關(guān)權(quán)益賦予AI使用者;深圳市南山區(qū)人民法院則基于研發(fā)者的深度干預(yù),認(rèn)定AI撰寫的新聞稿屬于法人作品,其著作權(quán)屬于組織創(chuàng)作的單位。[7]由此可見,有關(guān)人類干預(yù)程度等權(quán)益識(shí)別性信息的披露,對(duì)于保障AI創(chuàng)作的基本秩序極為重要,應(yīng)當(dāng)創(chuàng)設(shè)規(guī)則識(shí)別AI創(chuàng)作物在生成過程中的人類干預(yù)程度,以實(shí)現(xiàn)區(qū)別保護(hù)與規(guī)范的目的。

    2. AI創(chuàng)作物技術(shù)性信息:基于防控AI創(chuàng)作現(xiàn)代性風(fēng)險(xiǎn)之需

    AI的創(chuàng)作活動(dòng)相比于人類創(chuàng)作行為,增加了更多技術(shù)性的內(nèi)容,相應(yīng)會(huì)產(chǎn)生更多技術(shù)上的風(fēng)險(xiǎn)。當(dāng)下,AI技術(shù)受到純理性開發(fā)思維的影響,在應(yīng)用過程中已經(jīng)出現(xiàn)過系統(tǒng)性歧視、大規(guī)模抄襲的事件。例如,美國法院曾利用智能算法COMPAS評(píng)估罪犯的犯罪風(fēng)險(xiǎn),但是該算法所出臺(tái)的報(bào)告被證實(shí)含有對(duì)黑人的系統(tǒng)性歧視;德國科學(xué)家曾利用AI軟件批量復(fù)制名人畫家風(fēng)格的產(chǎn)品,并因此陷入了抄襲糾紛。[8]有學(xué)者反思到,AI算法決策模型是一個(gè)表達(dá)高度趨同、有利于偏見生成的模型。[9]故而有理由懷疑,AI創(chuàng)作技術(shù)在推廣應(yīng)用中可能出現(xiàn)新的、危害更大的技術(shù)風(fēng)險(xiǎn),包括但不限于由于算法決策導(dǎo)致的大規(guī)模隱私泄露、AI嚴(yán)重打壓自然人創(chuàng)作、AI創(chuàng)作內(nèi)容威脅公共安全等。這些風(fēng)險(xiǎn)是典型的現(xiàn)代性風(fēng)險(xiǎn),往往后果是難以預(yù)料的,亟需提前防控。[10]從風(fēng)險(xiǎn)社會(huì)理論上來看,除了識(shí)別性信息,我們還需要足夠的關(guān)于AI創(chuàng)作物的技術(shù)性信息來化解潛在的技術(shù)風(fēng)險(xiǎn)。

    根據(jù)風(fēng)險(xiǎn)社會(huì)理論,由于新的技術(shù)解決方案會(huì)造成新的不確定性后果,因此現(xiàn)代性的技術(shù)風(fēng)險(xiǎn)是無法通過技術(shù)本身的發(fā)展來解決的,只能通過有效的信息披露與公眾監(jiān)督予以對(duì)抗和化解。[11]2019年年末,一款使用深度偽造技術(shù)(DEEPFAKES)的AI換臉軟件“ZAO”火爆全網(wǎng),其下載量迅速攀升。但是直到發(fā)布后的第三天,“ZAO”才因存在大規(guī)模侵犯肖像權(quán)、泄露用戶隱私、公共事件“造假”等風(fēng)險(xiǎn)而被強(qiáng)制下架。[12]此案例警示我們,忽略AI創(chuàng)作物技術(shù)性信息披露問題,可能錯(cuò)過提前規(guī)制的時(shí)機(jī),從而放任AI創(chuàng)作過程之中可能出現(xiàn)的諸多風(fēng)險(xiǎn)。立法者應(yīng)對(duì)AI創(chuàng)作物技術(shù)性信息的披露做出必要的制度安排,來保障社會(huì)公眾或其他監(jiān)督主體對(duì)AI創(chuàng)作技術(shù)風(fēng)險(xiǎn)的有效防控,進(jìn)而實(shí)現(xiàn)AI創(chuàng)作技術(shù)“造福于民”的最終目的。

    從AI創(chuàng)作原理及其風(fēng)險(xiǎn)防控要求出發(fā),AI創(chuàng)作物技術(shù)性信息至少要包括以下兩部分的內(nèi)容:一是數(shù)據(jù)性信息,包括AI創(chuàng)作物所涉數(shù)據(jù)的來源與使用信息。因?yàn)锳I創(chuàng)作活動(dòng)可能涉及一些未脫敏的個(gè)人信息或侵權(quán)內(nèi)容。若缺乏必要的監(jiān)管與限制,AI對(duì)這些數(shù)據(jù)的使用可能會(huì)引發(fā)大規(guī)模的侵權(quán)現(xiàn)象。二是算法性信息,即AI創(chuàng)作物賴以生成的算法代碼及其技術(shù)效果。缺乏監(jiān)管的AI算法可能裝進(jìn)了過度的商業(yè)資本追求、價(jià)值偏好和不公正因素,進(jìn)而侵蝕大眾權(quán)益。[13]雖然,AI創(chuàng)作物所涉數(shù)據(jù)與算法等技術(shù)性信息的披露,必須考慮披露成本與效益之間的平衡問題,但是從技術(shù)原理上看,數(shù)據(jù)與算法是AI創(chuàng)作軟件的核心與基礎(chǔ),同時(shí)也是AI侵犯他人權(quán)益或引發(fā)技術(shù)風(fēng)險(xiǎn)的根源。[14]AI創(chuàng)作物所涉數(shù)據(jù)與算法等技術(shù)性信息的披露將為規(guī)制AI技術(shù)提供更合理的操作空間——社會(huì)公眾、技術(shù)監(jiān)管部門乃至司法機(jī)關(guān)可以在此基礎(chǔ)上發(fā)揮各自的作用,對(duì)AI技術(shù)所產(chǎn)生的外部效用進(jìn)行評(píng)價(jià),并對(duì)有關(guān)數(shù)據(jù)的使用與算法的運(yùn)行進(jìn)行提前管控與實(shí)時(shí)監(jiān)督。

    二、我國著作權(quán)法與網(wǎng)絡(luò)內(nèi)容治理相關(guān)規(guī)定的規(guī)制挑戰(zhàn)

    AI創(chuàng)作物信息的披露價(jià)值隨著AI技術(shù)及其法治理念的發(fā)展不斷延伸,業(yè)已涵蓋了維護(hù)數(shù)字時(shí)代版權(quán)市場秩序與防控智能技術(shù)風(fēng)險(xiǎn)等多個(gè)維度。然而,面對(duì)AI創(chuàng)作物信息披露主體的不作為或故意隱匿行為,我國著作權(quán)法與網(wǎng)絡(luò)內(nèi)容治理領(lǐng)域相關(guān)規(guī)定存在一定程度的適用爭議或立法滯后問題,具體體現(xiàn)在:

    1.著作權(quán)法關(guān)于作品信息披露與保護(hù)規(guī)定的適用爭議

    我國著作權(quán)法是通過“署名權(quán)”“權(quán)利管理信息保護(hù)”等相關(guān)規(guī)定,來解決作品傳播過程中識(shí)別性信息披露與保護(hù)問題的。但是,在AI創(chuàng)作物生成與傳播的情境下,不能機(jī)械地適用著作權(quán)法的相關(guān)規(guī)定。

    一方面,在AI創(chuàng)作物是否屬于作品及其權(quán)屬未定的情況下,無法確定行使署名權(quán)或禁止他人破壞權(quán)利管理電子信息的適格主體。由于我國已有司法判決認(rèn)定AI創(chuàng)作物不屬于人類創(chuàng)作的作品或制品,[15]從解釋論的角度出發(fā),AI創(chuàng)作物之上的識(shí)別性信息不屬于著作權(quán)法所保護(hù)的作者署名或作品權(quán)利管理電子信息。若一些用戶去除AI創(chuàng)作物之上的識(shí)別性信息,能否參照著作權(quán)法的相關(guān)規(guī)定予以規(guī)制,尚不明確。

    另一方面,著作權(quán)法的相關(guān)規(guī)定屬于賦權(quán)性規(guī)范,僅賦予權(quán)利主體以署名權(quán)或禁止他人破壞權(quán)利管理電子信息的權(quán)利,而不要求其履行任何強(qiáng)制性信息披露義務(wù),容易導(dǎo)致一種事實(shí)上的“道德風(fēng)險(xiǎn)”:一旦“真實(shí)的信息披露(署名)”將導(dǎo)致某些內(nèi)容的保護(hù)力度下降甚至被排除在保護(hù)范圍之外,那么違背誠信原則的、不真實(shí)的信息披露情況(署名)必然會(huì)大量出現(xiàn)。[16]換言之,機(jī)械地適用著作權(quán)法的相關(guān)規(guī)定,反而引發(fā)版權(quán)信用的危機(jī)。

    2.網(wǎng)絡(luò)內(nèi)容治理相關(guān)規(guī)定針對(duì)性不足

    除了著作權(quán)法領(lǐng)域相關(guān)法律法規(guī),我國涉及AI創(chuàng)作物信息披露的相關(guān)規(guī)定還分散在《網(wǎng)絡(luò)出版服務(wù)管理規(guī)定》《電子商務(wù)法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等網(wǎng)絡(luò)內(nèi)容治理文件之中。但是,這些規(guī)定同樣無法全面回應(yīng)人工智能創(chuàng)作物識(shí)別性信息與技術(shù)性信息披露缺失的問題。

    一方面,網(wǎng)絡(luò)內(nèi)容治理相關(guān)規(guī)定強(qiáng)制披露的信息范圍沒有明確涵蓋AI創(chuàng)作物權(quán)益識(shí)別性信息與技術(shù)性信息。我國《網(wǎng)絡(luò)出版服務(wù)管理規(guī)定》明確要求對(duì)網(wǎng)絡(luò)出版物實(shí)行標(biāo)識(shí)管理,但是沒有規(guī)定AI創(chuàng)作物如何進(jìn)行標(biāo)識(shí)。另一方面,網(wǎng)絡(luò)內(nèi)容治理相關(guān)規(guī)定通常將披露義務(wù)主體限定為“網(wǎng)絡(luò)運(yùn)營者”或“網(wǎng)絡(luò)服務(wù)提供者”,無法涵蓋AI創(chuàng)作物生成與傳播全鏈條上所有相關(guān)義務(wù)主體。我國《電子商務(wù)法》關(guān)于“電子商務(wù)經(jīng)營者應(yīng)全面、真實(shí)、準(zhǔn)確、及時(shí)地披露商品或服務(wù)信息”、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》關(guān)于“網(wǎng)絡(luò)服務(wù)提供者發(fā)布信息不得損害他人合法權(quán)益”的強(qiáng)制性規(guī)定,可在電子商務(wù)、網(wǎng)絡(luò)內(nèi)容服務(wù)等特定情境下回應(yīng)AI創(chuàng)作物部分信息缺失的問題。但在這些規(guī)定中,信息披露義務(wù)主體是網(wǎng)絡(luò)運(yùn)營者或網(wǎng)絡(luò)服務(wù)提供者。一些上傳AI創(chuàng)作物的用戶以及在AI創(chuàng)作物基礎(chǔ)上進(jìn)行演繹創(chuàng)作的用戶,理應(yīng)披露有關(guān)創(chuàng)作物的外觀與權(quán)益信息,卻明顯不屬于“網(wǎng)絡(luò)運(yùn)營者”或“網(wǎng)絡(luò)服務(wù)提供者”。又如,理應(yīng)披露技術(shù)性信息的AI研發(fā)者,除非同時(shí)從事網(wǎng)絡(luò)運(yùn)營或網(wǎng)絡(luò)服務(wù),否則難以被認(rèn)定為“網(wǎng)絡(luò)運(yùn)營者”或“網(wǎng)絡(luò)服務(wù)提供者”??梢?,對(duì)于AI創(chuàng)作物信息披露問題,網(wǎng)絡(luò)內(nèi)容治理相關(guān)規(guī)定往往存在規(guī)制主體范圍過窄的局限性。

    三、我國著作權(quán)法構(gòu)造AI創(chuàng)作物信息披露制度的具體對(duì)策

    鑒于AI創(chuàng)作物與人類作品之間的相似性與密切聯(lián)系,以及著作權(quán)法保障版權(quán)市場秩序的立法宗旨,筆者認(rèn)為可通過完善我國著作權(quán)法的相關(guān)規(guī)定,就AI創(chuàng)作物信息披露問題進(jìn)行合理全面的規(guī)范。具體而言,可逐步采取以下對(duì)策。

    1.增設(shè)AI創(chuàng)作物專規(guī),明確相關(guān)主體信息披露義務(wù)內(nèi)容

    由于AI創(chuàng)作物的生成與傳播是一個(gè)多主體參與的過程,參與主體不僅包括作為潛在權(quán)益主體的AI研發(fā)者、使用者,也包括AI創(chuàng)作物的傳播者、消費(fèi)者等受益主體,因此,我國宜在《著作權(quán)法》或相關(guān)行政法規(guī)中增設(shè)專項(xiàng)規(guī)范,重點(diǎn)厘清并完善涵蓋AI創(chuàng)作軟件研發(fā)者、使用者以及創(chuàng)作物傳播者的信息披露義務(wù)體系。

    第一,明確AI使用者對(duì)AI創(chuàng)作物識(shí)別性信息的披露義務(wù)。AI使用者,作為現(xiàn)行判例所認(rèn)定的AI創(chuàng)作物權(quán)益所有者,根據(jù)分配正義的基本法理應(yīng)當(dāng)承擔(dān)區(qū)分AI創(chuàng)作物與人類作品的義務(wù)。建議在前述AI創(chuàng)作物專規(guī)中規(guī)定“AI使用者在發(fā)布AI創(chuàng)作物時(shí)應(yīng)當(dāng)披露有關(guān)AI創(chuàng)作物外觀與權(quán)益的基本信息”。這些信息不僅應(yīng)包括“由AI創(chuàng)作產(chǎn)生”的標(biāo)志及其提醒信息,而且包括AI創(chuàng)作軟件版本信息、權(quán)益所有者信息與權(quán)屬聲明、AI創(chuàng)作時(shí)間與基本方式、AI創(chuàng)作物后續(xù)使用條件等權(quán)益性信息。前者,可以簡稱為AI創(chuàng)作標(biāo)志;后者則類似自然人作品的權(quán)利管理電子信息,也可稱為AI創(chuàng)作物的類權(quán)利管理電子信息。AI使用者履行上述信息的披露義務(wù),必須使得AI創(chuàng)作物與人類作品區(qū)分開來,同時(shí)讓創(chuàng)作物傳播者、后續(xù)消費(fèi)者乃至司法審判機(jī)關(guān)得以判斷有關(guān)創(chuàng)作物中的人類干預(yù)程度,并可以與AI創(chuàng)作物的權(quán)益所有人取得聯(lián)系。

    第二,禁止AI創(chuàng)作物的傳播者(包括有關(guān)演繹產(chǎn)物傳播者)刪除或改變AI創(chuàng)作物的AI創(chuàng)作標(biāo)志與類權(quán)利管理電子信息。可以參照我國《著作權(quán)法》關(guān)于保護(hù)作品權(quán)利管理電子信息的有關(guān)條款,在有關(guān)AI創(chuàng)作物專規(guī)增設(shè)以下內(nèi)容:任何人對(duì)外傳播AI創(chuàng)作物,不得刪除或改變原AI創(chuàng)作物的AI創(chuàng)作標(biāo)志與類權(quán)利管理電子信息;在AI創(chuàng)作物的基礎(chǔ)上進(jìn)行演繹而創(chuàng)作出新的作品或其他創(chuàng)作物(以下簡稱“演繹產(chǎn)物”),必須表明該產(chǎn)物經(jīng)由AI創(chuàng)作物演繹而來,并在其有關(guān)權(quán)利管理電子信息中保留原AI創(chuàng)作物的AI創(chuàng)作標(biāo)志與類權(quán)利管理電子信息。如此規(guī)定,有利于保障AI創(chuàng)作物識(shí)別性信息在傳播過程中的完整性與可接觸性,幫助社會(huì)公眾或監(jiān)管部門追溯原AI創(chuàng)作物,從而對(duì)AI創(chuàng)作物的利用與傳播行為進(jìn)行合理的監(jiān)督與規(guī)范。

    第三,基于AI創(chuàng)作物技術(shù)性信息的風(fēng)險(xiǎn)防控價(jià)值,還可進(jìn)一步規(guī)定AI研發(fā)者對(duì)于AI創(chuàng)作物技術(shù)性信息披露義務(wù)。國際計(jì)算機(jī)協(xié)會(huì)美國公共政策委員會(huì)(USACM)和歐洲委員會(huì)(EUACM)意識(shí)到AI創(chuàng)作算法與數(shù)據(jù)的信息披露與規(guī)制問題,在2017年發(fā)布了《算法透明性和可問責(zé)性聲明》,要求算法的構(gòu)建者對(duì)數(shù)據(jù)的收集進(jìn)行描述;同時(shí)表態(tài)強(qiáng)調(diào)了算法透明性與可解釋性的重要性,鼓勵(lì)有關(guān)組織和機(jī)構(gòu)對(duì)算法程序及其決策過程進(jìn)行解釋,以保證算法運(yùn)行結(jié)果的合理性與科學(xué)性。[17]以此為鑒,我國可以就AI創(chuàng)作物技術(shù)性信息的披露義務(wù)做出明確的規(guī)定。第一,可要求研發(fā)者通過合理的方式披露AI創(chuàng)作軟件的算法代碼及其技術(shù)效果。這些信息的披露,不僅有利于發(fā)揮 “白帽黑客”(White-hat hacker)等民間團(tuán)體以及專業(yè)監(jiān)管部門的力量,及時(shí)發(fā)現(xiàn)算法代碼的缺陷,挖掘有關(guān)技術(shù)的潛在漏洞與風(fēng)險(xiǎn),而且有利于社會(huì)公眾第一時(shí)間發(fā)現(xiàn)軟件運(yùn)行效果的異常,進(jìn)行及時(shí)反饋。第二,可要求研發(fā)者披露并說明AI創(chuàng)作所涉數(shù)據(jù)的來源與使用信息,具體包括研發(fā)者收集和使用數(shù)據(jù)的目的、規(guī)模、方式、范圍、類型、期限等。當(dāng)然,前述AI技術(shù)性信息的披露,難免涉及企業(yè)商業(yè)秘密保護(hù)問題,也必然增加研發(fā)者開發(fā)利用有關(guān)AI創(chuàng)作軟件的成本。因此,我們強(qiáng)調(diào)AI創(chuàng)作物技術(shù)性信息的披露方式應(yīng)當(dāng)是合理有效的,必須以符合比例原則的目的合理性、信息相關(guān)性、最小負(fù)擔(dān)性為標(biāo)準(zhǔn)進(jìn)行規(guī)定。其中,目的合理性是指AI創(chuàng)作物技術(shù)性信息的披露方式必須明確合理地以識(shí)別AI創(chuàng)作物、規(guī)避AI創(chuàng)作技術(shù)風(fēng)險(xiǎn)為目的;信息相關(guān)性,是指經(jīng)要求披露的信息必須與前述目的密切相關(guān),一般不存在籠統(tǒng)公開AI創(chuàng)作物所有技術(shù)性信息的情況;最小負(fù)擔(dān)性,是指在同等條件下,要選擇對(duì)履行披露義務(wù)的單位或個(gè)人負(fù)擔(dān)最小的披露方式。[18]一般而言,只要求研發(fā)者在軟件備案或登記時(shí)向主管部門的專業(yè)監(jiān)管機(jī)構(gòu)上報(bào)相關(guān)算法代碼與數(shù)據(jù)庫信息,并接受主管部門組織的安全評(píng)估和合規(guī)審查;確需向廣大用戶公開有關(guān)技術(shù)性信息的,研發(fā)者可在軟件許可使用協(xié)議或隱私協(xié)議中以相對(duì)集中、明顯的方式告知用戶相關(guān)算法代碼的查詢方式與技術(shù)效果以及相關(guān)數(shù)據(jù)信息的溯源方法與使用規(guī)則。

    2.細(xì)化披露瑕疵責(zé)任,確保信息披露義務(wù)條款的有效履行

    在明確AI創(chuàng)作物相關(guān)方信息披露義務(wù)的基礎(chǔ)上,我國還應(yīng)當(dāng)進(jìn)一步明確AI使用者、研發(fā)者以及AI創(chuàng)作物傳播者在有關(guān)信息披露存在瑕疵的情況下應(yīng)承擔(dān)的法律責(zé)任,通過法律的強(qiáng)制力保證相關(guān)義務(wù)條款的實(shí)施效果,具體如下:

    第一,若發(fā)布AI創(chuàng)作物時(shí),沒有完整地披露AI創(chuàng)作標(biāo)志與類權(quán)利管理電子信息,導(dǎo)致其他主體無法識(shí)別該創(chuàng)作物的,應(yīng)剝奪AI使用者因他人認(rèn)知錯(cuò)誤而謀取的不當(dāng)收益。情節(jié)嚴(yán)重的,可進(jìn)一步追究AI使用者的其他法律責(zé)任。建議比照專利權(quán)無效制度的規(guī)定,在AI使用者存在披露瑕疵的情況下,因其惡意行為給他人造成的損失,包括但不限于以AI創(chuàng)作物“作者”為名要求他人支付的版權(quán)許可費(fèi)用或侵權(quán)賠償費(fèi)用,AI使用者應(yīng)當(dāng)予以賠償;AI使用者的惡意行為損害公共利益的,可以由相關(guān)行政管理部門依照有關(guān)法律、行政法規(guī)的規(guī)定記入信用檔案,并予以公示,同時(shí)根據(jù)情形采取禁止其繼續(xù)使用AI創(chuàng)作軟件乃至沒收違法所得、處以行政罰款等措施;構(gòu)成犯罪的,可依法追究其刑事責(zé)任。

    第二,若AI創(chuàng)作物的傳播者刪除或改變AI創(chuàng)作物的AI創(chuàng)作標(biāo)志與類權(quán)利管理電子信息的,應(yīng)該承擔(dān)相應(yīng)的違法責(zé)任。建議比照我國 《著作權(quán)法》第五十三條關(guān)于侵害作品權(quán)利管理電子信息的有關(guān)責(zé)任條款,對(duì)AI創(chuàng)作物傳播者的披露責(zé)任作出如下規(guī)定:故意刪除或改變向公眾傳播的AI創(chuàng)作物的AI創(chuàng)作標(biāo)志或類權(quán)利管理電子信息的,或者向公眾提供明知或者應(yīng)知未經(jīng)許可而被刪除或者改變AI創(chuàng)作標(biāo)志、類權(quán)利管理電子信息的AI創(chuàng)作物及其演繹產(chǎn)物的,應(yīng)當(dāng)根據(jù)情況承擔(dān)停止侵害、消除影響、賠禮道歉、賠償損失等民事責(zé)任;同時(shí)損害公共利益或構(gòu)成犯罪的,依法追究其行政或刑事責(zé)任。

    第三,對(duì)于未充分履行技術(shù)性信息披露義務(wù)的AI研發(fā)者,應(yīng)要求其按情況承擔(dān)產(chǎn)品暫時(shí)下線、侵權(quán)賠償?shù)确韶?zé)任。具體而言,若AI研發(fā)者沒有合理理由而拒絕披露或故意不公開部分AI創(chuàng)作軟件的算法代碼與技術(shù)效果或相關(guān)數(shù)據(jù)來源與使用信息的,經(jīng)利害關(guān)系人的有效通知仍無法提供合理理由或拒絕披露的,應(yīng)承擔(dān)產(chǎn)品暫時(shí)下線的法律責(zé)任;若研發(fā)者的披露瑕疵行為對(duì)他人權(quán)益造成實(shí)際損害的,應(yīng)承擔(dān)相應(yīng)的侵權(quán)損害賠償責(zé)任;情節(jié)嚴(yán)重或影響到國家安全、經(jīng)濟(jì)運(yùn)行或社會(huì)穩(wěn)定的,應(yīng)承擔(dān)相應(yīng)的行政責(zé)任乃至刑事責(zé)任。當(dāng)然,考慮到算法黑箱效應(yīng)存在的可能性與合理性,若出現(xiàn)AI研發(fā)者不可預(yù)見的技術(shù)風(fēng)險(xiǎn),只要研發(fā)者滿足盡責(zé)披露的條件,可免于承擔(dān)相應(yīng)的法律責(zé)任。

    3.加強(qiáng)配套機(jī)制建設(shè),建立健全相關(guān)技術(shù)輔助與專業(yè)監(jiān)管機(jī)制

    為了保障信息披露義務(wù)條款的實(shí)施效果,有關(guān)部門還應(yīng)當(dāng)充分考慮AI創(chuàng)作物信息披露及其監(jiān)管活動(dòng)的技術(shù)難度與實(shí)施成本,盡快建立健全配套的信息披露技術(shù)輔助與專業(yè)監(jiān)管機(jī)制。

    第一,必須認(rèn)識(shí)到一個(gè)事實(shí),即除AI研發(fā)者之外,其他AI創(chuàng)作物相關(guān)方,通常不具備進(jìn)行信息披露的技術(shù)條件。即使在AI創(chuàng)作圖片中添加“系A(chǔ)I生成”這一簡單的標(biāo)志,廣大社會(huì)公眾在缺乏技術(shù)輔助的前提下根本無法完成。因此,在實(shí)施披露義務(wù)條款之前,我國應(yīng)當(dāng)建立AI創(chuàng)作物信息披露的技術(shù)輔助機(jī)制,以解決相關(guān)方履行披露義務(wù)的技術(shù)瓶頸,從而降低AI創(chuàng)作物信息披露義務(wù)條款的實(shí)施成本。具體的技術(shù)輔助措施包括:確定AI創(chuàng)作標(biāo)志的統(tǒng)一標(biāo)識(shí),開發(fā)添加AI創(chuàng)作標(biāo)志與類權(quán)利管理電子信息的免費(fèi)軟件或公益服務(wù)平臺(tái),或?qū)⑻砑覣I創(chuàng)作標(biāo)志與類權(quán)利管理電子信息的插件納入AI創(chuàng)作軟件設(shè)計(jì)的國家標(biāo)準(zhǔn)或行業(yè)標(biāo)準(zhǔn)之中等。

    第二,推動(dòng)建立專門的AI技術(shù)監(jiān)管機(jī)構(gòu),以提升AI創(chuàng)作物技術(shù)性信息監(jiān)管的專業(yè)性與可操作性。畢竟對(duì)于普通公眾而言,即使其獲悉AI創(chuàng)作物所涉算法與數(shù)據(jù)等信息,也會(huì)受制于算法的專業(yè)性與數(shù)據(jù)的海量性而無法實(shí)施有效的監(jiān)督。[19]因此,建議建立一個(gè)專門的、能夠?qū)I技術(shù)做出專業(yè)評(píng)判和反饋的監(jiān)管機(jī)構(gòu),并配以合理的監(jiān)管程序與機(jī)制,從而提前防控AI創(chuàng)作算法作惡抑或AI創(chuàng)作大規(guī)模侵權(quán)的風(fēng)險(xiǎn)。具體而言,可在國家工信部門或出版主管部門中內(nèi)設(shè)AI創(chuàng)作技術(shù)監(jiān)管機(jī)構(gòu),并授權(quán)該機(jī)構(gòu)依照前述AI創(chuàng)作物信息披露義務(wù)條款,為AI創(chuàng)作軟件設(shè)定市場準(zhǔn)入標(biāo)準(zhǔn),例如要求有關(guān)軟件的算法與數(shù)據(jù)必須符合一定的安全標(biāo)準(zhǔn)與信息公開標(biāo)準(zhǔn)才能進(jìn)入應(yīng)用市場。在AI創(chuàng)作軟件信息披露備案的基礎(chǔ)上,該機(jī)構(gòu)可依職責(zé)或利害關(guān)系人的申請(qǐng)對(duì)AI創(chuàng)作技術(shù)的作用機(jī)理以及技術(shù)風(fēng)險(xiǎn)進(jìn)行更為主動(dòng)、深入的監(jiān)督和審查,甚至要求AI研發(fā)者披露更多的技術(shù)內(nèi)容,例如要求研發(fā)者對(duì)算法運(yùn)行流程進(jìn)行更為深入的解釋。在保護(hù)技術(shù)秘密的前提下,該機(jī)構(gòu)有權(quán)進(jìn)行更為專業(yè)、安全的審查,甚至根據(jù)審查結(jié)果對(duì)有關(guān)單位或人員做出責(zé)令整改、行政罰款等處理決定。

    四、結(jié)語

    AI創(chuàng)作物糾紛案件的出現(xiàn),不僅帶來了AI創(chuàng)作物權(quán)益歸屬的難題,而且警示我們要注意AI創(chuàng)作物的甄別、規(guī)范與風(fēng)險(xiǎn)防控問題。我國著作權(quán)法應(yīng)盡快構(gòu)建AI創(chuàng)作物信息披露制度,在AI創(chuàng)作物進(jìn)入市場之前有效規(guī)避可能由其引發(fā)的版權(quán)信用崩塌、AI大規(guī)模侵權(quán)等危機(jī),從而更好地應(yīng)對(duì)AI技術(shù)進(jìn)步給現(xiàn)有法律制度帶來的沖擊和考驗(yàn)。

    注釋:

    [1]郭艷.人工智能創(chuàng)作物著作權(quán)制度難題及破解[J].中國出版,2018(12)

    [2]李琛.論人工智能的法學(xué)分析方法——以著作權(quán)為例[J].知識(shí)產(chǎn)權(quán),2019(07)

    [3][15]參見北京菲林律師事務(wù)所訴北京百度網(wǎng)訊科技有限公司著作權(quán)侵權(quán)糾紛案,北京互聯(lián)網(wǎng)法院民事判決書(2018)京0491民初239號(hào)。

    [4]王遷.論人工智能生成的內(nèi)容在著作權(quán)法中的定性[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2017(05)

    [5]Peter K. Yu,Artificial Intelligence, the Law-Machine Interface, and Fair Use Automation[J].72 Ala. L. Rev. 187 (2020)

    [6]AIPPI, Summary Report: Copyright in artificially generated works[EB/OL]. http://114.247.84.87/AIPPI/ztyj/jy/201911/P020191113500640412670.pdf

    [7]參見深圳騰訊公司與上海盈訊科技有限公司著作權(quán)權(quán)屬、侵權(quán)糾紛、商業(yè)賄賂不正當(dāng)競爭糾紛案,廣東省深圳市南山區(qū)人民法院民事判決書(2019)粵0305民初14010號(hào)。

    [8]許可.人工智能的算法黑箱與數(shù)據(jù)正義[N].社會(huì)科學(xué)報(bào),2018-03-29

    [9]曹博.算法歧視的類型界分與規(guī)制范式重構(gòu)[J].現(xiàn)代法學(xué),2021(4)

    [10]吳漢東.人工智能時(shí)代的制度安排與法律規(guī)制[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2017(5)

    [11][德]烏爾里希·貝克.世界風(fēng)險(xiǎn)社會(huì)[M].吳英姿,孫淑敏,譯.南京:南京大學(xué)出版社,2004:77-81

    [12]任然.“ZAO”被屏蔽:無視用戶隱私權(quán)利值得反思[N].新京報(bào),2019-09-02

    [13]馬長山.人工智能的社會(huì)風(fēng)險(xiǎn)及其法律規(guī)制[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2018(6)

    [14]Harry Surden,Machine Learning and Law[J].Washington Law Review,2014.89(1)

    [16]田小軍.AI創(chuàng)作物的法律保護(hù)不容忽視[EB/OL].https://www.tisi.org/?p=12656.

    [17]Association for Computing Machinery US Public Policy Council(USACM), Statement on Algorithmic Transparency and Accountability[EB/OL]. https://www.acm.org/binaries/content/assets/public-policy/2017_usacm_statement_algorithms.pdf

    [18]參見《個(gè)人信息保護(hù)法》第六條關(guān)于個(gè)人信息處理時(shí)如何落實(shí)比例原則的有關(guān)規(guī)定。

    [19]李訓(xùn)虎.刑事司法人工智能的包容性規(guī)制[J].中國社會(huì)科學(xué),2021(02)

    猜你喜歡
    識(shí)別性著作權(quán)法創(chuàng)作
    新《著作權(quán)法》視域下視聽作品的界定
    《一墻之隔》創(chuàng)作談
    國產(chǎn)汽車標(biāo)志設(shè)計(jì)批評(píng)
    論版權(quán)轉(zhuǎn)讓登記的對(duì)抗效力——評(píng)著作權(quán)法修改草案(送審稿)第59條
    論對(duì)“一臺(tái)戲”的法律保護(hù)——以《德國著作權(quán)法》為參照
    符號(hào)的識(shí)別性在廣告視覺形式中的體現(xiàn)——以標(biāo)志設(shè)計(jì)為例
    新聞傳播(2016年19期)2016-07-19 10:12:08
    以改性松香為交聯(lián)劑的甲硝唑磁性分子印跡固相萃取材料的制備、表征及分子識(shí)別性研究
    創(chuàng)作隨筆
    文藝論壇(2016年23期)2016-02-28 09:24:07
    游樂場所安全標(biāo)志識(shí)別性研究
    創(chuàng)作心得
    小說月刊(2014年1期)2014-04-23 09:00:04
    久久久久性生活片| 色综合亚洲欧美另类图片| 男人舔女人下体高潮全视频| www.色视频.com| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 99久久精品国产国产毛片| 国产亚洲91精品色在线| 五月伊人婷婷丁香| 久久久午夜欧美精品| 欧美日本亚洲视频在线播放| 18禁黄网站禁片免费观看直播| 欧美日韩在线观看h| 少妇人妻一区二区三区视频| 欧美bdsm另类| 99久久中文字幕三级久久日本| 精品久久久久久久久av| 97在线视频观看| 亚洲国产欧美人成| 久久久久网色| 久久久精品大字幕| 日本-黄色视频高清免费观看| 99久久精品热视频| 69人妻影院| 夜夜夜夜夜久久久久| 日韩大尺度精品在线看网址| 国产免费一级a男人的天堂| 男女做爰动态图高潮gif福利片| 免费观看人在逋| 国产黄色视频一区二区在线观看 | 免费av不卡在线播放| 3wmmmm亚洲av在线观看| 久久6这里有精品| 国产单亲对白刺激| 91狼人影院| 神马国产精品三级电影在线观看| 欧美一区二区国产精品久久精品| 桃色一区二区三区在线观看| 亚洲人成网站在线观看播放| 午夜福利在线在线| 综合色av麻豆| 久久精品国产亚洲网站| 欧美日本视频| 91aial.com中文字幕在线观看| 淫秽高清视频在线观看| 日本黄色片子视频| 亚洲最大成人中文| 日韩制服骚丝袜av| 好男人视频免费观看在线| 亚洲av电影不卡..在线观看| 久久久久免费精品人妻一区二区| 精品人妻视频免费看| 成人漫画全彩无遮挡| 三级毛片av免费| 成人午夜精彩视频在线观看| 日本免费一区二区三区高清不卡| 欧美一区二区亚洲| 国产精品伦人一区二区| 伦理电影大哥的女人| 亚洲精品日韩av片在线观看| 一夜夜www| 欧美极品一区二区三区四区| 黄色配什么色好看| 婷婷六月久久综合丁香| 69av精品久久久久久| 2021天堂中文幕一二区在线观| 淫秽高清视频在线观看| 久久草成人影院| 国产成人freesex在线| 国产极品天堂在线| 成人特级av手机在线观看| 国产人妻一区二区三区在| 国产av麻豆久久久久久久| 一进一出抽搐gif免费好疼| 久久精品影院6| 能在线免费观看的黄片| 久久亚洲国产成人精品v| 自拍偷自拍亚洲精品老妇| 91久久精品国产一区二区三区| 亚洲人与动物交配视频| 不卡视频在线观看欧美| 哪个播放器可以免费观看大片| 国产一区二区在线av高清观看| 国产老妇伦熟女老妇高清| 欧美一级a爱片免费观看看| 亚洲电影在线观看av| 日韩欧美三级三区| 午夜激情福利司机影院| 国产免费男女视频| 欧美bdsm另类| 男人和女人高潮做爰伦理| 日韩视频在线欧美| 在线观看av片永久免费下载| 国产一区二区三区在线臀色熟女| 国产亚洲欧美98| 日日摸夜夜添夜夜添av毛片| 成人国产麻豆网| 午夜老司机福利剧场| 十八禁国产超污无遮挡网站| 国产免费一级a男人的天堂| 亚洲欧洲日产国产| 免费看av在线观看网站| 欧美最新免费一区二区三区| 国产黄a三级三级三级人| 精品人妻熟女av久视频| 日本熟妇午夜| 在线观看一区二区三区| 成人无遮挡网站| 精品久久久噜噜| 国产女主播在线喷水免费视频网站 | 国产成人a区在线观看| 亚洲第一区二区三区不卡| 国产亚洲91精品色在线| 亚洲最大成人中文| 日日撸夜夜添| 日韩 亚洲 欧美在线| kizo精华| 亚洲欧美成人综合另类久久久 | 老师上课跳d突然被开到最大视频| 欧美日韩一区二区视频在线观看视频在线 | 美女内射精品一级片tv| 国产日韩欧美在线精品| 男人舔奶头视频| 久久精品综合一区二区三区| 日本撒尿小便嘘嘘汇集6| 亚洲人成网站高清观看| 变态另类成人亚洲欧美熟女| 久久人人爽人人爽人人片va| 国产精品久久视频播放| 99久久成人亚洲精品观看| 日本黄色视频三级网站网址| 18禁在线播放成人免费| 国产综合懂色| 悠悠久久av| 91久久精品国产一区二区三区| 欧美3d第一页| 亚洲人成网站在线播放欧美日韩| 综合色av麻豆| 亚洲精品乱码久久久v下载方式| 亚洲人成网站在线播放欧美日韩| 听说在线观看完整版免费高清| 国产单亲对白刺激| 寂寞人妻少妇视频99o| 欧美一区二区国产精品久久精品| 亚洲国产精品久久男人天堂| 欧美精品一区二区大全| 亚洲最大成人av| 特大巨黑吊av在线直播| 亚洲av二区三区四区| 亚洲自偷自拍三级| 国产v大片淫在线免费观看| 在线观看66精品国产| 国产亚洲91精品色在线| 久久精品国产99精品国产亚洲性色| 久久久久国产网址| 国产成人精品婷婷| 国产v大片淫在线免费观看| 99视频精品全部免费 在线| АⅤ资源中文在线天堂| 极品教师在线视频| 成人毛片60女人毛片免费| 一级二级三级毛片免费看| 亚洲国产精品成人久久小说 | 变态另类丝袜制服| 能在线免费观看的黄片| 亚洲av中文字字幕乱码综合| 国产爱豆传媒在线观看| 国国产精品蜜臀av免费| 欧美丝袜亚洲另类| 一本精品99久久精品77| 国产成人精品久久久久久| 久久精品影院6| 国产真实乱freesex| 麻豆av噜噜一区二区三区| 国产麻豆成人av免费视频| 国产高清三级在线| 国产精品一区二区三区四区免费观看| 午夜福利在线在线| 有码 亚洲区| 国产淫片久久久久久久久| 色尼玛亚洲综合影院| 欧美日韩综合久久久久久| 久久精品夜夜夜夜夜久久蜜豆| av在线天堂中文字幕| 亚洲av免费高清在线观看| 高清毛片免费看| 91精品一卡2卡3卡4卡| 精品人妻偷拍中文字幕| 国产精品免费一区二区三区在线| videossex国产| 中文字幕免费在线视频6| 日本熟妇午夜| 18禁黄网站禁片免费观看直播| 欧美日韩乱码在线| 久久精品久久久久久久性| 18禁黄网站禁片免费观看直播| 久久综合国产亚洲精品| 久久九九热精品免费| 久久精品国产亚洲av天美| 国产精品一区二区性色av| 深爱激情五月婷婷| 久久久精品大字幕| 成人国产麻豆网| 成人av在线播放网站| 国产精品国产高清国产av| 亚洲av免费在线观看| 非洲黑人性xxxx精品又粗又长| 看十八女毛片水多多多| 久久久久久久午夜电影| 丝袜喷水一区| 亚洲欧美日韩无卡精品| 精品一区二区三区视频在线| 欧美激情国产日韩精品一区| 变态另类丝袜制服| 亚洲天堂国产精品一区在线| 亚洲欧美日韩无卡精品| 99久国产av精品国产电影| 欧美+日韩+精品| 97超视频在线观看视频| 又爽又黄无遮挡网站| 夫妻性生交免费视频一级片| 久久久精品94久久精品| 真实男女啪啪啪动态图| 最新中文字幕久久久久| 可以在线观看的亚洲视频| 婷婷亚洲欧美| 国产精品日韩av在线免费观看| 亚洲美女搞黄在线观看| 国产精品久久久久久亚洲av鲁大| 亚洲aⅴ乱码一区二区在线播放| 国产日韩欧美在线精品| av国产免费在线观看| 亚洲欧美中文字幕日韩二区| 亚洲国产高清在线一区二区三| 观看美女的网站| 国产在线精品亚洲第一网站| 91av网一区二区| 亚洲av免费高清在线观看| 一个人看视频在线观看www免费| 国产精品免费一区二区三区在线| 亚洲精品乱码久久久v下载方式| 日韩av不卡免费在线播放| 99国产精品一区二区蜜桃av| 亚洲成av人片在线播放无| 国产高清激情床上av| 99热6这里只有精品| 女同久久另类99精品国产91| 69人妻影院| 国产av麻豆久久久久久久| 久久99热这里只有精品18| 久久人人爽人人片av| 欧美最新免费一区二区三区| а√天堂www在线а√下载| 国产探花在线观看一区二区| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 成人毛片60女人毛片免费| 卡戴珊不雅视频在线播放| 欧美潮喷喷水| 在线免费观看的www视频| 美女高潮的动态| 寂寞人妻少妇视频99o| av在线亚洲专区| 亚洲av免费在线观看| 欧美极品一区二区三区四区| 日韩欧美精品v在线| 国产精品一区www在线观看| h日本视频在线播放| 深爱激情五月婷婷| 国产精品不卡视频一区二区| 丰满乱子伦码专区| 亚洲在线观看片| 欧美bdsm另类| 晚上一个人看的免费电影| 日本免费一区二区三区高清不卡| 欧美色视频一区免费| 亚洲经典国产精华液单| 日韩av在线大香蕉| 亚洲在久久综合| 哪里可以看免费的av片| 老女人水多毛片| 91aial.com中文字幕在线观看| 成人av在线播放网站| 国产亚洲精品久久久久久毛片| av视频在线观看入口| 在线播放无遮挡| 国产成年人精品一区二区| 中文字幕制服av| 久久精品人妻少妇| 99久国产av精品国产电影| 三级经典国产精品| 91久久精品国产一区二区成人| 久久久久久久久中文| 99热只有精品国产| 日韩欧美国产在线观看| 成人国产麻豆网| 成人鲁丝片一二三区免费| 男的添女的下面高潮视频| 一级毛片我不卡| 欧美不卡视频在线免费观看| 国产黄片视频在线免费观看| 亚洲性久久影院| 国国产精品蜜臀av免费| 天堂av国产一区二区熟女人妻| 久久久久久久久大av| 中出人妻视频一区二区| 国产精品久久久久久亚洲av鲁大| 美女 人体艺术 gogo| 永久网站在线| 国产亚洲av嫩草精品影院| av福利片在线观看| 中国美女看黄片| 国产精品.久久久| 欧美日韩乱码在线| 一个人看视频在线观看www免费| 日韩强制内射视频| 人人妻人人看人人澡| 波多野结衣高清作品| 乱码一卡2卡4卡精品| 男人舔女人下体高潮全视频| 亚洲人成网站在线播| 黄片无遮挡物在线观看| 免费看av在线观看网站| 成人三级黄色视频| 久久99热6这里只有精品| 人人妻人人澡人人爽人人夜夜 | 日韩 亚洲 欧美在线| 久久久久久久久久久免费av| 激情 狠狠 欧美| 成人美女网站在线观看视频| 91av网一区二区| 人妻少妇偷人精品九色| 老熟妇乱子伦视频在线观看| 国产成人福利小说| 女的被弄到高潮叫床怎么办| 免费观看在线日韩| 国产一区二区三区在线臀色熟女| 婷婷色av中文字幕| 成人特级黄色片久久久久久久| 噜噜噜噜噜久久久久久91| 麻豆精品久久久久久蜜桃| 能在线免费观看的黄片| 国内精品一区二区在线观看| 黑人高潮一二区| 最近2019中文字幕mv第一页| 两性午夜刺激爽爽歪歪视频在线观看| 男女做爰动态图高潮gif福利片| 久99久视频精品免费| 久久久久久久久久成人| 久久久久久伊人网av| 在线免费十八禁| 内射极品少妇av片p| 久久久久久久久久黄片| 久久精品夜色国产| 久久久久国产网址| 国产男人的电影天堂91| 可以在线观看毛片的网站| 午夜福利在线在线| 午夜免费激情av| 中文字幕av在线有码专区| 国产不卡一卡二| 亚洲国产精品成人久久小说 | 国产精品av视频在线免费观看| 能在线免费观看的黄片| 国产白丝娇喘喷水9色精品| 亚洲内射少妇av| 一卡2卡三卡四卡精品乱码亚洲| 夜夜看夜夜爽夜夜摸| 亚洲av免费在线观看| 国产精品久久久久久久久免| 国产高潮美女av| 18禁在线无遮挡免费观看视频| 国产一级毛片在线| 一级黄色大片毛片| 免费电影在线观看免费观看| 国产精品美女特级片免费视频播放器| 日韩,欧美,国产一区二区三区 | 91麻豆精品激情在线观看国产| 麻豆国产av国片精品| 亚洲av中文字字幕乱码综合| 免费av毛片视频| 简卡轻食公司| 精品国内亚洲2022精品成人| 只有这里有精品99| 99久久无色码亚洲精品果冻| 亚洲av成人精品一区久久| 亚洲自拍偷在线| 久久久久九九精品影院| 伦精品一区二区三区| 婷婷六月久久综合丁香| 1024手机看黄色片| 免费看光身美女| 五月玫瑰六月丁香| 性欧美人与动物交配| 黄色日韩在线| 色综合站精品国产| 国产一级毛片在线| 在线观看免费视频日本深夜| 国产精品日韩av在线免费观看| 蜜桃亚洲精品一区二区三区| 亚洲中文字幕一区二区三区有码在线看| 久久久久久国产a免费观看| 免费观看的影片在线观看| 国产伦在线观看视频一区| 国产高清视频在线观看网站| 女的被弄到高潮叫床怎么办| 国产伦理片在线播放av一区 | 日本av手机在线免费观看| 国产在线精品亚洲第一网站| 美女大奶头视频| 久久久国产成人免费| 国产白丝娇喘喷水9色精品| 中文字幕熟女人妻在线| 观看免费一级毛片| 少妇人妻一区二区三区视频| 国产精品嫩草影院av在线观看| 国产精品.久久久| 日韩强制内射视频| 免费观看精品视频网站| 精品人妻视频免费看| 国产麻豆成人av免费视频| 欧美区成人在线视频| 免费看美女性在线毛片视频| 免费人成在线观看视频色| 国产精品av视频在线免费观看| 夜夜夜夜夜久久久久| 国产免费一级a男人的天堂| 少妇猛男粗大的猛烈进出视频 | 国产白丝娇喘喷水9色精品| 久久精品综合一区二区三区| 久久精品国产鲁丝片午夜精品| 国产精品福利在线免费观看| 1024手机看黄色片| 看十八女毛片水多多多| 丰满的人妻完整版| 干丝袜人妻中文字幕| 色哟哟哟哟哟哟| 91在线精品国自产拍蜜月| 成人综合一区亚洲| www.色视频.com| 女人被狂操c到高潮| 欧美+亚洲+日韩+国产| 神马国产精品三级电影在线观看| 亚洲18禁久久av| 男女那种视频在线观看| 国产成人91sexporn| 亚洲欧美精品综合久久99| 神马国产精品三级电影在线观看| 最近2019中文字幕mv第一页| 日本黄大片高清| 午夜福利视频1000在线观看| 变态另类成人亚洲欧美熟女| 少妇猛男粗大的猛烈进出视频 | 国产高清激情床上av| 免费在线观看成人毛片| 永久网站在线| 成人无遮挡网站| 国产免费男女视频| 成人特级av手机在线观看| av专区在线播放| 哪里可以看免费的av片| 国产高清三级在线| 爱豆传媒免费全集在线观看| 亚洲美女搞黄在线观看| 久久国产乱子免费精品| 欧美xxxx性猛交bbbb| 两个人的视频大全免费| 毛片女人毛片| 成年女人看的毛片在线观看| 给我免费播放毛片高清在线观看| 亚洲中文字幕日韩| 六月丁香七月| 国产精品一区二区在线观看99 | 国产精品1区2区在线观看.| 两个人视频免费观看高清| 两性午夜刺激爽爽歪歪视频在线观看| 黄色视频,在线免费观看| 可以在线观看毛片的网站| 麻豆国产97在线/欧美| 午夜精品一区二区三区免费看| 99热网站在线观看| 一卡2卡三卡四卡精品乱码亚洲| 日本-黄色视频高清免费观看| 久久久久九九精品影院| 美女脱内裤让男人舔精品视频 | 99久久成人亚洲精品观看| 3wmmmm亚洲av在线观看| 久久草成人影院| 精品人妻视频免费看| 色视频www国产| 又粗又爽又猛毛片免费看| 亚洲国产精品成人久久小说 | 色吧在线观看| 男人狂女人下面高潮的视频| 蜜臀久久99精品久久宅男| 美女 人体艺术 gogo| 欧美精品一区二区大全| 久久久国产成人免费| 两个人的视频大全免费| 亚洲最大成人手机在线| 小说图片视频综合网站| 一区二区三区免费毛片| 色综合色国产| 两个人视频免费观看高清| 日日摸夜夜添夜夜添av毛片| 国产精品日韩av在线免费观看| 精品久久久久久久人妻蜜臀av| 亚洲国产欧美人成| 赤兔流量卡办理| 中国国产av一级| 国产亚洲精品av在线| 亚洲精品国产成人久久av| 美女被艹到高潮喷水动态| 日韩三级伦理在线观看| 国内久久婷婷六月综合欲色啪| 搡女人真爽免费视频火全软件| 高清毛片免费看| 国产精品av视频在线免费观看| 亚洲人成网站在线播| 日韩制服骚丝袜av| av黄色大香蕉| 色综合亚洲欧美另类图片| 级片在线观看| 我的女老师完整版在线观看| 中文字幕人妻熟人妻熟丝袜美| 国产精品av视频在线免费观看| 日本三级黄在线观看| 国产蜜桃级精品一区二区三区| 内地一区二区视频在线| 久久99热这里只有精品18| 晚上一个人看的免费电影| 精华霜和精华液先用哪个| 91精品国产九色| avwww免费| 尤物成人国产欧美一区二区三区| 亚洲欧洲国产日韩| 久久综合国产亚洲精品| 熟女人妻精品中文字幕| 国产精品一区二区性色av| 欧美xxxx黑人xx丫x性爽| 一级黄色大片毛片| 亚洲五月天丁香| 国产精品1区2区在线观看.| 免费搜索国产男女视频| 久久久久国产网址| 午夜亚洲福利在线播放| 免费av观看视频| 国国产精品蜜臀av免费| av在线老鸭窝| 18禁黄网站禁片免费观看直播| 极品教师在线视频| 久久精品国产自在天天线| 高清毛片免费看| 菩萨蛮人人尽说江南好唐韦庄 | 深爱激情五月婷婷| 亚洲无线观看免费| 免费看美女性在线毛片视频| 国产探花极品一区二区| 18禁在线播放成人免费| 国产免费男女视频| 综合色丁香网| 久久久久久久久中文| 成人特级av手机在线观看| 成人永久免费在线观看视频| 天美传媒精品一区二区| 天天一区二区日本电影三级| 色播亚洲综合网| 亚洲色图av天堂| 最后的刺客免费高清国语| 国产黄片美女视频| 性插视频无遮挡在线免费观看| 99视频精品全部免费 在线| 一本一本综合久久| 免费av不卡在线播放| 一级毛片我不卡| 91久久精品电影网| 久久精品国产亚洲网站| 久久人人精品亚洲av| 欧美成人免费av一区二区三区| 久久亚洲精品不卡| av在线老鸭窝| 亚洲国产欧美人成| 欧美+日韩+精品| 好男人视频免费观看在线| 亚洲欧美精品自产自拍| 给我免费播放毛片高清在线观看| 中文字幕av成人在线电影| 久久精品国产99精品国产亚洲性色| 亚洲精品日韩在线中文字幕 | av在线蜜桃| 国产日本99.免费观看| 少妇人妻一区二区三区视频| 别揉我奶头 嗯啊视频| 少妇的逼好多水| 看黄色毛片网站| 两个人视频免费观看高清| 中文亚洲av片在线观看爽| 在线免费十八禁| 最好的美女福利视频网| 国产91av在线免费观看| 亚洲av免费在线观看| 在线国产一区二区在线| 观看美女的网站| 欧美不卡视频在线免费观看| 国产亚洲av嫩草精品影院| 成人毛片a级毛片在线播放| 99热全是精品| 亚洲欧美成人综合另类久久久 | 一级毛片aaaaaa免费看小| 舔av片在线| 国产精品.久久久| 国产亚洲精品久久久com| 成人毛片a级毛片在线播放| 男人狂女人下面高潮的视频| av免费在线看不卡| 日韩一区二区视频免费看| 一夜夜www|