• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論人工智能對(duì)著作權(quán)制度的沖擊與應(yīng)對(duì)

    2020-02-10 06:38:37黃姍姍
    關(guān)鍵詞:人工智能

    黃姍姍

    摘要:眾多案例告訴我們,人工智能生成物已經(jīng)能媲美人類創(chuàng)作的作品,成為具備獨(dú)創(chuàng)性的作品。人工智能創(chuàng)作相關(guān)的神經(jīng)網(wǎng)絡(luò)算法之設(shè)計(jì)、學(xué)習(xí)數(shù)據(jù)之篩選最終體現(xiàn)的是人的創(chuàng)造性勞動(dòng),人工智能作品是對(duì)人類精神文化領(lǐng)域的有益補(bǔ)充與豐富,是創(chuàng)作生產(chǎn)效率提高的重要成果,應(yīng)當(dāng)對(duì)人工智能作品予以著作權(quán)法層面上的保護(hù)。對(duì)于人工智能作品的具體保護(hù),應(yīng)參考電影制片人模式,將著作權(quán)賦予投資者;作品價(jià)值應(yīng)交給市場(chǎng)評(píng)判,同時(shí)基于作品的來(lái)源難以區(qū)分的考慮,應(yīng)對(duì)人工智能作品賦予與一般作品同等的權(quán)利保護(hù)期限。

    關(guān)鍵詞:人工智能;生成物;神經(jīng)網(wǎng)絡(luò);著作權(quán);獨(dú)創(chuàng)性

    中圖分類號(hào):D923.41???文獻(xiàn)標(biāo)志碼:A???文章編號(hào):1008-5831(2020)01-0159-11

    制造出比肩人類智力水平的機(jī)器人,一直是科學(xué)家的夢(mèng)想。這種對(duì)未來(lái)的美好憧憬,在諸多科幻電影中得到了完美詮釋。計(jì)算機(jī)的發(fā)明讓科學(xué)家看到了實(shí)現(xiàn)這一愿望的現(xiàn)實(shí)途徑。世界上第一臺(tái)通用計(jì)算機(jī)于1946年在美國(guó)賓夕法尼亞大學(xué)誕生,僅僅10年后,計(jì)算機(jī)科學(xué)家、數(shù)學(xué)家和神經(jīng)學(xué)家在美國(guó)達(dá)特茅斯學(xué)院召開(kāi)了史上第一次人工智能研討會(huì),該會(huì)議為期兩個(gè)月,標(biāo)志著人工智能學(xué)科的誕生[1]。經(jīng)過(guò)兩次發(fā)展高潮和低谷后,隨著核心算法的突破,計(jì)算能力的迅速提高,以及海量互聯(lián)網(wǎng)數(shù)據(jù)的支撐,人工智能終于在21世紀(jì)的第二個(gè)10年里迎來(lái)了質(zhì)的飛躍,成為全球矚目的科技焦點(diǎn)[2]。在今天,基于人工智能而實(shí)現(xiàn)的自動(dòng)駕駛、智能醫(yī)療、智能投顧、智能教育、智能司法等,已逐漸滲透到人類社會(huì)生活的諸多領(lǐng)域。不可回避的是,人工智能作為一項(xiàng)模擬人類智能行為的科學(xué)技術(shù),如同以往的科技革命一樣,對(duì)現(xiàn)行的法律制度也提出了巨大的挑戰(zhàn)。如學(xué)者在回顧科技革命對(duì)著作權(quán)帶來(lái)挑戰(zhàn)所感嘆的那樣,“著作權(quán)從一開(kāi)始就是技術(shù)之子”[3],今天因?yàn)槿斯ぶ悄芗夹g(shù)的發(fā)展,著作權(quán)制度似乎又來(lái)到了需要重新審視的節(jié)點(diǎn)。

    一、人工智能對(duì)著作權(quán)法的挑戰(zhàn)

    1709年,英國(guó)頒布《安娜法典》,標(biāo)志著版權(quán)制度正式建立,隨著眾多科技技術(shù)的發(fā)展,版權(quán)制度的內(nèi)涵與外延不斷得到拓展與豐富。復(fù)印技術(shù)的發(fā)展,改變了作品復(fù)制的效率;攝影技術(shù)的發(fā)明與發(fā)展,使得作品的范圍擴(kuò)充了照片、電影等類別;互聯(lián)網(wǎng)技術(shù)使得作品傳播效率與方便性達(dá)到了稱之為“觸手可及”的程度,從而滋生了網(wǎng)絡(luò)傳播權(quán)?;仡欉^(guò)往,我們不難發(fā)現(xiàn),著作權(quán)法史與科技史水乳交融。那么,這一次人工智能又可能顛覆了著作權(quán)的什么呢?它超越了以往技術(shù)對(duì)著作權(quán)法挑戰(zhàn)的范圍——作品的創(chuàng)作主體、方式與效率。

    (一)人工智能對(duì)于作品創(chuàng)作主體的顛覆

    現(xiàn)行《著作權(quán)法》規(guī)定“中國(guó)公民、法人或者其他組織的作品,不論是否發(fā)表,依照本法享有著作權(quán)……”

    參見(jiàn)《中國(guó)人民共和國(guó)著作權(quán)法》第2條。,“著作權(quán)人包括:(一)作者;(二)其他依照本法享有著作權(quán)的公民、法人或者其他組織”

    參見(jiàn)《中國(guó)人民共和國(guó)著作權(quán)法》第9條。,依此可清晰界定能夠享有著作權(quán)的主體是公民、法人或者其他組織。法律從來(lái)都是將人(包括自然人和法律擬制的人如法人、其他組織)作為享有權(quán)利和履行義務(wù)的唯一主體。然而,人工智能似乎正在逐漸改變這條嚴(yán)密的界限。

    隨著人工智能深入人類社會(huì),人們已習(xí)慣將人工智能當(dāng)作某些活動(dòng)的主體。圍棋終結(jié)者AlphaGo作為一款人工智能程序,在2015年便以5∶0的比分橫掃了曾三次斬獲歐洲圍棋冠軍的職業(yè)二段棋手樊麾,隨后又以4∶1的比分戰(zhàn)勝了韓國(guó)頂尖棋手李世石,AlphaGo因此名聲大噪[4]。自此,人們已潛意識(shí)地將AlphaGo當(dāng)作一名棋藝高超的棋手。隨后,又不斷出現(xiàn)了詩(shī)人小冰、海報(bào)設(shè)計(jì)師鹿班、作曲家Aiva、合成的新聞主播等,這些都說(shuō)明人工智能已在人類社會(huì)扮演著不同的角色。對(duì)于現(xiàn)行著作權(quán)制度造成巨大沖擊的就是這類新型人工智能作者的出現(xiàn)。他們的作品是那么地引人關(guān)注,因?yàn)檫@些作品與人類作者的作品幾乎別無(wú)二致,就像人們已潛意識(shí)地將AlphaGo當(dāng)作一名棋藝高超的棋手,詩(shī)人小冰、海報(bào)設(shè)計(jì)師鹿班、作曲家Aiva也自然成了人們心中的作者。由此也引發(fā)了人類社會(huì)對(duì)于人工智能將取代人類工作的擔(dān)憂,甚至著名物理學(xué)教授史蒂芬·霍金也“擔(dān)心人工智能將全面取代人類”[5]。這種現(xiàn)實(shí)和擔(dān)憂似乎驗(yàn)證和承認(rèn)了人工智能已成為創(chuàng)作作品的主體,以致我們不得不考量是否應(yīng)將人工智能作品納入著作權(quán)法律保護(hù)體系當(dāng)中。

    (二)人工智能對(duì)于作品創(chuàng)作方式的顛覆

    著作權(quán)法所稱創(chuàng)作,是指直接產(chǎn)生文學(xué)、藝術(shù)和科學(xué)作品的智力活動(dòng)

    參見(jiàn)《中華人民共和國(guó)著作權(quán)法實(shí)施條例》第2條。。特別地,對(duì)應(yīng)《著作權(quán)法》保護(hù)如文字作品、口述作品、音樂(lè)、戲劇、曲藝、舞蹈、雜技藝術(shù)作品、美術(shù)、建筑作品、攝影作品等多種作品形式

    參見(jiàn)《中國(guó)人民共和國(guó)著作權(quán)法》第3條、《中華人民共和國(guó)著作權(quán)法實(shí)施條例》第2條。,具體的創(chuàng)作方式就更不相同。法律并沒(méi)有直接定義創(chuàng)作行為,雖然創(chuàng)作行為難以準(zhǔn)確定義,但根據(jù)我們對(duì)創(chuàng)造活動(dòng)的觀察和自身體會(huì),創(chuàng)作實(shí)際是作者基于一定素材并結(jié)合情感、思想、邏輯等內(nèi)心活動(dòng),借助文字、語(yǔ)言、音符、線條、色彩等形式產(chǎn)生作品的一項(xiàng)復(fù)雜活動(dòng)。

    不管作品是什么樣的內(nèi)容和形式,但都是作者表現(xiàn)情感、思想等心理活動(dòng)的創(chuàng)作結(jié)果。然而,人工智能并不具備人類所特有的思想與情感,其創(chuàng)作方式自然與人類作者迥然相異。雖然關(guān)于人工智能的新聞時(shí)常在沖擊我們的眼球,但由于具有技術(shù)難度方面的因素,人們對(duì)于人工智能還缺乏清醒的認(rèn)識(shí)。人工智能并不會(huì)像人類那樣思考,也不具備人類喜怒哀樂(lè)的情感,人工智能學(xué)科只是計(jì)算機(jī)學(xué)科的一個(gè)分支,人工智能是以“計(jì)算”的方式完成了創(chuàng)作。這種以計(jì)算方式完成創(chuàng)作的作品,與人類作者依靠情感、思想等內(nèi)心活動(dòng)創(chuàng)作的作品,可能都具有作品的外觀,但內(nèi)核卻大相徑庭,如將這種計(jì)算所得到的作品納入著作權(quán)法保護(hù)范疇之內(nèi),亦會(huì)對(duì)現(xiàn)行著作權(quán)制度產(chǎn)生較大的沖擊。

    (三)人工智能對(duì)于作品創(chuàng)作效率的顛覆

    知識(shí)產(chǎn)權(quán)是一項(xiàng)專有或壟斷權(quán),法律賦予權(quán)利人在一定時(shí)期內(nèi)獨(dú)占某項(xiàng)智力成果的相關(guān)利益,比如現(xiàn)行《著作權(quán)法》規(guī)定公民作品中的財(cái)產(chǎn)權(quán)保護(hù)期為作者終生及其死亡后50年

    參見(jiàn)《中華人民共和國(guó)著作權(quán)法》第21條。。賦予作者著作權(quán)固然有激勵(lì)創(chuàng)作之目的,但如此長(zhǎng)的保護(hù)期限也反映出作品創(chuàng)作困難、創(chuàng)作緩慢的現(xiàn)實(shí)。人工智能是科技進(jìn)步的新產(chǎn)物,是一項(xiàng)對(duì)大幅提升人類生產(chǎn)效率的計(jì)算機(jī)技術(shù)。和機(jī)器提高人類制造業(yè)的生產(chǎn)效率的原理一樣,人工智能似乎也使得創(chuàng)作這件事變得簡(jiǎn)單。基于計(jì)算力的發(fā)展,人工智能完成作品的創(chuàng)作時(shí)間以秒來(lái)計(jì)算,這種作品創(chuàng)作的速度讓歷史上所有高產(chǎn)作家瞠目結(jié)舌。試想如果作品僅在以秒計(jì)算的時(shí)間內(nèi)就能創(chuàng)作完成,卻給予作品如此長(zhǎng)的保護(hù)期限,這似乎是一種權(quán)利的錯(cuò)誤配置。人工智能高出人類作家多個(gè)數(shù)量級(jí)的創(chuàng)作效率,這對(duì)于著作權(quán)制度中規(guī)定的較長(zhǎng)保護(hù)期限無(wú)疑造成了巨大的沖擊。

    (四)著作權(quán)領(lǐng)域?qū)W者對(duì)人工智能的法律評(píng)價(jià)

    人工智能對(duì)于作品創(chuàng)作主體、方式、效率的顛覆,引發(fā)了學(xué)術(shù)界廣泛的討論,是否對(duì)人工智能作品予以著作權(quán)保護(hù),觀點(diǎn)不一。總體而言,學(xué)術(shù)界對(duì)人工智能作品是否應(yīng)納入著作權(quán)制度保護(hù)以及具體的保護(hù)路徑的觀點(diǎn)分為兩類:一是對(duì)人工智能作品采取著作權(quán)強(qiáng)保護(hù)、弱保護(hù)和不保護(hù);二是對(duì)人工智能作品采取著作權(quán)以外的方式保護(hù),比如鄰接權(quán)。有學(xué)者主張不應(yīng)對(duì)人工智能生成物給予著作權(quán)保護(hù),原因在于其“獲得的結(jié)果具有唯一性,從而不符合獨(dú)創(chuàng)性的要求”[6];也有人認(rèn)為雖然這些成果屬于作品,但應(yīng)“根據(jù)現(xiàn)行法,人工智能不能提出專利權(quán)或著作權(quán)的要求”,人工智能創(chuàng)作成果應(yīng)“進(jìn)入公域,任何人都可以使用”

    Ralph D Clifford. "Intellectual Property in the Era of the Creative Computer Program: Will the True Creator Please Stand Up?". Tul.l.rev,1996.??紤]到人工智能如此高產(chǎn),這種創(chuàng)作的高效率意味著低成本,為體現(xiàn)公平原則,有學(xué)者主張對(duì)人工智能創(chuàng)作的成果予以弱保護(hù),比如采取縮短權(quán)利保護(hù)期的方式,即“人工智能的創(chuàng)作者享有為期10年的著作權(quán)或?qū)@麢?quán),過(guò)期后進(jìn)入公域”[7]。

    人工智能創(chuàng)作的成果是著作權(quán)法意義上的作品嗎?誰(shuí)對(duì)這些“作品”享有相應(yīng)的權(quán)利,我們是否需要對(duì)這些人工智能創(chuàng)作的“作品”給予著作權(quán)法上的特殊保護(hù)。筆者將在下文對(duì)這些問(wèn)題依次進(jìn)行討論。為避免引發(fā)歧義或者陷入先入為主的誤區(qū),筆者有必要跟隨其他學(xué)者一樣,將人工智能“創(chuàng)作”產(chǎn)生的“作品”,僅能先謹(jǐn)慎地稱之為人工智能生成物。

    二、人工智能生成物作品屬性探究

    (一)著作權(quán)法視野下的作品

    我國(guó)《著作權(quán)法》所稱作品,是指文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)具有獨(dú)創(chuàng)性并能以某種有形形式復(fù)制的智力成果。從該定義出發(fā),我們來(lái)界定作品的屬性?!霸谖膶W(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)”和“能以某種有形形式復(fù)制”分別指作品內(nèi)容所屬的范疇和作品具有可復(fù)制性,屬于比較容易判斷的范疇。智力成果,體現(xiàn)的是著作權(quán)法對(duì)于智力勞動(dòng)的保護(hù)。所謂成果,則可體現(xiàn)為各種各樣的作品形式。學(xué)術(shù)上有爭(zhēng)議之處在于,判斷某內(nèi)容或信息是否屬于作品,關(guān)鍵在于判斷其是否具有獨(dú)創(chuàng)性。

    獨(dú)創(chuàng)性的判斷,在學(xué)術(shù)界至今沒(méi)有統(tǒng)一的標(biāo)準(zhǔn)。綜合學(xué)術(shù)界觀點(diǎn),獨(dú)創(chuàng)性含義有二:一是獨(dú)立創(chuàng)作的過(guò)程;二是具有創(chuàng)造性的效果評(píng)價(jià)。有學(xué)者主張具有獨(dú)創(chuàng)性即可,因?yàn)楠?dú)創(chuàng)性指作品是自己完成的而不是抄襲的[8],即獨(dú)創(chuàng)性僅要求獨(dú)立創(chuàng)作的過(guò)程,獨(dú)立創(chuàng)作是著作權(quán)法鼓勵(lì)創(chuàng)新的應(yīng)有之義,其對(duì)立面是抄襲、剽竊。還有學(xué)者主張獨(dú)創(chuàng)性的評(píng)價(jià)應(yīng)包含前述兩層含義,既要獨(dú)立創(chuàng)作,還要求所創(chuàng)作之物具有一定程度的創(chuàng)造性。對(duì)獨(dú)創(chuàng)性中的“獨(dú)”與“創(chuàng)”應(yīng)該分別認(rèn)識(shí),“獨(dú)”是指獨(dú)立創(chuàng)作、源于本人;而“創(chuàng)”是指一定水準(zhǔn)的智力創(chuàng)造高度創(chuàng)造性的效果評(píng)價(jià)[9]。

    筆者認(rèn)為,著作權(quán)法應(yīng)對(duì)獨(dú)立創(chuàng)作的過(guò)程要求更嚴(yán)格、苛刻,而對(duì)創(chuàng)造性的效果評(píng)價(jià)的法律約束更模糊。究其原因,獨(dú)立創(chuàng)作本就是智力勞動(dòng)付出的過(guò)程和事實(shí),是著作權(quán)法激勵(lì)創(chuàng)新之本。誠(chéng)如“一千個(gè)讀者,就有一千個(gè)哈姆雷特”所言,創(chuàng)造性的效果評(píng)價(jià),具有強(qiáng)烈個(gè)人主觀色彩的價(jià)值評(píng)價(jià),創(chuàng)造性評(píng)價(jià)難以建立可量化的標(biāo)準(zhǔn),因判斷者自身素質(zhì)和對(duì)文化、藝術(shù)理解的差異,所得到的結(jié)果往往差異也很大。因此,筆者認(rèn)為,對(duì)于作品獨(dú)創(chuàng)性的判斷,應(yīng)首先要求獨(dú)立創(chuàng)作,不剽竊和抄襲;對(duì)于作品創(chuàng)造性的價(jià)值判斷應(yīng)交與市場(chǎng)進(jìn)行選擇和淘汰,市場(chǎng)有需求的則可認(rèn)為是有創(chuàng)造性的,需求越大,創(chuàng)造性也越強(qiáng),反之亦然。

    (二)人工智能生成物之獨(dú)創(chuàng)性評(píng)價(jià)

    1.人工智能之智在于計(jì)算

    人工智能本質(zhì)上是計(jì)算機(jī)程序?qū)τ谌祟愔悄苄袨榈哪M。這種模擬的實(shí)際意義是,利用計(jì)算機(jī)程序解決人類智能行為才能解決的問(wèn)題。人工智能如果對(duì)于外部世界的理解和反饋更像人,則我們可以認(rèn)為這種模擬更加成功。但是計(jì)算機(jī)對(duì)于人類智能的模擬,絕不是按照人類大腦本身運(yùn)行的方式來(lái)進(jìn)行,而是以其獨(dú)特的基于計(jì)算的方式。人工智能與人類智能是基于不同的原理實(shí)現(xiàn)的。

    著名計(jì)算機(jī)科學(xué)家吳軍認(rèn)為,現(xiàn)有的計(jì)算機(jī)還沒(méi)有突破圖靈機(jī)的邊界,都是以計(jì)算的方式來(lái)解決各種問(wèn)題的,計(jì)算機(jī)解決問(wèn)題的邊界受如下方式約束:世界上有很多問(wèn)題,其中一小部分是可用數(shù)學(xué)方式解決的問(wèn)題,在這部分?jǐn)?shù)學(xué)問(wèn)題中又有一小部分是目前有解的,在這部分有解的問(wèn)題中也只有一小部分是理想狀態(tài)下的計(jì)算機(jī)可以解決的,而人工智能能解決的問(wèn)題只是計(jì)算機(jī)程序?qū)嶋H應(yīng)用解決問(wèn)題當(dāng)中的一部分

    參見(jiàn)得到APP《吳軍的谷歌方法丨第004封信丨為什么計(jì)算機(jī)不是萬(wàn)能的》。。因此,人工智能產(chǎn)品只能解決在數(shù)學(xué)上有解且能夠用計(jì)算機(jī)程序?qū)崿F(xiàn)的部分問(wèn)題,這是計(jì)算機(jī)的極限所決定的本質(zhì)問(wèn)題。因此,人工智能的“智”之所在,體現(xiàn)為對(duì)被求解問(wèn)題的數(shù)學(xué)回答和程序?qū)崿F(xiàn)。

    2.人工智能創(chuàng)作的獨(dú)特方式

    人類創(chuàng)作行為的本質(zhì)是基于一定的思想、情感,用文字、符號(hào)、線條、色彩、音符等要素構(gòu)建成文體、圖畫(huà)、音樂(lè)等形式且有意義的表達(dá)。人類的創(chuàng)作可以說(shuō)是基于思想、情感而生的個(gè)性化表達(dá)。在計(jì)算機(jī)發(fā)明以前的幾千年文化演進(jìn)里,創(chuàng)作這件事不會(huì)被理解成是以數(shù)學(xué)的方式進(jìn)行的。然而,計(jì)算機(jī)解決問(wèn)題的方式只能是數(shù)學(xué)方式,“創(chuàng)作”也不例外。人工智能之所以可以“創(chuàng)作”,是因?yàn)樾纬勺髌返谋磉_(dá)在數(shù)學(xué)上可以看作為文字、符號(hào)、線條、色彩、音符等要素的排列、組合。然而,這樣的表達(dá)在數(shù)學(xué)上是無(wú)限的,所以人工智能科學(xué)家的任務(wù)是利用人工智能構(gòu)建出符合人類可理解的且有思想、有意義的表達(dá)。人工智能無(wú)法具備某種思想和情感,但其可以依靠計(jì)算機(jī)高速的計(jì)算能力輕而易舉地形成表達(dá),然而隨意生成的表達(dá)是無(wú)意義的,人工智能科學(xué)家實(shí)際是利用不斷豐富的樣本數(shù)據(jù),優(yōu)化核心算法,以此提高表達(dá)的有效性,使該表達(dá)能夠達(dá)到讓人類受眾認(rèn)可承載于表達(dá)之中的思想、情感、藝術(shù)價(jià)值的程度,這也就實(shí)現(xiàn)了人工智能創(chuàng)作作品的功能與目的。由此可知,人類創(chuàng)作與人工智能創(chuàng)作最大的差別是人類創(chuàng)作是先有思想和情感,再尋求于外在表達(dá)而形成作品;相反,人工智能創(chuàng)作,是利用計(jì)算機(jī)程序形成表達(dá),并借助大量數(shù)據(jù)優(yōu)化算法以提高表達(dá)的有效性,使得表達(dá)有思想。前者是先有思想,再借助于表達(dá)形成作品;后者是先有表達(dá),再優(yōu)先算法使表達(dá)具有思想、情感或藝術(shù)價(jià)值上的依托,以此歸入到作品的范疇。

    以音樂(lè)創(chuàng)作為例,任何具有藝術(shù)價(jià)值的悅耳歌曲,在數(shù)學(xué)上,都可以看作是音符的有序排列。具體而言,人工智能科學(xué)家開(kāi)發(fā)計(jì)算機(jī)程序,讓其學(xué)習(xí)和識(shí)別不同風(fēng)格曲目的編排方式和技巧,比如音符如何排列更像爵士樂(lè),如何排列更像搖滾樂(lè),隨著樣本數(shù)量的不斷加大,人工智能對(duì)于音樂(lè)風(fēng)格的掌握會(huì)逐漸提高,創(chuàng)作能力也會(huì)逐漸增強(qiáng)。2016年,索尼計(jì)算機(jī)科學(xué)實(shí)驗(yàn)室開(kāi)發(fā)的Flow Machines,就是系統(tǒng)通過(guò)“分析”近 13 000份世界各地不同風(fēng)格的樂(lè)譜,最終創(chuàng)造了一首“披頭士風(fēng)格”的流行歌曲《Daddys Car》[10]。當(dāng)然,最終的歌曲并不是完全由人工智能從頭到尾執(zhí)行,在人工智能完成后,法國(guó)作曲家Benot Carré最后排列好這些曲調(diào)和歌詞,使其更加流暢。由阿里工程師蘆陽(yáng)開(kāi)發(fā)的Musci Go,只需將幾千上萬(wàn)首完整的音樂(lè)作品輸入這個(gè)系統(tǒng),人工智能Music Go就會(huì)自行“學(xué)習(xí)”各種饒舌音樂(lè)的規(guī)律和方式(數(shù)據(jù)),從而建立一個(gè)可以創(chuàng)作的“神經(jīng)元網(wǎng)絡(luò)”。 Music Go采用了機(jī)器學(xué)習(xí)技術(shù),也就是說(shuō),人給機(jī)器“喂養(yǎng)”什么內(nèi)容,機(jī)器就自動(dòng)學(xué)習(xí)什么內(nèi)容[11]。經(jīng)過(guò)“喂養(yǎng)”和設(shè)定,借用這個(gè)程序,他寫(xiě)出了2017年的雙11饒舌神曲《天貓雙11有嘻哈》。上面這些案例,都是向受眾明確告知歌曲是由人工智能創(chuàng)作,受眾在欣賞這些音樂(lè)時(shí),難免帶有先入為主的情緒,盡管有不少人對(duì)前面案例中的音樂(lè)贊賞有加,但也有人認(rèn)為人工智能創(chuàng)作的音樂(lè)只是音符和詞句的堆砌,達(dá)不到人類創(chuàng)作者的藝術(shù)高度。從著作權(quán)視角下去評(píng)價(jià),其可能不具有作品的創(chuàng)造性,因此達(dá)不到由著作權(quán)法保護(hù)的程度。

    因此,需要有案例來(lái)說(shuō)明,就同一題材背景下,人類創(chuàng)作者和人工智能的創(chuàng)作水平相差幾何,普通受眾能否輕易辨別。在2018年8月18日《機(jī)智過(guò)人》第二季第2期節(jié)目中,主持人要求人工智能小冰和國(guó)內(nèi)詞曲創(chuàng)作人黃國(guó)倫、李泉分別就三國(guó)赤壁題材各自創(chuàng)作一首詞曲,并交由歌手黃齡分別演唱,再由觀眾判斷哪一首是人工智能小冰所創(chuàng)作的。結(jié)局出人意料之外,三首歌曲都相當(dāng)有水平,現(xiàn)場(chǎng)嘉賓和觀眾難以分辨哪首歌曲系人工智能小冰創(chuàng)作。無(wú)獨(dú)有偶,在2018年11月10日《機(jī)智過(guò)人》第二季第10期節(jié)目中,主持人對(duì)人工智能設(shè)計(jì)師鹿班進(jìn)行兩輪測(cè)試,第一輪考驗(yàn)是鹿班與三名人類資深設(shè)計(jì)師分別給汽車(chē)做商業(yè)海報(bào),第二輪考驗(yàn)中央美術(shù)學(xué)院范迪安院長(zhǎng)要求鹿班與另外兩名人類資深設(shè)計(jì)師分別給《孫子兵法》設(shè)計(jì)書(shū)籍封面,最后交由觀眾判斷。鹿班學(xué)習(xí)了500萬(wàn)張優(yōu)秀人類設(shè)計(jì)作品,現(xiàn)在每秒能做8 000次設(shè)計(jì),自2016年上線至今,鹿班已經(jīng)完成了10億次海報(bào)設(shè)計(jì),是全球首位大規(guī)模投入使用的人工智能平面設(shè)計(jì)師??梢哉f(shuō),人工智能設(shè)計(jì)師鹿班不僅海量地學(xué)習(xí)設(shè)計(jì)作品,同時(shí)還有豐富的實(shí)戰(zhàn)經(jīng)驗(yàn)?,F(xiàn)場(chǎng)嘉賓和觀眾都對(duì)哪一幅作品是鹿班的創(chuàng)作作出了錯(cuò)誤判斷。特別是在《孫子兵法》書(shū)籍設(shè)計(jì)時(shí),人工智能鹿班設(shè)計(jì)的作品,抓住了《孫子兵法》中“兵無(wú)常勢(shì),水無(wú)常形”的核心意境,以虛實(shí)結(jié)合的線條和色彩演繹出的行軍水墨畫(huà),獲得了觀眾和點(diǎn)評(píng)嘉賓的一致認(rèn)可。因此,人工智能生成物與人類作品同樣具備思想、感情及文化層面的深度,自然也具備著作權(quán)法保護(hù)作品所要求的獨(dú)創(chuàng)性??梢哉f(shuō),人工智能與人類因創(chuàng)作而劃分來(lái)的界限變得越來(lái)越模糊。

    人工智能創(chuàng)作,實(shí)際是科學(xué)家編寫(xiě)計(jì)算機(jī)程序以數(shù)學(xué)方式對(duì)創(chuàng)作問(wèn)題的求解,通過(guò)向海量數(shù)據(jù)的不斷學(xué)習(xí),逐漸優(yōu)化核心算法,使得機(jī)器也具有了創(chuàng)作的智能行為。誠(chéng)如現(xiàn)代人工智能概念提出者約翰·麥卡錫所言,機(jī)器不一定需要像人一樣思考才能獲得智能,而重點(diǎn)是讓機(jī)器解決人腦才能解決的問(wèn)題[2]。雖然人工智能與人類作者創(chuàng)作方式各異,但對(duì)于豐富文學(xué)、藝術(shù)和科學(xué)作品所貢獻(xiàn)的價(jià)值應(yīng)是相當(dāng)?shù)摹?/p>

    3.人工智能生成物獨(dú)創(chuàng)性之來(lái)源

    人工智能生成物之所以具有獨(dú)創(chuàng)性,在于隨著人工神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)技術(shù)的應(yīng)用,賦予不同人工智能程序不同的創(chuàng)作基因,其創(chuàng)作結(jié)果也頗具個(gè)性色彩。神經(jīng)網(wǎng)絡(luò)是由一層一層的神經(jīng)元構(gòu)成,層數(shù)越多,就越深,所謂深度學(xué)習(xí)就是用很多層神經(jīng)元構(gòu)成的神經(jīng)網(wǎng)絡(luò)達(dá)到機(jī)器學(xué)習(xí)的功能[12]111。根據(jù)人工智能在語(yǔ)音、圖像等方面不同的應(yīng)用,神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)會(huì)發(fā)生相應(yīng)變形。神經(jīng)網(wǎng)絡(luò)輸入層接收信息后,經(jīng)過(guò)每層神經(jīng)元對(duì)信息的處理與計(jì)算,最終在輸出層輸出結(jié)果。理論上講,如果一層網(wǎng)絡(luò)是一個(gè)函數(shù)的話,多層網(wǎng)絡(luò)就是多個(gè)函數(shù)的嵌套[12]112。神經(jīng)網(wǎng)絡(luò)本質(zhì)上可以看成一個(gè)數(shù)學(xué)函數(shù),數(shù)據(jù)通過(guò)神經(jīng)元逐層運(yùn)算后得到結(jié)果,每個(gè)神經(jīng)元可以理解成一個(gè)參數(shù),參數(shù)設(shè)置的不同,最終的輸出結(jié)果也會(huì)不同。人腦的神經(jīng)連接有一百萬(wàn)萬(wàn)億個(gè),要使人工智能的功能接近于人類,神經(jīng)網(wǎng)絡(luò)的神經(jīng)元數(shù)量必須要達(dá)到一定的數(shù)量級(jí)別才行。2012年,時(shí)任斯坦福大學(xué)人工智能實(shí)驗(yàn)室主任的吳恩達(dá)與谷歌合作搭建了一個(gè)當(dāng)時(shí)最大的神經(jīng)網(wǎng)絡(luò),神經(jīng)元數(shù)量多達(dá)十七億[12]113。而由于神經(jīng)元數(shù)量較多,且一個(gè)神經(jīng)元參數(shù)的變動(dòng)又會(huì)影響下一層參數(shù)的設(shè)置,神經(jīng)元的參數(shù)不同所得到的結(jié)果也會(huì)不同,當(dāng)神經(jīng)元數(shù)量超過(guò)一定數(shù)量后,神經(jīng)網(wǎng)絡(luò)就構(gòu)成了一個(gè)混沌系統(tǒng),人類是難以預(yù)測(cè)其結(jié)果的。

    顯然,通過(guò)手動(dòng)方式設(shè)置這些參數(shù),工作量之大,任何人都難以完成。人工智能開(kāi)發(fā)者通常的做法是先隨機(jī)設(shè)置參數(shù),再用學(xué)習(xí)數(shù)據(jù)去不斷調(diào)整和優(yōu)化參數(shù),使其輸出達(dá)到開(kāi)發(fā)者滿意的結(jié)果。隨著神經(jīng)網(wǎng)絡(luò)接收的學(xué)習(xí)數(shù)據(jù)在內(nèi)容和數(shù)量上的不同,神經(jīng)元參數(shù)會(huì)不斷調(diào)整,輸出結(jié)果也會(huì)不斷優(yōu)化。按照人工智能大師西蒙的說(shuō)法,學(xué)習(xí)就是系統(tǒng)在不斷重復(fù)的工作中對(duì)本身能力的增強(qiáng)或者改進(jìn),使得系統(tǒng)在下一次執(zhí)行同樣任務(wù)或者類似任務(wù)時(shí),會(huì)比現(xiàn)在做得更好或者效率更高[13]。以上是人工智能神經(jīng)網(wǎng)絡(luò)的計(jì)算原理,人工智能創(chuàng)作作品是基于此原理的實(shí)際運(yùn)用。因此,人工智能由于算法設(shè)計(jì)、神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)、學(xué)習(xí)內(nèi)容和數(shù)量上的不同,會(huì)使得人工智能具備不同的創(chuàng)作才能,而算法設(shè)計(jì)、學(xué)習(xí)數(shù)據(jù)的選取均體現(xiàn)了人工智能開(kāi)發(fā)者的創(chuàng)造性工作。同時(shí),就算是同一人工智能,基于學(xué)習(xí)對(duì)神經(jīng)網(wǎng)絡(luò)參數(shù)的改變,在不同階段的創(chuàng)作也會(huì)發(fā)生變化。而且,這種混沌系統(tǒng)下的變化所帶來(lái)的結(jié)果難以預(yù)測(cè),故,有學(xué)者稱利用人工智能“獲得的結(jié)果具有唯一性,從而不符合獨(dú)創(chuàng)性的要求”[6]。筆者以為此種說(shuō)法欠妥當(dāng)。人工智能基于算法設(shè)計(jì)和學(xué)習(xí)數(shù)據(jù)的不同,具備了獨(dú)特的創(chuàng)作基因而彰顯出個(gè)性,其生成物具有獨(dú)創(chuàng)性,而賦予其獨(dú)創(chuàng)性的行為可追根溯源至人工智能開(kāi)發(fā)者的創(chuàng)造性工作。

    三、給予人工智能生成物著作權(quán)保護(hù)的理論基礎(chǔ)

    人工智能生成物既然已經(jīng)具備作品的所有客觀屬性,理應(yīng)作為作品,成為著作權(quán)法保護(hù)的對(duì)象,相關(guān)權(quán)利人應(yīng)作為著作權(quán)人享有相關(guān)權(quán)益。但相較于傳統(tǒng)人類創(chuàng)作者的作品,人工智能生成物的創(chuàng)作方式顯得頗為獨(dú)特,這使得對(duì)其予以著作權(quán)法保護(hù)仍有使人費(fèi)解的地方。因此,筆者認(rèn)為對(duì)人工智能生成物作品賦予著作權(quán)保護(hù),有必要進(jìn)一步論證其理論基礎(chǔ)。

    (一)財(cái)產(chǎn)權(quán)勞動(dòng)理論下的知識(shí)產(chǎn)權(quán)制度

    洛克在《政府論》中說(shuō)到,“土地和一切低等動(dòng)物為一切人所共有,但是,每人對(duì)他自己的人身享有一種所有權(quán),除他以外任何人都沒(méi)有這種權(quán)利。他的身體所從事的勞動(dòng)和他的雙手所進(jìn)行的工作,我們可以說(shuō)是正當(dāng)?shù)貙儆谒摹盵14]18。洛克認(rèn)為,“勞動(dòng)使它們同公共的東西有所區(qū)別,勞動(dòng)在萬(wàn)物之母的自然所已完成的作業(yè)上面加上一些東西,這樣,它們就成為他的私有的權(quán)利了”[14]19。依據(jù)洛克的勞動(dòng)理論,人們對(duì)原來(lái)共有的東西施加勞動(dòng),就產(chǎn)生相應(yīng)物品的私有財(cái)產(chǎn)權(quán)。洛克的財(cái)產(chǎn)權(quán)勞動(dòng)理論成為知識(shí)產(chǎn)權(quán)正當(dāng)性依據(jù)之一,學(xué)者馮曉青認(rèn)為自然法原理和洛克的財(cái)產(chǎn)權(quán)勞動(dòng)理論是知識(shí)產(chǎn)權(quán)制度正當(dāng)性的重要理論基礎(chǔ),不僅可以用于解釋知識(shí)產(chǎn)權(quán)的形成,而且在知識(shí)產(chǎn)權(quán)從傳統(tǒng)形式轉(zhuǎn)化到現(xiàn)代形式的過(guò)程中發(fā)揮了非常重要的作用[15]。

    知識(shí)產(chǎn)權(quán)作為一種財(cái)產(chǎn)權(quán),勞動(dòng)理論仍有適用的空間。人工智能生成物,系人工智能科學(xué)家團(tuán)隊(duì)投入資金購(gòu)買(mǎi)計(jì)算機(jī)設(shè)備,不斷設(shè)計(jì)和優(yōu)化核心算法,選擇海量數(shù)據(jù)訓(xùn)練模型,最終使人工智能產(chǎn)品完成作品的創(chuàng)作,這無(wú)疑是一種辛勤勞動(dòng)的付出,另加之人工智能生成物本身又具有作品的客觀屬性,這為其獲得著作權(quán)保護(hù)奠定了堅(jiān)實(shí)的基礎(chǔ)。因人工智能與人類智能本身運(yùn)作方式不同,從創(chuàng)作的過(guò)程來(lái)看,人工智能科學(xué)家與人類創(chuàng)作者所付出的智力勞動(dòng)確有差異,但這不必然地構(gòu)成人工智能生成物獲得著作權(quán)保護(hù)的障礙,相對(duì)于人類創(chuàng)作者隨性、浪漫的創(chuàng)作,人工智能是以嚴(yán)謹(jǐn)?shù)臄?shù)學(xué)方式構(gòu)建表達(dá)。但不管是哪種方式,都屬于智力勞動(dòng)的付出,從財(cái)產(chǎn)權(quán)勞動(dòng)理論的角度,都應(yīng)予以財(cái)產(chǎn)權(quán)保護(hù)。

    (二)著作權(quán)法立法宗旨

    知識(shí)產(chǎn)權(quán)法激勵(lì)創(chuàng)新與鼓勵(lì)創(chuàng)作之立法宗旨,已然成為國(guó)際共識(shí)。人工智能生成物是對(duì)文學(xué)、藝術(shù)和科學(xué)領(lǐng)域作品的有益豐富,也是對(duì)人類作品創(chuàng)作的良好補(bǔ)充,是科技革命下新的創(chuàng)新之源。對(duì)人工智能生成物予以著作權(quán)保護(hù),符合知識(shí)產(chǎn)權(quán)法之宗旨。

    反之,如果將人工智能生成物不予以著作權(quán)保護(hù),而其本身又具備作品的客觀屬性,只能以類似于對(duì)待已過(guò)權(quán)利保護(hù)期的作品,將其歸屬于公共領(lǐng)域。這導(dǎo)致的最直接的后果是,沒(méi)有著作權(quán)對(duì)應(yīng)的利益激勵(lì)和法律保護(hù),人工智能開(kāi)發(fā)者的興趣和熱情會(huì)大為下降,人工智能創(chuàng)作將淪為一紙空話,這與著作權(quán)法激勵(lì)創(chuàng)作、豐富精神文化產(chǎn)品之意大相違背。順應(yīng)知識(shí)產(chǎn)權(quán)法之立法宗旨,我們應(yīng)對(duì)人工智能生成物予以著作權(quán)保護(hù)。

    (三)著作權(quán)隨技術(shù)進(jìn)步而擴(kuò)張的歷史宿命

    隨著科技技術(shù)的進(jìn)步與發(fā)展,特別是創(chuàng)作工具與傳播媒體不斷創(chuàng)新與迭代,作品種類也不斷豐富。有學(xué)者總結(jié)到,“技術(shù)的發(fā)展是版權(quán)擴(kuò)張的直接原因”[16],回顧過(guò)往,我們可以清晰地看到在科學(xué)技術(shù)的灌溉下,著作權(quán)從一顆小樹(shù)苗,已逐漸長(zhǎng)成參天大樹(shù)。

    然而,在新技術(shù)誕生之初的一段時(shí)期內(nèi),技術(shù)給予著作權(quán)更多的是困惑。譬如,在照相技術(shù)發(fā)明的初期,照片是否獨(dú)創(chuàng)性,能否成為著作權(quán)保護(hù)對(duì)象存有爭(zhēng)議。1865年德國(guó)巴伐利亞地區(qū)借鑒法國(guó)的做法,將照片列入著作權(quán)法保護(hù)的對(duì)象,但同一時(shí)期的普魯士卻認(rèn)為,攝影被認(rèn)為是手工藝,不能享有著作權(quán)保護(hù)[17]。不保護(hù)的主要理由是攝影所針對(duì)的客體是作為事實(shí)的人物、風(fēng)景等自然界存在的事物,攝影僅是對(duì)這些實(shí)物簡(jiǎn)單、機(jī)械地捕捉。但隨著對(duì)攝影理解的不斷攝入,學(xué)術(shù)界與實(shí)務(wù)界基本上已達(dá)成共識(shí),“攝影作品的獨(dú)創(chuàng)性在于拍攝時(shí)對(duì)拍攝對(duì)象的選擇、對(duì)拍攝時(shí)機(jī)與角度的把握、對(duì)拍攝技能的運(yùn)用以及后期的編輯處理”

    參見(jiàn)北京市朝陽(yáng)區(qū)人民法院作出的“朝民初字〔2011〕20681號(hào)”民事判決書(shū)。,攝影作品不是機(jī)械性地記錄拍攝對(duì)象,而是攝影者運(yùn)用其技能對(duì)拍攝對(duì)象予以創(chuàng)作性選擇的結(jié)果,創(chuàng)作過(guò)程體現(xiàn)了攝影者的創(chuàng)造性判斷和思考。同樣地,互聯(lián)網(wǎng)技術(shù)對(duì)于著作權(quán)的沖擊與影響巨大,但隨著學(xué)術(shù)討論與實(shí)務(wù)理解的深入,網(wǎng)絡(luò)傳播權(quán)應(yīng)運(yùn)而生。

    人工智能也是技術(shù)進(jìn)步的產(chǎn)物,對(duì)于創(chuàng)作而言,人工智能的本質(zhì)仍是工具,人的創(chuàng)造性勞動(dòng)仍然起著根本性的決定作用。比如,人工智能產(chǎn)品功能的設(shè)計(jì)與構(gòu)造、核心算法的開(kāi)發(fā)與優(yōu)化、數(shù)據(jù)的篩選與喂養(yǎng)工作,這些都離不開(kāi)人的創(chuàng)造性勞動(dòng),這與攝影者利用攝影工具所付出的創(chuàng)造性勞動(dòng)何其相似。而且,這些創(chuàng)造性勞動(dòng)的投入,對(duì)于人工智能生成物最終生成的內(nèi)容有著重大的影響,這些創(chuàng)造性勞動(dòng)的不同,依據(jù)混沌理論,也使得人工智能生成物最終具有個(gè)性化的表現(xiàn),從而使人工智能生成物達(dá)到獨(dú)創(chuàng)性所包含的創(chuàng)造性要求。只不過(guò),人工智能相比以往技術(shù),似乎更具有迷惑性,讓人以為是機(jī)器在創(chuàng)作,而不是背后的人在創(chuàng)作;但透過(guò)本質(zhì),我們可以清晰地看見(jiàn)是人發(fā)明人工智能,并利用人工智能進(jìn)行創(chuàng)作,人工智能只不過(guò)是科技革命下的新型創(chuàng)作工具而已。鑒于此,筆者覺(jué)得有必要對(duì)人工智能生成物予以著作權(quán)保護(hù),這符合著作權(quán)隨著科技發(fā)展而相應(yīng)擴(kuò)張的宿命。

    四、人工智能生成物著作權(quán)立法建議

    誠(chéng)如前文所述,人工智能生成物符合著作權(quán)法規(guī)定的作品范疇,但人工智能在作品創(chuàng)作主體、方式、效率上存在特殊性,怎樣對(duì)人工智能生成物在著作權(quán)法層面予以具體的保護(hù),仍需要進(jìn)一步討論和明確。

    (一)保護(hù)方式:對(duì)人工智能生成物賦予著作權(quán)保護(hù)

    筆者的立法建議是對(duì)人工智能生成物賦予著作權(quán)保護(hù),這更符合其本質(zhì)。在思考用什么樣的法律權(quán)利對(duì)人工智能生成物予以保護(hù)時(shí),筆者認(rèn)為應(yīng)當(dāng)探究相關(guān)主體在實(shí)踐行為中的主觀意圖如何,并探究該行為對(duì)應(yīng)的后果如何。簡(jiǎn)言之,人工智能開(kāi)發(fā)者利用人工智能欲實(shí)現(xiàn)創(chuàng)作的目的,并付出相關(guān)勞動(dòng),相關(guān)生成物具備法律定義的作品外觀,就應(yīng)當(dāng)用著作權(quán)對(duì)人工智能生成物予以保護(hù)。

    著作權(quán)和鄰接權(quán)構(gòu)成了作品的相關(guān)權(quán)利體系。故而有學(xué)者認(rèn)為人工智能生成物應(yīng)以鄰接權(quán)予以保護(hù),主張“人工智能創(chuàng)作物雖然在滿足一定條件后可在客觀上獲得獨(dú)創(chuàng)性,但是因其既非人的智力成果,也非工具主義下人手的延伸,因此無(wú)法被解釋進(jìn)當(dāng)前著作權(quán)的范圍”[18];“以鄰接權(quán)制度保護(hù)人工智能創(chuàng)作物也與鄰接權(quán)制度的功能高度契合”,“將人工智能創(chuàng)作物作為鄰接權(quán)客體進(jìn)行保護(hù)契合了鄰接權(quán)制度保護(hù)傳播者利益的基本功能”,“契合了鄰接權(quán)制度保護(hù)投資人利益的目標(biāo)”[19]。

    筆者認(rèn)為,用鄰接權(quán)保護(hù)人工智能生成物,與鄰接權(quán)本身保護(hù)的客體相悖,亦與人工智能生成物的本質(zhì)相悖。傳統(tǒng)的鄰接權(quán)如表演者對(duì)其表演享有的權(quán)利、錄音制品制作人對(duì)其錄音制品享有的權(quán)利、廣播電視組織對(duì)其廣播電視節(jié)目享有的權(quán)利,均因?qū)ψ髌费堇[和傳播而享有相關(guān)權(quán)利。因此,使鄰接權(quán)客體得以產(chǎn)生的人類活動(dòng)不屬于創(chuàng)作,為“非創(chuàng)作性投入”[20]。筆者認(rèn)為,以著作權(quán)和鄰接權(quán)來(lái)保護(hù)人工智能生成物的判斷標(biāo)準(zhǔn)在于,是否有創(chuàng)作性投入和是否有新作品產(chǎn)生。創(chuàng)作性投入包括有創(chuàng)作的主觀意圖和付出創(chuàng)作勞動(dòng)的客觀行為。人工智能開(kāi)發(fā)者定義人工智能實(shí)現(xiàn)創(chuàng)作的功能,說(shuō)明開(kāi)發(fā)者具備創(chuàng)作的主觀意圖,為實(shí)現(xiàn)人工智能創(chuàng)作而投入設(shè)備、開(kāi)發(fā)算法、選擇學(xué)習(xí)數(shù)據(jù)等,說(shuō)明開(kāi)發(fā)者為創(chuàng)作付出了實(shí)際的勞動(dòng),并最終獲得具備獨(dú)創(chuàng)性的作品。因此,人工智能生成物的本質(zhì)更適合用作品著作權(quán)予以保護(hù)。相反地,相關(guān)主體在實(shí)施表演、制作錄音錄像時(shí),根本無(wú)創(chuàng)作的主觀意圖,也明知其行為無(wú)法產(chǎn)生具備獨(dú)創(chuàng)性的作品,用鄰接權(quán)保護(hù)人工智能生成物不能體現(xiàn)相關(guān)主體的創(chuàng)作意圖,也不能解釋人工智能生成物的作品屬性,故而用鄰接權(quán)保護(hù)人工智能生成物并不恰當(dāng)。

    (二)權(quán)利主體:人工智能作品著作權(quán)歸屬于投資者

    筆者給出的立法建議是參考“電影制片人模式”,將人工智能作品著作權(quán)歸屬于投資者。

    傳統(tǒng)作品的著作權(quán)原則上由付出勞動(dòng)的創(chuàng)作者享有,當(dāng)然也存在職務(wù)作品、電影制片人的例外模式。為人工智能生成物付出勞動(dòng)的創(chuàng)作者是誰(shuí)呢?不同于傳統(tǒng)作品,人工智能創(chuàng)作需要多方面的工作與付出,比如計(jì)算機(jī)設(shè)備的投入、算法設(shè)計(jì)與開(kāi)發(fā)、學(xué)習(xí)數(shù)據(jù)的考量與選擇等,且這些工作無(wú)疑對(duì)于人工智能生成物完成創(chuàng)作具有決定性的意義,不同的算法、不同的數(shù)據(jù)會(huì)造就不同創(chuàng)造性的作品,因此,技術(shù)開(kāi)發(fā)人員似乎理應(yīng)對(duì)人工智能生成物享有著作權(quán)。

    但基于以下幾方面的考慮,筆者建議將人工智能生成物的著作權(quán)賦予投資者,而技術(shù)人員的利益則通過(guò)合同的方式予以保護(hù)。首先,考慮到人工智能研究與開(kāi)發(fā)投入巨大且存在相當(dāng)大的風(fēng)險(xiǎn),理應(yīng)對(duì)人工智能投資者的權(quán)益進(jìn)行合理補(bǔ)償,技術(shù)人員的利益應(yīng)重點(diǎn)以獲取勞動(dòng)報(bào)酬、分配項(xiàng)目收益的合同方式予以保護(hù),這符合市場(chǎng)經(jīng)濟(jì)中風(fēng)險(xiǎn)與收益對(duì)等的原則,也能起到激勵(lì)利用人工智能創(chuàng)作的目的。人工智能作品創(chuàng)作參與主體眾多和投入成本大的模式與拍攝電影方式極其類似,將人工智能作品著作權(quán)歸屬于投資者,這也與電影作品中保護(hù)投資者的理論和模式一致?!皩?shí)踐證明,把電影作品和視聽(tīng)作品當(dāng)作合作作品,不利于保護(hù)投資者 (制片者) 的利益,再者,由于作品權(quán)利主體眾多,交易談判過(guò)程更加復(fù)雜,也不利于電影作品和視聽(tīng)作品的順利流轉(zhuǎn),投資人利益得不到保障,作品的傳播者也無(wú)法提高積極性,法院最終經(jīng)過(guò)相關(guān)判例的發(fā)展,判決電影作品和視聽(tīng)作品的版權(quán)屬于雇主,雇員不享有作品的版權(quán)”[21]。因此,將人工智能作品著作權(quán)歸屬于投資者,能夠分配風(fēng)險(xiǎn)與收益承擔(dān)問(wèn)題,提高作品創(chuàng)作效率,且將已有現(xiàn)行制片人成熟的法律模式作為參考,人工智能作品著作權(quán)歸屬于投資者也較容易得到各參與主體和社會(huì)公眾的認(rèn)可和接受。其次,前述模式也是人工智能立法一體化的要求。對(duì)于人工智能的利用,還涉及諸多領(lǐng)域,其他領(lǐng)域也要求類似的制度安排。比如,利用人工智能開(kāi)發(fā)創(chuàng)新藥物、制造自動(dòng)駕駛汽車(chē)等,這些項(xiàng)目也同樣需要巨大的資本投入,同樣也存在項(xiàng)目失敗的虧損風(fēng)險(xiǎn),為推動(dòng)創(chuàng)新和合理分配風(fēng)險(xiǎn)將獲取的專利權(quán)給予投資人或投資人的公司,其他獲取合同上的利益分配,是較好的一種制度安排。

    (三)保護(hù)期限:與一般作品同等的著作權(quán)保護(hù)期限

    對(duì)于人工智能作品保護(hù)期限問(wèn)題,有學(xué)者建議,就“人工智能創(chuàng)作內(nèi)容”的保護(hù)期而言,可以將其規(guī)定為“自作品登記之日起20年的有效保護(hù)期”,以兼顧到社會(huì)公眾的利益[22]?;谟?jì)算力的大幅提升,人工智能不到一分鐘就能創(chuàng)作詞曲、寫(xiě)好新聞稿件、完成海報(bào)設(shè)計(jì),而且人工智能的創(chuàng)作是不知疲累的,可以連續(xù)、高速地大批量生產(chǎn)作品,如此高的創(chuàng)作效率和如此低的創(chuàng)作成本是人類創(chuàng)作者望塵莫及的。在面對(duì)攝影作品對(duì)手工繪畫(huà)工作的競(jìng)爭(zhēng)壓力下,歷史上有的國(guó)家曾對(duì)攝影作品著作權(quán)保護(hù)期限定為5年、10年不等[16]。因此,對(duì)人工智能生成物作為作品予以保護(hù),似乎不得不考慮因創(chuàng)作效率產(chǎn)生的公平問(wèn)題。

    基于以下三方面原因,筆者不主張對(duì)人工智能作品劃分單獨(dú)的權(quán)利保護(hù)期限,筆者給出的立法建議是對(duì)人工智能作品給予一般作品同等的權(quán)利保護(hù)期限。

    第一,在法律實(shí)施過(guò)程中,受眾難以區(qū)分作品來(lái)源,即幾乎無(wú)法識(shí)別作品是由人類還是由人工智能創(chuàng)作的。如果對(duì)人工智能作品縮短權(quán)利保護(hù)期,但在實(shí)際操作中又無(wú)法得到執(zhí)行,這樣的規(guī)定沒(méi)有現(xiàn)實(shí)意義,反而還因縮短保護(hù)期限阻礙人工智能作品的創(chuàng)作動(dòng)力,這明顯相悖于著作權(quán)法激勵(lì)創(chuàng)作之宗旨。

    第二,著作權(quán)人受益多少最終取決于作品價(jià)值,而不是作品創(chuàng)作效率。即使在沒(méi)有人工智能技術(shù)的背景下,作者獲取作品利益多寡也不取決于創(chuàng)作效率的高低,因?yàn)閯?chuàng)作效率并不代表作品的質(zhì)量和價(jià)值。就不同的人類作者而言,可能其創(chuàng)作效率差不多,但創(chuàng)作成果的價(jià)值差別卻很大,比如梵高的油畫(huà)作品拍賣(mài)價(jià)格達(dá)1 000萬(wàn)美元,顯然普通畫(huà)家作品價(jià)格難以望其項(xiàng)背。因此,人工智能創(chuàng)作效率的確很高,但其作品價(jià)值卻不一定高(特別是在技術(shù)發(fā)展的初期),因此不能以創(chuàng)作效率高低來(lái)劃分權(quán)利保護(hù)期限的長(zhǎng)度。

    第三,作品經(jīng)濟(jì)價(jià)值應(yīng)由市場(chǎng)評(píng)判,不應(yīng)由法律直接劃分保護(hù)期限的長(zhǎng)短。著作權(quán)之所以能夠發(fā)揮激勵(lì)創(chuàng)新的作用,與著作權(quán)作為財(cái)產(chǎn)權(quán)能夠?yàn)闄?quán)利人帶來(lái)經(jīng)濟(jì)利益密不可分,權(quán)利人最終獲利多少取決于該作品的社會(huì)需求和評(píng)價(jià)。作品社會(huì)需求大和評(píng)價(jià)好,對(duì)應(yīng)的價(jià)值和收益也高,反之亦然。權(quán)利人獲取著作權(quán)經(jīng)濟(jì)利益,基本遵循市場(chǎng)經(jīng)濟(jì)理論。如果人工智能作品體現(xiàn)了較高的科學(xué)、文化、藝術(shù)價(jià)值,市場(chǎng)會(huì)給予權(quán)利人對(duì)等的經(jīng)濟(jì)收益;反之,人工智能作品無(wú)相應(yīng)價(jià)值,最終的結(jié)果自然是無(wú)人問(wèn)津,權(quán)利人也可能是顆粒無(wú)收,創(chuàng)作效率再高也是枉然,為人工智能作品設(shè)立過(guò)短的權(quán)利保護(hù)期,亦屬多余之舉。正如工業(yè)革命背景下機(jī)器替代人類更好更快地完成工作一樣,如果為了保護(hù)人類純手工商品的利益,法律禁止交易機(jī)器生產(chǎn)的產(chǎn)品或者為其設(shè)定一個(gè)不合理的低價(jià)格,那么我們的科學(xué)技術(shù)進(jìn)步將會(huì)受到嚴(yán)重阻礙。同樣地,如果人工智能確實(shí)能夠又快又好地創(chuàng)作,其生成物與人類作品無(wú)異,甚至更好,我們就不能刻意為其設(shè)定過(guò)短保護(hù)期,否則,就是不恰當(dāng)?shù)剡`背了激勵(lì)創(chuàng)新的目的和阻礙了社會(huì)生產(chǎn)效率的提高。筆者認(rèn)為,妥善的做法應(yīng)該是將人工智能生成物價(jià)值交與市場(chǎng)評(píng)價(jià)、淘汰和選擇,這體現(xiàn)了法律的公平原則,也能發(fā)揮知識(shí)產(chǎn)權(quán)激勵(lì)創(chuàng)新的立法宗旨。

    人工智能是人類技術(shù)革命上的一次跨越,這次跨越給人類生活帶來(lái)了極大的便利,同時(shí)也因?yàn)榭茖W(xué)技術(shù)的跨越,將人類帶到了由人工智能產(chǎn)生的法律迷霧區(qū),由此發(fā)生對(duì)于人工生成物著作權(quán)保護(hù)的相關(guān)爭(zhēng)議。今天,人們已然能夠利用人工智能完成作品,但本質(zhì)上人工智能仍是工具,人工智能生成物所體現(xiàn)的獨(dú)創(chuàng)性來(lái)源于開(kāi)發(fā)者所付出的創(chuàng)造性勞動(dòng)。人工智能如此高效的創(chuàng)作,正是科技進(jìn)步之價(jià)值所在,正如工業(yè)機(jī)器人替代產(chǎn)業(yè)工人那樣,與其限制對(duì)人工智能生成物的保護(hù),不如給予其著作權(quán)保護(hù)并交給市場(chǎng)評(píng)判其價(jià)值,以免人為地阻礙人類創(chuàng)新與進(jìn)步的步伐。參考文獻(xiàn):

    [1]杰瑞·卡普蘭.人人都應(yīng)該知道的人工智能[M].汪婕舒,譯.浙江:浙江人民出版社,2011:18.

    [2]清華大學(xué)中國(guó)科技政策研究中心.中國(guó)人工智能發(fā)展報(bào)告2018[R/OL].(2018-07-17)[2018-12-10].http://www.cbdio.com/BigData/2018-07/17/content_5767419.htm.

    [3]保羅·戈斯汀.著作權(quán)之道——從古登堡到數(shù)字點(diǎn)播機(jī)[M].金海軍,譯.北京: 北京大學(xué)出版社,2008:22.

    [4]楊愛(ài)喜,卜向紅,嚴(yán)家祥.人工智能時(shí)代: 未來(lái)已來(lái)[M].北京:人民郵電出版社,2018:76.

    [5]王鳳枝.霍金:我真的害怕人工智能取代人類,成為新物種[EB/OL].(2017-11-04)[2018-12-10].http://tech.163.com/17/1104/08/D2CSC7GL00097U80.html.

    [6]王遷.論人工智能生成的內(nèi)容在著作權(quán)法中的定性[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2017,35(5):148-155.

    [7]約翰·弗蘭克·韋弗.機(jī)器人是人嗎[M].劉海安,徐鐵英,向秦,譯.上海:上海人民出版社,2018:212.

    [8]韋之.著作權(quán)法原理[M].北京:北京大學(xué)出版社,1998:18.

    [9]王遷.知識(shí)產(chǎn)權(quán)法教程[M].北京:中國(guó)人民大學(xué)出版社,2007:33-39.

    [10]李思雨.披頭士“重返樂(lè)壇”!索尼用AI技術(shù)制作專輯[EB/OL].(2016-10-11)[2018-12-15].http://tech.huanqiu.com/intelligent/2016-10/9534876.html.

    [11]汪佳婧.不安分的程序員!阿里90后員工做了個(gè)隨時(shí)FreeStyle的人工智能[EB/OL] (2017-11-10)[2018-12-15].https://yq.aliyun.com/articles/238762.

    [12]尼克.人工智能簡(jiǎn)史[M].北京:人民郵電出版社,2017.

    [13]蔡自興.人工智能及其應(yīng)用[M].北京:清華大學(xué)出版社,2016:225.

    [14]洛克.政府論(下篇)[M].葉啟芳,瞿菊農(nóng),譯.北京:商務(wù)印書(shū)館,1964.

    [15]馮曉青.知識(shí)產(chǎn)權(quán)的勞動(dòng)理論研究[J].湘潭大學(xué)社會(huì)科學(xué)學(xué)報(bào),2003(27):24-29.

    [16]馮曉青.知識(shí)產(chǎn)權(quán)法利益平衡理論 [M].北京:中國(guó)政法大學(xué)出版社,2006:236.

    [17]喻玲.德國(guó)攝影作品著作權(quán)保護(hù)的歷史發(fā)展及其啟示[J].知識(shí)產(chǎn)權(quán),2014(12):89-95.

    [18]秦濤,張旭東.論人工智能創(chuàng)作物著作權(quán)法保護(hù)的邏輯與路徑[J].華東理工大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2018,33(6):77-87.

    [19]許明月,譚玲.論人工智能創(chuàng)作物的鄰接權(quán)保護(hù):理論證成與制度安排[J].比較法研究,2018(6):42-54.

    [20]王國(guó)柱.鄰接權(quán)客體判斷標(biāo)準(zhǔn)論[J]. 法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2018,36(5):163-172.

    [21]李偉民.視聽(tīng)作品著作權(quán)主體與歸屬制度研究[J].中國(guó)政法大學(xué)學(xué)報(bào),2017(6):87-106.

    [22]孫松.人工智能創(chuàng)作內(nèi)容的作品定性與制度因應(yīng)[J].科技與出版,2019(4):106-110.

    Legalchallenges of artificial intelligence on copyright and its countermeasure

    HUANG Shanshan

    (School of Administrative Law,Southwest University of Political

    Science and Law,Chongqing 401120,P. R. China)

    Abstract:

    Numerous cases tell us that artificial intelligence creation works can be comparable to human creations,and artificial intelligence works are already original. The design of neural network algorithms and the choosing of learning data related to artificial intelligence creation finally reflect human creative labor. Artificial intelligence works are useful supplement and enrichment in the field of human spiritual culture,and are important achievement in the improvement of creative production efficiency. Artificial intelligence works should be protected at the copyright law level. The specific protection of artificial intelligence works should refer to the film producer mode,and the copyright should belong to the investors. The value of the works should be judged by the market,and considering the difficulty of distinguishing the source of the works,artificial intelligence works should be given the same protection period as general works.

    Key words: ?artificial intelligence; content generated by AI; neural network; copyright; originality

    (責(zé)任編輯?胡志平)

    猜你喜歡
    人工智能
    我校新增“人工智能”本科專業(yè)
    用“小AI”解決人工智能的“大”煩惱
    當(dāng)人工智能遇見(jiàn)再制造
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    AI人工智能解疑答問(wèn)
    人工智能與就業(yè)
    基于人工智能的電力系統(tǒng)自動(dòng)化控制
    人工智能,來(lái)了
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    人工智能來(lái)了
    黄色视频不卡| 国产一区二区三区在线臀色熟女| 两个人免费观看高清视频| 欧美一区二区精品小视频在线| 麻豆成人av在线观看| 在线观看66精品国产| 99久久99久久久精品蜜桃| 黄色a级毛片大全视频| 国产高清videossex| 在线av久久热| bbb黄色大片| 亚洲成av人片免费观看| 成年人黄色毛片网站| 香蕉国产在线看| 别揉我奶头~嗯~啊~动态视频| 亚洲精品久久国产高清桃花| 中亚洲国语对白在线视频| 大型av网站在线播放| 欧美成人性av电影在线观看| 免费观看人在逋| 18禁美女被吸乳视频| 久久中文字幕一级| 淫秽高清视频在线观看| 天堂√8在线中文| 久久精品夜夜夜夜夜久久蜜豆 | 在线观看日韩欧美| 大香蕉久久成人网| 久久天躁狠狠躁夜夜2o2o| 中文字幕另类日韩欧美亚洲嫩草| 国产黄a三级三级三级人| 美女高潮喷水抽搐中文字幕| 免费高清视频大片| 亚洲av成人av| 女生性感内裤真人,穿戴方法视频| 美女高潮喷水抽搐中文字幕| 亚洲激情在线av| 日韩欧美一区二区三区在线观看| 天天躁狠狠躁夜夜躁狠狠躁| 美女大奶头视频| 日韩 欧美 亚洲 中文字幕| av在线播放免费不卡| 国产又爽黄色视频| 日韩欧美国产一区二区入口| 久久人人精品亚洲av| 亚洲真实伦在线观看| 男女下面进入的视频免费午夜 | 两个人视频免费观看高清| 夜夜爽天天搞| 男人操女人黄网站| 给我免费播放毛片高清在线观看| 香蕉国产在线看| 真人一进一出gif抽搐免费| 在线观看免费日韩欧美大片| 大香蕉久久成人网| 俺也久久电影网| 午夜福利视频1000在线观看| 国产色视频综合| 久久午夜亚洲精品久久| 国产极品粉嫩免费观看在线| 精品欧美一区二区三区在线| 亚洲第一电影网av| 成人18禁高潮啪啪吃奶动态图| 国产亚洲精品一区二区www| 国产乱人伦免费视频| 亚洲成人免费电影在线观看| 国产精品久久久久久亚洲av鲁大| 久久国产精品男人的天堂亚洲| 国产精品,欧美在线| 国产精品免费一区二区三区在线| 一二三四社区在线视频社区8| 90打野战视频偷拍视频| 欧美性猛交╳xxx乱大交人| 中文字幕另类日韩欧美亚洲嫩草| 极品教师在线免费播放| 国产精品av久久久久免费| 久久人妻福利社区极品人妻图片| 免费女性裸体啪啪无遮挡网站| 满18在线观看网站| 一本久久中文字幕| 免费在线观看成人毛片| www国产在线视频色| 成人18禁高潮啪啪吃奶动态图| 亚洲中文日韩欧美视频| 亚洲最大成人中文| 婷婷精品国产亚洲av| 亚洲电影在线观看av| 男人舔女人的私密视频| 美女大奶头视频| 88av欧美| av有码第一页| 18禁美女被吸乳视频| 18禁裸乳无遮挡免费网站照片 | 我的亚洲天堂| 看黄色毛片网站| 在线国产一区二区在线| 白带黄色成豆腐渣| 又黄又爽又免费观看的视频| 亚洲专区字幕在线| 国语自产精品视频在线第100页| 一级a爱视频在线免费观看| 每晚都被弄得嗷嗷叫到高潮| 欧美av亚洲av综合av国产av| 国产欧美日韩一区二区三| 亚洲久久久国产精品| 欧美日韩乱码在线| 午夜福利视频1000在线观看| 最新在线观看一区二区三区| 色尼玛亚洲综合影院| 最近最新中文字幕大全电影3 | 侵犯人妻中文字幕一二三四区| 日本黄色视频三级网站网址| 亚洲av成人不卡在线观看播放网| 欧美在线黄色| 国产91精品成人一区二区三区| 亚洲性夜色夜夜综合| 免费人成视频x8x8入口观看| 久久久久久久精品吃奶| 91国产中文字幕| 99久久精品国产亚洲精品| 国产av一区在线观看免费| 成人欧美大片| 日韩国内少妇激情av| 欧美成人午夜精品| 久久婷婷成人综合色麻豆| 日韩欧美国产一区二区入口| 精品国产美女av久久久久小说| 国产精品九九99| 欧美在线一区亚洲| 99精品久久久久人妻精品| 免费看日本二区| 欧美久久黑人一区二区| 丁香六月欧美| 亚洲专区字幕在线| 美女国产高潮福利片在线看| 成年版毛片免费区| 国产视频一区二区在线看| 国产爱豆传媒在线观看 | 亚洲全国av大片| av中文乱码字幕在线| 久久中文看片网| 长腿黑丝高跟| 日本a在线网址| 18美女黄网站色大片免费观看| 女警被强在线播放| 熟女少妇亚洲综合色aaa.| 黄色毛片三级朝国网站| 曰老女人黄片| 国产午夜福利久久久久久| 91字幕亚洲| 美女大奶头视频| 亚洲,欧美精品.| 国产亚洲欧美在线一区二区| 亚洲aⅴ乱码一区二区在线播放 | 一级作爱视频免费观看| 欧美成人免费av一区二区三区| 两个人看的免费小视频| 精品久久久久久久人妻蜜臀av| 国语自产精品视频在线第100页| 熟女电影av网| 美女大奶头视频| 亚洲久久久国产精品| 一个人观看的视频www高清免费观看 | 亚洲av日韩精品久久久久久密| 丝袜美腿诱惑在线| 俺也久久电影网| 最新在线观看一区二区三区| 日本在线视频免费播放| 热re99久久国产66热| 婷婷精品国产亚洲av| 亚洲全国av大片| 亚洲国产精品sss在线观看| 丰满的人妻完整版| 女性生殖器流出的白浆| 欧美黑人巨大hd| 日本撒尿小便嘘嘘汇集6| 亚洲欧美激情综合另类| 久久热在线av| 韩国av一区二区三区四区| 熟女电影av网| 美女午夜性视频免费| 变态另类丝袜制服| 一个人观看的视频www高清免费观看 | www.www免费av| 18禁黄网站禁片午夜丰满| 亚洲成a人片在线一区二区| 制服人妻中文乱码| 国产伦在线观看视频一区| 丝袜在线中文字幕| 国产一区在线观看成人免费| 欧美午夜高清在线| 欧美性猛交黑人性爽| 久久午夜亚洲精品久久| 两个人看的免费小视频| 搞女人的毛片| 99久久久亚洲精品蜜臀av| 在线观看一区二区三区| 国产一区二区在线av高清观看| 亚洲七黄色美女视频| 久久午夜亚洲精品久久| 黄色丝袜av网址大全| 看免费av毛片| 麻豆久久精品国产亚洲av| 亚洲国产高清在线一区二区三 | 国产精品二区激情视频| 国产高清有码在线观看视频 | 亚洲精品美女久久久久99蜜臀| 欧美zozozo另类| 国产极品粉嫩免费观看在线| 色尼玛亚洲综合影院| 精品国产国语对白av| 国产精品亚洲一级av第二区| 午夜福利在线在线| 久久精品国产亚洲av香蕉五月| 国产一区二区激情短视频| 欧美激情高清一区二区三区| 精品久久久久久久末码| 黄片大片在线免费观看| 可以免费在线观看a视频的电影网站| 亚洲 欧美一区二区三区| 亚洲精品一卡2卡三卡4卡5卡| av中文乱码字幕在线| 哪里可以看免费的av片| 久久人妻福利社区极品人妻图片| 丝袜人妻中文字幕| 欧美日韩亚洲国产一区二区在线观看| 亚洲国产日韩欧美精品在线观看 | 在线观看一区二区三区| 国产精品日韩av在线免费观看| 大香蕉久久成人网| xxxwww97欧美| 91老司机精品| 欧美精品亚洲一区二区| 亚洲国产精品sss在线观看| 国产午夜精品久久久久久| a级毛片在线看网站| 欧美日韩亚洲国产一区二区在线观看| 亚洲国产欧美网| 老熟妇仑乱视频hdxx| 丰满的人妻完整版| 一夜夜www| 99久久精品国产亚洲精品| 50天的宝宝边吃奶边哭怎么回事| 搞女人的毛片| 99国产极品粉嫩在线观看| 欧美日韩中文字幕国产精品一区二区三区| 久99久视频精品免费| 最新美女视频免费是黄的| 在线观看66精品国产| 久热这里只有精品99| 色播亚洲综合网| 日本在线视频免费播放| 国产精品99久久99久久久不卡| 亚洲av美国av| 国产熟女午夜一区二区三区| 精品第一国产精品| 亚洲中文日韩欧美视频| 亚洲成人久久性| 国产91精品成人一区二区三区| 国产精品久久久久久人妻精品电影| 中文字幕精品亚洲无线码一区 | 亚洲色图av天堂| 12—13女人毛片做爰片一| 亚洲自拍偷在线| 午夜影院日韩av| 哪里可以看免费的av片| 啦啦啦 在线观看视频| 大型av网站在线播放| 亚洲欧美激情综合另类| 精品久久久久久久久久免费视频| 亚洲一区中文字幕在线| 不卡一级毛片| 亚洲精品色激情综合| 18禁裸乳无遮挡免费网站照片 | 色老头精品视频在线观看| 亚洲第一av免费看| 国产精品自产拍在线观看55亚洲| 99在线视频只有这里精品首页| 91大片在线观看| 一级a爱视频在线免费观看| 久久精品国产清高在天天线| 国产精品 国内视频| 亚洲国产中文字幕在线视频| 老司机在亚洲福利影院| 97人妻精品一区二区三区麻豆 | 黄色片一级片一级黄色片| 国产精品一区二区免费欧美| 一边摸一边做爽爽视频免费| av在线播放免费不卡| 两个人视频免费观看高清| 欧美丝袜亚洲另类 | 很黄的视频免费| 满18在线观看网站| 香蕉av资源在线| 在线观看66精品国产| 亚洲aⅴ乱码一区二区在线播放 | 亚洲全国av大片| 波多野结衣av一区二区av| 99在线人妻在线中文字幕| 男人的好看免费观看在线视频 | 国产区一区二久久| 伦理电影免费视频| 国产精品99久久99久久久不卡| 免费看a级黄色片| 嫩草影院精品99| 欧美色欧美亚洲另类二区| 男女那种视频在线观看| 国产精品1区2区在线观看.| 午夜老司机福利片| 久久久久国产一级毛片高清牌| 亚洲午夜理论影院| 亚洲熟女毛片儿| 国产精品久久久人人做人人爽| 亚洲av第一区精品v没综合| 欧美成人免费av一区二区三区| 国产伦一二天堂av在线观看| 好男人电影高清在线观看| 88av欧美| 俺也久久电影网| svipshipincom国产片| 色老头精品视频在线观看| 色在线成人网| av有码第一页| 在线观看日韩欧美| 中文在线观看免费www的网站 | 看黄色毛片网站| 人人妻,人人澡人人爽秒播| 亚洲成av片中文字幕在线观看| 免费搜索国产男女视频| 亚洲精品国产一区二区精华液| 久久 成人 亚洲| 国产一区二区三区视频了| 男女床上黄色一级片免费看| 大香蕉久久成人网| 天堂影院成人在线观看| 亚洲一区中文字幕在线| 18禁黄网站禁片免费观看直播| 听说在线观看完整版免费高清| 麻豆国产av国片精品| 黄色丝袜av网址大全| 日韩精品中文字幕看吧| 欧美黑人精品巨大| 69av精品久久久久久| 国产日本99.免费观看| 亚洲国产欧美网| 女人高潮潮喷娇喘18禁视频| 视频区欧美日本亚洲| 麻豆国产av国片精品| 国产激情欧美一区二区| 精品少妇一区二区三区视频日本电影| 国产蜜桃级精品一区二区三区| 亚洲国产欧美一区二区综合| 中文字幕最新亚洲高清| 欧美成人午夜精品| 久久狼人影院| 大型av网站在线播放| 校园春色视频在线观看| 亚洲国产精品合色在线| avwww免费| 中国美女看黄片| 天堂影院成人在线观看| 一二三四在线观看免费中文在| 国产欧美日韩一区二区三| 一级片免费观看大全| 亚洲国产精品久久男人天堂| 亚洲人成网站在线播放欧美日韩| 波多野结衣高清作品| 麻豆成人午夜福利视频| 黄色毛片三级朝国网站| 日韩欧美 国产精品| 免费在线观看完整版高清| 久久香蕉激情| 久久国产亚洲av麻豆专区| 18禁黄网站禁片免费观看直播| 一个人观看的视频www高清免费观看 | 精品欧美国产一区二区三| 精品高清国产在线一区| 美女免费视频网站| 日韩高清综合在线| 一区二区三区国产精品乱码| 村上凉子中文字幕在线| 一夜夜www| 国产又黄又爽又无遮挡在线| 天天躁夜夜躁狠狠躁躁| 欧美性猛交黑人性爽| 色综合欧美亚洲国产小说| 麻豆成人av在线观看| 日韩三级视频一区二区三区| 狂野欧美激情性xxxx| 国产精品98久久久久久宅男小说| 亚洲男人天堂网一区| 大香蕉久久成人网| 国产激情偷乱视频一区二区| 人人妻人人澡欧美一区二区| 黄色视频,在线免费观看| 中出人妻视频一区二区| 国产精品亚洲一级av第二区| www.999成人在线观看| 夜夜夜夜夜久久久久| 777久久人妻少妇嫩草av网站| 亚洲熟妇中文字幕五十中出| 十分钟在线观看高清视频www| 国产乱人伦免费视频| 哪里可以看免费的av片| 最新在线观看一区二区三区| 国语自产精品视频在线第100页| 久久久久久国产a免费观看| 欧美丝袜亚洲另类 | av天堂在线播放| 日韩av在线大香蕉| 亚洲av中文字字幕乱码综合 | 亚洲成人久久爱视频| 国语自产精品视频在线第100页| 19禁男女啪啪无遮挡网站| 欧洲精品卡2卡3卡4卡5卡区| 免费在线观看影片大全网站| 久久中文字幕人妻熟女| 精品久久久久久久久久久久久 | 午夜福利一区二区在线看| 别揉我奶头~嗯~啊~动态视频| 两性午夜刺激爽爽歪歪视频在线观看 | 欧美国产精品va在线观看不卡| 亚洲av美国av| 国产麻豆成人av免费视频| 国产精品国产高清国产av| 天堂√8在线中文| 中出人妻视频一区二区| 悠悠久久av| 国内毛片毛片毛片毛片毛片| www.熟女人妻精品国产| 老熟妇仑乱视频hdxx| 视频在线观看一区二区三区| 成人18禁在线播放| 亚洲精品国产区一区二| 国产高清有码在线观看视频 | 精品久久久久久久末码| 窝窝影院91人妻| 黄色女人牲交| 麻豆国产av国片精品| 成年版毛片免费区| 亚洲av电影在线进入| 欧美久久黑人一区二区| 好男人电影高清在线观看| 又大又爽又粗| 女性被躁到高潮视频| 亚洲熟妇中文字幕五十中出| 一卡2卡三卡四卡精品乱码亚洲| 999久久久国产精品视频| 老鸭窝网址在线观看| 成人欧美大片| 一区二区日韩欧美中文字幕| 男男h啪啪无遮挡| 亚洲色图av天堂| 国产精品日韩av在线免费观看| 丰满人妻熟妇乱又伦精品不卡| 男女午夜视频在线观看| 十八禁人妻一区二区| 日韩国内少妇激情av| 亚洲熟妇中文字幕五十中出| 成人18禁在线播放| 欧美日本亚洲视频在线播放| 欧美人与性动交α欧美精品济南到| 国产精品国产高清国产av| 国产精品精品国产色婷婷| 九色国产91popny在线| 亚洲国产毛片av蜜桃av| 99在线视频只有这里精品首页| 亚洲午夜精品一区,二区,三区| 宅男免费午夜| 国产97色在线日韩免费| 午夜视频精品福利| av超薄肉色丝袜交足视频| 麻豆一二三区av精品| 欧美黑人精品巨大| 亚洲成人久久爱视频| 亚洲专区国产一区二区| 欧美性猛交黑人性爽| 男女那种视频在线观看| 精品国产一区二区三区四区第35| 99精品久久久久人妻精品| 国产精品99久久99久久久不卡| 亚洲性夜色夜夜综合| 精品久久久久久久久久免费视频| 18禁黄网站禁片免费观看直播| 99久久精品国产亚洲精品| 免费在线观看影片大全网站| 久久久久国内视频| 女性被躁到高潮视频| 亚洲性夜色夜夜综合| 黄色a级毛片大全视频| 午夜福利一区二区在线看| 精品日产1卡2卡| 久久欧美精品欧美久久欧美| 亚洲色图 男人天堂 中文字幕| 婷婷精品国产亚洲av| 免费女性裸体啪啪无遮挡网站| 日日摸夜夜添夜夜添小说| 岛国视频午夜一区免费看| 美女扒开内裤让男人捅视频| 久久久久亚洲av毛片大全| bbb黄色大片| 久久久久久免费高清国产稀缺| 在线观看午夜福利视频| 757午夜福利合集在线观看| 叶爱在线成人免费视频播放| 夜夜躁狠狠躁天天躁| 在线免费观看的www视频| 欧美日韩亚洲国产一区二区在线观看| 亚洲精品一区av在线观看| 麻豆成人午夜福利视频| 国产视频一区二区在线看| 一个人观看的视频www高清免费观看 | 淫妇啪啪啪对白视频| 亚洲激情在线av| 色尼玛亚洲综合影院| 99re在线观看精品视频| 两人在一起打扑克的视频| 亚洲 国产 在线| 一本一本综合久久| 一二三四在线观看免费中文在| 夜夜爽天天搞| www日本在线高清视频| 免费女性裸体啪啪无遮挡网站| 日日摸夜夜添夜夜添小说| 天堂√8在线中文| 黑人欧美特级aaaaaa片| 国产欧美日韩一区二区三| 亚洲av电影不卡..在线观看| 国产不卡一卡二| 成年免费大片在线观看| 大型黄色视频在线免费观看| 99精品久久久久人妻精品| 国产一级毛片七仙女欲春2 | 在线观看66精品国产| 欧美黑人巨大hd| 欧美精品亚洲一区二区| 黄频高清免费视频| 国产精品亚洲美女久久久| 亚洲无线在线观看| 欧美一级a爱片免费观看看 | 男女床上黄色一级片免费看| 精品久久久久久久久久久久久 | 国产精品久久久久久人妻精品电影| 美国免费a级毛片| 琪琪午夜伦伦电影理论片6080| 99精品在免费线老司机午夜| 美女高潮喷水抽搐中文字幕| 欧美日韩亚洲国产一区二区在线观看| 男女下面进入的视频免费午夜 | 看片在线看免费视频| 欧美性猛交黑人性爽| 国产1区2区3区精品| 变态另类丝袜制服| 脱女人内裤的视频| 啦啦啦 在线观看视频| 99精品在免费线老司机午夜| 亚洲精品国产精品久久久不卡| 成人一区二区视频在线观看| 亚洲精品美女久久av网站| 精品国产乱子伦一区二区三区| 久久天堂一区二区三区四区| 中文在线观看免费www的网站 | 在线观看一区二区三区| 色av中文字幕| www日本黄色视频网| 日本三级黄在线观看| 啦啦啦免费观看视频1| 成熟少妇高潮喷水视频| 中文字幕人成人乱码亚洲影| 日本在线视频免费播放| 亚洲成人国产一区在线观看| 国内精品久久久久精免费| 美女高潮到喷水免费观看| 色播在线永久视频| 免费观看人在逋| 熟妇人妻久久中文字幕3abv| 欧美在线一区亚洲| 久久久久国产精品人妻aⅴ院| 一个人观看的视频www高清免费观看 | 亚洲av日韩精品久久久久久密| 亚洲欧美日韩高清在线视频| 长腿黑丝高跟| 麻豆一二三区av精品| 欧美激情极品国产一区二区三区| 真人做人爱边吃奶动态| av有码第一页| 91在线观看av| 男女之事视频高清在线观看| 欧美精品亚洲一区二区| 1024视频免费在线观看| 熟女电影av网| 亚洲色图 男人天堂 中文字幕| 国产精品综合久久久久久久免费| 中文字幕人妻熟女乱码| 亚洲全国av大片| 十分钟在线观看高清视频www| 亚洲国产精品sss在线观看| 精品日产1卡2卡| 一区福利在线观看| 国产片内射在线| 欧美激情 高清一区二区三区| 久久青草综合色| 欧美日韩中文字幕国产精品一区二区三区| 男男h啪啪无遮挡| 日韩视频一区二区在线观看| 日韩国内少妇激情av| 国产精品 国内视频| 精品不卡国产一区二区三区| 真人一进一出gif抽搐免费| 老熟妇仑乱视频hdxx| e午夜精品久久久久久久| 一级a爱片免费观看的视频| 亚洲第一电影网av| 欧美黄色片欧美黄色片| 一级毛片精品| 久久中文字幕人妻熟女|