• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    訓(xùn)練數(shù)據(jù)主體權(quán)益保護(hù)的新型數(shù)據(jù)財產(chǎn)權(quán)構(gòu)建*

    2023-03-09 17:44:23李愛君
    政法論叢 2023年6期
    關(guān)鍵詞:數(shù)據(jù)處理主體人工智能

    李愛君

    (中國政法大學(xué)互聯(lián)網(wǎng)金融法律研究院,北京 100022)

    生成式人工智能產(chǎn)業(yè)的發(fā)展以高質(zhì)量的訓(xùn)練數(shù)據(jù)為基礎(chǔ),訓(xùn)練數(shù)據(jù)在整個生成式人工智能研發(fā)過程中具有無可取代的重要性。當(dāng)前的技術(shù)趨勢常被稱為數(shù)據(jù)驅(qū)動的人工智能[1],訓(xùn)練數(shù)據(jù)不僅決定著生成式人工智能的發(fā)展,其性質(zhì)、結(jié)構(gòu)和特征也決定著訓(xùn)練數(shù)據(jù)主體權(quán)益的保護(hù)制度的構(gòu)建。訓(xùn)練數(shù)據(jù)是數(shù)據(jù)應(yīng)用的一種方式和數(shù)據(jù)價值實(shí)現(xiàn)的重要組成部分,因此其性質(zhì)是數(shù)據(jù)。訓(xùn)練數(shù)據(jù)的性質(zhì)既然是數(shù)據(jù),其主體權(quán)益保護(hù)制度的核心和基礎(chǔ)即是數(shù)據(jù)財產(chǎn)權(quán)制度。訓(xùn)練數(shù)據(jù)應(yīng)用所產(chǎn)生的法律問題不僅是數(shù)據(jù)立法的實(shí)踐基礎(chǔ),也深刻影響著數(shù)據(jù)財產(chǎn)權(quán)利的性質(zhì)及其內(nèi)容,同時是《中共中央 國務(wù)院關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》(以下簡稱“《數(shù)據(jù)二十條》”)中強(qiáng)調(diào)的:“……構(gòu)建適應(yīng)數(shù)據(jù)特征、符合數(shù)字經(jīng)濟(jì)發(fā)展規(guī)律、保障國家數(shù)據(jù)安全、彰顯創(chuàng)新引領(lǐng)的數(shù)據(jù)基礎(chǔ)制度”的具體落實(shí)。

    另外,訓(xùn)練數(shù)據(jù)的特點(diǎn)是來源多領(lǐng)域、數(shù)量大和類別多,除了具有數(shù)據(jù)的自然屬性特征之外,數(shù)據(jù)承載的權(quán)益主體多元化和權(quán)益形態(tài)多元化的特征更為凸顯,由此導(dǎo)致主體某一數(shù)據(jù)處理行為對多方主體權(quán)益和多種權(quán)益形態(tài)產(chǎn)生影響,并對已有的權(quán)利保護(hù)制度解決權(quán)益主體多元化和權(quán)益形態(tài)多元化交織而產(chǎn)生不同利益訴求帶來的矛盾提出了挑戰(zhàn)。訓(xùn)練數(shù)據(jù)主體權(quán)益保護(hù)的新型數(shù)據(jù)財產(chǎn)權(quán)是健全人工智能訓(xùn)練數(shù)據(jù)承載各主體權(quán)益保護(hù)制度的基礎(chǔ),更是落實(shí)《數(shù)據(jù)二十條》中強(qiáng)調(diào)的“建立健全數(shù)據(jù)要素各參與方合法權(quán)益保護(hù)制度”的關(guān)鍵。

    本文從生成式人工智能訓(xùn)練數(shù)據(jù)的性質(zhì)、結(jié)構(gòu)和特征出發(fā),構(gòu)建訓(xùn)練數(shù)據(jù)的新型數(shù)據(jù)財產(chǎn)權(quán)制度,為人工智能立法提供理論支撐。

    一、生成式人工智能訓(xùn)練數(shù)據(jù)的性質(zhì)和結(jié)構(gòu)

    (一)生成式人工智能訓(xùn)練數(shù)據(jù)的性質(zhì):數(shù)據(jù)

    依據(jù)有關(guān)訓(xùn)練數(shù)據(jù)的界定,生成式人工智能訓(xùn)練數(shù)據(jù)的本質(zhì)仍然是數(shù)據(jù),但是人工智能訓(xùn)練數(shù)據(jù)是數(shù)據(jù)應(yīng)用的一個場景,生成式人工智能是數(shù)據(jù)處理行為[2]。生成式人工智能的行為特征和訓(xùn)練數(shù)據(jù)的本質(zhì)決定、影響著數(shù)據(jù)基礎(chǔ)制度的建立和數(shù)據(jù)權(quán)利基本制度的性質(zhì)和內(nèi)容。

    自2023年1月10日起開始施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中首次明確了“訓(xùn)練數(shù)據(jù)”的含義,即“訓(xùn)練數(shù)據(jù),是指被用于訓(xùn)練機(jī)器學(xué)習(xí)模型的標(biāo)注或者基準(zhǔn)數(shù)據(jù)集”。標(biāo)注數(shù)據(jù)集可以理解為一種包含樣本和對應(yīng)標(biāo)簽的數(shù)據(jù)集,主要用于監(jiān)督式學(xué)習(xí)任務(wù),其中模型通過學(xué)習(xí)樣本和標(biāo)簽之間的關(guān)聯(lián)來進(jìn)行預(yù)測。在標(biāo)注數(shù)據(jù)集中,每個樣本都有一個已知的類別或目標(biāo),用于訓(xùn)練模型;基準(zhǔn)數(shù)據(jù)集是在特定任務(wù)上廣泛使用的標(biāo)準(zhǔn)數(shù)據(jù)集,用于評估不同算法的性能和比較不同模型的效果?;鶞?zhǔn)數(shù)據(jù)集通常是經(jīng)過廣泛測試和驗(yàn)證的,具有一定的通用性的數(shù)據(jù)集。與標(biāo)注數(shù)據(jù)集不同,基準(zhǔn)數(shù)據(jù)集通常不針對特定的任務(wù)或應(yīng)用場景,而是涵蓋了該領(lǐng)域中各種類型和難度的樣本,以便更全面地評估算法的性能。一個數(shù)據(jù)集既可以是標(biāo)注數(shù)據(jù)集,又可以成為基準(zhǔn)數(shù)據(jù)集。例如,在訓(xùn)練階段,它作為標(biāo)注數(shù)據(jù)集用于模型的訓(xùn)練,但在測試階段,可以用作基準(zhǔn)數(shù)據(jù)集來評估和比較不同模型的性能。

    綜上分析,訓(xùn)練機(jī)器學(xué)習(xí)模型的標(biāo)注或者基準(zhǔn)數(shù)據(jù)集的本質(zhì)都是數(shù)據(jù),只是其數(shù)據(jù)的使用功能有所不同。“在數(shù)據(jù)應(yīng)用發(fā)展過程中,數(shù)據(jù)總是和具體的場景、行為和權(quán)利相聯(lián)系,同類數(shù)據(jù)在不同的場景和不同的處理方式中,其對所涉及的主體利益是不同的。因此,數(shù)據(jù)(客體)決定數(shù)據(jù)活動的法律關(guān)系,即是法律關(guān)系的基礎(chǔ)?!盵3]訓(xùn)練數(shù)據(jù)是數(shù)據(jù),無論人工智能立法還是數(shù)據(jù)相關(guān)立法,都應(yīng)當(dāng)把數(shù)據(jù)的應(yīng)用場景作為立法研究的對象,進(jìn)而能夠使人工智能立法和數(shù)據(jù)立法更為科學(xué)化。

    (二)生成式人工智能訓(xùn)練數(shù)據(jù)的結(jié)構(gòu)

    訓(xùn)練數(shù)據(jù)具有雙層結(jié)構(gòu)。生成式人工智能訓(xùn)練數(shù)據(jù)的性質(zhì)是數(shù)據(jù),因此其結(jié)構(gòu)符合數(shù)據(jù)的結(jié)構(gòu)。根據(jù)《數(shù)據(jù)安全法》第3條對數(shù)據(jù)的定義:“任何以電子或者其他方式對信息的記錄”而得出數(shù)據(jù)具有雙層結(jié)構(gòu):“數(shù)據(jù)的載體層和數(shù)據(jù)的信息層(內(nèi)容層)”[4]。數(shù)據(jù)的載體層是通過0、1符號呈現(xiàn)。數(shù)據(jù)的載體層是數(shù)據(jù)的表現(xiàn)形式,即0、1組成的代碼本身。數(shù)據(jù)的收集、存儲、傳輸、加工等處理行為均通過對載體層的行為而實(shí)現(xiàn)。數(shù)據(jù)承載的利益主體多元化和利益形態(tài)多元化是通過控制載體層所呈現(xiàn)的,如控制主體、處理主體、處分主體等;信息為數(shù)據(jù)的內(nèi)容層,是數(shù)據(jù)所包含的對于客觀存在的表達(dá),也是數(shù)據(jù)分類的一種依據(jù)。數(shù)據(jù)的內(nèi)容層的利益主體多元化和利益形態(tài)多元化是記錄的信息來呈現(xiàn)的,不同的信息會涉及到不同利益主體和利益的形態(tài),如被記錄的是個人信息就呈現(xiàn)個人信息主體和個人信息主體的權(quán)益、著作權(quán)的內(nèi)容就呈現(xiàn)著作權(quán)主體和著作權(quán)主體的著作權(quán)形態(tài)。數(shù)據(jù)的雙層結(jié)構(gòu)可以以紙質(zhì)書籍為例來說明:書等于紙加內(nèi)容。紙是書的內(nèi)容載體,而書中所記載的事件、事物、事實(shí)和知識等是其內(nèi)容。書籍的處分需通過對書籍載體的處置來實(shí)現(xiàn),但對于書籍的科目劃分、類型劃分等則需要根據(jù)其所承載的內(nèi)容來進(jìn)行判定。書承載的至少有書所有權(quán)人和著作權(quán)人的利益主體和所有權(quán)與著作權(quán)的權(quán)利形態(tài)。

    數(shù)據(jù)載體層與數(shù)據(jù)信息層(內(nèi)容層)之間的關(guān)系首先體現(xiàn)在數(shù)據(jù)載體和信息的價值功能的關(guān)系上。數(shù)據(jù)載體具有實(shí)現(xiàn)人類目的價值的功能:人類處理數(shù)據(jù)的目的是為了人類能夠獲取認(rèn)識世界、改造世界和治理世界所需要的信息。信息具有人類認(rèn)識事物、區(qū)別事物和消除人類不確定性的價值,是能夠直接為人們所閱讀和理解的,但人類對信息無法直接控制和處理。數(shù)據(jù)雖然無法被人閱讀和理解,但機(jī)器能夠閱讀、理解、控制和處理數(shù)據(jù)。數(shù)據(jù)不僅是對信息的記錄,還可以通過載體實(shí)現(xiàn)對其控制和處理,進(jìn)而實(shí)現(xiàn)人們獲得的信息(內(nèi)容)價值。數(shù)據(jù)的處理行為實(shí)質(zhì)是通過對數(shù)據(jù)載體層0、1符號的處理來實(shí)現(xiàn)人類認(rèn)識世界、改造世界和治理世界所需要的信息。因此數(shù)據(jù)的載體層所體現(xiàn)的是實(shí)現(xiàn)數(shù)據(jù)處理的功能價值,是信息層能夠得到處理和實(shí)現(xiàn)價值的基礎(chǔ),是數(shù)據(jù)能夠被技術(shù)處理的客觀條件,沒有數(shù)據(jù)載體層則數(shù)據(jù)內(nèi)容層的信息無法被處理,其處理后所形成的體現(xiàn)數(shù)據(jù)價值的信息也無法被呈現(xiàn)。此外,數(shù)據(jù)載體具有實(shí)現(xiàn)數(shù)據(jù)資產(chǎn)化的價值功能。數(shù)據(jù)通過對數(shù)據(jù)載體實(shí)現(xiàn)對數(shù)據(jù)的控制、排他、處理和處分,從而實(shí)現(xiàn)了具有資產(chǎn)屬性的交易、擁有或控制和帶來經(jīng)濟(jì)利益的要素;實(shí)現(xiàn)數(shù)據(jù)安全的價值。根據(jù)《數(shù)據(jù)安全法》第3條“數(shù)據(jù)安全,是指通過采取必要措施,確保數(shù)據(jù)處于有效保護(hù)和合法利用的狀態(tài),以及具備保障持續(xù)安全狀態(tài)的能力”,由此可得出,數(shù)據(jù)安全是通過對數(shù)據(jù)載體的有效保護(hù)使其處于保障持續(xù)安全狀態(tài)的能力,而不是通過人類無法控制的信息層來實(shí)現(xiàn)數(shù)據(jù)安全。

    其次,數(shù)據(jù)規(guī)范關(guān)系層面,數(shù)據(jù)信息層(內(nèi)容層)涉及的法律規(guī)定規(guī)范數(shù)據(jù)處理行為,而且數(shù)據(jù)的信息層(內(nèi)容層)涉及法律規(guī)定的主體權(quán)利是數(shù)據(jù)法律規(guī)定涉及主體權(quán)利的在先權(quán)利,此在先權(quán)利對數(shù)據(jù)客體涉及的權(quán)利進(jìn)行限制。如數(shù)據(jù)是記錄的個人信息,即個人信息數(shù)據(jù)。對個人信息數(shù)據(jù)的處理行為不僅遵循數(shù)據(jù)相關(guān)的立法,還應(yīng)當(dāng)遵循《個人信息保護(hù)法》等數(shù)據(jù)的內(nèi)容層法律規(guī)定。

    最后,從數(shù)據(jù)的分類層面看,數(shù)據(jù)可依據(jù)數(shù)據(jù)記錄的信息不同進(jìn)行分類,即數(shù)據(jù)的信息層(內(nèi)容層)是數(shù)據(jù)的分類的一種方式。如數(shù)據(jù)的信息層(內(nèi)容層)為個人信息,即為個人信息數(shù)據(jù);如記錄的商業(yè)秘密信息,即為商業(yè)秘密信息數(shù)據(jù);如記錄的有關(guān)隱私信息,即為隱私信息數(shù)據(jù)等。

    二、數(shù)據(jù)的自然屬性特征

    自然屬性即自身事物的面貌、規(guī)律、現(xiàn)象以及特征的本質(zhì)的描述說明。數(shù)據(jù)具有無體性、可支配性、排他性、可控性和財產(chǎn)屬性的自然屬性特征。

    首先,數(shù)據(jù)在物理形態(tài)上具有無體性特征,即數(shù)據(jù)不具有物理上的形態(tài)。有體物即客觀存在的、確定的、有一定體積或者占用一定空間的物,其物理形態(tài)可以是固態(tài)、液態(tài)或者氣態(tài)。[5]沒有物理實(shí)體的無體物,如商譽(yù)、信用、商業(yè)秘密、思想等,此外電力、天然氣、光波、電磁波等沒有特定形體但能為人力所控制的物一般也被認(rèn)定為無體物。數(shù)據(jù)是對信息的電子化記錄,在計算機(jī)系統(tǒng)中,數(shù)據(jù)以二進(jìn)制信息單元0、1的形式表示,通常呈現(xiàn)為非物質(zhì)性的比特(bit)。比特(bit)是無體性的,它既是數(shù)據(jù)的載體,也是數(shù)據(jù)的呈現(xiàn)形式,數(shù)據(jù)也不再需要如知識產(chǎn)權(quán)載體的書、電視等實(shí)體物作為物質(zhì)載體,它的載體是比特(bit)符號(符號載體),只需要相應(yīng)的數(shù)字化系統(tǒng)工具加以呈現(xiàn),使其所承載的內(nèi)容可以被直觀識別[6],由上分析可見數(shù)據(jù)具有無體性。

    其次,數(shù)據(jù)具有可支配性。數(shù)據(jù)是對信息的記錄,主要表現(xiàn)為存在于計算機(jī)系統(tǒng)中的電磁符號,人們可以通過技術(shù)手段以多種方式處理數(shù)據(jù),從而實(shí)現(xiàn)對數(shù)據(jù)的支配。數(shù)據(jù)的產(chǎn)生、存儲、加工等都離不開人的行為,數(shù)據(jù)作為一種客體,通過數(shù)據(jù)主體對其支配發(fā)揮自身的作用和價值。

    第三,數(shù)據(jù)具有排他性,即數(shù)據(jù)的相關(guān)權(quán)益主體具有對其他主體通過相同方式獲取直接經(jīng)濟(jì)利益的排除。一方面,數(shù)據(jù)的可支配性決定了數(shù)據(jù)控制主體能夠通過技術(shù)手段限制其他主體對其數(shù)據(jù)的訪問,此情形下其他主體則無從對這些數(shù)據(jù)形成控制或進(jìn)行處理,數(shù)據(jù)排他性由此實(shí)現(xiàn)?!皵?shù)據(jù)雙層結(jié)構(gòu)以及數(shù)據(jù)準(zhǔn)占有的概念的構(gòu)造,數(shù)據(jù)財產(chǎn)權(quán)呈現(xiàn)數(shù)據(jù)財產(chǎn)權(quán)的權(quán)利人對權(quán)利客體可以通過事實(shí)上的管領(lǐng)具備支配、排他性關(guān)系。值得注意的是,有學(xué)說質(zhì)疑數(shù)據(jù)的排他性,其主要的說理角度在于數(shù)據(jù)可以低成本復(fù)制。同時,復(fù)制出的新數(shù)據(jù)并不妨礙原數(shù)據(jù)的使用排他性為財產(chǎn)之基礎(chǔ),而可復(fù)制性體現(xiàn)的是數(shù)據(jù)客體所具備的競爭性概念,否認(rèn)競爭性的邏輯并不排斥客體能夠具備排他性?!盵7]另一方面,數(shù)據(jù)的處理、處分和收益主體有權(quán)決定是否賦予其他主體同等的數(shù)據(jù)權(quán)利,通過對于數(shù)據(jù)處理、處分、收益之權(quán)利的限制而實(shí)現(xiàn)數(shù)據(jù)的排他性。

    第四,數(shù)據(jù)具有可控性。數(shù)據(jù)財產(chǎn)權(quán)權(quán)利人對于數(shù)據(jù)載體具備管領(lǐng)的能力。數(shù)據(jù)無物理形態(tài),但數(shù)據(jù)是通過數(shù)據(jù)的載體層實(shí)現(xiàn)對數(shù)據(jù)存儲,如“數(shù)據(jù)載體可置于自己的電腦或移動硬盤之中。電腦、移動硬盤排他性權(quán)利的支配,可確保數(shù)據(jù)財產(chǎn)權(quán)權(quán)利人對于電腦、移動硬盤中數(shù)據(jù)所置于的數(shù)字空間的結(jié)合性”實(shí)現(xiàn)控制。另外,“數(shù)據(jù)載體亦可置于網(wǎng)絡(luò)硬盤之中,如數(shù)據(jù)財產(chǎn)權(quán)權(quán)利人并不具備對提供網(wǎng)絡(luò)硬盤儲存空間實(shí)體硬盤的所有權(quán)。但是,對使用網(wǎng)絡(luò)硬盤所對應(yīng)的密鑰可實(shí)現(xiàn)數(shù)據(jù)財產(chǎn)權(quán)人對網(wǎng)絡(luò)硬盤中的數(shù)據(jù)的控制?!盵8]相對于空間、時間關(guān)系的構(gòu)成則更好理解。從時間角度上來看,電腦、移動硬盤、網(wǎng)絡(luò)硬盤上的權(quán)利所存在時間上的繼續(xù)性,同樣可以映射權(quán)利人對數(shù)據(jù)在時間上的結(jié)合。

    第五,數(shù)據(jù)具有財產(chǎn)屬性。數(shù)據(jù)具有財產(chǎn)屬性是通過數(shù)據(jù)具有經(jīng)濟(jì)價值來判斷的。數(shù)據(jù)的經(jīng)濟(jì)價值表現(xiàn)為使用價值和交換價值。數(shù)據(jù)的使用價值體現(xiàn)于其應(yīng)用過程能夠滿足人們生產(chǎn)生活的需要,是一種生產(chǎn)要素。黨的十九大即指出數(shù)據(jù)新型生產(chǎn)要素的地位,2020年4月,國務(wù)院印發(fā)《關(guān)于構(gòu)建更加完善的要素市場化配置體制機(jī)制的意見》,首次提出加快培育數(shù)據(jù)要素市場。2022年1月國務(wù)院發(fā)布的《“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃》中再次指出,數(shù)據(jù)對提高生產(chǎn)效率的乘數(shù)作用不斷凸顯,已成為最具時代特征的生產(chǎn)要素。國家對于數(shù)據(jù)的生產(chǎn)要素地位的認(rèn)可和重視,足以證明數(shù)據(jù)的使用價值已是共識。數(shù)據(jù)的交換價值則體現(xiàn)在數(shù)據(jù)及其衍生品能夠通過處理許可、轉(zhuǎn)讓等方式進(jìn)行交易,為人們帶來直接的經(jīng)濟(jì)利益。當(dāng)前,數(shù)據(jù)交易已經(jīng)成為一種產(chǎn)業(yè),數(shù)據(jù)交易產(chǎn)業(yè)的存在本身也表明了數(shù)據(jù)的交換價值。另外,無論是數(shù)據(jù)的使用價值還是交換價值,其價值形成均離不開勞動。數(shù)據(jù)的應(yīng)用需要算法、模型等技術(shù)手段,體現(xiàn)了勞動創(chuàng)造數(shù)據(jù)的價值。綜上,數(shù)據(jù)具有經(jīng)濟(jì)價值,因此數(shù)據(jù)具有財產(chǎn)屬性。

    三、生成式人工智能訓(xùn)練數(shù)據(jù)承載的權(quán)益主體多元化

    生成式人工智能不僅核心要素是數(shù)據(jù),而且其技術(shù)初期在大算力的支持下需通過對天文級數(shù)據(jù)運(yùn)行強(qiáng)算法,訓(xùn)練得到生成式人工智能大模型。另外,在生成式人工智能的升級迭代過程中,大模型將運(yùn)行過程中繼續(xù)收集和產(chǎn)生的數(shù)據(jù)納入訓(xùn)練數(shù)據(jù)中,由此對自身進(jìn)行再訓(xùn)練以提升生成內(nèi)容的準(zhǔn)確性和豐富性。生成式人工智能其實(shí)質(zhì)是一種數(shù)據(jù)處理行為,該行為指向的是數(shù)據(jù)。生成式人工智能訓(xùn)練模型的過程就是數(shù)據(jù)處理的過程,該過程中的創(chuàng)建、運(yùn)行和改進(jìn)都離不開對數(shù)據(jù)的處理。生成式人工智能的訓(xùn)練數(shù)據(jù)的量級及收集數(shù)據(jù)的特點(diǎn)與生成式人工智能的數(shù)據(jù)處理行為屬性導(dǎo)致了生成式人工智能訓(xùn)練數(shù)據(jù)承載了權(quán)益主體多元化的特征。

    首先,訓(xùn)練數(shù)據(jù)(基準(zhǔn)數(shù)據(jù)集)具有多樣性。訓(xùn)練數(shù)據(jù)的多樣性是指訓(xùn)練數(shù)據(jù)涵蓋了多種不同的情況、類別或特征。多樣性數(shù)據(jù)是訓(xùn)練數(shù)據(jù)的必要基礎(chǔ),因?yàn)槎鄻有缘臄?shù)據(jù)有助于模型學(xué)習(xí)更全面的模式和特征,培養(yǎng)強(qiáng)大、具有廣泛應(yīng)用能力的生成式人工智能模型,提高泛化能力、提高模型的性能和創(chuàng)新能力,減少偏見和歧視。如健康醫(yī)療領(lǐng)域的生成式人工智能模型的訓(xùn)練數(shù)據(jù)包括個人基本信息數(shù)據(jù)、健康狀況信息數(shù)據(jù)、醫(yī)療應(yīng)用信息數(shù)據(jù)、醫(yī)療支付信息數(shù)據(jù)、衛(wèi)生資源信息數(shù)據(jù)以及公共衛(wèi)信息數(shù)據(jù)等。隨著電子病歷、互聯(lián)網(wǎng)醫(yī)療、AI醫(yī)療影像等技術(shù)的應(yīng)用和普及,醫(yī)療數(shù)字化浪潮襲來,各類健康醫(yī)療數(shù)據(jù)采集變得更加立體,獲取數(shù)據(jù)的渠道越來越多,由單一的錄入轉(zhuǎn)變?yōu)槿壕凼绞占痆9],其廣泛性和復(fù)雜性使其數(shù)據(jù)承載的權(quán)益主體呈現(xiàn)出多元化的特征,具體呈現(xiàn)的承載權(quán)益主體有個人信息主體、醫(yī)療機(jī)構(gòu)、公共衛(wèi)生機(jī)構(gòu)、管理機(jī)構(gòu)、科研機(jī)構(gòu)等。

    其次,生成式人工智能具有數(shù)據(jù)集成性。在人工智能大模型之前,人們要通過不同的網(wǎng)頁、知識社區(qū)、網(wǎng)絡(luò)百科等途徑來獲取數(shù)據(jù)。生成式人工智能的數(shù)據(jù)集成性是指將若干互為獨(dú)立、分散的數(shù)據(jù)源中的數(shù)據(jù)進(jìn)行邏輯地或物理地集中統(tǒng)一到一個數(shù)據(jù)集合之中,其實(shí)質(zhì)是提高了人類獲取信息的能力和實(shí)現(xiàn)高效率的數(shù)據(jù)共享。從生成式人工智能的數(shù)據(jù)集成的定義可以得出,生成式的人工智能訓(xùn)練數(shù)據(jù)量巨大和涉及面廣,因此生成式人工智能的數(shù)據(jù)集成性涉及的權(quán)益主體將是多元化的。

    第三,生成式人工智能訓(xùn)練數(shù)據(jù)海量化。生成式人工智能大模型的創(chuàng)建和運(yùn)行均需要巨大的數(shù)據(jù)量,其“想象力”和創(chuàng)作能力是在海量數(shù)據(jù)的基礎(chǔ)上由計算機(jī)學(xué)習(xí)和模擬生成的,數(shù)據(jù)量不足將會導(dǎo)致生成的內(nèi)容質(zhì)量不佳。目前市面上的生成式人工智能無一不是通過巨量數(shù)據(jù)實(shí)現(xiàn)內(nèi)容創(chuàng)作。例如知名的計算機(jī)視覺項目Image Net在眾包任務(wù)中有超過25000人參與,標(biāo)準(zhǔn)圖片超過1400萬張;而Open AI更是收集了4億個文本圖像配對數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練。[10]生成式人工智能的訓(xùn)練數(shù)據(jù)海量化,無論從類別繁多,還是單一類別的數(shù)據(jù)海量化都涉及權(quán)益主體多元化。如類別繁多:涉及個人信息數(shù)據(jù)、商業(yè)秘密信息數(shù)據(jù)、知識產(chǎn)權(quán)信息數(shù)據(jù)和個人隱私信息數(shù)據(jù),涉及的權(quán)益主體有個人信息權(quán)益主體、商業(yè)秘密主體、知識產(chǎn)權(quán)主體和個人隱私主體;從某一類數(shù)據(jù)的量的巨大上來看,涉及權(quán)益主體多元化:如一個海量的個人信息數(shù)據(jù)庫,所承載著海量個人信息權(quán)益主體。

    第四,生成式人工智能訓(xùn)練數(shù)據(jù)的處理行為涉及權(quán)益主體多元化。生成式人工智能本質(zhì)是一種數(shù)據(jù)處理行為。在生成式人工智能之前,法學(xué)界已經(jīng)對其上位概念“人工智能”進(jìn)行過研究,并產(chǎn)生主體說和工具說兩種觀點(diǎn)。然而,將人工智能定位為一種法律主體,既不符合法律服務(wù)于人類生存發(fā)展的價值,也無法論證其具備法律主體應(yīng)有的各種能力資格。因此,作為人工智能的子概念,生成式人工智能同樣應(yīng)當(dāng)被視為背后的研發(fā)者、制造者和使用者的法律行為。[11]歐盟的《人工智能法案》第28條第四款提到了生成式人工智能,將其描述為“在人工智能系統(tǒng)中使用基礎(chǔ)模型,專門用于以不同程度的自主性生成復(fù)雜的文本、圖像、音頻或視頻等內(nèi)容”。從這個定義可以看出,歐盟在法律中將“生成式人工智能”定位為一種行為。我國《生成式人工智能服務(wù)管理暫行辦法》將“生成式人工智能”定位為“技術(shù)”,如“生成式人工智能技術(shù),是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)”。技術(shù)是人類改造自然、改造社會、以及改造自我的過程中所用到的一切手段和方法的總和。技術(shù)是人類特殊的勞動工具,是人類行為的一種延伸,由此生成式人工智能是行為,且是數(shù)據(jù)的處理行為。

    根據(jù)我國《數(shù)據(jù)安全法》第3條的定義數(shù)據(jù)處理是行為束,包括:“數(shù)據(jù)的收集、存儲、使用、加工、傳輸、提供、公開等。”而且數(shù)據(jù)處理行為是法律行為,“法律行為的本質(zhì),在于旨在引起法律效果之意思的實(shí)現(xiàn),在于法律制度以承認(rèn)該意思方式而于法律世界實(shí)現(xiàn)行為人欲然的法律判斷?!盵12]行為是主體行使的,法行為同樣是來自主體的活動。數(shù)據(jù)處理法律行為是多個行為束,每個行為都有可能涉及一個主體,多個行為就涉及多個行為主體,如收集、存儲、使用、加工、傳輸、提供、公開等行為主體,這些行為主體可各自獨(dú)立存在或兩個及兩個以上行為集于一個主體,因此會涉及數(shù)據(jù)處理行為束中的收集、存儲、使用、加工、傳輸、提供、公開的行為主體權(quán)益,由此數(shù)據(jù)處理行為涉及的權(quán)益主體多元化,即生成式人工智能(數(shù)據(jù)處理行為)權(quán)益主體多元化。

    第五,數(shù)據(jù)的信息層(內(nèi)容層)所涉及的權(quán)益主體同樣呈現(xiàn)多元化。前文已對數(shù)據(jù)記錄的內(nèi)容(信息)層進(jìn)行了分析,數(shù)據(jù)記錄的內(nèi)容(信息)層如是個人信息就涉及個人信息權(quán)益主體、如是記錄隱私信息數(shù)據(jù)就涉及隱私權(quán)益主體、如是記錄的著作權(quán)內(nèi)容則會涉及著作權(quán)主體、記錄的如是某商業(yè)秘密就涉及商業(yè)秘密主體、記錄的如是國家秘密的內(nèi)容就涉及國家主權(quán)主體等等,因此,數(shù)據(jù)的信息層(內(nèi)容層)所涉及的權(quán)益主體同樣呈現(xiàn)多元化。

    綜上分析,無論是從訓(xùn)練數(shù)據(jù)(基準(zhǔn)數(shù)據(jù)集)具有多樣性、生成式人工智能具有數(shù)據(jù)集成性、生成式人工智能訓(xùn)練數(shù)據(jù)海量化和生成式人工智能訓(xùn)練數(shù)據(jù)的處理行為,還是從數(shù)據(jù)的信息層(內(nèi)容層)方面分析,生成式人工智能訓(xùn)練數(shù)據(jù)所涉及的權(quán)益主體都還是呈現(xiàn)出多元化的特征。

    四、生成式人工智能訓(xùn)練數(shù)據(jù)承載的權(quán)益形態(tài)多元化

    訓(xùn)練數(shù)據(jù)不僅承載的權(quán)益主體多元化,還呈現(xiàn)出權(quán)益形態(tài)多元化的特征。首先,數(shù)據(jù)通過載體實(shí)現(xiàn)的數(shù)據(jù)處理過程中呈現(xiàn)了承載權(quán)益形態(tài)的多元化。依據(jù)《數(shù)據(jù)二十條》中“根據(jù)數(shù)據(jù)來源和數(shù)據(jù)生成特征,分別界定數(shù)據(jù)生產(chǎn)、流通、使用過程中各參與方享有的合法權(quán)利,建立數(shù)據(jù)資源持有權(quán)、數(shù)據(jù)加工使用權(quán)、數(shù)據(jù)產(chǎn)品經(jīng)營權(quán)等分置的產(chǎn)權(quán)運(yùn)行機(jī)制”規(guī)定數(shù)據(jù)承載的利益形態(tài)有數(shù)據(jù)持有權(quán)、數(shù)據(jù)加工使用權(quán)、數(shù)據(jù)產(chǎn)品經(jīng)營權(quán)的多元化權(quán)益形態(tài)。數(shù)據(jù)持有權(quán)、數(shù)據(jù)加工使用權(quán)、數(shù)據(jù)產(chǎn)品經(jīng)營權(quán)可以集于一獨(dú)立主體之上,也可以由不同主體所承載,即分別為不同主體持有。數(shù)據(jù)持有權(quán)、數(shù)據(jù)加工使用權(quán)、數(shù)據(jù)產(chǎn)品經(jīng)營權(quán)無論是集于一主體之上還是各自獨(dú)立的主體,都呈現(xiàn)了數(shù)據(jù)所承載的權(quán)益形態(tài)多元化的特征。

    其次,數(shù)據(jù)記錄的信息層承載權(quán)利形態(tài)多元化。對數(shù)據(jù)記錄信息的相關(guān)概念分析可得,信息是指音訊、消息、通訊系統(tǒng)傳輸和處理的對象,泛指人類社會傳播的一切內(nèi)容,是對客觀世界中各種事物的變化與特征的反映。[13]信息的概念以“一切內(nèi)容”和“客觀世界中各種事物”為核心客體的表述。因此信息涉及的主體權(quán)益形態(tài)是多元化的。

    (一)個人信息權(quán)益形態(tài)

    《個人信息保護(hù)法》第2條規(guī)定:“任何組織、個人不得侵害自然人的個人信息權(quán)益”?!秱€人信息保護(hù)法》在保護(hù)“個人信息權(quán)益”的基礎(chǔ)之上在第四章中規(guī)定了“個人在個人信息處理活動中的權(quán)利”,如,個人對其個人信息的處理享有知情權(quán)、決定權(quán),有權(quán)限制或者拒絕他人對其個人信息進(jìn)行處理;個人有權(quán)向個人信息處理者查閱、復(fù)制其個人信息;個人請求將個人信息轉(zhuǎn)移至其指定的個人信息處理者,符合國家網(wǎng)信部門規(guī)定條件的,個人信息處理者應(yīng)當(dāng)提供轉(zhuǎn)移的途徑;個人發(fā)現(xiàn)其個人信息不準(zhǔn)確或者不完整的,有權(quán)請求個人信息處理者更正、補(bǔ)充;個人請求更正、補(bǔ)充其個人信息的,個人信息處理者應(yīng)當(dāng)對其個人信息予以核實(shí),并及時更正、補(bǔ)充等。個人信息權(quán)益呈現(xiàn)出多元化特征。

    (二)隱私權(quán)形態(tài)

    隱私信息數(shù)據(jù)記錄的內(nèi)容涉及個人隱私權(quán)形態(tài)。根據(jù)《民法典》第1032條第二款:“隱私是自然人的私人生活安寧和不愿為他人知曉的私密空間、私密活動、私密信息?!彪[私是自然人免于外界公開和干擾的私人秘密和私生活安寧的狀態(tài),是不愿告人或不愿公開的個人私事。隱私的概念從產(chǎn)生以來,在國內(nèi)外一直存在爭議,主要觀點(diǎn)有私人領(lǐng)域說、私人秘密和私人信息說、生活安寧和秘密說。[14]其中,前兩種觀點(diǎn)要么過于寬泛,要么過于狹窄,無法較為明確地定義隱私的內(nèi)涵。生活安寧和秘密說將隱私分為私人生活安寧和私人信息秘密兩類。我國學(xué)界的通說認(rèn)為,隱私是指個人對其生活安寧和生活秘密不受他人披露和干涉的狀態(tài),隱私權(quán)是自然人享有的私人生活安寧和私人信息秘密,不得被他人非法侵?jǐn)_、知悉、收集和公開的人格權(quán)。[15]依據(jù)《民法典》第1032條,“自然人享有隱私權(quán)”。隱私權(quán)是指個人對其私生活安寧、私生活秘密等享有的權(quán)利。[16]

    隱私權(quán)被認(rèn)為是“個人自我決定權(quán)能得以發(fā)展的基本前提,而個人的自我發(fā)展又是現(xiàn)代社會民主秩序的基礎(chǔ)”。[17]隱私權(quán)的客體包括隱私信息、私人空間、私生活安寧等。隱私權(quán)的客體在大數(shù)據(jù)時代都可能被數(shù)據(jù)化,即是數(shù)據(jù)記錄的信息層(內(nèi)容層)。因此數(shù)據(jù)承載著隱私權(quán)的形態(tài)。

    首先,隱私信息在大數(shù)據(jù)時代可被數(shù)據(jù)化為隱私信息數(shù)據(jù)。隱私信息數(shù)據(jù)是指用電子或非電子形式記錄的隱私信息。個人郵箱和郵件是典型的隱私信息數(shù)據(jù)化。入侵個人郵箱,拷貝其郵件,是非法獲取隱私數(shù)據(jù)的行為,侵犯了他人的隱私權(quán)。

    其次,自然人的私人生活空間是隱私的一種形態(tài),傳統(tǒng)意義上的侵犯此種隱私形態(tài)是指自然人非法進(jìn)入他人住宅、查看住宅內(nèi)情況,如此則是干涉他人私人生活空間隱私,也是侵犯隱私權(quán)的行為。因此,此種隱私形態(tài)不屬于隱私信息,是與隱私并列的一種隱私形態(tài)。但在數(shù)字時代,侵犯此種隱私形態(tài)卻被數(shù)據(jù)化、進(jìn)而被信息化了。于是侵犯隱私空間的行為從非法進(jìn)入他人住宅,查看住宅內(nèi)情況,干涉他人私人生活空間隱私,就轉(zhuǎn)變成了對隱私數(shù)據(jù)的處理的行為。由于互聯(lián)網(wǎng)技術(shù)、現(xiàn)代信息技術(shù)和數(shù)據(jù)技術(shù)使本與隱私信息無關(guān)的私人空間數(shù)據(jù)化、信息化,數(shù)據(jù)處理行為可成為侵犯隱私空間的行為,被數(shù)據(jù)化的私人空間承載著隱私權(quán)形態(tài)。

    最后,私密活動隱私形態(tài)不屬于隱私信息,是與隱私并列的一種隱私形態(tài),傳統(tǒng)私密活動不呈現(xiàn)數(shù)據(jù)化特征,但在數(shù)字時代的今天,私密活動無時無刻不在數(shù)據(jù)化,即被電子或非電子的形式記錄著。傳統(tǒng)的私密活動只要隱私主體不公開就可以實(shí)現(xiàn)個人隱私的保護(hù),但數(shù)字時代私密活動在一定的條件下無時無刻都在被數(shù)據(jù)化和信息化,進(jìn)而轉(zhuǎn)變?yōu)殡[私信息數(shù)據(jù)。私密活動轉(zhuǎn)變?yōu)殡[私信息數(shù)據(jù),此部分隱私信息數(shù)據(jù)承載隱私權(quán)的樣態(tài)。綜上分析,數(shù)字時代《民法典》中的私密空間、私密活動、私密信息都可以被數(shù)據(jù)化和信息化,因此數(shù)據(jù)承載著隱私權(quán)。

    (三)知識產(chǎn)權(quán)權(quán)利形態(tài)

    《民法典》規(guī)定了民事主體依法享有知識產(chǎn)權(quán)。依據(jù)《民法典》第123條,民事主體依法對作品和商業(yè)秘密享有知識產(chǎn)權(quán)權(quán)利。①生成式人工智能生成的內(nèi)容主要為文本、圖片、音頻、視頻等,其收集的數(shù)據(jù)內(nèi)容也集中于上述類型,極少涉及發(fā)明、實(shí)用新型、外觀設(shè)計和商標(biāo),故而對于收集數(shù)據(jù)內(nèi)容為知識產(chǎn)權(quán)保護(hù)的“作品”的保護(hù)主要為對于作品著作權(quán)的保護(hù)。因此數(shù)據(jù)承載著著作權(quán)的樣態(tài)。

    知識產(chǎn)權(quán)是權(quán)利人依法就商業(yè)秘密客體享有的專有的權(quán)利。商業(yè)秘密數(shù)據(jù)承載著《民法典》第123條的專有權(quán)利。商業(yè)秘密數(shù)據(jù)是指關(guān)于經(jīng)營者記錄商業(yè)秘密的數(shù)據(jù),是商業(yè)秘密的一種記錄形式。根據(jù)《反不正當(dāng)競爭法》第9條的規(guī)定,商業(yè)秘密“是指不為公眾所知悉、具有商業(yè)價值并經(jīng)權(quán)利人采取相應(yīng)保密措施的技術(shù)信息、經(jīng)營信息等商業(yè)信息。”商業(yè)秘密具有價值性、秘密性、保密性等特性。當(dāng)經(jīng)營者掌握的數(shù)據(jù)記錄的信息確實(shí)具備上述特征時,可以認(rèn)定為商業(yè)秘密信息數(shù)據(jù)。依據(jù)《數(shù)據(jù)二十條》的指導(dǎo)思想“……以維護(hù)國家數(shù)據(jù)安全、保護(hù)個人信息和商業(yè)秘密為前提……構(gòu)建適應(yīng)數(shù)據(jù)特征、符合數(shù)字經(jīng)濟(jì)發(fā)展規(guī)律、保障國家數(shù)據(jù)安全、彰顯創(chuàng)新引領(lǐng)的數(shù)據(jù)基礎(chǔ)制度”可以得出,商業(yè)秘密是數(shù)據(jù)所承載的《民法典》所保護(hù)的專有權(quán)利。

    (四)國家安全利益和國家主權(quán)形態(tài)

    依據(jù)《憲法》第54條規(guī)定:“中華人民共和國公民有維護(hù)祖國的安全、榮譽(yù)和利益的義務(wù),不得有危害祖國的安全、榮譽(yù)和利益的行為。”數(shù)據(jù)承載著國家的安全、榮譽(yù)和利益?!稊?shù)據(jù)安全法》第1條規(guī)定:“為了規(guī)范數(shù)據(jù)處理活動,保障數(shù)據(jù)安全,促進(jìn)數(shù)據(jù)開發(fā)利用,保護(hù)個人、組織的合法權(quán)益,維護(hù)國家主權(quán)、安全和發(fā)展利益,制定本法?!庇绕洹斗撮g諜法》第4條中列舉的危害國家安全的行為中的“竊取、刺探、收買、非法提供國家秘密”可以實(shí)現(xiàn)數(shù)據(jù)化,另外通過對不呈現(xiàn)國家秘密的數(shù)據(jù)和不涉及國家安全、榮譽(yù)和利益的數(shù)據(jù)處理,也可使其承載國家安全利益和國家主權(quán)形態(tài)。企業(yè)和政府掌握的數(shù)據(jù)中有一部分涉及國家安全,如軍事秘密、政府的機(jī)密文件等。這些涉及國家安全、國家利益的數(shù)據(jù),在我國的對外關(guān)系方面中具有數(shù)據(jù)主權(quán)的權(quán)利屬性。近年來,已經(jīng)發(fā)生過多起境外勢力非授權(quán)訪問、獲取我國涉密數(shù)據(jù)的案件,此類案件警示我國密切關(guān)注復(fù)雜而嚴(yán)峻的網(wǎng)絡(luò)安全形勢。由此,數(shù)據(jù)承載著國家主權(quán)形態(tài)。

    綜上分析可以看出,數(shù)據(jù)無論自身通過載體層還是被記錄的信息層(內(nèi)容層),都可能承載著多元的權(quán)利和利益的形態(tài)。

    五、生成式人工智能訓(xùn)練數(shù)據(jù)主體權(quán)益保護(hù)問題

    (一)隱私權(quán)保護(hù)問題

    生成式人工智能訓(xùn)練數(shù)據(jù)可能涉及大量的隱私信息數(shù)據(jù),需要通過隱私計算、聯(lián)邦學(xué)習(xí)、脫敏等方式進(jìn)行保護(hù)。由于生成式人工智能需要的訓(xùn)練數(shù)據(jù)是海量的數(shù)據(jù)集,這些海量的數(shù)據(jù)集可能涉及大量的隱私信息數(shù)據(jù),而且在提供生成式智能服務(wù)之時也會可能獲取了大量的隱私信息數(shù)據(jù),如果這些數(shù)據(jù)被竊取或泄露就會產(chǎn)生隱私權(quán)被侵害的情況。另外,生成式人工智能是對數(shù)據(jù)的處理行為,生成式人工智能模型還可能會生成一段包含特定個人的姓名、電話號碼、電子郵件和住址等個人隱私的信息文本。目前存在的數(shù)據(jù)投毒風(fēng)險,即通過對訓(xùn)練數(shù)據(jù)加入惡意數(shù)據(jù)的方式,在模型中植入后門,并通過特定輸入觸發(fā)后門。因此,要防止通過特定的輸入,誘導(dǎo)大模型輸出訓(xùn)練數(shù)據(jù)集中個人身份識別信息等隱私信息數(shù)據(jù),以保障訓(xùn)練數(shù)據(jù)的安全性。生成式人工智能的健康發(fā)展應(yīng)建立在維護(hù)隱私安全的基礎(chǔ)之上,應(yīng)當(dāng)從制度和技術(shù)兩個層面對數(shù)據(jù)源頭和處理行為進(jìn)行安全治理,應(yīng)當(dāng)通過構(gòu)建系統(tǒng)性訓(xùn)練數(shù)據(jù)防火墻,控制和防范數(shù)據(jù)泄密,建立規(guī)范數(shù)據(jù)處理行為的科學(xué)制度,以此保障生成式人工智能的健康發(fā)展。

    (二)個人信息主體權(quán)益保護(hù)問題

    訓(xùn)練大模型需要海量數(shù)據(jù),如果挨個獲取個人信息主體的授權(quán)同意,則成本極高且操作復(fù)雜,故而實(shí)踐中知情同意制度在生成式人工智能技術(shù)研發(fā)過程中的適用并未有明確的落地要求,這就導(dǎo)致個人信息處理的同意權(quán)受到侵害。生成式人工智能訓(xùn)練數(shù)據(jù)泄露的風(fēng)險高、且一旦泄露很難通過事后救濟(jì)的手段挽損,因此生成式人工智能提供者仍需在收集個人信息數(shù)據(jù)時獲取信息主體的知情同意。知情同意規(guī)則在我國經(jīng)歷了數(shù)十年的完善,在《個人信息保護(hù)法》中進(jìn)一步得以確認(rèn),是個人信息處理活動過程中不可或缺的規(guī)則之一。從制度層面看,知情同意規(guī)則是同意規(guī)則和知情規(guī)則的有機(jī)組合,而知情同意規(guī)則的法理基礎(chǔ)則涉及民法領(lǐng)域的意思自治原則以及信息保護(hù)領(lǐng)域的信息公平。在民法領(lǐng)域,信息自治是保障民事主體意思自治的核心內(nèi)容,是實(shí)現(xiàn)信息主體自主權(quán)利行使的重要手段。在意思自治的指引下,信息主體根據(jù)自己的意志自由決定自己的個人信息流向何處、被誰收集、如何處理。

    對于企業(yè)和用戶提供的數(shù)據(jù),均需考慮獲取個人信息的知情同意問題。信息主體的同意對個人信息數(shù)據(jù)的收集、處理起到了承上啟下的作用,因?yàn)橛行У耐饪梢云鸬狡胶庾鳛閭€人信息數(shù)據(jù)處理者的生成式人工智能技術(shù)研發(fā)者和信息主體之間信息不對稱的作用。生成式人工智能技術(shù)研發(fā)者作為信息處理者,在收集、處理信息主體個人信息數(shù)據(jù)時,收集的主體、目的、對于收集的個人信息數(shù)據(jù)將進(jìn)行何種處理以及是否將收集的個人信息數(shù)據(jù)向第三人轉(zhuǎn)移等問題,對于缺乏專業(yè)知識的普通人來說,往往具有不可知性,且難以理解其中的內(nèi)容。因此,對于被收集個人信息數(shù)據(jù)的普通大眾而言,生成式人工智能技術(shù)研發(fā)者不僅擁有技術(shù)方面的優(yōu)勢,同時還擁有大量的“信息優(yōu)勢”,應(yīng)當(dāng)以同意為前提,合法合理地收集信息主體提供的個人信息。

    (三)知識產(chǎn)權(quán)侵權(quán)問題

    首先,追究復(fù)制行為的侵權(quán)責(zé)任事實(shí)上極為困難。我國《著作權(quán)法》第24條規(guī)定,“在下列情況下使用作品,可以不經(jīng)著作權(quán)人許可,不向其支付報酬,但應(yīng)當(dāng)指明作者姓名或者名稱、作品名稱,并且不得影響該作品的正常使用,也不得不合理地?fù)p害著作權(quán)人的合法權(quán)益。”并列舉了合理使用的十二種情形以及“法律、行政法規(guī)規(guī)定的其他情形”,目前來看,訓(xùn)練數(shù)據(jù)采集不符合法定的十二種情形,且實(shí)踐中當(dāng)事人難以舉證人工智能抓取或者使用了相應(yīng)作品,因此給復(fù)制行為的侵權(quán)責(zé)任認(rèn)定帶來了挑戰(zhàn)。

    其次,人工智能生成內(nèi)容的著作權(quán)保護(hù)也存在問題。目前生成式人工智能的著作權(quán)有四種保護(hù)模式:一是雇傭作品的保護(hù)模式,法律可以通過保護(hù)機(jī)器人的作品達(dá)到保護(hù)創(chuàng)作人和所有人的目的,參照《著作權(quán)法》關(guān)于職務(wù)作品和雇傭作品的規(guī)定,由創(chuàng)制機(jī)器的人而不是機(jī)器人享有和行使權(quán)利。二是孳息的保護(hù)模式,認(rèn)為人工智能作為原物、生成物是人工智能的天然孳息,人工智能硬件所有者應(yīng)該作為原物所有者享有孳息的權(quán)益。三是鄰接權(quán)保護(hù)模式,將人工智能生成成果作為數(shù)據(jù)成果歸入廣義的鄰接權(quán)客體,在著作權(quán)法上的鄰接權(quán)制度中創(chuàng)設(shè)數(shù)據(jù)處理者權(quán),數(shù)據(jù)處理者對其以數(shù)據(jù)為基礎(chǔ)并通過技術(shù)處理獲得的具有獨(dú)創(chuàng)性的成果或不具有獨(dú)創(chuàng)性但是具有經(jīng)濟(jì)價值的成果享有財產(chǎn)權(quán),具體可以包括許可他人復(fù)制、發(fā)行、通過信息網(wǎng)絡(luò)向公眾傳播并獲得報酬的權(quán)利等。四是孤兒作品的保護(hù)模式,人工智能的生成物如果適用孤兒作品的保護(hù)模式就可以克服人工智能創(chuàng)作主體缺失的問題,并在人工智能自身不能自行傳播、版權(quán)人不清楚、聯(lián)系不上的前提下可以更好地利用和傳播作品,充分利用人工智能的功能價值。但上述四種模式之間不僅存在紛爭,且各有弊端。

    (四)國家安全問題

    2017年12月8日,習(xí)近平總書記在中共中央政治局就實(shí)施國家大數(shù)據(jù)戰(zhàn)略進(jìn)行第二次集體學(xué)習(xí)時指出:“要切實(shí)保障國家數(shù)據(jù)安全。要加強(qiáng)關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù),強(qiáng)化國家關(guān)鍵數(shù)據(jù)資源保護(hù)能力,增強(qiáng)數(shù)據(jù)安全預(yù)警和溯源能力。要加強(qiáng)政策、監(jiān)管、法律的統(tǒng)籌協(xié)調(diào),加快法規(guī)制度建設(shè)。要制定數(shù)據(jù)資源確權(quán)、開放、流通、交易相關(guān)制度,完善數(shù)據(jù)產(chǎn)權(quán)保護(hù)制度?!痹谟?xùn)練數(shù)據(jù)獲取方面,生成式人工智能大模型在無人工干預(yù)的學(xué)習(xí)環(huán)境下,由算法組成的大模型會對現(xiàn)有數(shù)據(jù)庫中違反法律法規(guī)的訓(xùn)練數(shù)據(jù)不加過濾地吸收學(xué)習(xí)。獲取非法來源的數(shù)據(jù)會導(dǎo)致生成式人工智能侵犯數(shù)據(jù)安全乃至國家安全,嚴(yán)重者還可能構(gòu)成非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)罪或幫助信息網(wǎng)絡(luò)犯罪活動罪等刑事犯罪。在內(nèi)容生成方面,《網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律從社會危害性和國家安全的角度出發(fā),明確列舉了生成式人工智能的禁止生成內(nèi)容,如反對憲法所確定的基本原則、泄露國家秘密的內(nèi)容,《網(wǎng)絡(luò)安全法》第12條第二款作出具體規(guī)定:“不得利用網(wǎng)絡(luò)從事危害國家安全、榮譽(yù)和利益,煽動顛覆國家政權(quán)、推翻社會主義制度,煽動分裂國家、破壞國家統(tǒng)一,宣揚(yáng)恐怖主義、極端主義,宣揚(yáng)民族仇恨、民族歧視,傳播暴力、淫穢色情信息,編造、傳播虛假信息擾亂經(jīng)濟(jì)秩序和社會秩序,以及侵害他人名譽(yù)、隱私、知識產(chǎn)權(quán)和其他合法權(quán)益等活動”。

    六、生成式人工智能訓(xùn)練數(shù)據(jù)新型財產(chǎn)權(quán)構(gòu)建

    數(shù)據(jù)財產(chǎn)權(quán)是指以財產(chǎn)利益為內(nèi)容,直接體現(xiàn)財產(chǎn)利益的民事權(quán)利。數(shù)據(jù)財產(chǎn)權(quán)結(jié)構(gòu)是由權(quán)利主體、客體和內(nèi)容組成。數(shù)據(jù)財產(chǎn)權(quán)結(jié)構(gòu)的客體是“數(shù)據(jù)”,權(quán)利主體包含自然人、法人及其他組織所有相關(guān)的民事權(quán)利主體,內(nèi)容為權(quán)利與義務(wù)。數(shù)據(jù)財產(chǎn)權(quán)制度的規(guī)范主體絕不僅僅限定于企業(yè),而是對于所有民事權(quán)利主體均具有規(guī)范效力。無論是個人、企業(yè)、機(jī)構(gòu)還是政府部門,任何民事主體只要開展、參與了數(shù)據(jù)要素市場活動,均應(yīng)當(dāng)遵循數(shù)據(jù)財產(chǎn)權(quán)制度的規(guī)范和約束。數(shù)據(jù)的自然屬性特征兼具物權(quán)、知識產(chǎn)權(quán)與債權(quán)的客體特征,但又不同于其客體的特征。因此,物權(quán)、知識產(chǎn)權(quán)與債權(quán)都不能涵蓋訓(xùn)練數(shù)據(jù)權(quán)利,應(yīng)當(dāng)重新構(gòu)建適合數(shù)據(jù)性質(zhì)、結(jié)構(gòu)和特征的訓(xùn)練數(shù)據(jù)新型數(shù)據(jù)財產(chǎn)權(quán)制度。

    (一)構(gòu)建以“數(shù)據(jù)”為客體的訓(xùn)練數(shù)據(jù)之?dāng)?shù)據(jù)財產(chǎn)權(quán)制度

    財產(chǎn)權(quán)是以財產(chǎn)為客體的權(quán)利,其特點(diǎn)是權(quán)利直接體現(xiàn)經(jīng)濟(jì)價值和權(quán)利可以轉(zhuǎn)移。構(gòu)建以“數(shù)據(jù)”為客體數(shù)據(jù)財產(chǎn)權(quán)制度,數(shù)據(jù)應(yīng)具有財產(chǎn)屬性。德國學(xué)者卡爾·拉倫茨在第一層含義上使用“財產(chǎn)”,他認(rèn)為:“某主體的財產(chǎn)是其具有經(jīng)濟(jì)價值的多個權(quán)利所集成的,只有具備經(jīng)濟(jì)價值的權(quán)利方為財產(chǎn),這些權(quán)利在一定的法律關(guān)系中可以轉(zhuǎn)化為物質(zhì)利益?!?/p>

    首先,訓(xùn)練數(shù)據(jù)具有財產(chǎn)屬性和數(shù)據(jù)權(quán)利具有經(jīng)濟(jì)價值。國家政策和法律層面認(rèn)可了數(shù)據(jù)具有財產(chǎn)屬性,《民法典》總則部分第127條中規(guī)定“法律對數(shù)據(jù)、網(wǎng)絡(luò)虛擬財產(chǎn)的保護(hù)有規(guī)定的,依照其規(guī)定”。這是國家立法首次明確提出對于“數(shù)據(jù)財產(chǎn)”的保護(hù)。該條規(guī)定明確了對于數(shù)據(jù)財產(chǎn)依法保護(hù)的基本原則,也為后續(xù)的數(shù)據(jù)產(chǎn)權(quán)保護(hù)立法提供了依據(jù)。然而,此條中的“保護(hù)”集中于“數(shù)據(jù)財產(chǎn)”,而未有對于“數(shù)據(jù)產(chǎn)權(quán)”的表述。立法的選擇是將“數(shù)據(jù)”和“虛擬財產(chǎn)”并列,表明兩者有相似性,隱含著立法對數(shù)據(jù)財產(chǎn)屬性的認(rèn)可。2020年4月,國務(wù)院印發(fā)《關(guān)于構(gòu)建更加完善的要素市場化配置體制機(jī)制的意見》、2022年1月國務(wù)院發(fā)布的《“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃》數(shù)據(jù)作為生產(chǎn)要素也充分證明了數(shù)據(jù)具有經(jīng)濟(jì)價值,數(shù)據(jù)具有經(jīng)濟(jì)價值意味著以“數(shù)據(jù)”為客體的權(quán)利具有經(jīng)濟(jì)價值。司法層面,在淘寶訴美景不正當(dāng)競爭案件中,法院判決載明數(shù)據(jù)產(chǎn)品作為經(jīng)營者的重要勞動成果,是經(jīng)營者的重要財產(chǎn)權(quán)益,一定程度上認(rèn)可了數(shù)據(jù)的財產(chǎn)屬性,

    其次,訓(xùn)練數(shù)據(jù)權(quán)利可以轉(zhuǎn)移。數(shù)據(jù)權(quán)利的轉(zhuǎn)讓通常是通過交易完成的。數(shù)據(jù)如能交易就意味著建立其之上的權(quán)利可以轉(zhuǎn)移。2015年印發(fā)《國務(wù)院關(guān)于印發(fā)促進(jìn)大數(shù)據(jù)發(fā)展行動綱要的通知》,明確了發(fā)展大數(shù)據(jù)、促進(jìn)大數(shù)據(jù)交易的要求。大數(shù)據(jù)是數(shù)據(jù)的集合,大數(shù)據(jù)可交易決定了數(shù)據(jù)可交易,進(jìn)而決定了以“數(shù)據(jù)”為客體的數(shù)據(jù)財產(chǎn)權(quán)是可以交易的。交易是轉(zhuǎn)移的一種方式,由此數(shù)據(jù)財產(chǎn)權(quán)是可以轉(zhuǎn)移的。社會實(shí)踐層面,自2014年2月以來,我國地方建立了大量的數(shù)據(jù)交易所、數(shù)據(jù)交易中心等,還頒布了地方的交易規(guī)則。這些交易場所的運(yùn)行及交易規(guī)則,充分證明了數(shù)據(jù)權(quán)利是可以轉(zhuǎn)移的。另外,數(shù)據(jù)的交換價值體現(xiàn)在數(shù)據(jù)及其衍生品能夠通過處理許可、轉(zhuǎn)讓等方式進(jìn)行交易,為人們帶來直接的經(jīng)濟(jì)利益。因此數(shù)據(jù)權(quán)利的構(gòu)建是財產(chǎn)權(quán)利。[18]

    (二)構(gòu)建符合數(shù)據(jù)自然屬性特征的訓(xùn)練數(shù)據(jù)新型數(shù)據(jù)財產(chǎn)權(quán)利

    數(shù)據(jù)本身的性質(zhì)、結(jié)構(gòu)和特征決定了數(shù)據(jù)權(quán)利是一種新型財產(chǎn)權(quán)利?!睹穹ǖ洹分械奈餀?quán)、債權(quán)、知識產(chǎn)權(quán)制度都無法調(diào)整該數(shù)據(jù)財產(chǎn)權(quán),因此要重新構(gòu)建數(shù)據(jù)財產(chǎn)權(quán)制度。

    第一,訓(xùn)練數(shù)據(jù)的自然屬性特征與《民法典》中民事主體的財產(chǎn)權(quán)利客體是不相容的,因此難以納入已有的民事主體的財產(chǎn)權(quán)利保護(hù)之中。數(shù)據(jù)自然屬性的特征與《民法典》物權(quán)的“物”不同。數(shù)據(jù)的自然屬性雖然具有無體形與物權(quán)法中的水和電極為相似,但水和電實(shí)質(zhì)是具有物質(zhì)屬性,但數(shù)據(jù)不具有物質(zhì)屬性;水和電是借助載體呈現(xiàn)現(xiàn)狀,但數(shù)據(jù)不能借助載體呈現(xiàn)形狀,而是借助載體存在。其次,數(shù)據(jù)具有可復(fù)制性,但物權(quán)的“物”都不具有可復(fù)制性;再其次,多個主體對同一數(shù)據(jù)載體同時或不同時進(jìn)行處理互不影響。另外,也可通過對數(shù)據(jù)復(fù)制的內(nèi)容相同載體也可實(shí)現(xiàn)同時使用互不影響。由此,數(shù)據(jù)具有非競爭性,但物權(quán)的“物”不具有此特征,物權(quán)的“物”具有競爭性。第四,數(shù)據(jù)的使用價值和價值在其被支配的過程中沒有損耗,具有價值無損性。[19]而物權(quán)中的“物”的使用價值和價值在其被支配的過程中是具有損耗的。第五,數(shù)據(jù)與物權(quán)都具有獨(dú)占性和排他性,但獨(dú)占性和排他性實(shí)現(xiàn)的方式卻不盡相同。數(shù)據(jù)是通過技術(shù)和通過對其載體的控制實(shí)現(xiàn)獨(dú)占性和排他性的,而物權(quán)的“物”的獨(dú)占性和排他性是通過對“物”物理形態(tài)的占有和控制來實(shí)現(xiàn)的。

    第二,依據(jù)數(shù)據(jù)自然屬性的特征,訓(xùn)練數(shù)據(jù)與《民法典》規(guī)定的知識產(chǎn)權(quán)的客體不同。知識產(chǎn)權(quán)的客體是指人們在科學(xué)、技術(shù)、文化等知識形態(tài)領(lǐng)域中所創(chuàng)造的精神產(chǎn)品,即知識產(chǎn)品。當(dāng)代西方學(xué)者從知識產(chǎn)品的財產(chǎn)屬性出發(fā),將知識產(chǎn)權(quán)的客體稱為“知識財產(chǎn)”。[20]數(shù)據(jù)與知識產(chǎn)權(quán)客體“知識財產(chǎn)”有一定共性,如客體的無體性,可復(fù)制性和使用無損耗性等,但數(shù)據(jù)以電子或非電子的形式對信息的記錄,具有客觀性而不具有知識產(chǎn)權(quán)的權(quán)利客體的“創(chuàng)新性結(jié)構(gòu)”。[21]知識產(chǎn)權(quán)的客體是屬于數(shù)據(jù)的信息層(內(nèi)容層),知識產(chǎn)權(quán)保護(hù)人們對該類信息的控制和支配。[22],數(shù)據(jù)權(quán)利是對數(shù)據(jù)的控制和支配。因此無法被納入知識產(chǎn)品的范疇成為知識產(chǎn)權(quán)的權(quán)利客體。知識產(chǎn)權(quán)主體對知識產(chǎn)權(quán)的控制和支配是通過法律制度的設(shè)計實(shí)現(xiàn)的,而數(shù)據(jù)權(quán)利主體對數(shù)據(jù)的控制與支配是通過技術(shù)和其載體實(shí)現(xiàn)的。

    第三,依據(jù)數(shù)據(jù)自然屬性的特征,訓(xùn)練數(shù)據(jù)與《民法典》規(guī)定的債權(quán)的客體不盡相同。依據(jù)《民法典》第118條的定義,“債權(quán)是因合同、侵權(quán)行為、無因管理、不當(dāng)?shù)美约胺傻钠渌?guī)定,權(quán)利人請求特定義務(wù)人為或者不為一定行為的權(quán)利?!睆闹黧w上看,債權(quán)的主體是特定的,但數(shù)據(jù)財產(chǎn)權(quán)利的主體卻不是特定的。從客體上看,債權(quán)的客體是行為,而數(shù)據(jù)財產(chǎn)權(quán)利的客體是數(shù)據(jù)。從內(nèi)容上看,數(shù)據(jù)財產(chǎn)權(quán)利人對自己合法控制的數(shù)據(jù)財產(chǎn)可依法控制、處理、處分和收益,不同于債權(quán)需要借助于他人的行為實(shí)現(xiàn)主體自身的權(quán)利。債權(quán)人的權(quán)利主要表現(xiàn)為要求債務(wù)人為一定行為或不為一定行為,而數(shù)據(jù)財產(chǎn)權(quán)利人是對數(shù)據(jù)的控制和支配。

    綜上,數(shù)據(jù)財產(chǎn)權(quán)既不符合《民法典》中的物權(quán)、知識產(chǎn)權(quán)和債權(quán)的制度構(gòu)建邏輯,亦無法被納入其制度的范疇之中,且其客體與物權(quán)、知識產(chǎn)權(quán)和債權(quán)的客體存在著本質(zhì)的差異,因此,數(shù)據(jù)財產(chǎn)權(quán)應(yīng)構(gòu)建為一種新型財產(chǎn)權(quán)。

    (三)構(gòu)建以平衡權(quán)益主體多元化和權(quán)益形態(tài)多元化保護(hù)為原則的數(shù)據(jù)財產(chǎn)權(quán)內(nèi)容

    上文已分析了訓(xùn)練數(shù)據(jù)承載的權(quán)益主體多元化和權(quán)益形態(tài)多元化,因此訓(xùn)練數(shù)據(jù)新型數(shù)據(jù)財產(chǎn)權(quán)制度的構(gòu)建應(yīng)以平衡多主體權(quán)益和權(quán)益形態(tài)多元化為原則。數(shù)據(jù)財產(chǎn)權(quán)制度“是通過調(diào)整載體層面呈現(xiàn)的法律關(guān)系來實(shí)現(xiàn)利益協(xié)調(diào)與調(diào)整,以及數(shù)據(jù)記錄的信息層面(內(nèi)容層面)涉及的利益主體協(xié)調(diào)與調(diào)整?!?/p>

    數(shù)據(jù)財產(chǎn)權(quán)制度的目的價值是通過其權(quán)利內(nèi)容的構(gòu)建來實(shí)現(xiàn)的,因此其權(quán)利的內(nèi)容應(yīng)實(shí)現(xiàn)數(shù)據(jù)承載的權(quán)益主體和權(quán)益形態(tài)多元化特征的權(quán)益保護(hù)的平衡。從構(gòu)建數(shù)據(jù)財產(chǎn)權(quán)的實(shí)際目標(biāo)出發(fā),依據(jù)數(shù)據(jù)實(shí)現(xiàn)經(jīng)濟(jì)利益的具體路徑,數(shù)據(jù)財產(chǎn)權(quán)可以包括數(shù)據(jù)財產(chǎn)權(quán)主體對數(shù)據(jù)可以行使的控制、處理、處分和收益的四項權(quán)能,而且控制、處理、處分和收益的四項權(quán)能可相互獨(dú)立分置于不同主體,也可以集于一個主體。《數(shù)據(jù)二十條》中的數(shù)據(jù)資源持有權(quán)、數(shù)據(jù)加工使用權(quán)、數(shù)據(jù)產(chǎn)品經(jīng)營權(quán)等分置的產(chǎn)權(quán)運(yùn)行機(jī)制,在理論層面可以包含在數(shù)據(jù)的控制權(quán)能、使用權(quán)能、處分權(quán)能和收益權(quán)能中。此種權(quán)利的內(nèi)容建立不僅符合數(shù)據(jù)的性質(zhì)、結(jié)構(gòu)和特征,而且能夠?qū)崿F(xiàn)《數(shù)據(jù)二十條》中數(shù)據(jù)產(chǎn)權(quán)制度構(gòu)建的訴求。

    1、數(shù)據(jù)控制權(quán)

    數(shù)據(jù)控制權(quán)的建立與數(shù)據(jù)自然屬性的可控性和排他性特征相契合,且數(shù)據(jù)控制權(quán)的建立能夠?qū)崿F(xiàn)《數(shù)據(jù)二十條》中的數(shù)據(jù)資源持有權(quán)。數(shù)據(jù)控制權(quán)是在事實(shí)上管領(lǐng)和控制數(shù)據(jù)的主體(自然人、法人和非法人)享有的權(quán)利。賦予其數(shù)據(jù)控制者的控制權(quán)是在法律上承認(rèn)這種事實(shí)狀態(tài)的權(quán)利效力,數(shù)據(jù)控制權(quán)利歸屬于數(shù)據(jù)控制主體是一種簡單高效、符合實(shí)際情況的制度設(shè)計。

    數(shù)據(jù)控制權(quán)是數(shù)據(jù)處理權(quán)的前提和基礎(chǔ),只有實(shí)際控制數(shù)據(jù)才能進(jìn)一步處理數(shù)據(jù)。[23]數(shù)據(jù)控制權(quán)是通過對數(shù)據(jù)載體層有權(quán)控制來實(shí)現(xiàn)對數(shù)據(jù)的控制的,對于不具有對此數(shù)據(jù)載體控制人的對抗權(quán)能,保障數(shù)據(jù)控制權(quán)人的合法權(quán)益,以對抗非法數(shù)據(jù)控制權(quán)人權(quán)益。數(shù)據(jù)控制權(quán)是通過對數(shù)據(jù)載體層控制實(shí)現(xiàn)對數(shù)據(jù)的控制權(quán),而不是數(shù)據(jù)記錄信息的相關(guān)主體。

    數(shù)據(jù)控制權(quán)的建立應(yīng)體現(xiàn)數(shù)據(jù)承載的多主體權(quán)益和權(quán)益形態(tài)多元化保護(hù)及實(shí)現(xiàn)《數(shù)據(jù)二十條》中的數(shù)據(jù)資源持有權(quán)。本文沒有采用《數(shù)據(jù)二十條》中的數(shù)據(jù)資源②“持有權(quán)”,是因?yàn)椤稊?shù)據(jù)二十條》中的“持有權(quán)”沒有充分體現(xiàn)數(shù)據(jù)本身的特征,數(shù)據(jù)應(yīng)以控制來體現(xiàn)對數(shù)據(jù)的占有。數(shù)據(jù)的控制與物的占有呈現(xiàn)的方式是不同的,數(shù)據(jù)控制是強(qiáng)調(diào)主體對于數(shù)據(jù)擁有訪問、讀寫和調(diào)取等權(quán)限。如數(shù)據(jù)的存儲不能作為數(shù)據(jù)控制的方式,數(shù)據(jù)存儲僅涵蓋了數(shù)據(jù)以某種格式記錄在存儲介質(zhì)上的過程,而不具有對數(shù)據(jù)的管領(lǐng)控制力,此存儲主體不擁有對數(shù)據(jù)的控制權(quán)。

    數(shù)據(jù)控制權(quán)作為數(shù)據(jù)財產(chǎn)權(quán)重要的一個基本權(quán)利內(nèi)容,在法律允許的范圍內(nèi),數(shù)據(jù)控制權(quán)主體可以行使自己所擁有的數(shù)據(jù)處理權(quán)、數(shù)據(jù)處分權(quán)、數(shù)據(jù)收益權(quán),也可將自己所享有的數(shù)據(jù)控制權(quán)轉(zhuǎn)移給其他主體。數(shù)據(jù)控制權(quán)主體可以對自己所享有的數(shù)據(jù)資產(chǎn)進(jìn)行處分,并獲得數(shù)據(jù)資產(chǎn)產(chǎn)生的收益,亦可以對數(shù)據(jù)進(jìn)行處理;數(shù)據(jù)控制權(quán)主體可以處分自己所享有數(shù)據(jù)處理權(quán)、數(shù)據(jù)處分權(quán)或者數(shù)據(jù)收益權(quán)的部分權(quán)利,將特定數(shù)據(jù)財產(chǎn)權(quán)利內(nèi)容處分給他人享有。

    2、數(shù)據(jù)處理權(quán)

    數(shù)據(jù)處理權(quán)是實(shí)現(xiàn)數(shù)據(jù)使用價值的關(guān)鍵。數(shù)據(jù)處理權(quán)是廣義上對數(shù)據(jù)開發(fā)利用的權(quán)利,只要不是法律法規(guī)所禁止的,數(shù)據(jù)開發(fā)利用的各種可能形式:包括以各種方式、技術(shù)手段使用、分析、加工數(shù)據(jù)的權(quán)利均涵蓋在內(nèi)。數(shù)據(jù)處理權(quán)是實(shí)現(xiàn)數(shù)據(jù)使用價值的關(guān)鍵。馬克思主義政治經(jīng)濟(jì)學(xué)認(rèn)為,使用價值是由具體勞動創(chuàng)造的。因此,數(shù)據(jù)的使用價值只能通過人對于數(shù)據(jù)的處理勞動,即數(shù)據(jù)處理行為才能創(chuàng)造出來。在現(xiàn)實(shí)的經(jīng)濟(jì)活動中,數(shù)據(jù)使用價值的實(shí)現(xiàn)必然要體現(xiàn)在數(shù)據(jù)的處理行為之上,數(shù)據(jù)能夠帶來的相關(guān)增值和資產(chǎn)化也需要通過數(shù)據(jù)的處理行為來獲得。《數(shù)據(jù)二十條》中的“數(shù)據(jù)加工使用權(quán)”包含在數(shù)據(jù)的處理權(quán)之中,因?yàn)椤稊?shù)據(jù)安全法》中的數(shù)據(jù)處理的定義包括“使用加工”行為。

    數(shù)據(jù)處理權(quán)的行使應(yīng)對數(shù)據(jù)承載的多主體權(quán)益和權(quán)益形態(tài)多元化保護(hù)實(shí)現(xiàn)平衡。數(shù)據(jù)處理權(quán)的實(shí)現(xiàn)是通過對數(shù)據(jù)載體實(shí)現(xiàn)的,但數(shù)據(jù)處理權(quán)的行使應(yīng)當(dāng)保護(hù)數(shù)據(jù)內(nèi)容層承載的主體的合法權(quán)益,不能違反相關(guān)法律的規(guī)定。以處理個人信息數(shù)據(jù)為例,處理者至少應(yīng)當(dāng)滿足《個人信息保護(hù)法》第13條規(guī)定的合法性基礎(chǔ)條件,具體可以分為意定基礎(chǔ)和法定基礎(chǔ),前者是基于個人的“知情——同意”授權(quán)而取得的合法性,而后者是在“履行法定職責(zé)或法定義務(wù)”“新聞報道、輿論監(jiān)督”“處理已公開的個人信息”等情形下基于法律的明確授權(quán)而取得的合法性。對于不具有合法性基礎(chǔ)或超出合法性基礎(chǔ)的個人信息數(shù)據(jù),個人有權(quán)依據(jù)《個人信息保護(hù)法》第47條的規(guī)定請求處理者刪除相應(yīng)數(shù)據(jù)。

    3、數(shù)據(jù)處分權(quán)

    數(shù)據(jù)處分權(quán)是對上文的數(shù)據(jù)控制權(quán)和數(shù)據(jù)處理權(quán)進(jìn)行處分的權(quán)利,是讓渡數(shù)據(jù)控制權(quán)和數(shù)據(jù)處理權(quán),從而賦予他人對特定數(shù)據(jù)的控制、處理等行為以合法性。數(shù)據(jù)的轉(zhuǎn)讓③、共享④、開放⑤、融合和許可使用等都可以視為數(shù)據(jù)處分權(quán)的行使,其實(shí)質(zhì)均可視為對數(shù)據(jù)控制權(quán)、數(shù)據(jù)處理權(quán)的不同處分方式的組合。如,數(shù)據(jù)的融合可以視為是以特定數(shù)據(jù)的控制權(quán)和處理權(quán)為對價,取得融合方的數(shù)據(jù)的控制權(quán)和處理權(quán)的處分方式。數(shù)據(jù)處分權(quán)是實(shí)現(xiàn)數(shù)據(jù)交換價值的基礎(chǔ),是實(shí)現(xiàn)數(shù)據(jù)經(jīng)濟(jì)價值和數(shù)據(jù)要素價值的制度保障。數(shù)據(jù)通過處分權(quán)實(shí)現(xiàn)的數(shù)據(jù)轉(zhuǎn)移涉及到數(shù)據(jù)的載體層和數(shù)據(jù)的內(nèi)容層主體的權(quán)益,因此數(shù)據(jù)處分權(quán)主體應(yīng)當(dāng)充分保護(hù)數(shù)據(jù)的載體層和數(shù)據(jù)的內(nèi)容層主體的合法權(quán)益。以個人信息數(shù)據(jù)為例,《個人信息保護(hù)法》第23條規(guī)定:“個人信息處理者向其他個人信息處理者提供其處理的個人信息的,應(yīng)當(dāng)向個人告知接收方的名稱或者姓名、聯(lián)系方式、處理目的、處理方式和個人信息的種類,并取得個人的單獨(dú)同意?!币虼?如果數(shù)據(jù)處分權(quán)主體想要轉(zhuǎn)讓載有個人信息的數(shù)據(jù)的控制權(quán)與處理權(quán)時,應(yīng)當(dāng)取得個人的單獨(dú)同意。當(dāng)然,如果數(shù)據(jù)處分權(quán)主體對該部分個人信息數(shù)據(jù)已經(jīng)完成了匿名化處理并不可復(fù)原,此時因?yàn)閿?shù)據(jù)不可能再影響到個人信息權(quán)益而不再需要取得個人的單獨(dú)同意。

    除了對于數(shù)據(jù)控制權(quán)和數(shù)據(jù)處理權(quán)的一并處分之外,數(shù)據(jù)處分權(quán)人行使自己的數(shù)據(jù)處分權(quán)還可以分別對數(shù)據(jù)控制權(quán)和數(shù)據(jù)處理權(quán)進(jìn)行處分。第一種情況是處分特定數(shù)據(jù)的數(shù)據(jù)控制權(quán),將特定數(shù)據(jù)控制權(quán)轉(zhuǎn)移給其他主體所享有,或者直接放棄數(shù)據(jù)控制權(quán)。如出賣、轉(zhuǎn)讓、融合、許可使用、消滅、開放和共享等數(shù)據(jù)處分的行為。數(shù)據(jù)處分權(quán)主體可以通過處分行為出賣、轉(zhuǎn)讓、融合、許可使用、消滅或者開放共享將自己所擁有的數(shù)據(jù)資產(chǎn)進(jìn)行處分。數(shù)據(jù)控制權(quán)處分實(shí)際為數(shù)據(jù)控制權(quán)人行使自己的數(shù)據(jù)處分權(quán)將特定數(shù)據(jù)資源的數(shù)據(jù)產(chǎn)權(quán)整體讓渡,這是在數(shù)據(jù)權(quán)利層面上的數(shù)據(jù)處分權(quán)的行使。第二種情況是數(shù)據(jù)處分權(quán)人可以將自己所享有的數(shù)據(jù)處理權(quán)讓渡。數(shù)據(jù)處分權(quán)人處分?jǐn)?shù)據(jù)處理權(quán)是將特定數(shù)據(jù)資源的數(shù)據(jù)處理權(quán)讓渡,這是在載體層面上處分?jǐn)?shù)據(jù)資產(chǎn)。比如淘寶(中國)軟件有限公司所設(shè)計并推出的“生意參謀”軟件就是數(shù)據(jù)控制權(quán)人對于其享有的數(shù)據(jù)載體層的數(shù)據(jù)進(jìn)行處理,由此產(chǎn)生的一個數(shù)據(jù)產(chǎn)品,并通過行使自己的數(shù)據(jù)處分權(quán),將自己所享有的數(shù)據(jù)資源部分開放,并收取相應(yīng)的費(fèi)用允許購買者使用,但被允許使用的購買者享有的僅僅只是部分的數(shù)據(jù)使用權(quán)能,而非轉(zhuǎn)移數(shù)據(jù)控制權(quán)或者數(shù)據(jù)處理權(quán)。

    4、數(shù)據(jù)收益權(quán)

    數(shù)據(jù)收益權(quán)是指數(shù)據(jù)控制權(quán)人對于特定數(shù)據(jù)資產(chǎn)所產(chǎn)生的孳息享有的收益權(quán)利。行使數(shù)據(jù)收益權(quán)的時候分為兩種情況:第一種是在載體層面上享有由數(shù)據(jù)本身所產(chǎn)生的孳息,大體上分為通過自己經(jīng)營數(shù)據(jù)資產(chǎn)而獲得收益或者買賣數(shù)據(jù)資產(chǎn)所獲得的收益。第二種是通過行使數(shù)據(jù)處分權(quán)、處分?jǐn)?shù)據(jù)權(quán)利獲得的合同對價收益。

    數(shù)據(jù)收益權(quán)也是數(shù)據(jù)財產(chǎn)權(quán)的重要內(nèi)容,是取得行使數(shù)據(jù)處理權(quán)、數(shù)據(jù)處分權(quán)所產(chǎn)生的收益的權(quán)利。數(shù)據(jù)收益權(quán)可實(shí)現(xiàn)《數(shù)據(jù)二十條》中的數(shù)據(jù)產(chǎn)品經(jīng)營權(quán)。在傳統(tǒng)民法理論中,所謂收益是指收取標(biāo)的物所產(chǎn)生的利益,具體而言是收取標(biāo)的的法定孳息和自然孳息。具體到數(shù)據(jù)領(lǐng)域,數(shù)據(jù)收益權(quán)包括兩類,一類是基于對數(shù)據(jù)處理權(quán)的行使而取得財產(chǎn)性利益的權(quán)利,例如對合法控制的數(shù)據(jù)進(jìn)行進(jìn)一步的采集、加工、分析、整理,投入了資本和創(chuàng)造性智力勞動,產(chǎn)生了新的數(shù)據(jù)資源;另一類是基于數(shù)據(jù)處分權(quán)的行使而取得相對方支付的對價的權(quán)利,例如將其合法控制的數(shù)據(jù)許可其他企業(yè)使用,由其他企業(yè)支付相應(yīng)的使用費(fèi)用。經(jīng)濟(jì)生活中,收益的取得是市場主體進(jìn)行各類市場行為的驅(qū)動力,數(shù)據(jù)要素市場自然也是如此,因此數(shù)據(jù)收益權(quán)是數(shù)據(jù)要素市場運(yùn)行和發(fā)展的基礎(chǔ)。

    (四)構(gòu)建數(shù)據(jù)雙層結(jié)構(gòu)的有限數(shù)據(jù)財產(chǎn)權(quán)利

    訓(xùn)練數(shù)據(jù)可以分為載體層和內(nèi)容層(信息層)且數(shù)據(jù)承載的權(quán)益主體多元化和權(quán)益形態(tài)多元化,由此可能存在多種權(quán)益主體與多層利益主張。數(shù)據(jù)財產(chǎn)權(quán)的立法主要是調(diào)整數(shù)據(jù)客體所形成的法律關(guān)系,即通過調(diào)整對于載體的行為,實(shí)現(xiàn)對數(shù)據(jù)的處理行為及所形成的法律關(guān)系的調(diào)整。但數(shù)據(jù)內(nèi)容層的相關(guān)法律規(guī)定應(yīng)首先對數(shù)據(jù)的處理行為進(jìn)行調(diào)整,之后如涉及到人格權(quán)價值的具體問題,再回歸到人格權(quán)私法理論、從其他的法律路徑進(jìn)行保護(hù)。也即內(nèi)容層面的立法非數(shù)據(jù)財產(chǎn)權(quán)立法應(yīng)當(dāng)解決的問題,保護(hù)人格權(quán)利益應(yīng)由《個人信息保護(hù)法》等內(nèi)容層面的法律加以調(diào)整[24]。以包含個人信息的數(shù)據(jù)為例,盡管數(shù)據(jù)處理者有數(shù)據(jù)財產(chǎn)權(quán),但在行使數(shù)據(jù)財產(chǎn)權(quán)時,首先應(yīng)當(dāng)尊重保護(hù)內(nèi)容層主體的利益并遵守相關(guān)制度,確保個人信息主體的合法權(quán)益不受損害,從而實(shí)現(xiàn)數(shù)據(jù)流通與保護(hù)、經(jīng)濟(jì)價值實(shí)現(xiàn)與人格權(quán)益保護(hù)等多重目標(biāo)。這種產(chǎn)權(quán)配置方式與傳統(tǒng)的物權(quán)表現(xiàn)出顯著的區(qū)別,具體表現(xiàn)為積極權(quán)能和消極權(quán)能的廣泛受限,主要受到內(nèi)容層主體和數(shù)據(jù)流通目標(biāo)的限制。只有通過復(fù)雜的限制結(jié)構(gòu),才能對接、協(xié)調(diào)和平衡數(shù)據(jù)之上的復(fù)雜利益關(guān)系。

    首先,數(shù)據(jù)控制權(quán)應(yīng)受到個人信息保護(hù)制度的限制。數(shù)據(jù)可復(fù)制性僅體現(xiàn)數(shù)據(jù)作為商品的“非競爭性”,并不能否定數(shù)據(jù)具備排他性的財產(chǎn)性質(zhì)??山梃b民法理論中“準(zhǔn)占有”概念構(gòu)造數(shù)據(jù)的排他性。數(shù)據(jù)財產(chǎn)權(quán)作為一種非源于有體物的權(quán)利,在數(shù)據(jù)財產(chǎn)權(quán)移轉(zhuǎn)的過程中,數(shù)據(jù)財產(chǎn)權(quán)依附于數(shù)據(jù)內(nèi)容,而數(shù)據(jù)內(nèi)容則是基于對數(shù)據(jù)載體的使用。通過適當(dāng)?shù)囊?guī)則設(shè)計,參照民法理論中的“準(zhǔn)占有”制度,數(shù)據(jù)載體可被數(shù)據(jù)財產(chǎn)權(quán)的權(quán)利人“準(zhǔn)占有”,為數(shù)據(jù)處理者提供其對數(shù)據(jù)的“排他性”。[25]其中,最基礎(chǔ)的法律利益即為數(shù)據(jù)處理者對數(shù)據(jù)的控制。數(shù)據(jù)處理者依法取得數(shù)據(jù)后,即享有對相應(yīng)數(shù)據(jù)的實(shí)際控制力,他人不得對數(shù)據(jù)實(shí)施非法侵入、干擾、盜竊、破壞等行為,進(jìn)而非法獲取數(shù)據(jù)或者改變數(shù)據(jù)的事實(shí)狀態(tài)。[26]控制權(quán)能表現(xiàn)在處理者享有控制相應(yīng)數(shù)據(jù)的自由,但數(shù)據(jù)財產(chǎn)權(quán)的控制權(quán)能并不同于所有權(quán)的占有權(quán)能具有持續(xù)而穩(wěn)定的特征,而因其合法性來源不同而具有不同的穩(wěn)定性。除此之外,不論控制個人信息數(shù)據(jù)的合法性基礎(chǔ)為何,處理者均遵循目的限制原則、必要原則等基本原則的限制,只能控制有限、合理、必要范圍內(nèi)的個人信息數(shù)據(jù)。

    (五)數(shù)據(jù)處理權(quán)應(yīng)受到個人信息處理制度限制

    數(shù)據(jù)處理者享有對數(shù)據(jù)進(jìn)行分析、儲存、記錄、傳輸?shù)氖褂米杂?不同于所有權(quán)的使用權(quán)能。其一,享有控制權(quán)能并不當(dāng)然意味著享有使用權(quán)能,這一點(diǎn)與某些他物權(quán)制度相似,例如質(zhì)權(quán)人享有占有權(quán)能,但是不享有使用權(quán)能。相似之處在于,處理者雖然控制著個人信息數(shù)據(jù),但是并不意味著其享有相應(yīng)的處理權(quán)能。其二,某些特殊的處理權(quán)能必須滿足法律特殊的形式條件,以體現(xiàn)對個人的側(cè)重保護(hù)。譬如在“敏感個人信息的處理”“個人信息的公開”“非公共安全目的對個人圖像、身份識別信息的收集”“個人信息的跨境轉(zhuǎn)移”以及“向其他個人信息處理者提供個人信息”等情形下,必須取得個人的單獨(dú)同意,才能取得相應(yīng)的使用自由。其三,擁有此種使用權(quán)不代表擁有彼種使用權(quán),每種使用權(quán)都是一個單獨(dú)的自由,不同于所有權(quán)使用權(quán)能的概括式權(quán)限,訓(xùn)練數(shù)據(jù)的任何處理權(quán)限都需要具備相應(yīng)的合法性基礎(chǔ),處理者不能超越權(quán)限使用數(shù)據(jù),例如處理者基于同意取得了訓(xùn)練數(shù)據(jù)的使用權(quán)能,但是可能沒有取得跨境傳輸訓(xùn)練數(shù)據(jù)的使用權(quán)能。其四,某些使用方式受到法律的明文禁止,例如不得通過個人數(shù)據(jù)的分析對比實(shí)施大數(shù)據(jù)殺熟行為。當(dāng)然,與控制權(quán)能相似,使用權(quán)能同樣可能受到個人撤回同意的影響,也會受到個人信息處理基本原則的限制,不再贅述。

    (六)數(shù)據(jù)處分權(quán)應(yīng)受到有關(guān)規(guī)則的限制

    數(shù)據(jù)的處分權(quán)能受到數(shù)據(jù)內(nèi)容層權(quán)益的限制。數(shù)據(jù)的轉(zhuǎn)讓、共享、開放、融合和許可使用等都是行使處分權(quán)能的表現(xiàn),可視為不同組合的數(shù)據(jù)控制權(quán)和數(shù)據(jù)處理權(quán)的處分。然而,因?yàn)橛?xùn)練數(shù)據(jù)中大量的個人信息數(shù)據(jù)不僅關(guān)涉處理者利益,還關(guān)涉?zhèn)€人信息權(quán)益,所以不能由處理者或個人一方單獨(dú)決定。正基于此,在司法實(shí)踐中形成了“三重授權(quán)原則”,在個人信息數(shù)據(jù)流轉(zhuǎn)時,不僅需要處理者的同意,還需要個人的同意,這同時也是《個人信息保護(hù)法》第23條第一款規(guī)定的個人信息處理者向其他個人信息處理者提供其處理的個人信息時應(yīng)當(dāng)遵循的要求。除此之外,基于《反壟斷法》的規(guī)定,如果處理者對訓(xùn)練數(shù)據(jù)的掌握構(gòu)成了市場必需設(shè)施,則該處理者負(fù)有開放數(shù)據(jù)的義務(wù),此為基于數(shù)據(jù)流通目標(biāo)對訓(xùn)練數(shù)據(jù)財產(chǎn)權(quán)的限制[27]。

    注釋:

    ① 《民法典》第123條:“民事主體依法享有知識產(chǎn)權(quán)。知識產(chǎn)權(quán)是權(quán)利人依法就下列客體享有的專有的權(quán)利:(一)作品;(二)發(fā)明、實(shí)用新型、外觀設(shè)計;(三)商標(biāo);(四)地理標(biāo)志;(五)商業(yè)秘密;(六)集成電路布圖設(shè)計;(七)植物新品種;(八)法律規(guī)定的其他客體。”

    ② 數(shù)據(jù)資源是數(shù)據(jù)的集合,因此數(shù)據(jù)資源的本質(zhì)還是數(shù)據(jù)。數(shù)據(jù)資源在立法層面的實(shí)現(xiàn)應(yīng)以“數(shù)據(jù)”來表述,數(shù)據(jù)是對數(shù)據(jù)資源的客觀事物的高度抽象。

    ③ 數(shù)據(jù)的轉(zhuǎn)讓是將數(shù)據(jù)控制權(quán)和處理權(quán)賦予受讓方,且出讓方不再享有這些權(quán)利的處分方式。

    ④ 數(shù)據(jù)的共享是將數(shù)據(jù)控制權(quán)和處理權(quán)賦予共享方,且自身仍然保留這些權(quán)利的處分方式。

    ⑤ 數(shù)據(jù)的開放是將數(shù)據(jù)控制權(quán)和處理權(quán)賦予社會公眾,主要指公共數(shù)據(jù)開放。

    猜你喜歡
    數(shù)據(jù)處理主體人工智能
    認(rèn)知診斷缺失數(shù)據(jù)處理方法的比較:零替換、多重插補(bǔ)與極大似然估計法*
    ILWT-EEMD數(shù)據(jù)處理的ELM滾動軸承故障診斷
    論自然人破產(chǎn)法的適用主體
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    關(guān)于遺產(chǎn)保護(hù)主體的思考
    基于希爾伯特- 黃變換的去噪法在外測數(shù)據(jù)處理中的應(yīng)用
    論多元主體的生成
    av国产精品久久久久影院| 伦理电影免费视频| 国产免费现黄频在线看| 亚洲精品在线观看二区| 黑人操中国人逼视频| 久久这里只有精品19| 天堂动漫精品| 婷婷精品国产亚洲av在线| 欧美国产精品va在线观看不卡| av网站在线播放免费| 国产精品久久视频播放| 亚洲成av片中文字幕在线观看| 婷婷精品国产亚洲av在线| 国产精品国产高清国产av| 50天的宝宝边吃奶边哭怎么回事| 操美女的视频在线观看| cao死你这个sao货| 午夜福利免费观看在线| 午夜福利,免费看| 成人三级黄色视频| 日韩免费av在线播放| 久久国产精品影院| 午夜福利影视在线免费观看| 91精品国产国语对白视频| √禁漫天堂资源中文www| 国产精品美女特级片免费视频播放器 | 亚洲 欧美一区二区三区| x7x7x7水蜜桃| 又大又爽又粗| 露出奶头的视频| 久久国产精品男人的天堂亚洲| 悠悠久久av| 亚洲av五月六月丁香网| 久久 成人 亚洲| 国产在线精品亚洲第一网站| 可以免费在线观看a视频的电影网站| 久久香蕉激情| 最近最新中文字幕大全免费视频| 精品久久久久久久毛片微露脸| 日韩三级视频一区二区三区| 亚洲国产毛片av蜜桃av| 成人av一区二区三区在线看| 国产精品99久久99久久久不卡| 精品高清国产在线一区| 搡老乐熟女国产| 欧美中文综合在线视频| 国产精品秋霞免费鲁丝片| 电影成人av| 中文字幕另类日韩欧美亚洲嫩草| 欧美激情极品国产一区二区三区| av在线天堂中文字幕 | 神马国产精品三级电影在线观看 | 亚洲自偷自拍图片 自拍| 欧美久久黑人一区二区| 成熟少妇高潮喷水视频| 99久久精品国产亚洲精品| 在线观看免费日韩欧美大片| 高清黄色对白视频在线免费看| 亚洲人成77777在线视频| 亚洲男人天堂网一区| 久久亚洲精品不卡| 天天躁狠狠躁夜夜躁狠狠躁| 午夜视频精品福利| 国产精品亚洲一级av第二区| 咕卡用的链子| 看片在线看免费视频| 国产精品永久免费网站| 亚洲欧美激情综合另类| 午夜老司机福利片| 国产欧美日韩一区二区精品| 久久精品成人免费网站| 欧美在线一区亚洲| 在线看a的网站| 国产精品爽爽va在线观看网站 | 国产精品久久久久久人妻精品电影| 中文字幕人妻丝袜一区二区| 丰满的人妻完整版| 成人三级黄色视频| 精品人妻在线不人妻| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲国产毛片av蜜桃av| 涩涩av久久男人的天堂| 999久久久精品免费观看国产| 黑人巨大精品欧美一区二区mp4| 成人永久免费在线观看视频| 亚洲精品久久午夜乱码| √禁漫天堂资源中文www| √禁漫天堂资源中文www| 精品欧美一区二区三区在线| 夜夜夜夜夜久久久久| 女警被强在线播放| 欧美人与性动交α欧美精品济南到| 99riav亚洲国产免费| 母亲3免费完整高清在线观看| av超薄肉色丝袜交足视频| 国产欧美日韩综合在线一区二区| 国产精品成人在线| 欧美乱妇无乱码| 国产极品粉嫩免费观看在线| 人妻久久中文字幕网| 国产精品野战在线观看 | www.999成人在线观看| 极品教师在线免费播放| 如日韩欧美国产精品一区二区三区| 久久久国产成人精品二区 | 在线观看免费视频网站a站| 久久精品人人爽人人爽视色| 18美女黄网站色大片免费观看| 免费不卡黄色视频| 精品第一国产精品| 老司机深夜福利视频在线观看| www日本在线高清视频| 女同久久另类99精品国产91| 亚洲 国产 在线| 精品久久久久久,| 88av欧美| 18禁美女被吸乳视频| av福利片在线| 欧美日韩亚洲国产一区二区在线观看| av国产精品久久久久影院| 欧美 亚洲 国产 日韩一| 亚洲欧美日韩另类电影网站| 成人av一区二区三区在线看| 亚洲全国av大片| 在线观看一区二区三区| 国产一区二区激情短视频| 日韩av在线大香蕉| 女警被强在线播放| 亚洲男人的天堂狠狠| 日日摸夜夜添夜夜添小说| 高清欧美精品videossex| 一级黄色大片毛片| 国产无遮挡羞羞视频在线观看| 久久人人97超碰香蕉20202| 久久国产精品男人的天堂亚洲| 91精品三级在线观看| 国产av精品麻豆| 香蕉国产在线看| 精品欧美一区二区三区在线| 国产精品电影一区二区三区| 国产精品免费视频内射| 亚洲成人免费电影在线观看| 久久久国产欧美日韩av| 免费av毛片视频| 亚洲狠狠婷婷综合久久图片| 在线观看午夜福利视频| 夜夜夜夜夜久久久久| 日本黄色视频三级网站网址| 亚洲av五月六月丁香网| 少妇粗大呻吟视频| 亚洲片人在线观看| 欧美日韩中文字幕国产精品一区二区三区 | 日本撒尿小便嘘嘘汇集6| 国产精品一区二区免费欧美| netflix在线观看网站| 丰满饥渴人妻一区二区三| 国产精品久久久av美女十八| www.999成人在线观看| 丝袜美腿诱惑在线| 免费看十八禁软件| 成人国语在线视频| 亚洲色图综合在线观看| 又紧又爽又黄一区二区| 精品电影一区二区在线| 日韩欧美一区视频在线观看| 大陆偷拍与自拍| 18禁裸乳无遮挡免费网站照片 | 欧美乱码精品一区二区三区| 国产精品99久久99久久久不卡| 天堂俺去俺来也www色官网| 无遮挡黄片免费观看| 久久精品国产亚洲av香蕉五月| 美女高潮喷水抽搐中文字幕| 国产伦人伦偷精品视频| 青草久久国产| 少妇的丰满在线观看| 伦理电影免费视频| 免费在线观看视频国产中文字幕亚洲| 婷婷精品国产亚洲av在线| 国产免费现黄频在线看| 一进一出抽搐动态| 大码成人一级视频| 在线观看舔阴道视频| 手机成人av网站| 国产高清视频在线播放一区| 精品一品国产午夜福利视频| 国产精品日韩av在线免费观看 | 一级片免费观看大全| 免费在线观看亚洲国产| 精品第一国产精品| 色婷婷久久久亚洲欧美| 久久久久久人人人人人| 国产蜜桃级精品一区二区三区| 美女高潮到喷水免费观看| 又大又爽又粗| 免费在线观看亚洲国产| 亚洲精品国产一区二区精华液| xxx96com| 国产精品亚洲一级av第二区| 久久久国产欧美日韩av| 淫秽高清视频在线观看| 中文欧美无线码| 性少妇av在线| 在线播放国产精品三级| 一级毛片精品| 亚洲欧美激情在线| 久久人人精品亚洲av| 成年人免费黄色播放视频| 精品福利永久在线观看| 性欧美人与动物交配| 亚洲色图综合在线观看| 亚洲专区国产一区二区| 亚洲成人免费av在线播放| 国产精品日韩av在线免费观看 | 国产欧美日韩一区二区精品| 午夜成年电影在线免费观看| 久久久久久久久中文| 亚洲欧美日韩另类电影网站| 人人妻,人人澡人人爽秒播| 久久久久久人人人人人| 长腿黑丝高跟| 母亲3免费完整高清在线观看| 99久久精品国产亚洲精品| 9色porny在线观看| 国产精品国产高清国产av| 亚洲精品国产区一区二| 村上凉子中文字幕在线| 他把我摸到了高潮在线观看| 国产精品九九99| 欧美人与性动交α欧美精品济南到| 制服人妻中文乱码| 又黄又粗又硬又大视频| 亚洲美女黄片视频| 一个人免费在线观看的高清视频| 亚洲一区二区三区欧美精品| 99久久综合精品五月天人人| 黑人操中国人逼视频| 黄网站色视频无遮挡免费观看| 欧美黑人精品巨大| 老鸭窝网址在线观看| 成人亚洲精品av一区二区 | 丰满饥渴人妻一区二区三| 亚洲av成人不卡在线观看播放网| 欧美午夜高清在线| 亚洲av第一区精品v没综合| 精品国产一区二区久久| 黄色a级毛片大全视频| 一本综合久久免费| 久久婷婷成人综合色麻豆| 婷婷六月久久综合丁香| 日韩av在线大香蕉| 老司机福利观看| 在线十欧美十亚洲十日本专区| 精品国产超薄肉色丝袜足j| 宅男免费午夜| 日韩av在线大香蕉| 精品久久久久久成人av| 亚洲av五月六月丁香网| 精品熟女少妇八av免费久了| 亚洲在线自拍视频| 亚洲五月色婷婷综合| 国产蜜桃级精品一区二区三区| 日韩av在线大香蕉| 久久久国产一区二区| 午夜91福利影院| 亚洲精品在线观看二区| 淫秽高清视频在线观看| 99久久精品国产亚洲精品| 50天的宝宝边吃奶边哭怎么回事| 亚洲欧美日韩另类电影网站| 日韩欧美一区视频在线观看| 中文字幕另类日韩欧美亚洲嫩草| 操出白浆在线播放| 亚洲av片天天在线观看| 天天躁夜夜躁狠狠躁躁| 亚洲中文av在线| 在线观看免费午夜福利视频| 麻豆一二三区av精品| 国产精品98久久久久久宅男小说| 午夜a级毛片| 国产成人精品久久二区二区91| 精品无人区乱码1区二区| 亚洲色图综合在线观看| 午夜精品国产一区二区电影| 国产精品九九99| 无人区码免费观看不卡| 精品国产国语对白av| 国产av在哪里看| 国产av精品麻豆| 在线观看日韩欧美| 亚洲精品av麻豆狂野| 久久久久亚洲av毛片大全| videosex国产| 在线观看免费午夜福利视频| 亚洲av片天天在线观看| 国产精品免费视频内射| 不卡一级毛片| 婷婷六月久久综合丁香| 91av网站免费观看| 亚洲欧美精品综合久久99| 国产乱人伦免费视频| 欧美激情 高清一区二区三区| 亚洲一卡2卡3卡4卡5卡精品中文| 久久 成人 亚洲| 久久香蕉精品热| 国产成年人精品一区二区 | 国产精品电影一区二区三区| 超碰97精品在线观看| 在线免费观看的www视频| 成人黄色视频免费在线看| 午夜免费鲁丝| 亚洲全国av大片| 久久中文字幕人妻熟女| 18禁黄网站禁片午夜丰满| 亚洲av片天天在线观看| 涩涩av久久男人的天堂| 99国产精品一区二区蜜桃av| 亚洲欧美精品综合久久99| 欧美精品啪啪一区二区三区| 亚洲国产看品久久| 久久天躁狠狠躁夜夜2o2o| 搡老乐熟女国产| 18禁观看日本| 在线天堂中文资源库| 操出白浆在线播放| 亚洲中文日韩欧美视频| 欧美+亚洲+日韩+国产| 欧美激情高清一区二区三区| av网站在线播放免费| 久久国产精品影院| 91成年电影在线观看| 精品久久蜜臀av无| 欧美最黄视频在线播放免费 | 亚洲色图av天堂| av视频免费观看在线观看| 久久香蕉国产精品| 视频区图区小说| 久久 成人 亚洲| 亚洲欧美激情在线| videosex国产| 欧美日韩亚洲国产一区二区在线观看| 日韩精品中文字幕看吧| 亚洲精品久久成人aⅴ小说| 一个人观看的视频www高清免费观看 | 99香蕉大伊视频| 国产99久久九九免费精品| 丝袜在线中文字幕| 国产伦人伦偷精品视频| 高清在线国产一区| 欧美一区二区精品小视频在线| 日本免费a在线| 法律面前人人平等表现在哪些方面| 成人特级黄色片久久久久久久| 亚洲精品粉嫩美女一区| x7x7x7水蜜桃| 亚洲av五月六月丁香网| 19禁男女啪啪无遮挡网站| 女人被狂操c到高潮| 国产乱人伦免费视频| 久久中文看片网| 青草久久国产| 在线观看舔阴道视频| 国产精品久久久人人做人人爽| 欧美人与性动交α欧美精品济南到| 国产成人精品久久二区二区免费| 丁香欧美五月| 国产三级黄色录像| 高清av免费在线| 免费在线观看影片大全网站| 亚洲精品中文字幕一二三四区| 精品久久久久久久久久免费视频 | 深夜精品福利| 首页视频小说图片口味搜索| 欧美成人午夜精品| 天堂动漫精品| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲国产精品合色在线| 精品乱码久久久久久99久播| 视频区图区小说| 国产精品98久久久久久宅男小说| 国产精品免费一区二区三区在线| 亚洲欧美激情综合另类| 国产精品1区2区在线观看.| 久久精品国产亚洲av香蕉五月| 欧美日韩一级在线毛片| 欧美人与性动交α欧美精品济南到| 国产精品乱码一区二三区的特点 | 久久这里只有精品19| 手机成人av网站| 88av欧美| 叶爱在线成人免费视频播放| 91精品国产国语对白视频| 91麻豆精品激情在线观看国产 | 精品一区二区三区视频在线观看免费 | av网站免费在线观看视频| 9色porny在线观看| 在线观看www视频免费| 亚洲第一青青草原| 国产精品 国内视频| 日韩欧美在线二视频| 超碰97精品在线观看| 男女下面进入的视频免费午夜 | a在线观看视频网站| 国产精品 国内视频| 女人爽到高潮嗷嗷叫在线视频| 三上悠亚av全集在线观看| 免费人成视频x8x8入口观看| 日本一区二区免费在线视频| a级毛片黄视频| 麻豆成人av在线观看| 91九色精品人成在线观看| 久热爱精品视频在线9| 亚洲色图av天堂| 在线观看免费视频网站a站| 久久久久久久精品吃奶| 日韩大尺度精品在线看网址 | 两性午夜刺激爽爽歪歪视频在线观看 | 久久久久精品国产欧美久久久| 免费观看精品视频网站| 国产深夜福利视频在线观看| 大型av网站在线播放| 精品日产1卡2卡| 一进一出抽搐gif免费好疼 | av网站在线播放免费| 美国免费a级毛片| 亚洲视频免费观看视频| 叶爱在线成人免费视频播放| av天堂久久9| 又黄又爽又免费观看的视频| 99精品欧美一区二区三区四区| 青草久久国产| 91在线观看av| 日本欧美视频一区| 中文欧美无线码| 日韩大尺度精品在线看网址 | 国产成+人综合+亚洲专区| 亚洲国产精品sss在线观看 | 色综合站精品国产| 99热国产这里只有精品6| 亚洲情色 制服丝袜| 国产乱人伦免费视频| 久久精品人人爽人人爽视色| 99久久国产精品久久久| 国产成+人综合+亚洲专区| 国产精品久久久av美女十八| 日韩视频一区二区在线观看| 亚洲精品粉嫩美女一区| 99国产综合亚洲精品| 真人一进一出gif抽搐免费| 精品卡一卡二卡四卡免费| 黑人巨大精品欧美一区二区蜜桃| 亚洲情色 制服丝袜| 无遮挡黄片免费观看| 少妇裸体淫交视频免费看高清 | 亚洲第一av免费看| 久久精品影院6| av天堂久久9| 一级a爱片免费观看的视频| 亚洲欧美一区二区三区黑人| 成人三级做爰电影| 亚洲 国产 在线| 国产精品自产拍在线观看55亚洲| 欧美中文综合在线视频| 欧美人与性动交α欧美软件| 最好的美女福利视频网| 男人操女人黄网站| 高潮久久久久久久久久久不卡| 成年人黄色毛片网站| 亚洲精品久久午夜乱码| av欧美777| 欧美乱妇无乱码| 免费日韩欧美在线观看| 国产一卡二卡三卡精品| 成年人黄色毛片网站| 看黄色毛片网站| 悠悠久久av| 免费高清在线观看日韩| 精品一区二区三区av网在线观看| 国产在线观看jvid| 性色av乱码一区二区三区2| 国产成人免费无遮挡视频| 精品人妻1区二区| 欧美成狂野欧美在线观看| 国产精品久久电影中文字幕| 99国产极品粉嫩在线观看| 欧美色视频一区免费| 国产成人精品久久二区二区免费| 欧美老熟妇乱子伦牲交| 国产麻豆69| 老汉色∧v一级毛片| 国产精品久久久人人做人人爽| 国产精品美女特级片免费视频播放器 | 久久精品亚洲av国产电影网| 国产成+人综合+亚洲专区| 在线永久观看黄色视频| 性少妇av在线| 国产视频一区二区在线看| 欧美日韩亚洲综合一区二区三区_| 国产成人一区二区三区免费视频网站| 在线观看www视频免费| 久久久水蜜桃国产精品网| 国产精品永久免费网站| 一级a爱视频在线免费观看| 在线天堂中文资源库| 首页视频小说图片口味搜索| 精品国产亚洲在线| 欧美老熟妇乱子伦牲交| 正在播放国产对白刺激| 99久久人妻综合| 制服诱惑二区| 12—13女人毛片做爰片一| av免费在线观看网站| 亚洲国产毛片av蜜桃av| 一级作爱视频免费观看| 国产亚洲精品综合一区在线观看 | 十八禁人妻一区二区| 美国免费a级毛片| 国产高清视频在线播放一区| 中文字幕人妻丝袜制服| 99精品在免费线老司机午夜| ponron亚洲| 在线观看免费日韩欧美大片| 性少妇av在线| 日本免费一区二区三区高清不卡 | 亚洲欧美日韩高清在线视频| 国产精品综合久久久久久久免费 | 国产精品免费视频内射| 大型av网站在线播放| 亚洲精品av麻豆狂野| 女生性感内裤真人,穿戴方法视频| 欧美日韩亚洲国产一区二区在线观看| 在线视频色国产色| 一级片免费观看大全| 日日摸夜夜添夜夜添小说| 国产一区二区三区综合在线观看| 日韩有码中文字幕| 色哟哟哟哟哟哟| 最近最新免费中文字幕在线| 色综合欧美亚洲国产小说| 久久国产乱子伦精品免费另类| 满18在线观看网站| 亚洲自偷自拍图片 自拍| 1024香蕉在线观看| 亚洲精品国产一区二区精华液| 在线观看66精品国产| 亚洲精品中文字幕在线视频| 韩国精品一区二区三区| 少妇裸体淫交视频免费看高清 | 在线免费观看的www视频| 一区二区三区精品91| 一边摸一边做爽爽视频免费| 亚洲性夜色夜夜综合| 色播在线永久视频| 丰满的人妻完整版| 亚洲精品国产色婷婷电影| 99国产极品粉嫩在线观看| 一进一出抽搐动态| a级毛片黄视频| cao死你这个sao货| 91精品国产国语对白视频| 免费看a级黄色片| 十八禁人妻一区二区| 女同久久另类99精品国产91| 长腿黑丝高跟| 成人18禁在线播放| 亚洲男人天堂网一区| 久久国产精品人妻蜜桃| 一级a爱片免费观看的视频| av片东京热男人的天堂| 亚洲精品成人av观看孕妇| 中文字幕另类日韩欧美亚洲嫩草| 首页视频小说图片口味搜索| 色在线成人网| 亚洲精品粉嫩美女一区| 最近最新免费中文字幕在线| xxx96com| 午夜福利一区二区在线看| 欧美精品一区二区免费开放| netflix在线观看网站| 精品人妻在线不人妻| 夜夜夜夜夜久久久久| 悠悠久久av| 女警被强在线播放| 在线观看66精品国产| a在线观看视频网站| 老司机亚洲免费影院| 亚洲aⅴ乱码一区二区在线播放 | 黄片大片在线免费观看| 热99国产精品久久久久久7| 满18在线观看网站| 视频区图区小说| 亚洲少妇的诱惑av| 青草久久国产| 国产欧美日韩一区二区三区在线| 国产成人av教育| 精品国产亚洲在线| 国产熟女午夜一区二区三区| 国产乱人伦免费视频| 亚洲人成电影观看| 99精品在免费线老司机午夜| 一级毛片女人18水好多| 日韩成人在线观看一区二区三区| 久久久久国产一级毛片高清牌| 久热这里只有精品99| 欧美一级毛片孕妇| 精品国产美女av久久久久小说| xxx96com| 欧美日本中文国产一区发布| 中文字幕最新亚洲高清| 国产主播在线观看一区二区| 老司机午夜福利在线观看视频| 国产不卡一卡二| 成人国语在线视频| 精品一品国产午夜福利视频| 制服人妻中文乱码|