• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能法的理論體系與核心議題

    2023-07-07 15:27:46陳吉棟
    東方法學(xué) 2023年1期
    關(guān)鍵詞:個(gè)人信息權(quán)利主體

    陳吉棟

    內(nèi)容摘要:數(shù)字時(shí)代的法治圖景應(yīng)以何種名目展開,存在計(jì)算法學(xué)、數(shù)據(jù)法學(xué)和人工智能法學(xué)等不同見解??梢源_定的是,作為復(fù)雜性科學(xué)技術(shù),人工智能的研發(fā)、生產(chǎn)和應(yīng)用應(yīng)遵循基本人類價(jià)值,為相關(guān)活動(dòng)提供安全、可信、公平、可解釋性并保障主體權(quán)利等基本價(jià)值指引。傳統(tǒng)民法學(xué)所形成的精神主線為人工智能法提供了體系框架。在法律主體領(lǐng)域,元宇宙中的數(shù)字身份問題開始起步。如何認(rèn)定數(shù)字身份的法律地位并構(gòu)建可行的身份認(rèn)證方案,仍待理論與實(shí)踐的融合探索。在法律行為領(lǐng)域,智能合約研究正從理論探索向應(yīng)用分析轉(zhuǎn)變,知情同意規(guī)則呈現(xiàn)出持續(xù)沖突與初步調(diào)適的雙重面貌, 電子簽名效力規(guī)則亟待細(xì)化。在權(quán)利領(lǐng)域,新興權(quán)利進(jìn)入勃興期,以解釋權(quán)為核心的算法權(quán)利研究進(jìn)一步深入,有關(guān)數(shù)據(jù)權(quán)利的研究眾多卻未取得重大突破,加密正在成為一種權(quán)利,而信用權(quán)等權(quán)利的研究尚有不足。

    關(guān)鍵詞:人工智能數(shù)字身份算法新興權(quán)利數(shù)據(jù)權(quán)利元宇宙

    中圖分類號(hào):DF0 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1674-4039-(2023)01-0062-78

    2022年是人工智能法的重要年份。人工智能技術(shù)創(chuàng)新有了新進(jìn)展,人工智能產(chǎn)業(yè)增添元宇宙等新賽道,自動(dòng)駕駛等人工智能產(chǎn)品應(yīng)用取得新突破,數(shù)據(jù)、算法和算力等基礎(chǔ)要素流通開始破局,國(guó)內(nèi)外人工智能的專門立法開始出現(xiàn)。人工智能法學(xué)釋義學(xué)研究的序幕已經(jīng)緩緩拉開。如何超越碎片化的技術(shù)表象,擺脫科幻化的應(yīng)用猜想,認(rèn)知技術(shù)及其應(yīng)用的體系性,思考法律應(yīng)對(duì)的整體框架,甄別人工智能法的理論體系與核心議題,啟發(fā)更有價(jià)值的學(xué)術(shù)討論,已成為理性且可欲的選擇?!?$〕本文遵循傳統(tǒng)法學(xué)理論所形成的相對(duì)清晰的精神主線:法律主體通過法律行為創(chuàng)設(shè)權(quán)利義務(wù),并為自己的行為可能引發(fā)的損害負(fù)法律責(zé)任,在當(dāng)事人之間權(quán)利義務(wù)不明確、不周延時(shí),以法律原則予以解釋,嘗試以此精神主線觀察人工智能法的學(xué)術(shù)成果,探析紛繁復(fù)雜的學(xué)術(shù)成果所呈現(xiàn)的新進(jìn)展與舊問題。〔2$〕以此思考人工智能法的基本方法、理論框架和核心議題,描摹人工智能法的未來形態(tài)。

    一、定名之爭(zhēng):計(jì)算法學(xué)、數(shù)據(jù)法學(xué)抑或人工智能法學(xué)

    為回應(yīng)人工智能時(shí)代的法治需求,法學(xué)界出現(xiàn)了互聯(lián)網(wǎng)法學(xué)、信息法學(xué)、認(rèn)知法學(xué)、人工智能法學(xué)、數(shù)據(jù)法學(xué)、計(jì)算法學(xué)、未來法學(xué)、數(shù)字法學(xué)等不同名目主張,在一定程度上出現(xiàn)了“群名競(jìng)舞”的局面。

    馬長(zhǎng)山高舉“數(shù)字法學(xué)”的大旗?!?"〕數(shù)字法學(xué)是新法科的重要學(xué)科,是以數(shù)字社會(huì)的法律現(xiàn)象及其規(guī)律性為研究?jī)?nèi)容的科學(xué),是對(duì)數(shù)字社會(huì)的生產(chǎn)生活關(guān)系、行為規(guī)律和社會(huì)秩序的學(xué)理闡釋和理論表達(dá),但數(shù)字法學(xué)并非現(xiàn)代法學(xué)的二級(jí)學(xué)科,而是其進(jìn)階升級(jí)。〔4"〕

    計(jì)算法學(xué)的討論走向深入。左衛(wèi)民建議推進(jìn)以實(shí)證研究方法為底色的計(jì)算法學(xué)學(xué)科建設(shè),〔5"〕認(rèn)為應(yīng)抓住可供計(jì)算的法律數(shù)據(jù)特征,以統(tǒng)計(jì)學(xué)為根基的機(jī)器學(xué)習(xí)應(yīng)成為法律計(jì)算的主要方式。左衛(wèi)民所界定的計(jì)算法學(xué)基本是實(shí)證方法的進(jìn)階版本, 大致與我國(guó)學(xué)界引入人工智能問題討論時(shí)的法律人工智能屬于一路,雖然其本人有意與后者劃清界限?!?"〕相較計(jì)算法學(xué)的既有研究,左衛(wèi)民所主張的計(jì)算法學(xué)范圍有所限縮。季衛(wèi)東主張,在更為宏大的時(shí)空架構(gòu)中定位計(jì)算法學(xué),指出法教義學(xué)的推理與概念計(jì)算、科學(xué)技術(shù)指向的實(shí)驗(yàn)與制度演算兩條基本思路。通過其以“法律數(shù)學(xué)”構(gòu)想為背景和線索,對(duì)計(jì)算法學(xué)在通信技術(shù)時(shí)代分析,可以發(fā)現(xiàn)其發(fā)掘的五個(gè)主要維度:(1)基于統(tǒng)計(jì)和預(yù)測(cè)模型的計(jì)量法律學(xué);(2) 法律推理電腦化和專家系統(tǒng)算法;(3) 法律信息學(xué)的大數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí);(4)對(duì)法律網(wǎng)絡(luò)結(jié)構(gòu)的圖譜和矩陣演算;(5)包括數(shù)據(jù)倫理和算法公正在內(nèi)的人工智能治理等交叉和相輔相成的關(guān)系。其中,最后這一維度反映了計(jì)算法學(xué)的超越性,揭示了深入研究關(guān)于價(jià)值排序和價(jià)值函數(shù)元算法的重要意義,反映出季衛(wèi)東試圖引入價(jià)值議論賦予計(jì)算法學(xué)以超越性的努力?!?"〕此外,計(jì)算法學(xué)尚未回應(yīng)既有批評(píng),即“計(jì)算”作為一種方法,本身是否足以涵蓋其支持者所欲討論的基本問題。

    人工智能法學(xué)鮮見新作出現(xiàn)。人工智能法支持者早年所提出的問題意識(shí)〔8"〕亦未被認(rèn)真討論和對(duì)待。

    相較之下,在基本問題意識(shí)上,本體論的數(shù)字法學(xué)與傳統(tǒng)法學(xué)研究志趣更為接近,也更容易被接受,但“數(shù)字”不只是昭示方法,仍需負(fù)載內(nèi)容。胡銘將數(shù)字法學(xué)的研究?jī)?nèi)容定位為要素類、平臺(tái)類和產(chǎn)出類等內(nèi)容,〔9"〕然而舉凡數(shù)據(jù)、算法等在具體場(chǎng)景下,均可成為既有法律部門調(diào)整的客體。數(shù)字化浪潮改革徹底且宏大,每個(gè)傳統(tǒng)的部門法在數(shù)字時(shí)代均有不同程度的更新,〔10"〕以致每個(gè)部門法都有自身的數(shù)字法學(xué),也都有自身的數(shù)字法理。如此一來,數(shù)字法學(xué)是否會(huì)過于泛化而喪失定名的意義,是否存在被歸屬理念或者方法、束之于部門法總論中之風(fēng)險(xiǎn),猶未可知。

    如果定名與本體可以相符,就應(yīng)被認(rèn)真討論。無論選擇怎樣的名目,均應(yīng)承認(rèn)我們面對(duì)的是一個(gè)正在迅速變動(dòng)的信息生態(tài)體系,這個(gè)體系至少包括網(wǎng)絡(luò)環(huán)境、虛實(shí)界面、數(shù)據(jù)處理、認(rèn)證機(jī)制與內(nèi)容生產(chǎn)等,〔11"〕法學(xué)研究的并非這一系統(tǒng)的數(shù)字表現(xiàn)形式或一部分,而是以涉及數(shù)據(jù)、算法和算力,以及在此基礎(chǔ)上形成的人工智能系統(tǒng)且以之為核心得以展開。因此,名之為“人工智能法”大致仍然可取。而且,歐盟已經(jīng)出臺(tái)了人工智能法案,我國(guó)上海市、深圳經(jīng)濟(jì)特區(qū)等也先后頒行了人工智能產(chǎn)業(yè)條例,這些立法進(jìn)展已經(jīng)初步顯現(xiàn)了人工智能法的基本內(nèi)容和核心議題;人工智能法回避了更為基礎(chǔ)或者抽象的數(shù)字法學(xué),其名目下的具體資料亦非計(jì)算法學(xué)所能涵蓋。當(dāng)然,無論上述任何一種主張,都依賴對(duì)事物本質(zhì)的研究和回應(yīng)。在此意義上,人工智能法是否可以超越傳統(tǒng)部門法及其方法在一般意義上作為本體形成與確立,僅能讓未來告訴未來。

    二、人工智能法的基本原則初步浮現(xiàn)

    法律原則是法律帝國(guó)(或者說法律規(guī)范大廈)的基石?;驹瓌t是人工智能法基本價(jià)值的沉淀,也是其成型成熟的基本標(biāo)志,不僅關(guān)系對(duì)人工智能法的整體認(rèn)知,還構(gòu)成了討論人工智能法律關(guān)系的基本價(jià)值依歸。在人工智能法尚未成型之時(shí),既有研究已經(jīng)開始注意人工智能作為復(fù)雜科學(xué)技術(shù),其開發(fā)和應(yīng)用應(yīng)遵循人類社會(huì)的基本價(jià)值,為相關(guān)活動(dòng)提供安全、可信、公平、可解釋性并保障主體權(quán)利等基本價(jià)值指引。

    (一)可信

    可信是人工智能法的首要原則或“帝王條款”??尚艑?duì)應(yīng)的是人工智能的不確定或風(fēng)險(xiǎn)?,F(xiàn)階段,確保人工智能可信已經(jīng)成為政策制定和學(xué)術(shù)研究的重點(diǎn)議題。技術(shù)上,穩(wěn)定性、泛化能力(可解釋性)、公平性、主體權(quán)利保護(hù)等,構(gòu)成了可信人工智能的基礎(chǔ)?,F(xiàn)階段法學(xué)界理論研究尚未足夠重視可信作為原則的基礎(chǔ)作用,主要聚焦算法可信治理和數(shù)據(jù)可信利用的研究。

    算法“可信”意指這樣一種狀態(tài),即算法基于其可理解性、可靠性和可控性而能夠獲得人們的信任。既有研究多聚焦于算法可信治理,意在排除有現(xiàn)實(shí)和潛在威脅的算法,達(dá)至合法性和正當(dāng)性且具有相當(dāng)可信度的算法。有學(xué)者試圖在算法自動(dòng)化決策問題上通過“信任原則”重構(gòu)算法解釋權(quán),將算法解釋權(quán)定性為一種動(dòng)態(tài)、溝通、相對(duì)性的程序性權(quán)利,而非實(shí)體性權(quán)利?!?2#〕但可信作為基本原則,其調(diào)整范圍并不限于算法治理,如徐珉川提出公共數(shù)據(jù)開放可信治理的規(guī)范性架構(gòu),可以通過公共數(shù)據(jù)內(nèi)在信用基礎(chǔ)和開放行為外在信任框架兩個(gè)方面展開,討論了開放公共數(shù)據(jù)自身的信用保障和公共數(shù)據(jù)開放的信任交互關(guān)系?!?3#〕

    可信內(nèi)涵廣泛,基本含義是透明或“可解釋”。目前涉及的問題主要是透明(用戶或社會(huì)公共利益)與不透明(使用者或社會(huì)公共利益,如創(chuàng)新)如何權(quán)衡。算法可解釋的確立使其正當(dāng)性論證成為可能,有助于接受算法服務(wù)一方的權(quán)益保護(hù)和處理出現(xiàn)錯(cuò)誤甚至歧視時(shí)的責(zé)任分配問題。但當(dāng)前對(duì)于“可解釋”的研究進(jìn)展不大。例如,可解釋性的本質(zhì)、規(guī)范性乃至研究方法均未清晰。一般來說,評(píng)估特定的人工智能系統(tǒng)是否可信不僅要通過識(shí)別、治理人工智能系統(tǒng)的風(fēng)險(xiǎn)平臺(tái),更重要的是在可信原則下設(shè)計(jì)人工智能系統(tǒng)規(guī)則體系。這一規(guī)則體系不限于對(duì)于人工智能風(fēng)險(xiǎn)的分階段尤其是分層級(jí)調(diào)整規(guī)則,在廣義上還包括協(xié)調(diào)當(dāng)事人間的權(quán)利義務(wù)(比如平臺(tái)與用戶),數(shù)據(jù)上不同主體之間的權(quán)益配置,還可以解釋具體權(quán)利的發(fā)生基礎(chǔ)(比如算法解釋的權(quán)利等)。在根本上,如果將可信作為一種關(guān)系概念,其不僅決定了不同主體間的溝通協(xié)調(diào),還可以打通技術(shù)與法律秩序,事關(guān)未來智慧法治的整體構(gòu)造??尚胚€包括對(duì)相關(guān)風(fēng)險(xiǎn)的治理?!?4#〕為了實(shí)現(xiàn)可信,加強(qiáng)人工智能外部治理已經(jīng)成為共識(shí)。有學(xué)者注意到作為極具顛覆性和不可預(yù)見性的新興工具,算法的負(fù)外部性不僅容易引發(fā)多重權(quán)益侵蝕風(fēng)險(xiǎn),并易與監(jiān)管權(quán)力合謀形成權(quán)力濫用風(fēng)險(xiǎn)?!?5#〕為了應(yīng)對(duì)算法的風(fēng)險(xiǎn)以及因此引發(fā)的負(fù)面影響,有觀點(diǎn)認(rèn)為應(yīng)實(shí)行公權(quán)力賦權(quán)、算法權(quán)力限權(quán)與追加義務(wù)、個(gè)體充權(quán)的多元治理路徑?!?6#〕從私權(quán)的視角,有學(xué)者主張打開算法黑箱,披露、解釋算法,以私法保護(hù)為基礎(chǔ)解決算法帶來的侵害。例如通過合同法實(shí)現(xiàn)對(duì)算法侵害精神性一般人格權(quán)益的救濟(jì),通過侵權(quán)法來回應(yīng)侵害行為的事后救濟(jì)?!?7#〕這一討論將問題轉(zhuǎn)化為現(xiàn)有的民法規(guī)范能否妥善處理算法權(quán)力給民事法律關(guān)系帶來的風(fēng)險(xiǎn)問題,具有重要意義。

    在根本上,創(chuàng)建值得信賴和道德的人工智能不僅需要了解技術(shù)本身,還需要了解存在的社會(huì)和道德條件,以及如何適當(dāng)?shù)亟忉屌c評(píng)估它們對(duì)人工智能的設(shè)計(jì)、構(gòu)建和測(cè)試方式的影響,還有人工智能與人類互動(dòng)的方式。它必須是可持續(xù)的和環(huán)境友好的,必須確保人工智能系統(tǒng)的可追溯性,個(gè)人可以完全控制自己的數(shù)據(jù)。這些基本需求如何轉(zhuǎn)化為規(guī)范研究,或者說,如何將規(guī)范研究建立在上述根本思考之上,仍是未來的課題。

    (二)安全

    在數(shù)字時(shí)代,安全再次從“幕后”走向“臺(tái)前”,成為制定法關(guān)注的重要價(jià)值與法益,安全原則也因此成為一項(xiàng)法律原則,成為安全與效益之間的法益衡量工具。

    趙精武將安全分為三個(gè)層面:廣義層面的安全將國(guó)家作為描述對(duì)象,強(qiáng)調(diào)的是國(guó)家在國(guó)際社會(huì)和所處地區(qū)的主權(quán)和社會(huì)安全;中義層面的安全則是側(cè)重社會(huì)結(jié)構(gòu)或社會(huì)某一領(lǐng)域或行業(yè)的秩序穩(wěn)定、公共安全;狹義層面的安全則是強(qiáng)調(diào)以社會(huì)治理過程中某個(gè)具體環(huán)節(jié)為對(duì)象,既包括傳統(tǒng)的財(cái)產(chǎn)與人身安全, 也包括新興的技術(shù)與行業(yè)安全等。狹義層面的安全或可體現(xiàn)在民法保護(hù)的根本法益———安全法益上。安全原則在民法中的具體立法形態(tài)呈現(xiàn)為“零散規(guī)則—區(qū)塊化規(guī)則—體系化規(guī)則”三個(gè)基本階段。比如,當(dāng)下大數(shù)據(jù)、人工智能、區(qū)塊鏈等新興技術(shù)的高速迭代拉開了私法調(diào)整范疇與實(shí)踐立法需求的距離,目前的立法也呈現(xiàn)這三個(gè)階段的趨勢(shì)。在數(shù)字化和智慧化疊加應(yīng)用的背景下,安全觀念不僅是物理空間中穩(wěn)定的自然狀態(tài),而且涵蓋虛擬空間中民事活動(dòng)不被他人監(jiān)視、跟蹤與記錄的自由狀態(tài)。因此,當(dāng)下學(xué)界熱議的知情同意規(guī)則、刪除權(quán)益等規(guī)定也歸于信息時(shí)代安全原則的調(diào)整范圍。在這一背景下,安全原則的回應(yīng)體現(xiàn)在三個(gè)層次的安全法益架構(gòu),分別是主體之間的互動(dòng)安全、主體心理感知層面的信任安全和主體所處環(huán)境的穩(wěn)定,安全法益的形成會(huì)使民法體系內(nèi)部和外部均產(chǎn)生“規(guī)則事域化”的指向性影響,包括規(guī)則重心從“事后規(guī)制”轉(zhuǎn)向“事前預(yù)防”和傳統(tǒng)法律主體、客體的類型有所擴(kuò)張。根據(jù)安全原則的要求,具體到數(shù)據(jù)安全法秩序,應(yīng)從過去的“權(quán)利人—義務(wù)人”的二元主體結(jié)構(gòu)延伸為“監(jiān)管機(jī)構(gòu)—信息處理者—信息主體”的三元主體結(jié)構(gòu)?!?8#〕

    此外,隨著數(shù)據(jù)安全法的出臺(tái),學(xué)界掀起了對(duì)數(shù)據(jù)安全制度的研究,學(xué)者發(fā)表了若干的初步討論成果,〔19#〕構(gòu)成了研究安全原則的規(guī)則轉(zhuǎn)化例證與基本資料,但限于篇幅在此不再展開討論。從人工智能法的整體視閾來看,安全作為人工智能法的底座,可以從兩方面觀察:一方面,重新發(fā)現(xiàn)安全,即傳統(tǒng)財(cái)產(chǎn)的數(shù)字化轉(zhuǎn)型疊加新的數(shù)字財(cái)產(chǎn)不斷產(chǎn)生,倒逼對(duì)安全的新認(rèn)知。另一方面,整體安全被提出,虛擬空間架構(gòu)的安全成為新的問題。在此背景下,“安全原則”應(yīng)為人工智能法的基本原則。

    (三)公平

    公平,在傳統(tǒng)法上雖確有規(guī)則體現(xiàn),但更多的是作為基本原則———理念或者基礎(chǔ)價(jià)值存在,并非嚴(yán)格意義上法律原則。人工智能在數(shù)據(jù)處理、算法設(shè)計(jì)及其系統(tǒng)應(yīng)用階段均可能存在偏差,會(huì)導(dǎo)致歧__視、不公平競(jìng)爭(zhēng)和濫用等,從而產(chǎn)生公平問題。公平尚未作為一種法律原則予以討論,既有研究多聚焦算法歧視帶來的問題。

    公正的核心要義是反對(duì)歧視。歧視來源于偏見,是人工智能倫理的核心問題。人工智能偏見來源眾多,數(shù)據(jù)本身蘊(yùn)含的、開發(fā)者的以及算法等偏見?,F(xiàn)階段對(duì)歧視的研究,主要聚焦于算法歧視,較少涉及數(shù)據(jù)偏見及其風(fēng)險(xiǎn)的研究。算法黑箱使得人類無法理解算法決策的運(yùn)作機(jī)理,對(duì)于隱私、知識(shí)產(chǎn)權(quán)乃至個(gè)人自由等方面都提出了前所未有的挑戰(zhàn)。〔20#〕而營(yíng)利性實(shí)體為了獲取商業(yè)競(jìng)爭(zhēng)力,報(bào)告自身算法的計(jì)算表征與決策方式意愿不足。〔21#〕因此,在外圍進(jìn)行算法審計(jì)、算法認(rèn)證或者核驗(yàn)成為學(xué)術(shù)研究的新方向。

    目前,學(xué)者多將算法偏差分為三種類型:算法歧視、不公平競(jìng)爭(zhēng)和算法濫用。〔22#〕有學(xué)者認(rèn)為,算法歧視的認(rèn)定需要以存在橫向權(quán)力關(guān)系為必要前提。當(dāng)算法控制者以用戶固有的、難以改變的特性對(duì)其進(jìn)行分類,并單方?jīng)Q定適用于用戶的算法規(guī)則,用戶只能被動(dòng)接受決策結(jié)果而無退出算法系統(tǒng)之自由時(shí),即形成橫向權(quán)力關(guān)系。在算法歧視的具體認(rèn)定上,算法歧視以區(qū)分決策為行為要件,以用戶遭受差別不利對(duì)待為結(jié)果要件。算法控制者若能證明差別對(duì)待具有合理性,則不構(gòu)成算法歧視,更重要的是需要進(jìn)行個(gè)案分析。〔23#〕對(duì)算法歧視問題的監(jiān)管層面,從最初的監(jiān)管算法技術(shù)深入到監(jiān)管算法權(quán)力,意味著實(shí)現(xiàn)對(duì)算法歧視的預(yù)防和救濟(jì)有賴于對(duì)算法權(quán)力的規(guī)制。為此,具有公權(quán)力屬性的算法權(quán)力遵從正當(dāng)程序原則,引導(dǎo)、規(guī)范算法權(quán)力回歸正當(dāng)程序,將市場(chǎng)壟斷與技術(shù)監(jiān)管相結(jié)合以制約算法權(quán)力。〔24#〕在責(zé)任歸屬上,算法歧視應(yīng)追責(zé)到人,算法的開發(fā)者和使用者應(yīng)對(duì)算法歧視負(fù)責(zé)?!?5#〕

    公平原則的意涵豐富,不限于算法歧視問題,但其調(diào)整范圍與具體規(guī)則,仍有待進(jìn)一步研究。誠(chéng)如鄭戈所言,數(shù)字化帶來的影響在不激進(jìn)地改變現(xiàn)有法律結(jié)構(gòu)的情況下,法律上可以做的事情是限制強(qiáng)者、保護(hù)弱者,避免“強(qiáng)者為所能為,弱者受所必受”的情況。法律是社會(huì)的公器,它必須找到符合公共利益的社會(huì)關(guān)系調(diào)整方式?!?6#〕

    三、元宇宙視領(lǐng)域下數(shù)字身份研究開始起步

    主體是權(quán)利的載體,制度既是法律的起點(diǎn),也是終點(diǎn)。在既往人工智能法的主體研究中,人工智能體(AI#Agent)以及區(qū)塊鏈去中心化自治組織(DAO)被持續(xù)關(guān)注。元宇宙的興起改變了這一狀態(tài)。元宇宙是人類以技術(shù)手段為自己構(gòu)筑的虛擬世界,〔27#〕其作為新一代全真互聯(lián)網(wǎng)形態(tài),〔28#〕已逐漸成為政府和企業(yè)投資布局的重點(diǎn)領(lǐng)域。如今,“元宇宙”已滲透到人類世界經(jīng)濟(jì)和生活的多個(gè)方面,技術(shù)的產(chǎn)業(yè)化進(jìn)展與應(yīng)用推進(jìn)擴(kuò)寬了人類生活的虛擬向度?!?9#〕個(gè)體以“數(shù)字人”〔30#〕的身份在賽博空間中活__動(dòng),〔310〕引發(fā)了因數(shù)字身份產(chǎn)生的各類法律問題。在此背景下,妥善解析數(shù)字身份的法律性質(zhì),探索構(gòu)建可信身份認(rèn)證體系的可行之道,成為因應(yīng)“元宇宙”法律挑戰(zhàn)的題中之義。

    (一)數(shù)字化身的法律性質(zhì)

    隨著“元宇宙”應(yīng)用的不斷成熟,現(xiàn)實(shí)社會(huì)與網(wǎng)絡(luò)社會(huì)在物質(zhì)層面的隔閡正不斷被打破,一個(gè)虛實(shí)相融的數(shù)字世界正在生成?!?20〕“元宇宙”用戶以“數(shù)字化身”進(jìn)行數(shù)字化行為也開始對(duì)現(xiàn)實(shí)社會(huì)產(chǎn)生直接影響?!?30〕“數(shù)字化身”與“數(shù)字身份”既有聯(lián)系又有區(qū)別,但兩者關(guān)系仍待澄清?!?40〕一方面,典型的數(shù)字化身,譬如利用語(yǔ)音合成和深度學(xué)習(xí)技術(shù)塑造出的具有人類形象的“數(shù)字播音員”,具有一定的財(cái)產(chǎn)屬性,有學(xué)者甚至將其定性為一種虛擬財(cái)產(chǎn);〔350〕而數(shù)字身份則更多強(qiáng)調(diào)特定主體的識(shí)別功能,側(cè)重體現(xiàn)主體的人身權(quán)益。另一方面,兩者在數(shù)字身份認(rèn)證這一命題上具有緊密的聯(lián)系:數(shù)字身份是元宇宙建設(shè)及其問題的起點(diǎn)與歸宿,而只有通過數(shù)字身份認(rèn)證,驗(yàn)證數(shù)字化身背后的自然人的真實(shí)身份,才能在元宇宙中破解數(shù)字化身所致的信任難題。〔360〕

    在厘清數(shù)字身份與數(shù)字化身關(guān)系的基礎(chǔ)上,分析數(shù)字化身的法律性質(zhì),可發(fā)現(xiàn)學(xué)界就此問題始終未形成明確共識(shí)。有觀點(diǎn)認(rèn)為, 用戶的數(shù)字化身本質(zhì)上屬于民法典第127條規(guī)定的“網(wǎng)絡(luò)虛擬財(cái)產(chǎn)”,并不具有獨(dú)立的法律地位。只不過,數(shù)字化身與其他人工智能系統(tǒng)并無本質(zhì)區(qū)別,也需通過反饋訓(xùn)練,這一過程類似人工智能體,〔370〕但這并不足以使其獲得獨(dú)立人格。有學(xué)者進(jìn)一步認(rèn)為,數(shù)字化身作為用戶在平臺(tái)、人工智能等交互中創(chuàng)造的事物,屬于美術(shù)作品,應(yīng)當(dāng)被納入版權(quán)法的保護(hù)范圍之內(nèi)。〔380〕不過也有學(xué)者提出了數(shù)字化身“人格相對(duì)獨(dú)立論”,主張數(shù)字化身既非財(cái)產(chǎn)又與自然人非同一人格,其自身具有獨(dú)立人格?!?90〕區(qū)分兩者的獨(dú)立性,亦即采用人格獨(dú)立和財(cái)產(chǎn)獨(dú)立原則,而非將兩者混同,有利于對(duì)物質(zhì)世界和元宇宙世界中成員的信賴?yán)娴谋Wo(hù)。更為綜合的觀點(diǎn)則認(rèn)為,數(shù)字化身與“真身”的關(guān)系不能一概而論,而應(yīng)當(dāng)區(qū)分“與真身結(jié)合的智能數(shù)字人”和“與真身分立的智能數(shù)字體人”這兩個(gè)概念。〔400〕該觀點(diǎn)進(jìn)一步提出前者實(shí)現(xiàn)了“真身”與“化身”的統(tǒng)一性,其主體地位應(yīng)當(dāng)遵循物質(zhì)世界的主體地位規(guī)則,而后者本質(zhì)是一種“脫離人體獨(dú)自進(jìn)行認(rèn)知的延展認(rèn)知技術(shù)”,應(yīng)當(dāng)賦予其獨(dú)立的法律主體地位并按照人工智能組織體〔410〕予以規(guī)范。

    拋開抽象的法理哲思,妥善確定數(shù)字化身的法律性質(zhì),需要綜合考量數(shù)字化身技術(shù)的既有水平與現(xiàn)實(shí)主體參與數(shù)字身份構(gòu)建的具體情形?,F(xiàn)階段,元宇宙的核心仍在于增強(qiáng)虛實(shí)世界的交互,而非肉身向其中“移民”。不能忽視的事實(shí)是,“數(shù)字化身”仍然僅具有工具屬性,不能脫離主體而獨(dú)立存在,主體對(duì)化身的支配,需要數(shù)據(jù)的“投喂”,甚至情感的投射,需要配備專有算法來處理和分析在自適應(yīng)交互中產(chǎn)生的復(fù)雜信息。可見,在既有的數(shù)字化身技術(shù)下,數(shù)字化身主要體現(xiàn)為一種工具而非主體。因此,強(qiáng)調(diào)數(shù)字化身具有獨(dú)立人格或在部分情況下肯定其主體地位的觀點(diǎn),并不符合現(xiàn)階段人工智能技術(shù)與元宇宙應(yīng)用的發(fā)展現(xiàn)狀。__

    (二)可信數(shù)字身份認(rèn)證的建構(gòu)路徑

    身份問題,本質(zhì)是在追問“我是誰(shuí)”,其形成離不開社會(huì)關(guān)系中的人際互動(dòng),對(duì)身份的控制也成為公民信息權(quán)益的重要表現(xiàn)。〔42@〕網(wǎng)絡(luò)空間拓展了人的身份建構(gòu)的空間,使得每個(gè)人都可以根據(jù)自己的選擇形成各種各樣的“數(shù)字身份”。然而,賽博空間中的“數(shù)字人”不斷具有影響現(xiàn)實(shí)社會(huì)的力量,使得建構(gòu)可信數(shù)字身份認(rèn)證體系成為人工智能法的起點(diǎn)問題。

    身份認(rèn)證問題的核心在于建立行為與特定主體之間的連接,因而確保數(shù)字身份的真實(shí)性、互操作性、安全性與合規(guī)性應(yīng)當(dāng)是可信數(shù)字身份認(rèn)證體系的基本原則?!?3@〕數(shù)字身份認(rèn)證系統(tǒng)的構(gòu)建路徑方面,多數(shù)學(xué)者主張建立分布式而非中心化的數(shù)字身份認(rèn)證體系。于銳認(rèn)為,中心化的身份認(rèn)證系統(tǒng)多由互聯(lián)網(wǎng)平臺(tái)控制,平臺(tái)出于利益驅(qū)使泄露用戶信息和隨意決定終止用戶賬號(hào)權(quán)限的情況層出不窮,并進(jìn)一步提出分布式數(shù)字建設(shè)的兩種思路:一是“傳統(tǒng)數(shù)字身份+區(qū)塊鏈模式”;二是由用戶控制身份,創(chuàng)建全新的區(qū)塊鏈數(shù)字身份系統(tǒng)?!?4@〕類似地,傳統(tǒng)的集中式或聯(lián)合式身份認(rèn)證系統(tǒng)賦予個(gè)人較低的數(shù)據(jù)控制能力,難以迎合數(shù)據(jù)要素市場(chǎng)發(fā)展的需求,采用去中心化的數(shù)字身份系統(tǒng)或可實(shí)現(xiàn)數(shù)據(jù)訪問控制的透明度,并可改進(jìn)既有無效、滯后的同意規(guī)則,為數(shù)字身份系統(tǒng)用戶提供連續(xù)性、實(shí)質(zhì)性的同意?!?5@〕

    此外,構(gòu)筑可信數(shù)字身份認(rèn)證體系離不開強(qiáng)有力的監(jiān)管框架。隨著下一代互聯(lián)網(wǎng)的發(fā)展,去中心化身份等可信身份責(zé)任模型應(yīng)用不斷推廣,從驗(yàn)證層、應(yīng)用層和信息層三個(gè)技術(shù)層面完善責(zé)任監(jiān)管正在落地?!?6@〕行政主體是否可以作為元宇宙區(qū)塊鏈中的驗(yàn)證節(jié)點(diǎn),將現(xiàn)實(shí)世界中已經(jīng)存在的關(guān)于身份和財(cái)產(chǎn)的信息與元宇宙中的進(jìn)行互相驗(yàn)證,提升數(shù)字身份認(rèn)證系統(tǒng)的可信性與權(quán)威性,〔47@〕成為制度設(shè)計(jì)的選擇之一。

    四、法律行為領(lǐng)域研究未取得實(shí)質(zhì)進(jìn)展

    法律行為制度是實(shí)現(xiàn)主體權(quán)益的執(zhí)行機(jī)制。數(shù)字財(cái)產(chǎn)權(quán)利的變革,需要依托于新的執(zhí)行機(jī)制方可真正實(shí)現(xiàn),從而達(dá)到虛實(shí)空間交互的根本目的。因此,研究法律行為的數(shù)字形式注定是人工智能法最為重要且最為困難的領(lǐng)域。然而,當(dāng)前行為論的研究無論在智能行為的外延抑或內(nèi)涵方面并未有實(shí)質(zhì)性的進(jìn)展。

    (一)智能合約研究從理論探索到應(yīng)用分析轉(zhuǎn)變

    智能合約是智能行為中最受關(guān)注的部分,智能合約的有關(guān)文獻(xiàn)數(shù)量不斷增加。相關(guān)研究?jī)?nèi)容可大致劃分為三類主題:一是對(duì)于智能合約基礎(chǔ)理論的進(jìn)一步研究,如智能合約的定義、法律性質(zhì)等;二是關(guān)于智能合約在具體領(lǐng)域的應(yīng)用,如著作權(quán)保護(hù)、政府采購(gòu)等應(yīng)用場(chǎng)景;三是聚焦智能合約的適用困境以及可能的解決之道。

    1.智能合約的基礎(chǔ)理論研究有待進(jìn)一步深化

    對(duì)于智能合約的認(rèn)知,既有研究從技術(shù)與法律兩個(gè)角度進(jìn)行了論述。從技術(shù)層面來講,智能合約自動(dòng)執(zhí)行的基本邏輯可以歸納為“若發(fā)生某種情況,則執(zhí)行某項(xiàng)結(jié)果”。從法律層面來講,早前學(xué)說多__主張從廣義和狹義兩個(gè)層面對(duì)智能合約進(jìn)行定義,有學(xué)者重提這一分類,但對(duì)兩種類型賦予了不同內(nèi)涵。前者所指稱的智能合約包括自動(dòng)履行、區(qū)塊鏈技術(shù)使用許可、標(biāo)的、價(jià)款、爭(zhēng)議解決方式等一切約定在內(nèi),而后者所謂的智能合約僅指合約中“if.A.then.B”的自動(dòng)履約條款?!?8.〕

    相關(guān)研究成果也對(duì)智能合約法律性質(zhì)繼續(xù)展開討論。既有研究大多認(rèn)為智能合約雖然以代碼而不是文字的形式呈現(xiàn),但其本質(zhì)上仍屬于合同,系電子合同的“升級(jí)版”。目前來看,較多學(xué)者仍支持該觀點(diǎn)。〔49.〕夏慶鋒認(rèn)為,智能合約應(yīng)當(dāng)被定性為一種區(qū)別于傳統(tǒng)合同的數(shù)字合同。〔50.〕這種觀點(diǎn)雖強(qiáng)調(diào)了智能合約與傳統(tǒng)合同的不同,但卻承認(rèn)其符合合同的本質(zhì),因此仍未脫離“合同說”的范疇。

    利用傳統(tǒng)民法理論試圖為智能合約定性的另一嘗試是“負(fù)擔(dān)行為說”。該說指出,“合同說”難以解釋智能合約對(duì)當(dāng)事人合同撤銷、變更、解除權(quán)利的限制問題,因此將智能合約分為廣義和狹義兩種形態(tài),并認(rèn)為將狹義上的智能合約(即自動(dòng)履行條款)定性為一種負(fù)擔(dān)行為,負(fù)擔(dān)行為不僅可以合理解釋其對(duì)當(dāng)事人合同撤銷、變更等權(quán)利限制的問題,亦可以囊括其應(yīng)用匯票承兌、遺囑等更多私法領(lǐng)域的可能性?!?1.〕這種學(xué)說的解釋力究竟如何,恐怕仍有待未來進(jìn)一步的類型化研究。

    2.智能合約的具體應(yīng)用場(chǎng)景不斷豐富

    雖然有關(guān)智能合約基礎(chǔ)理論的研究略顯不足,但關(guān)于智能合約的應(yīng)用場(chǎng)景的研究成果增多。在著作權(quán)交易與保護(hù)領(lǐng)域,智能合約有助于提高著作權(quán)交易速率、降低成本,維護(hù)著作權(quán)交易安全,最大限度地保障著作權(quán)人的合法權(quán)益?!?2.〕在NFT藝術(shù)品保護(hù)這一特殊領(lǐng)域,區(qū)塊鏈對(duì)于即時(shí)權(quán)屬信息變更發(fā)揮著公示的效用?!?39〕本年度至少還有如下智能合約的應(yīng)用場(chǎng)景被觸及:一是在防治保險(xiǎn)欺詐領(lǐng)域?!?4.〕二是在政府采購(gòu)的招投標(biāo)領(lǐng)域,〔55.〕三是在司法領(lǐng)域。〔56.〕

    綜上所述,既有研究多將智能合約作為區(qū)塊鏈法律問題的一個(gè)分支,較少文獻(xiàn)能夠從智能合約技術(shù)構(gòu)造、應(yīng)用場(chǎng)景,尤其是未來元宇宙數(shù)字化空間的應(yīng)用前景分析智能合約對(duì)法律行為制度的挑戰(zhàn),總體研究水平尚未取得實(shí)質(zhì)的提升。是否有必要跳出“合同”和“負(fù)擔(dān)行為”的理論紛爭(zhēng),根據(jù)智能合約的具體類型與應(yīng)用場(chǎng)景論證并驗(yàn)證其法律屬性,有待后續(xù)研究。隨著智能合約技術(shù)應(yīng)用的進(jìn)一步推廣,智能合約的法律問題的研究?jī)r(jià)值將進(jìn)一步得到凸顯,未來有關(guān)的學(xué)術(shù)研究將逐漸呈現(xiàn)理論與實(shí)務(wù)“兩條腿走路”的發(fā)展趨勢(shì)。

    (二)知情同意規(guī)則爭(zhēng)議與調(diào)適

    民事主體的“同意”在私法秩序的建構(gòu)中具有重要意義。進(jìn)入數(shù)字時(shí)代,知情同意規(guī)則成為取得數(shù)據(jù)產(chǎn)品等數(shù)字財(cái)產(chǎn)的重要方式之一,〔57.〕個(gè)人信息保護(hù)法也將個(gè)人信息主體對(duì)信息處理行為的“知情同意”確立為信息處理行為合法性的基礎(chǔ)之一。當(dāng)前學(xué)界對(duì)于知情同意規(guī)則的討論除了涉及知情同意中“同意”的性質(zhì)與有效條件等基礎(chǔ)理論外,還逐步深入該規(guī)則應(yīng)用的具體領(lǐng)域,針對(duì)其適用中可能存在的沖突與矛盾開展了有針對(duì)性的研究。

    1.知情同意規(guī)則中“同意”的性質(zhì)與有效條件

    對(duì)知情同意規(guī)則中“同意”性質(zhì)的不同認(rèn)識(shí),將導(dǎo)致知情同意規(guī)則適用的較大差異。然而,目前就同意的性質(zhì)問題,學(xué)界卻仍存在較大分歧,主要可以分為“意思表示說”和“法律行為說”兩類觀點(diǎn)。持__“意思表示說”觀點(diǎn)的學(xué)者目前占多數(shù)。在明確法律效果是否按照主體意思產(chǎn)生是判斷行為屬于意思表示還是事實(shí)行為的關(guān)鍵的基礎(chǔ)上,于海防教授指出“同意”行為的法律效果之產(chǎn)生根據(jù)為信息主體的意思自治而非法律的規(guī)定,同意因此應(yīng)當(dāng)被界定為一種“意思表示”。因?yàn)榉蓪?duì)個(gè)人信息處理“同意”的規(guī)定只是對(duì)信息主體“同意”的一種限制,并不能因此認(rèn)為“同意”欠缺產(chǎn)生法律效果的內(nèi)心意思?!?8-〕夏慶鋒在承認(rèn)“同意”為意思表示的基礎(chǔ)上,認(rèn)為網(wǎng)絡(luò)公司應(yīng)當(dāng)充分盡到通知義務(wù),設(shè)置更為嚴(yán)格的動(dòng)態(tài)匿名化方法,以確保用戶“同意”這一意思表示的真實(shí)性。〔59-〕在意思表示定性的基礎(chǔ)上,有學(xué)者將個(gè)人信息主體的同意界定為一種“單方法律行為”,認(rèn)為基于主體的“同意”,信息處理者取得了一項(xiàng)“得為的地位”,并由此可在同意范圍內(nèi)對(duì)主體的信息利益進(jìn)行干涉。〔60-〕

    然而,也有觀點(diǎn)認(rèn)為,個(gè)人信息處理中的“同意”并非嚴(yán)格意義上的法律行為,而應(yīng)當(dāng)被歸為一種準(zhǔn)法律行為〔61-〕。其理由在于,知情同意規(guī)則中的“同意”雖然具有行為意思、表示意思,但是在效果意思方面存在缺陷,因此只能被定性為準(zhǔn)法律行為而非嚴(yán)格意義上的法律行為。

    關(guān)于知情同意的有效條件,既有研究多從知情同意的實(shí)質(zhì)性和形式性兩個(gè)方面進(jìn)行闡述。王洪亮等認(rèn)為,“有效同意”的構(gòu)成要件除了信息主體的同意能力、作出同意的自愿性、明確性、充分知情性等實(shí)質(zhì)性要件外,還應(yīng)當(dāng)符合一定的形式要件,即同意主體的同意應(yīng)當(dāng)以明示方式作出,默示同意、預(yù)設(shè)同意和不作為都不能構(gòu)成一個(gè)有效的同意?!?2-〕但就默示同意是否構(gòu)成有效同意這一問題上,姜曉婧、李士林等則主張不能一概而論,通過引入場(chǎng)景理論,將信息處理行為分為數(shù)據(jù)性和信息性行為,認(rèn)為“信息性行為”應(yīng)當(dāng)嚴(yán)格適用知情同意原則,默示同意不構(gòu)成有效同意,而對(duì)于“數(shù)據(jù)性行為”只需信息主體的“知情”,而“同意”則不作為生效要件,更無需討論同意的有效條件問題?!?3-〕姬蕾蕾也認(rèn)為,默示同意下信息主體在無意思表示的前提下“被簽訂”合同,這種不自由、不真實(shí)的承諾呈現(xiàn)效力瑕疵?!?4-〕

    2.個(gè)人信息提供中“三重授權(quán)原則”的沖突與調(diào)適

    “三重授權(quán)原則”〔65-〕在“新浪微博訴脈脈案”判決中被首次明確提出,其經(jīng)典表述為“用戶同意+平臺(tái)授權(quán)+用戶同意”,即第三方通過平臺(tái)方獲取正常經(jīng)營(yíng)范圍所需用戶數(shù)據(jù)時(shí),平臺(tái)方須經(jīng)用戶授權(quán),第三方既須經(jīng)平臺(tái)方授權(quán)也須經(jīng)用戶重新授權(quán)?!?6-〕“三重授權(quán)原則”的法律依據(jù)是個(gè)人信息保護(hù)法第23條,目的在于促進(jìn)個(gè)人信息保護(hù)的同時(shí)也對(duì)數(shù)據(jù)信息產(chǎn)業(yè)的健康發(fā)展進(jìn)行適當(dāng)引導(dǎo)。

    但“三重授權(quán)原則”的機(jī)械適用違背其初衷。學(xué)界從不同角度主張對(duì)“三重授權(quán)原則”的適用進(jìn)行反思。向秦認(rèn)為,應(yīng)當(dāng)從主體、客體和場(chǎng)景三個(gè)方面對(duì)三重授權(quán)原則的適用范圍進(jìn)行限制?!?7-〕具體而言,從主體方面,個(gè)人信息保護(hù)法第23條中的“個(gè)人”僅限于自然人,提供方既可以是商業(yè)領(lǐng)域提供者也可以是國(guó)家機(jī)關(guān)處理者,而平臺(tái)方則僅限于非國(guó)家機(jī)關(guān)處理者。在客體方面,公開數(shù)據(jù)的處理和提供不適用三重授權(quán)原則,但第三方仍需受到“合理”范圍內(nèi)處理的限制。在適用場(chǎng)景層面,爬蟲和手機(jī)系統(tǒng)等場(chǎng)景不適用三重授權(quán)。徐偉認(rèn)為,個(gè)人向信息處理者提供的個(gè)人信息若涉及第三人信息,應(yīng)主__要著眼于個(gè)人與第三人的法律關(guān)系:在第三人提出異議前,兩者并不存在權(quán)利沖突,此時(shí)不構(gòu)成侵權(quán);而當(dāng)?shù)谌颂岢霎愖h后,第三人的信息權(quán)利超越了個(gè)人的信息權(quán)利,此時(shí)信息處理者應(yīng)當(dāng)按照第三人請(qǐng)求采取刪除等措施?!?8-〕

    類型化討論“三重授權(quán)原則”適用成為學(xué)者們努力的方向。類型化有助于達(dá)成個(gè)人數(shù)據(jù)權(quán)利、數(shù)據(jù)持有企業(yè)的數(shù)據(jù)權(quán)益以及數(shù)據(jù)市場(chǎng)競(jìng)爭(zhēng)秩序保護(hù)三種法益間不同主體利益的“納什均衡”?!?9-〕劉輝主張,將數(shù)據(jù)分為可識(shí)別的個(gè)人數(shù)據(jù)和衍生數(shù)據(jù),前者的流轉(zhuǎn)無需數(shù)據(jù)持有企業(yè)同意而必須經(jīng)過數(shù)據(jù)主體同意,而后者則恰好相反。謝晨昀則從法律經(jīng)濟(jì)學(xué)的角度出發(fā),認(rèn)為“三重授權(quán)原則”有悖于經(jīng)濟(jì)學(xué)中的“卡爾多—??怂剐省痹瓌t,需要通過區(qū)分合規(guī)接入和插件接入的不同條件,分別適用數(shù)據(jù)可攜帶權(quán)和“三重授權(quán)原則”,來保障數(shù)據(jù)的自由競(jìng)爭(zhēng),平衡兩者間的價(jià)值沖突。〔70-〕

    3.具體領(lǐng)域中的知情同意研究

    除了對(duì)知情同意規(guī)則在理論層面的探究,該規(guī)則在具體情境下的適用問題得到了關(guān)注。人臉識(shí)別技術(shù)是將自然人探測(cè)圖像(通常為視頻、照片形式)轉(zhuǎn)換為面部數(shù)字模型或模板的技術(shù),具有檢測(cè)、驗(yàn)證和識(shí)別等基本功能。目前,學(xué)界普遍認(rèn)為人臉識(shí)別技術(shù)所采集、處理的人臉識(shí)別信息屬于敏感個(gè)人信息,一經(jīng)泄露導(dǎo)致的損害后果可能伴隨終生,因此需要給予其更高強(qiáng)度的保護(hù)對(duì)“知情同意”規(guī)則在該領(lǐng)域的適用作出相應(yīng)調(diào)整成為努力的方向?!?1-〕譬如,姜野提出健全人臉識(shí)別信息知情同意的動(dòng)態(tài)擇入和擇出制度,〔72-〕采用以擇入機(jī)制為主的“知情同意缺省”規(guī)則,通過同意的“動(dòng)態(tài)驗(yàn)證”進(jìn)一步拓展擇出機(jī)制的范圍與方式,同時(shí)要求信息處理者承擔(dān)一定的信義義務(wù),以緩解信息主體與信息處理者之間的地位不平等情形,避免數(shù)據(jù)鴻溝的產(chǎn)生。葉濤在區(qū)分人臉識(shí)別技術(shù)應(yīng)用的不同場(chǎng)景的基礎(chǔ)上,提出公共場(chǎng)所中的人臉識(shí)別技術(shù)可分為絕對(duì)應(yīng)用場(chǎng)景、相對(duì)應(yīng)用場(chǎng)景和禁止應(yīng)用場(chǎng)景?!?3-〕對(duì)于其中的禁止應(yīng)用場(chǎng)景, 當(dāng)技術(shù)應(yīng)用具有安全風(fēng)險(xiǎn)或者存在倫理歧視時(shí)應(yīng)當(dāng)嚴(yán)格禁止技術(shù)應(yīng)用,且排除知情同意規(guī)則作為違法性阻卻事由的可能性,由此防止形式上的知情同意實(shí)質(zhì)損害公共利益和個(gè)人利益,從而引導(dǎo)科技向善發(fā)展。

    隨著數(shù)據(jù)要素市場(chǎng)的不斷完善,個(gè)人數(shù)據(jù)作為一種重要的數(shù)據(jù)類型在數(shù)據(jù)交易等過程中不斷得到流通,由此引發(fā)學(xué)界對(duì)個(gè)人數(shù)據(jù)交易中如何適用知情同意規(guī)則的關(guān)注。林洹民認(rèn)為,個(gè)人數(shù)據(jù)交易由基礎(chǔ)合同關(guān)系和數(shù)據(jù)處理關(guān)系組成,前者受合同規(guī)則調(diào)整,以主體的承諾為生效要件,后者則是個(gè)人信息法的保護(hù)對(duì)象,受到知情同意規(guī)則的限制,應(yīng)當(dāng)分別適用不同的規(guī)范路徑,兩者并行不悖,并可以相互補(bǔ)充、相互影響?!?4-〕苗澤一認(rèn)為,個(gè)人信息主體與數(shù)據(jù)服務(wù)方實(shí)質(zhì)上并非平等,用戶為使用數(shù)據(jù)方提供的服務(wù),不得不簽署用戶協(xié)議,然而這種同意僅為獲得精準(zhǔn)服務(wù),并不以提供數(shù)據(jù)交易的原始數(shù)據(jù)為目的。對(duì)此,需要設(shè)置數(shù)據(jù)個(gè)人信息處理特別義務(wù),要求交易數(shù)據(jù)供給方明確提供用戶對(duì)數(shù)據(jù)交易的授權(quán)為交易的前置環(huán)節(jié),以避免數(shù)據(jù)供給方利用自身優(yōu)勢(shì)地位對(duì)于個(gè)人信息進(jìn)行肆意處理?!?5-〕

    “知情同意”作為一個(gè)專業(yè)的法律術(shù)語(yǔ)最早源于醫(yī)療衛(wèi)生領(lǐng)域,即醫(yī)生通過讓病人了解醫(yī)療行為的目的、手段、性質(zhì)及后果,由病人出于自愿接受醫(yī)療行為。而在個(gè)體基因保護(hù)領(lǐng)域,由于個(gè)人基因信息具有一定的家族延續(xù)性和種族關(guān)聯(lián)性,使得其關(guān)涉的主體不僅僅是本人,還包括其他具有血緣關(guān)__系家庭成員,〔76,〕導(dǎo)致知情同意的主體具有不確定性,因此傳統(tǒng)的知情同意規(guī)則顯然不能適應(yīng)實(shí)踐的需要?;诖耍袑W(xué)者主張?jiān)谥橥饽J降倪x擇上,要從“個(gè)體的一次性特定同意”走向“共同體的動(dòng)態(tài)概括同意”,制定匿名化基因信息的再識(shí)別規(guī)則,推進(jìn)知情同意原則的改良創(chuàng)新,實(shí)現(xiàn)個(gè)人基因信息利用與保護(hù)的“良法善治”。〔77,〕

    (三)數(shù)字簽名的效力問題

    數(shù)字簽名在數(shù)字合同訂立過程中具有“表其主體,示其同意”的雙重功能,其自身的可靠性是合同效力的重要來源?!?8,〕“信任,但需要驗(yàn)證”,〔79,〕為保障數(shù)字簽名技術(shù)成為當(dāng)事人真實(shí)意思表示的傳遞者而非各種欺瞞、詐騙手段的協(xié)助者,需要對(duì)有效數(shù)字簽名的認(rèn)定規(guī)則進(jìn)行分析。首先,數(shù)字簽名是目前電子商務(wù)、電子政務(wù)中應(yīng)用最普遍、可操作性最強(qiáng)、技術(shù)最成熟的一種電子簽名技術(shù)?!?0,〕邢愛芬提出,可靠的數(shù)字簽名需要同時(shí)具備專有性、??匦院头来鄹男??!?1,〕專有性需要在給簽名人頒發(fā)數(shù)字證書前驗(yàn)證簽名人身份,并要求簽名人設(shè)置專屬于自己的密鑰,以此保證數(shù)字證書不被冒用,數(shù)字簽名為簽名人專有;??匦允侵冈跀?shù)字證書申請(qǐng)過程和電子簽名過程中,與此有關(guān)的數(shù)據(jù)電文、申請(qǐng)資料等均由證書申請(qǐng)者、電子簽名人控制,而非被他人控制;防篡改性則是從技術(shù)層面對(duì)數(shù)字簽名提出的要求。

    其次,也有學(xué)者結(jié)合電子簽名法的最新修改,提出了有效數(shù)字簽名的雙重認(rèn)證規(guī)則,即在區(qū)分一般數(shù)字簽名和可靠數(shù)字簽名的基礎(chǔ)上,從“識(shí)別”和“認(rèn)可”兩個(gè)層面采取一體化的有效性認(rèn)定規(guī)則。〔82,〕具體來講,在識(shí)別視角下,只有當(dāng)電子簽名的制作數(shù)據(jù)與簽名人本人存在“穩(wěn)定且獨(dú)特”的聯(lián)系時(shí),我們才能認(rèn)定這一電子簽名高度穩(wěn)定地發(fā)揮了識(shí)別功能;在認(rèn)可層面,如果電子簽名系簽名人真實(shí)的意思表示,那么這就要求相關(guān)數(shù)據(jù)電文與電子簽名必須都具有“完整性”,即必須保證兩者的內(nèi)容自簽名人簽署后不會(huì)發(fā)生改動(dòng)。

    綜上所述,目前學(xué)界對(duì)數(shù)字簽名效力的討論多局限于物理世界的電子簽名法,尚未充分考慮元宇宙技術(shù)應(yīng)用背景下數(shù)字簽名帶來的新改變,既有的數(shù)字簽名可靠性檢驗(yàn)規(guī)則能否滿足元宇宙身份驗(yàn)證的需要,還有待進(jìn)一步討論。在關(guān)于法律行為的研究上,對(duì)于這一問題的基本內(nèi)容、具體表現(xiàn)與理論內(nèi)涵等,尚缺乏基本的梳理與回應(yīng)。

    五、新興權(quán)利的勃興及其體系化

    權(quán)利是法學(xué)的核心范疇,也構(gòu)成了人工智能法的核心制度。從傳統(tǒng)法律觀察,人工智能法的權(quán)利多屬于“新興權(quán)利”。這些權(quán)利多因人工智能法新的利益產(chǎn)生、確認(rèn)而生成,尤其以財(cái)產(chǎn)權(quán)利最為明顯,但又不限于財(cái)產(chǎn)權(quán)利。可以樂觀地估計(jì),在人工智能法疆域里新興權(quán)利將進(jìn)入勃興時(shí)代。

    (一)以解釋權(quán)為核心的算法權(quán)利研究進(jìn)一步深入

    算法是人工智能體系中相對(duì)透明和確定的因素,“算法黑箱”并非人為“黑幕”,而是因基本原理所限導(dǎo)致的驗(yàn)證性和解釋性的不足?!?3,〕界定算法權(quán)利在客觀上有助于規(guī)范算法使用人算法權(quán)力的行使、防御算法權(quán)力濫用風(fēng)險(xiǎn)的權(quán)利類型。既有研究一般認(rèn)為,算法權(quán)利是算法相對(duì)人享有的一系列旨在規(guī)范算法權(quán)力行使、防御算法權(quán)力濫用風(fēng)險(xiǎn)的權(quán)利類型,本質(zhì)上是一個(gè)具有開放結(jié)構(gòu)和規(guī)范彈性的權(quán)利束,具體包括算法解釋權(quán)、理解權(quán)、自動(dòng)化決策權(quán)和技術(shù)性正當(dāng)決策權(quán)利。算法權(quán)利束之所以能形成,原因在于這些權(quán)利都趨向于促成權(quán)利束的中心價(jià)值。〔84+〕因此,如何通過梳理這一系列權(quán)利及其共同指向的中心價(jià)值,以此確定算法權(quán)利的束點(diǎn)仍是研究的方向。

    現(xiàn)階段,霍費(fèi)爾德的法學(xué)核心范疇成為學(xué)者分析算法權(quán)利的常用武器,在“要求權(quán)、特權(quán)、權(quán)力、豁免、義務(wù)、無權(quán)利、責(zé)任、無權(quán)力”概念體系下,其中“權(quán)利”是某人針對(duì)他人的強(qiáng)制性的請(qǐng)求,特權(quán)則是某人免受他人的權(quán)利或請(qǐng)求權(quán)約束之自由。有學(xué)者提出,算法權(quán)利只是霍氏理論中“要求權(quán)”與“特權(quán)”的組合,其“要求權(quán)”體現(xiàn)在針對(duì)義務(wù)承擔(dān)者為特定解釋、更新或糾錯(cuò)的強(qiáng)制要求,“特權(quán)”則意味著是否行使算法解釋權(quán)是權(quán)利人的自由,屬于“一階權(quán)利”。與之相對(duì)的算法權(quán)力則屬于霍氏理論中的“權(quán)力”,是一種可以改變“要求權(quán)”和“特權(quán)”、能夠改變既有狀態(tài)(法律關(guān)系)的“二階權(quán)利”。算法權(quán)利與個(gè)人信息權(quán)均為大數(shù)據(jù)、算法技術(shù)發(fā)展催生出的內(nèi)含多個(gè)權(quán)利的權(quán)利束,兩者的權(quán)利內(nèi)容難免有許多重復(fù)之處,在立法尚未給予回應(yīng)時(shí),算法權(quán)利理論工作應(yīng)與個(gè)人信息權(quán)利束深度結(jié)合、將其融入個(gè)人信息權(quán)體系之中。〔85+〕

    在算法權(quán)利的諸多權(quán)利內(nèi)容中,“算法解釋權(quán)”是研究熱點(diǎn)。個(gè)人信息保護(hù)法第24條第3款是算法解釋權(quán)的基本規(guī)范。算法解釋權(quán)意在平衡算法使用者與用戶之間不對(duì)等的風(fēng)險(xiǎn)負(fù)擔(dān)和責(zé)任分配,包括企業(yè)和用戶之間的權(quán)利義務(wù)、以及基于自動(dòng)化決策產(chǎn)生的風(fēng)險(xiǎn)負(fù)擔(dān)。〔86+〕一般認(rèn)為,賦予用戶要求算法使用者對(duì)算法解釋權(quán)利〔87+〕的目的在于提高算法透明性與可理解性,提高用戶行使個(gè)人信息相關(guān)權(quán)益的可能性,客觀上起到了制約算法權(quán)力的效果?!?8+〕算法解釋權(quán)的功能涵蓋事前的知情、事中的理解、事后的修正、更新以及請(qǐng)求救濟(jì),實(shí)則超出了單一權(quán)利能夠容納的權(quán)利功能極限?!?9+〕個(gè)人信息保護(hù)法第24條第3款適用不要求決定僅由自動(dòng)決策算法作出,從而將該權(quán)利的適用范圍擴(kuò)張到?jīng)Q策支持型算法、分組型算法與總結(jié)型算法等類型,全面規(guī)范公私領(lǐng)域中的算法應(yīng)用。然而,該款并未明確規(guī)定算法解釋權(quán)的法律效力?;谶@一立法現(xiàn)狀,有學(xué)者認(rèn)為,目前為算法解釋權(quán)的相對(duì)人提供救濟(jì)具有必要性和緊迫性,應(yīng)關(guān)注算法解釋權(quán)實(shí)施中的具體規(guī)則,使此種權(quán)利能夠盡快落地,實(shí)現(xiàn)從權(quán)利到利益的轉(zhuǎn)化。但相反觀點(diǎn)認(rèn)為,算法“解釋權(quán)”理論無法消除算法決策的“非知”,即不透明性,真正可取的路徑是立足歸責(zé)規(guī)則,在尊重算法決策“非知”的基礎(chǔ)上,要求算法決策控制者承擔(dān)法律責(zé)任?!?0+〕

    既有研究將算法解釋權(quán)建構(gòu)為一種權(quán)利框架或權(quán)利群,非單獨(dú)的、自然的權(quán)利,鮮少將算法解釋權(quán)置于具體場(chǎng)域。就權(quán)利內(nèi)容而言,算法解釋權(quán)的權(quán)利主張都是程序性的,其實(shí)體性邊界應(yīng)根據(jù)具體場(chǎng)景下個(gè)人與算法決策者之間的溝通信任關(guān)系而確定,無法抽象化的劃定清晰邊界。就具體解釋方法而言,一方面應(yīng)要求企業(yè)充分了解和掌握算法的系統(tǒng)性解釋;另一方面,應(yīng)當(dāng)根據(jù)算法所處的領(lǐng)域特征和影響力而要求不同程度、類別的算法個(gè)案解釋。〔91+〕在算法解釋的時(shí)間要求(事前、事中、事后)方面,有學(xué)者認(rèn)為,在敏感個(gè)人信息的自動(dòng)化決策場(chǎng)合,若算法的事前解釋僅根據(jù)個(gè)人信息類型的敏感度進(jìn)行判斷,準(zhǔn)確率低容易導(dǎo)致個(gè)人信息的侵權(quán)風(fēng)險(xiǎn)。除此之外,單純的事后解釋與相應(yīng)的“拒絕+刪除”模式無法完滿地救濟(jì)被侵權(quán)人,還需輔以民法典合同編或者侵權(quán)責(zé)任編中的損害賠償責(zé)任救濟(jì)手段,賦予個(gè)人信息主體更周延的救濟(jì)途徑。進(jìn)一步地,事前解釋應(yīng)限定于“可能產(chǎn)生重大影響”的敏感個(gè)人信息處理場(chǎng)合,事后解釋則發(fā)生在“對(duì)個(gè)人權(quán)益已經(jīng)產(chǎn)生重大影響”的自動(dòng)化決策場(chǎng)合?!?2.〕有學(xué)者對(duì)該觀點(diǎn)進(jìn)行補(bǔ)充,認(rèn)為信息主體應(yīng)滿足“僅通過自動(dòng)化決策的方式作出決定”和“對(duì)個(gè)人權(quán)益有重大影響”兩個(gè)要件,且需與信息主體的其他權(quán)利配合行權(quán)?!?3.〕

    除了私法視閾的討論,因公私法的規(guī)范對(duì)象與規(guī)范目標(biāo)不同,公法和私法上的算法解釋權(quán)相應(yīng)地呈現(xiàn)不同情形,對(duì)此應(yīng)當(dāng)通過區(qū)別化、精細(xì)化的立法使得算法解釋權(quán)隨場(chǎng)域的更換而差異化地配置成為可能?!?4.〕

    (二)數(shù)據(jù)權(quán)利研究的二重維度

    相較于算法權(quán)利,數(shù)據(jù)權(quán)利問題研究堪稱學(xué)術(shù)熱點(diǎn)。數(shù)據(jù)是人工智能的核心要素,也構(gòu)成了數(shù)字社會(huì)主要財(cái)產(chǎn)資料。圍繞數(shù)據(jù),產(chǎn)生了數(shù)據(jù)安全與個(gè)人信息保護(hù),產(chǎn)生了數(shù)字資產(chǎn)、數(shù)據(jù)壟斷、算法壟斷與空間隔離,進(jìn)而產(chǎn)生了數(shù)字社會(huì)國(guó)家與社會(huì)關(guān)系的基本邏輯,權(quán)力與權(quán)利關(guān)系的基本立場(chǎng)?!?5.〕由此我們可以將既有研究劃分為二種不同的維度予以觀察。

    1.數(shù)字人權(quán)維度

    數(shù)字人權(quán)是第一維度。馬長(zhǎng)山認(rèn)為,信息社會(huì)帶來了第四代人權(quán),“以人的數(shù)字信息面向和相關(guān)權(quán)益為表達(dá)形式,以智慧社會(huì)中人的全面發(fā)展為核心訴求,突破了前三代人權(quán)所受到的物理時(shí)空和生物屬性的限制”?!?6.〕也有學(xué)者不贊同第四代人權(quán)的提法,認(rèn)為數(shù)字人權(quán)的概念可以在既有人權(quán)體系的框架內(nèi)得到合理解釋;個(gè)人數(shù)據(jù)信息類權(quán)利未構(gòu)成人權(quán)的代際革新??梢杂稍撚^點(diǎn)觀察所謂數(shù)據(jù)人權(quán)的基本內(nèi)涵:“數(shù)字人權(quán)”是個(gè)人享有的人權(quán),義務(wù)主體指向國(guó)家和互聯(lián)網(wǎng)平臺(tái)、商業(yè)公司等社會(huì)組織;其權(quán)利義務(wù)關(guān)系表現(xiàn)為防御型與合作型并存,即當(dāng)國(guó)家及其政府部門因公共管理的需要而收集個(gè)人數(shù)據(jù)時(shí),應(yīng)當(dāng)履行不得泄露、毀損、濫用個(gè)人數(shù)據(jù)等人權(quán)義務(wù);從積極義務(wù)來說,互聯(lián)網(wǎng)平臺(tái)、商業(yè)公司等社會(huì)組織收集個(gè)人數(shù)據(jù)時(shí),國(guó)家應(yīng)當(dāng)要求這類社會(huì)組織履行不作為的消極義務(wù)和積極保護(hù)的作為義務(wù)。〔97.〕數(shù)字人權(quán)界定的關(guān)鍵在于,其是一種新興的權(quán)利還是僅表現(xiàn)為基于數(shù)字的權(quán)利,兩者的區(qū)別在于,在新興的權(quán)利下人權(quán)代際范式發(fā)生根本性的變化,即人權(quán)主體、義務(wù)主體、基礎(chǔ)關(guān)系三要素同時(shí)擴(kuò)展而演變?yōu)樾碌拇H范式,從而容納新興的人權(quán)需求,而基于數(shù)字的權(quán)利則無需該變化。姚尚建傾向于將數(shù)字人權(quán)認(rèn)定為是一種新興的權(quán)利,因?yàn)榻柚谏虡I(yè)繁榮帶來的平等關(guān)系以及工業(yè)革命形成的技術(shù)手段,人類可以正視自身的地位并形成權(quán)利的聯(lián)盟。從數(shù)據(jù)出發(fā),形成新的社會(huì)結(jié)構(gòu)與社會(huì)形態(tài),也形成新的權(quán)利結(jié)構(gòu)。但是由于權(quán)利對(duì)于數(shù)字的技術(shù)性依賴,數(shù)字權(quán)利的匱乏往往率先在個(gè)體身上得到顯示。數(shù)字權(quán)利因此應(yīng)遵循兩條遞進(jìn)的路徑:從數(shù)據(jù)出發(fā),共享公共數(shù)據(jù)是權(quán)利破繭的法律基礎(chǔ);從算法出發(fā),個(gè)體參與并干預(yù)算法是權(quán)利維持的外部條件?!?8.〕

    2.數(shù)據(jù)權(quán)屬的私法構(gòu)造

    數(shù)據(jù)權(quán)屬的私法構(gòu)造構(gòu)成了數(shù)據(jù)權(quán)利研究的第二維度。與前一階段學(xué)者聚焦于主張對(duì)數(shù)據(jù)賦權(quán),并致力于建構(gòu)數(shù)據(jù)權(quán)利體系不同,2022年度反思賦權(quán)觀點(diǎn)的成果不斷呈現(xiàn),這些成果試圖在不賦權(quán)的背景下探索數(shù)據(jù)利益配置問題。無論對(duì)于數(shù)據(jù)賦權(quán)持何種觀點(diǎn),在促進(jìn)數(shù)據(jù)流動(dòng)與發(fā)展數(shù)字經(jīng)__濟(jì),乃至促進(jìn)數(shù)據(jù)權(quán)益在用戶、數(shù)據(jù)控制者或數(shù)據(jù)使用者等多元主體之間實(shí)現(xiàn)最優(yōu)配置,〔99-〕并無二致。問題的關(guān)鍵是,哪種認(rèn)識(shí)更契合數(shù)據(jù)的本質(zhì)特征,正是由于數(shù)據(jù)要素的非競(jìng)爭(zhēng)性、非排他性/部分排他性、易復(fù)制性、外部性和即時(shí)性等經(jīng)濟(jì)特征和數(shù)據(jù)資產(chǎn)的多次交易性、價(jià)值非線性、交易不一定讓渡所有權(quán)或使用權(quán)的特征導(dǎo)致其確權(quán)困難?!?00-〕

    現(xiàn)有賦權(quán)說的觀點(diǎn)聚焦個(gè)人、企業(yè)、國(guó)家這三個(gè)主體之間的利益平衡。從主體角度討論有助于檢視這些觀點(diǎn)的基本問題意識(shí)。

    在個(gè)人層面,基礎(chǔ)性的問題在于能否或應(yīng)否區(qū)分個(gè)人信息與個(gè)人數(shù)據(jù)。申衛(wèi)星提出,隱私、信息與數(shù)據(jù)之間關(guān)系的界定是數(shù)字時(shí)代構(gòu)建個(gè)人權(quán)利的前提和起點(diǎn)。個(gè)人信息作為與個(gè)人相關(guān)的事實(shí)狀態(tài)之描述處于內(nèi)容層,私密信息是對(duì)隱私事實(shí)的信息化描述,個(gè)人數(shù)據(jù)作為個(gè)人信息的載體處于符號(hào)層。三種客體之上應(yīng)分別設(shè)置隱私權(quán)、個(gè)人信息權(quán)與個(gè)人數(shù)據(jù)所有權(quán)三種不同的框架性權(quán)利。個(gè)人信息權(quán)屬于人格權(quán)范疇,個(gè)人數(shù)據(jù)所有權(quán)歸為財(cái)產(chǎn)權(quán)。〔101-〕

    在國(guó)家層面,宋方青等提出國(guó)家數(shù)據(jù)權(quán),強(qiáng)調(diào)以“整體數(shù)據(jù)”為主的數(shù)據(jù)主權(quán)。整體數(shù)據(jù)是國(guó)家主權(quán)范圍內(nèi)部各類數(shù)據(jù)的總和,包含著所有的個(gè)人數(shù)據(jù)、企業(yè)數(shù)據(jù)和公共數(shù)據(jù)等。數(shù)據(jù)的“國(guó)家所有權(quán)”需要通過具體的行政機(jī)關(guān)來加以實(shí)現(xiàn),因此政府才是數(shù)據(jù)所有權(quán)的具體代理主體,享有本國(guó)范圍內(nèi)對(duì)個(gè)人集合數(shù)據(jù)占有、使用、收益和處分的權(quán)能?!?02-〕如何由數(shù)據(jù)主權(quán)過渡到國(guó)家所有權(quán),仍有待進(jìn)一步研究。至于數(shù)據(jù)國(guó)家所有權(quán)的理論基礎(chǔ)為何,不過,龐琳認(rèn)為,數(shù)據(jù)資源作為一種“類自然資源”包含著豐富的內(nèi)容,例如數(shù)據(jù)的管轄、利用、許可、賦權(quán)、交易等,具有公共財(cái)產(chǎn)的屬性,可推定數(shù)據(jù)資源國(guó)家所有。但數(shù)據(jù)資源國(guó)家所有屬于憲法意義上的國(guó)家所有即“全民所有制”,并非等同于民法意義上的所有權(quán)。因此需通過數(shù)據(jù)分類分級(jí)的利用規(guī)則來完成數(shù)據(jù)資源國(guó)家所有私法路徑的構(gòu)建?!?03-〕衣俊霖則借助契約主義論證框架,提出公共數(shù)據(jù)國(guó)家所有可置換為一個(gè)虛擬的公共信托協(xié)議—————國(guó)家受全民之托管理公共數(shù)據(jù),但最終收益全民共享?!?04-〕

    在企業(yè)層面,一方面,對(duì)于企業(yè)數(shù)據(jù)權(quán)利的形成機(jī)理,學(xué)者們普遍認(rèn)為合法收集并加工處理是其權(quán)利基礎(chǔ)?!?05-〕另一方面,對(duì)于企業(yè)數(shù)據(jù)利益配置的基本問題意識(shí)是促使平臺(tái)企業(yè)合法使用數(shù)據(jù),推動(dòng)平臺(tái)經(jīng)濟(jì)健康發(fā)展的前提〔106-〕。既有研究多數(shù)贊同企業(yè)作為處理者要尊重并承認(rèn)信息來源者的權(quán)利,并在此基礎(chǔ)上探究其與個(gè)人信息主體之間的關(guān)系。在承認(rèn)數(shù)字財(cái)產(chǎn)的生產(chǎn)者對(duì)數(shù)字財(cái)產(chǎn)享有合法權(quán)益的基礎(chǔ)上,鄭佳寧試圖以“不損害在先權(quán)利”規(guī)則協(xié)調(diào)數(shù)據(jù)信息生產(chǎn)者和數(shù)字產(chǎn)品生產(chǎn)者之間的利益沖突。〔107-〕

    企業(yè)數(shù)據(jù)權(quán)益配置的具體方案。目前多數(shù)成果舍棄了早先的絕對(duì)賦權(quán)或者單一的賦權(quán)方案,傾向更綜合的利益平衡體系,即通過階層分類的方式實(shí)現(xiàn)數(shù)據(jù)權(quán)益配置,該方式強(qiáng)調(diào)企業(yè)數(shù)據(jù)權(quán)益配置有一定的限制條件,但對(duì)于具體的限制條件學(xué)者們各有不同觀點(diǎn)。陳兵主張以數(shù)據(jù)的分類分級(jí)制度為基準(zhǔn),結(jié)合具體應(yīng)用場(chǎng)景,根據(jù)特定場(chǎng)景下數(shù)據(jù)的功能與屬性,判斷其荷載的權(quán)益類型,配置對(duì)應(yīng)的權(quán)屬關(guān)系?!?08-〕在明確數(shù)據(jù)權(quán)屬后,建立配套的多元利益分配制度?!?09-〕與該觀點(diǎn)相似的還有類型__化表達(dá)制度,余筱蘭主張,對(duì)數(shù)據(jù)權(quán)益沖突進(jìn)行類型化表達(dá),首先表達(dá)為多元的數(shù)據(jù)利益攸關(guān)者,其次類型表達(dá)為豐富的利益內(nèi)容類型,當(dāng)產(chǎn)生利益沖突時(shí),則通過利益衡量方法論的指引有針對(duì)性地探索和解沖突的路徑。〔110+〕鎖福濤也主張,構(gòu)建數(shù)據(jù)財(cái)產(chǎn)權(quán)的“三元分配”模式,將數(shù)據(jù)財(cái)產(chǎn)權(quán)中的個(gè)人信息財(cái)產(chǎn)權(quán)歸屬于用戶,數(shù)據(jù)財(cái)產(chǎn)權(quán)中的數(shù)據(jù)用益權(quán)歸屬于數(shù)據(jù)平臺(tái),數(shù)據(jù)財(cái)產(chǎn)權(quán)中的數(shù)據(jù)獲取權(quán)歸屬于第三方主體,從而實(shí)現(xiàn)數(shù)字經(jīng)濟(jì)時(shí)代個(gè)人信息保護(hù)、數(shù)據(jù)平臺(tái)利益維護(hù)與數(shù)據(jù)信息自由流通之間的利益平衡?!?11+〕

    更為綜合的權(quán)益配置方式被陸續(xù)提出。包曉麗提出數(shù)據(jù)權(quán)益配置應(yīng)當(dāng)遵循“二階序列式”論證規(guī)則:一是公共利益與人格利益一般優(yōu)先,同時(shí),人格利益優(yōu)先于財(cái)產(chǎn)利益;二是財(cái)產(chǎn)利益按貢獻(xiàn)度分配。判斷貢獻(xiàn)度的總原則是:對(duì)資產(chǎn)評(píng)價(jià)收入影響更大的一方,得到的產(chǎn)權(quán)份額也應(yīng)該更大。由于企業(yè)具有比用戶更強(qiáng)的數(shù)據(jù)增值動(dòng)力,因此在企業(yè)滿足向用戶提供對(duì)價(jià)服務(wù)、妥善保護(hù)用戶隱私等人格利益、維護(hù)數(shù)據(jù)安全的條件下,應(yīng)當(dāng)將數(shù)據(jù)的剩余索取權(quán)分配給企業(yè)。但按貢獻(xiàn)分配的準(zhǔn)則應(yīng)當(dāng)與純粹程序正義的觀念相契合,當(dāng)用戶不同意或者撤回對(duì)個(gè)人信息處理的同意時(shí),用戶的貢獻(xiàn)減少,但平臺(tái)服務(wù)商也不得拒絕提供相應(yīng)的產(chǎn)品或者服務(wù),這是機(jī)會(huì)正義的基本要求,〔112+〕趙鑫認(rèn)為在數(shù)據(jù)確權(quán)時(shí)注重邊際貢獻(xiàn)思維的運(yùn)用,充分考慮邊際貢獻(xiàn)度,能鼓勵(lì)對(duì)數(shù)據(jù)價(jià)值的挖掘,使相關(guān)主體擁有更強(qiáng)的投資意愿,擴(kuò)大最終的產(chǎn)出水平?!?13+〕沈健州則提出“二階四層”的數(shù)據(jù)類型體系構(gòu)建,根據(jù)數(shù)據(jù)是否承載個(gè)人信息以及是否處于公開狀態(tài),將數(shù)據(jù)區(qū)分為四種類型,即承載個(gè)人信息的公開數(shù)據(jù)、不承載個(gè)人信息的公開數(shù)據(jù)、承載個(gè)人信息的非公開數(shù)據(jù)、不承載個(gè)人信息的非公開數(shù)據(jù)?!?14+〕

    主張數(shù)據(jù)不賦權(quán)的觀點(diǎn)不應(yīng)被忽略?!安毁x權(quán)說”主張擱置在設(shè)定權(quán)利類型、表達(dá)權(quán)利內(nèi)容等方面的爭(zhēng)議,旨在以規(guī)制他人行為的方式間接為數(shù)據(jù)控制者創(chuàng)設(shè)利益空間,從而克服源于權(quán)利客體、權(quán)利主體、權(quán)利內(nèi)容等方面的困境,實(shí)現(xiàn)數(shù)據(jù)權(quán)益保護(hù)與數(shù)據(jù)流通利用之協(xié)調(diào)?!?15+〕“不賦權(quán)說”的基本問題意識(shí)是,數(shù)字經(jīng)濟(jì)的發(fā)展并非一定要將數(shù)據(jù)完全歸屬于誰(shuí),重要的是定義企業(yè)之間的數(shù)據(jù)使用權(quán)。企業(yè)數(shù)據(jù)使用權(quán)是一種基于責(zé)任規(guī)則理論的相對(duì)權(quán),通過企業(yè)之間的合同所定義和分配的,相較企業(yè)數(shù)據(jù)財(cái)產(chǎn)權(quán)更為契合數(shù)字經(jīng)濟(jì)的發(fā)展。〔116+〕黃東東等提出“責(zé)任規(guī)則+管制規(guī)則”的組合模式以解決數(shù)據(jù)權(quán)益配置問題:用諸如標(biāo)準(zhǔn)合同、企業(yè)數(shù)據(jù)保護(hù)信譽(yù)機(jī)制、技術(shù)標(biāo)準(zhǔn)、數(shù)據(jù)資產(chǎn)和數(shù)據(jù)侵權(quán)賠償定價(jià)機(jī)制等,對(duì)某些重要的剩余控制權(quán)配置予以明確,以支撐相應(yīng)法律規(guī)則的執(zhí)行或彌補(bǔ)其不足。這種類似分散立法的功能,不僅可以積累經(jīng)驗(yàn),而且可以降低立法成本和立法失敗的社會(huì)成本?!?17+〕“不賦權(quán)說”具有其合理性,但目前有關(guān)“不賦權(quán)說”下權(quán)益配置的觀點(diǎn)仍待充實(shí)。〔118+〕

    (三)加密的權(quán)益性質(zhì)仍未獲得必要重視

    未來數(shù)字資產(chǎn)的權(quán)益內(nèi)容及其實(shí)現(xiàn)均依賴于加密,加密必將成為一種新型的權(quán)利。但學(xué)界對(duì)于加密的討論較少。既有文獻(xiàn)主要探討了密碼法實(shí)施后,加密技術(shù)在保護(hù)個(gè)人信息的同時(shí),也給個(gè)人信息保護(hù)的法律機(jī)制提出的挑戰(zhàn)。

    1.加密對(duì)個(gè)人信息的保護(hù)

    劉晗認(rèn)為,法律賦予公民和法人密碼使用權(quán),將極大改變目前大數(shù)據(jù)時(shí)代信息儲(chǔ)存和傳輸過程__中大面積不受加密保護(hù)的狀況。2021(年出臺(tái)的個(gè)人信息保護(hù)法將加密技術(shù)與個(gè)人信息的法律保護(hù)機(jī)制相銜接,在具體的法律保護(hù)機(jī)制(如知情同意等規(guī)則)之外,著重規(guī)定個(gè)人信息處理者使用加密技術(shù)的制度,為個(gè)人信息的保護(hù)提供了一條技術(shù)支撐的路徑。同時(shí),對(duì)于個(gè)人信息處理者而言,運(yùn)用加密技術(shù)也是安全性較高而成本較低的一種合規(guī)舉措?!?19(〕劉蓓也贊同此觀點(diǎn),認(rèn)為密碼技術(shù)是個(gè)人信息與數(shù)據(jù)傳輸、存儲(chǔ)及使用的重要技術(shù)保護(hù)手段。在互聯(lián)網(wǎng)安全中通過防火墻或者IDS(等技術(shù)手段設(shè)置的“界”異常關(guān)鍵。數(shù)據(jù)保護(hù)同樣需要“界”,密碼技術(shù)可以承擔(dān)起設(shè)立“界”的功能。〔120(〕

    2.加密對(duì)個(gè)人信息保護(hù)帶來的挑戰(zhàn)

    劉晗指出,加密技術(shù)也給個(gè)人信息保護(hù)及其法律規(guī)則帶來了新的挑戰(zhàn),甚至對(duì)于互聯(lián)網(wǎng)信息和代碼規(guī)制提出了新的問題。第一,一旦數(shù)據(jù)流通之后,其他主體若可以通過解密技術(shù)反推,從而還原原始數(shù)據(jù),突破個(gè)人信息去標(biāo)識(shí)化和匿名化的限制,就會(huì)使得個(gè)人信息權(quán)利重新受到巨大威脅。第二,以隱私計(jì)算為代表的新興數(shù)據(jù)處理技術(shù)卻面臨著法律評(píng)價(jià)上的不確定性。第三,挑戰(zhàn)個(gè)人信息保護(hù)法體系中預(yù)設(shè)的去標(biāo)識(shí)化和匿名化的二分法。加密解密技術(shù)的發(fā)展完全可能產(chǎn)生一種現(xiàn)象,即原先無法復(fù)原的數(shù)據(jù)可以通過新的技術(shù)予以復(fù)原,從而影響個(gè)人信息保護(hù)法的適用范圍。該法第4條規(guī)定,匿名化信息不屬于該法保護(hù)的個(gè)人信息。此時(shí),是否應(yīng)該在密碼法之下的加密規(guī)制體系中限制此類代碼的開發(fā)和技術(shù)的使用,就變成極為關(guān)鍵的問題?!?21(〕

    結(jié)語(yǔ)

    當(dāng)前人工智能法學(xué)研究在認(rèn)識(shí)事物本質(zhì)與促進(jìn)規(guī)范研究?jī)煞矫婢〉昧酥T多重要進(jìn)展。人工智能法具有不同的層次,具有公法面向的國(guó)家安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全和個(gè)人信息保護(hù)為基礎(chǔ)層以及建基于其上的人工智能法內(nèi)容層。這一體系涵蓋了法源論、主體論、行為論、權(quán)利論、原則論與責(zé)任論“六論”。限于篇幅,本文僅綜述近年來權(quán)利主體的變化、權(quán)益及其變動(dòng)形式變化(法律行為)以及法律原則的四部分內(nèi)容,意在廓清人工智能法的一般性議題,對(duì)于有專門法規(guī)范基礎(chǔ)的研究,如個(gè)人信息保護(hù)、數(shù)據(jù)安全乃至通證問題等并未納入綜述范圍。另外,雖然法律人工智能的研究在本年度取得了可喜進(jìn)展,但限于篇幅,本文不再綜述其內(nèi)容。

    在很長(zhǎng)時(shí)間內(nèi),人工智能法學(xué)研究仍需依托具體部門法問題意識(shí)與研究方法開展,從這個(gè)意義上說,所謂的人工智能法仍是“部門法化的人工智能法”。不過正是這些部門法的探索,促進(jìn)了人工智能法學(xué)研究的規(guī)范轉(zhuǎn)化,描摹了人工智能法的一般議題,促進(jìn)了人工智能法的研究方法覺醒,拉開了法釋義學(xué)研究序幕。

    猜你喜歡
    個(gè)人信息權(quán)利主體
    如何保護(hù)勞動(dòng)者的個(gè)人信息?
    個(gè)人信息保護(hù)進(jìn)入“法時(shí)代”
    論自然人破產(chǎn)法的適用主體
    我們的權(quán)利
    警惕個(gè)人信息泄露
    論不存在做錯(cuò)事的權(quán)利
    法大研究生(2018年2期)2018-09-23 02:19:50
    關(guān)于遺產(chǎn)保護(hù)主體的思考
    權(quán)利套裝
    Coco薇(2015年12期)2015-12-10 02:43:39
    論多元主體的生成
    個(gè)人信息保護(hù)等6項(xiàng)通信行業(yè)標(biāo)準(zhǔn)征求意見
    一级爰片在线观看| 韩国高清视频一区二区三区| 观看免费一级毛片| 在线看a的网站| 亚洲国产色片| 国产欧美亚洲国产| 亚洲,一卡二卡三卡| 国产一区有黄有色的免费视频| 精品人妻熟女av久视频| 亚洲精品乱码久久久v下载方式| 久久精品久久久久久噜噜老黄| 美女视频免费永久观看网站| 国产亚洲91精品色在线| 18+在线观看网站| 女人十人毛片免费观看3o分钟| 极品教师在线视频| xxx大片免费视频| 大陆偷拍与自拍| 麻豆乱淫一区二区| 搡女人真爽免费视频火全软件| 男男h啪啪无遮挡| 久久久亚洲精品成人影院| 嫩草影院入口| av在线老鸭窝| 国产亚洲精品久久久com| 亚洲国产欧美在线一区| 插逼视频在线观看| 久久人人爽av亚洲精品天堂 | 国产深夜福利视频在线观看| 久久人人爽av亚洲精品天堂 | 一级毛片 在线播放| 精品国产一区二区三区久久久樱花 | 熟女av电影| 女性被躁到高潮视频| 一本色道久久久久久精品综合| 日本猛色少妇xxxxx猛交久久| 中文字幕免费在线视频6| 精品国产三级普通话版| 女性生殖器流出的白浆| 18禁在线无遮挡免费观看视频| 99国产精品免费福利视频| 国产一级毛片在线| 亚洲精品国产成人久久av| 久久99精品国语久久久| 成人一区二区视频在线观看| 日韩欧美精品免费久久| 免费人妻精品一区二区三区视频| 少妇精品久久久久久久| 又粗又硬又长又爽又黄的视频| 亚洲国产高清在线一区二区三| 免费黄网站久久成人精品| 多毛熟女@视频| 99国产精品免费福利视频| 久久精品夜色国产| 在线观看一区二区三区| 人人妻人人爽人人添夜夜欢视频 | 欧美97在线视频| 国产精品精品国产色婷婷| 日韩欧美一区视频在线观看 | 国产精品人妻久久久久久| 人人妻人人添人人爽欧美一区卜 | 女性生殖器流出的白浆| 国产无遮挡羞羞视频在线观看| a级毛片免费高清观看在线播放| 国产成人a区在线观看| 久久人人爽人人爽人人片va| 男的添女的下面高潮视频| 久久国产精品男人的天堂亚洲 | 丝袜脚勾引网站| 干丝袜人妻中文字幕| 精品一区二区免费观看| 成人亚洲精品一区在线观看 | 黑人高潮一二区| 色网站视频免费| 97精品久久久久久久久久精品| 亚洲国产欧美在线一区| 色5月婷婷丁香| 成人影院久久| 国产精品一区二区性色av| 欧美成人午夜免费资源| videossex国产| 国精品久久久久久国模美| 欧美成人精品欧美一级黄| 精品一区二区三区视频在线| 国产爽快片一区二区三区| 日本午夜av视频| 成年av动漫网址| 日韩伦理黄色片| 亚洲美女搞黄在线观看| 性高湖久久久久久久久免费观看| 美女福利国产在线 | 麻豆国产97在线/欧美| 赤兔流量卡办理| 99精国产麻豆久久婷婷| 老熟女久久久| 久久久久精品性色| 亚洲美女视频黄频| 人人妻人人看人人澡| 亚洲av免费高清在线观看| 日韩不卡一区二区三区视频在线| 国产探花极品一区二区| 免费黄网站久久成人精品| 青青草视频在线视频观看| 免费人妻精品一区二区三区视频| 欧美高清性xxxxhd video| 亚洲精品日本国产第一区| 国产永久视频网站| 欧美三级亚洲精品| 丝瓜视频免费看黄片| 2021少妇久久久久久久久久久| 国产真实伦视频高清在线观看| 亚洲丝袜综合中文字幕| 性色av一级| 国产男人的电影天堂91| 欧美精品一区二区免费开放| 国产成人精品福利久久| 免费黄网站久久成人精品| 国产综合精华液| 国产精品无大码| 18+在线观看网站| 2018国产大陆天天弄谢| 欧美最新免费一区二区三区| 99热这里只有精品一区| 91在线精品国自产拍蜜月| 夜夜看夜夜爽夜夜摸| 又黄又爽又刺激的免费视频.| 狂野欧美激情性bbbbbb| 成人漫画全彩无遮挡| 丰满人妻一区二区三区视频av| 人妻一区二区av| 免费少妇av软件| 亚洲av在线观看美女高潮| 97热精品久久久久久| 免费播放大片免费观看视频在线观看| 涩涩av久久男人的天堂| 51国产日韩欧美| 青青草视频在线视频观看| 精品一区二区免费观看| 在线观看av片永久免费下载| 亚洲中文av在线| 一级爰片在线观看| 久久久成人免费电影| 80岁老熟妇乱子伦牲交| 高清欧美精品videossex| 日韩三级伦理在线观看| 丝袜喷水一区| 高清欧美精品videossex| 成人18禁高潮啪啪吃奶动态图 | 韩国高清视频一区二区三区| 18禁裸乳无遮挡免费网站照片| 国产精品一区二区在线不卡| 成年美女黄网站色视频大全免费 | 亚州av有码| 国产有黄有色有爽视频| 国产成人一区二区在线| 日日啪夜夜爽| 成人特级av手机在线观看| 熟妇人妻不卡中文字幕| 亚洲va在线va天堂va国产| 日本猛色少妇xxxxx猛交久久| 中文字幕亚洲精品专区| 少妇人妻 视频| 国产黄片视频在线免费观看| 亚洲无线观看免费| 男人和女人高潮做爰伦理| xxx大片免费视频| 亚洲精品aⅴ在线观看| 夫妻性生交免费视频一级片| 97超碰精品成人国产| 狠狠精品人妻久久久久久综合| 国产精品久久久久久精品电影小说 | 久久热精品热| 亚洲成人av在线免费| 在线播放无遮挡| 好男人视频免费观看在线| 一本色道久久久久久精品综合| 赤兔流量卡办理| 在线免费十八禁| 十分钟在线观看高清视频www | 黄片wwwwww| 免费人妻精品一区二区三区视频| 两个人的视频大全免费| 亚洲国产精品999| tube8黄色片| 最近的中文字幕免费完整| 国产视频首页在线观看| 爱豆传媒免费全集在线观看| 久久女婷五月综合色啪小说| 久久久久久久亚洲中文字幕| 国产精品一二三区在线看| 欧美日韩国产mv在线观看视频 | 3wmmmm亚洲av在线观看| 卡戴珊不雅视频在线播放| 狂野欧美激情性xxxx在线观看| 国产伦精品一区二区三区视频9| 亚洲一区二区三区欧美精品| 老熟女久久久| 91久久精品国产一区二区三区| 日韩一本色道免费dvd| 亚洲色图av天堂| 男人添女人高潮全过程视频| 亚洲人成网站在线播| 亚洲av中文av极速乱| 成年美女黄网站色视频大全免费 | 99久久综合免费| 国产成人精品婷婷| 亚洲欧美成人综合另类久久久| 欧美亚洲 丝袜 人妻 在线| 亚洲欧美精品自产自拍| 十八禁网站网址无遮挡 | 日本猛色少妇xxxxx猛交久久| 国产伦精品一区二区三区视频9| 亚洲精品自拍成人| 亚洲精品视频女| 精品人妻偷拍中文字幕| 一级毛片黄色毛片免费观看视频| 99久久人妻综合| 少妇人妻精品综合一区二区| 国产精品秋霞免费鲁丝片| 一级毛片黄色毛片免费观看视频| 性高湖久久久久久久久免费观看| 在线精品无人区一区二区三 | 五月玫瑰六月丁香| 国产真实伦视频高清在线观看| 九九在线视频观看精品| 亚洲在久久综合| 国产伦精品一区二区三区四那| 中文字幕精品免费在线观看视频 | 免费看不卡的av| 五月天丁香电影| 十分钟在线观看高清视频www | 干丝袜人妻中文字幕| 有码 亚洲区| 久久99精品国语久久久| 国产成人精品福利久久| 熟女av电影| 成人综合一区亚洲| 99热这里只有精品一区| 91精品国产九色| 国产老妇伦熟女老妇高清| 男人爽女人下面视频在线观看| 热99国产精品久久久久久7| 免费观看无遮挡的男女| 欧美日韩国产mv在线观看视频 | 欧美变态另类bdsm刘玥| 亚洲国产日韩一区二区| 夜夜看夜夜爽夜夜摸| 亚洲真实伦在线观看| 精品久久久久久电影网| 日本猛色少妇xxxxx猛交久久| 亚洲国产欧美在线一区| 99九九线精品视频在线观看视频| 国产精品久久久久久av不卡| 日本欧美国产在线视频| 久久精品久久久久久久性| 欧美97在线视频| 精品人妻一区二区三区麻豆| 熟妇人妻不卡中文字幕| 简卡轻食公司| 啦啦啦视频在线资源免费观看| 国产亚洲最大av| 黄片wwwwww| www.色视频.com| 日本色播在线视频| 在线观看一区二区三区| 日本色播在线视频| 大码成人一级视频| 国产高清有码在线观看视频| 五月天丁香电影| 麻豆成人午夜福利视频| 国产精品嫩草影院av在线观看| 美女cb高潮喷水在线观看| 男人爽女人下面视频在线观看| 日韩 亚洲 欧美在线| 亚洲人与动物交配视频| 亚洲精品成人av观看孕妇| 亚洲精品456在线播放app| 精品99又大又爽又粗少妇毛片| 建设人人有责人人尽责人人享有的 | 欧美日韩亚洲高清精品| 伊人久久国产一区二区| 久久久久网色| 国产在视频线精品| 多毛熟女@视频| 深夜a级毛片| 亚洲欧美日韩无卡精品| 亚洲天堂av无毛| 青春草视频在线免费观看| av又黄又爽大尺度在线免费看| 成人毛片a级毛片在线播放| 黄色欧美视频在线观看| 女的被弄到高潮叫床怎么办| 久久精品国产亚洲网站| 亚洲四区av| 亚洲国产最新在线播放| 久久 成人 亚洲| 精品午夜福利在线看| 免费久久久久久久精品成人欧美视频 | 久久99热这里只频精品6学生| 久久 成人 亚洲| 一区二区三区四区激情视频| 日本免费在线观看一区| 亚洲精华国产精华液的使用体验| 18禁动态无遮挡网站| 少妇 在线观看| 91精品国产国语对白视频| 欧美xxxx黑人xx丫x性爽| 黄色怎么调成土黄色| 在线观看国产h片| 日韩伦理黄色片| 免费av不卡在线播放| 不卡视频在线观看欧美| 日韩,欧美,国产一区二区三区| 女人久久www免费人成看片| 亚洲性久久影院| 久久这里有精品视频免费| 久久久久久久大尺度免费视频| 日本黄色片子视频| xxx大片免费视频| 在线观看一区二区三区| 青春草视频在线免费观看| 国产精品一区www在线观看| 精品久久久精品久久久| 亚洲欧美清纯卡通| 亚洲综合精品二区| 久久久久久伊人网av| 亚洲精品色激情综合| 亚洲欧美日韩东京热| 男女免费视频国产| 午夜日本视频在线| 精品久久久久久久久亚洲| 亚洲av.av天堂| 欧美激情极品国产一区二区三区 | 九九爱精品视频在线观看| 狠狠精品人妻久久久久久综合| 免费黄网站久久成人精品| 老女人水多毛片| 国产淫语在线视频| 人人妻人人看人人澡| 99久久精品一区二区三区| 免费看不卡的av| 精品少妇黑人巨大在线播放| 最新中文字幕久久久久| 亚洲高清免费不卡视频| 超碰97精品在线观看| 插逼视频在线观看| 久久久久人妻精品一区果冻| 美女中出高潮动态图| 亚洲欧洲国产日韩| 妹子高潮喷水视频| 久久久久久久久久人人人人人人| 久久影院123| 国产在线一区二区三区精| 日本与韩国留学比较| a 毛片基地| 亚洲成人av在线免费| 日韩中文字幕视频在线看片 | 成人国产麻豆网| 乱系列少妇在线播放| 国产有黄有色有爽视频| 97热精品久久久久久| h视频一区二区三区| 亚洲精品色激情综合| 欧美成人午夜免费资源| 深夜a级毛片| 秋霞在线观看毛片| 国产成人精品久久久久久| 天美传媒精品一区二区| 91狼人影院| 成人影院久久| 日韩电影二区| 自拍欧美九色日韩亚洲蝌蚪91 | 色网站视频免费| 亚洲色图综合在线观看| 九草在线视频观看| 校园人妻丝袜中文字幕| 国产精品99久久久久久久久| 久久久久人妻精品一区果冻| 赤兔流量卡办理| 免费不卡的大黄色大毛片视频在线观看| 免费看av在线观看网站| 亚洲精品久久久久久婷婷小说| 国产成人免费无遮挡视频| 精品酒店卫生间| 综合色丁香网| 18+在线观看网站| 日韩大片免费观看网站| 国产乱人偷精品视频| 一区二区av电影网| 亚洲不卡免费看| 观看av在线不卡| 国产视频内射| 国产精品偷伦视频观看了| 亚洲综合精品二区| 国产熟女欧美一区二区| 亚洲综合精品二区| 国产成人精品久久久久久| 我要看黄色一级片免费的| 久久国产精品大桥未久av | 纯流量卡能插随身wifi吗| 国产精品无大码| 啦啦啦啦在线视频资源| 欧美日韩在线观看h| 国产精品国产三级国产专区5o| 2022亚洲国产成人精品| 色视频www国产| 日日啪夜夜撸| 建设人人有责人人尽责人人享有的 | 欧美激情国产日韩精品一区| 汤姆久久久久久久影院中文字幕| 亚洲精品自拍成人| 欧美精品一区二区免费开放| 亚洲av男天堂| 在线免费十八禁| 日韩成人伦理影院| 两个人的视频大全免费| 亚洲欧洲国产日韩| 毛片女人毛片| 午夜免费男女啪啪视频观看| 这个男人来自地球电影免费观看 | 少妇人妻 视频| 久久国产亚洲av麻豆专区| 久久久久久久久久久丰满| 男女免费视频国产| 亚洲国产欧美在线一区| 简卡轻食公司| 国产日韩欧美亚洲二区| 精品国产露脸久久av麻豆| 久久99热这里只有精品18| 亚洲四区av| 国产在线男女| 精品国产三级普通话版| 午夜激情福利司机影院| 国产熟女欧美一区二区| 国产精品一区二区在线不卡| 精品人妻一区二区三区麻豆| 男女边摸边吃奶| 我要看日韩黄色一级片| 亚洲欧美中文字幕日韩二区| av在线老鸭窝| 熟女av电影| 我的女老师完整版在线观看| 久久6这里有精品| 国产老妇伦熟女老妇高清| 精品少妇黑人巨大在线播放| 午夜日本视频在线| 一级毛片我不卡| 网址你懂的国产日韩在线| 欧美成人一区二区免费高清观看| 欧美日韩综合久久久久久| 日韩欧美精品免费久久| 1000部很黄的大片| 久久韩国三级中文字幕| av.在线天堂| av不卡在线播放| 男女免费视频国产| 免费黄色在线免费观看| 亚洲天堂av无毛| 18禁裸乳无遮挡免费网站照片| 成人一区二区视频在线观看| 久久久久久久久大av| 99热全是精品| 成人亚洲精品一区在线观看 | 午夜老司机福利剧场| 人人妻人人爽人人添夜夜欢视频 | 精品熟女少妇av免费看| 人人妻人人添人人爽欧美一区卜 | 九草在线视频观看| 舔av片在线| 极品教师在线视频| 伦理电影大哥的女人| 九色成人免费人妻av| 韩国av在线不卡| 赤兔流量卡办理| av免费观看日本| 久久久久精品性色| 亚洲人成网站高清观看| 免费观看av网站的网址| 国产亚洲午夜精品一区二区久久| 18禁动态无遮挡网站| 亚洲av欧美aⅴ国产| 综合色丁香网| 少妇精品久久久久久久| 国产亚洲5aaaaa淫片| 最近手机中文字幕大全| 久久av网站| 免费不卡的大黄色大毛片视频在线观看| 精品人妻熟女av久视频| 三级经典国产精品| 亚洲精品国产色婷婷电影| 国产欧美日韩一区二区三区在线 | 国产一区二区三区av在线| 特大巨黑吊av在线直播| 成人美女网站在线观看视频| 人妻一区二区av| 免费观看av网站的网址| 日本猛色少妇xxxxx猛交久久| 亚洲va在线va天堂va国产| 国产视频内射| 不卡视频在线观看欧美| 国产男女内射视频| 中文字幕精品免费在线观看视频 | 亚洲综合精品二区| 蜜桃久久精品国产亚洲av| 大话2 男鬼变身卡| 亚洲成人中文字幕在线播放| 欧美日韩国产mv在线观看视频 | 中文字幕人妻熟人妻熟丝袜美| 永久免费av网站大全| 久久久久视频综合| 亚洲精品国产av蜜桃| 亚洲欧美日韩东京热| 日韩大片免费观看网站| 99久国产av精品国产电影| 熟女av电影| 亚洲成人中文字幕在线播放| 国内精品宾馆在线| 中文字幕人妻熟人妻熟丝袜美| 观看av在线不卡| 精品少妇久久久久久888优播| 精品一区二区三卡| 99视频精品全部免费 在线| 日本av手机在线免费观看| 乱码一卡2卡4卡精品| 亚洲真实伦在线观看| 日韩强制内射视频| 国产91av在线免费观看| 国产精品一区二区三区四区免费观看| 欧美另类一区| 男人狂女人下面高潮的视频| 1000部很黄的大片| 日本午夜av视频| 亚州av有码| 六月丁香七月| 乱码一卡2卡4卡精品| 三级国产精品欧美在线观看| 18禁在线播放成人免费| 极品教师在线视频| 大话2 男鬼变身卡| 欧美性感艳星| av专区在线播放| av网站免费在线观看视频| 最后的刺客免费高清国语| 欧美高清性xxxxhd video| 成人毛片a级毛片在线播放| 男女边吃奶边做爰视频| 亚洲不卡免费看| 欧美日韩在线观看h| 亚洲成人手机| 久久久久久久久久成人| 久久精品人妻少妇| 精品久久久久久久末码| 精品视频人人做人人爽| 色婷婷av一区二区三区视频| 丰满少妇做爰视频| 婷婷色av中文字幕| 一个人看的www免费观看视频| 成人国产麻豆网| 午夜免费观看性视频| 人人妻人人看人人澡| 中文字幕av成人在线电影| 精品人妻视频免费看| xxx大片免费视频| 国产人妻一区二区三区在| 亚洲成色77777| 啦啦啦在线观看免费高清www| 又爽又黄a免费视频| 日本-黄色视频高清免费观看| 美女内射精品一级片tv| 国产大屁股一区二区在线视频| 国产黄频视频在线观看| av国产精品久久久久影院| 亚洲图色成人| 亚洲成人中文字幕在线播放| 日本欧美国产在线视频| 九九在线视频观看精品| 99九九线精品视频在线观看视频| 久久久精品免费免费高清| 少妇被粗大猛烈的视频| 99热这里只有是精品在线观看| 乱码一卡2卡4卡精品| 日韩精品有码人妻一区| 国产成人a∨麻豆精品| h视频一区二区三区| 久久毛片免费看一区二区三区| 成人黄色视频免费在线看| 亚洲av电影在线观看一区二区三区| 亚洲丝袜综合中文字幕| 国产真实伦视频高清在线观看| 麻豆乱淫一区二区| 你懂的网址亚洲精品在线观看| 美女内射精品一级片tv| 成人午夜精彩视频在线观看| 亚洲欧美成人综合另类久久久| 欧美成人精品欧美一级黄| 成年美女黄网站色视频大全免费 | 久久久久国产网址| 国产精品精品国产色婷婷| 免费观看无遮挡的男女| 国产精品不卡视频一区二区| 久久人妻熟女aⅴ| 观看美女的网站| av黄色大香蕉| 男女边摸边吃奶| 免费人妻精品一区二区三区视频| 一二三四中文在线观看免费高清| 久久99热6这里只有精品| 尾随美女入室| 丰满人妻一区二区三区视频av| 国语对白做爰xxxⅹ性视频网站| 欧美高清性xxxxhd video| 大话2 男鬼变身卡| 深爱激情五月婷婷| 在线观看一区二区三区激情| 日日撸夜夜添|