• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)據(jù)生產(chǎn)論下的平臺(tái)數(shù)據(jù)安全保障義務(wù)

    2021-12-02 15:16:16張凌寒
    法學(xué)論壇 2021年2期
    關(guān)鍵詞:用戶

    張凌寒

    (北京科技大學(xué) 文法學(xué)院,北京 100083)

    新發(fā)布的《數(shù)據(jù)安全法(草案)》第4章專章列出了數(shù)據(jù)的安全保護(hù)義務(wù),目的在于“保障數(shù)據(jù)安全,關(guān)鍵是要落實(shí)開展數(shù)據(jù)活動(dòng)的組織、個(gè)人的主體責(zé)任”。(1)參見《數(shù)據(jù)安全法(草案)》起草說明。需要承擔(dān)數(shù)據(jù)安全保護(hù)義務(wù)的主體中,無論是從處理數(shù)據(jù)的數(shù)量、規(guī)模來看,還是從對(duì)整個(gè)數(shù)據(jù)經(jīng)濟(jì)產(chǎn)業(yè)的影響力來看,平臺(tái)無疑是最為重要的主體?!稊?shù)據(jù)安全法(草案)》與我國(guó)其他法律法規(guī)共同設(shè)置的平臺(tái)的數(shù)據(jù)安全保障義務(wù),對(duì)平臺(tái)的運(yùn)營(yíng)成本、合規(guī)方式、法律責(zé)任承擔(dān)產(chǎn)生了重大影響。本文圍繞網(wǎng)絡(luò)平臺(tái)的數(shù)據(jù)安全保障義務(wù),(2)法條表述為“平臺(tái)的數(shù)據(jù)安全保護(hù)義務(wù)”,與安全保障義務(wù)同義。本文的數(shù)據(jù)安全保障義務(wù)以《數(shù)據(jù)安全法》中的安全保護(hù)義務(wù)為框架,具體內(nèi)容包含其他涉及數(shù)據(jù)的法律法規(guī)、規(guī)章、政策、技術(shù)標(biāo)準(zhǔn),故下文均使用“數(shù)據(jù)安全保障義務(wù)”這一概念。梳理我國(guó)平臺(tái)數(shù)據(jù)安全保障義務(wù)的制度框架與發(fā)展脈絡(luò),探討平臺(tái)何以承擔(dān)數(shù)據(jù)安全保障義務(wù),其面臨的實(shí)踐困境,以及如何設(shè)置合理的平臺(tái)數(shù)據(jù)安全保障義務(wù)。

    一、網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)安全保障義務(wù)的發(fā)展脈絡(luò)與制度體系

    《數(shù)據(jù)安全法(草案)》第4章第25條至第33條搭建了平臺(tái)數(shù)據(jù)安全保障義務(wù)的制度框架,完善與發(fā)展了既有的制度框架,與其他法律法規(guī)共同形成了具有我國(guó)特色的平臺(tái)數(shù)據(jù)安全保障義務(wù)體系。

    (一)我國(guó)平臺(tái)數(shù)據(jù)安全保障義務(wù)的發(fā)展脈絡(luò)

    平臺(tái)的數(shù)據(jù)安全保障義務(wù)并非《數(shù)據(jù)安全法(草案)》的首創(chuàng),而是我國(guó)10余年來多部法律法規(guī)、政策性文件累積構(gòu)建而成的一個(gè)內(nèi)涵豐富、動(dòng)態(tài)發(fā)展、規(guī)范層次多樣的制度體系。

    第一階段,2010年以前平臺(tái)數(shù)據(jù)安全保障義務(wù)停留于事后追責(zé)階段,主要體現(xiàn)在《侵權(quán)責(zé)任法》和《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》的相關(guān)規(guī)定中。平臺(tái)責(zé)任的主體為“網(wǎng)絡(luò)服務(wù)提供者”,如網(wǎng)絡(luò)信息造成了侵害他人民事權(quán)利的法律后果,網(wǎng)絡(luò)平臺(tái)可以主張并未提供內(nèi)容,或者已經(jīng)盡到合理注意義務(wù)而適用“避風(fēng)港”規(guī)則免除直接侵權(quán)責(zé)任?;ヂ?lián)網(wǎng)平臺(tái)責(zé)任的國(guó)際范本是美國(guó)國(guó)會(huì)于1998年通過的《數(shù)字千年版權(quán)法》,該法確立了著名的“避風(fēng)港”原則和“紅旗”原則,后這一原則也被世界多國(guó)立法采納。(3)2000年,歐盟發(fā)布《電子商務(wù)指令》移植了“避風(fēng)港”原則和“紅旗”原則,其第14條規(guī)定,除用戶受控于平臺(tái)或依平臺(tái)指令實(shí)施的侵權(quán)行為外,平臺(tái)不知道用戶的行為違法,或在知悉違法行為或事實(shí)后刪除該違法信息或采取措施阻止該違法信息的傳輸,不承擔(dān)侵權(quán)責(zé)任?!吨噶睢返?5條明確了平臺(tái)原則上不負(fù)有積極查找平臺(tái)內(nèi)違法行為和信息的義務(wù),除非基于保護(hù)國(guó)家安全、國(guó)防和公共安全以及為防止、追查、偵破和懲治刑事犯罪的需要而要求采取有針對(duì)性、臨時(shí)性的監(jiān)控措施。 新加坡、巴西 《新加坡電子交易法》進(jìn)一步細(xì)化了“紅旗”標(biāo)準(zhǔn)?!缎录悠码娮咏灰追ā返?6條:僅提供接入、存取服務(wù)的網(wǎng)絡(luò)服務(wù)提供者對(duì)站內(nèi)第三方制作、發(fā)布、傳播或散布的侵權(quán)信息,除違反合同特別約定,或違反成文法規(guī)定的監(jiān)管要求,或者是違反成文法或法院的刪除、阻止、限制訪問的要求外,不承擔(dān)民事責(zé)任和刑事責(zé)任?!栋臀骶W(wǎng)絡(luò)民事基本法》第19條:除法律另有規(guī)定外,網(wǎng)絡(luò)服務(wù)提供者僅在接到法院令后,未在規(guī)定時(shí)間內(nèi)刪除或屏蔽侵權(quán)信息時(shí),才對(duì)站內(nèi)用戶侵害他人權(quán)益的行為承擔(dān)侵權(quán)責(zé)任。

    第二階段,2016-2017年,以網(wǎng)絡(luò)安全與信息安全為目標(biāo)的平臺(tái)網(wǎng)絡(luò)安全保護(hù)義務(wù)階段。隨著互聯(lián)網(wǎng)平臺(tái)的信息控制能力日益增強(qiáng),2016年以來,國(guó)家網(wǎng)信辦密集立法并明確提出平臺(tái)主體責(zé)任的理念,(4)2016年和2017年,國(guó)家互聯(lián)網(wǎng)信息辦公室進(jìn)入立“法”密集期,“微信十條”“賬號(hào)十條”和“約談十條”先后出臺(tái)。對(duì)于虛假信息采取“強(qiáng)雙責(zé)”的方針——強(qiáng)化網(wǎng)絡(luò)平臺(tái)的主體責(zé)任與社會(huì)責(zé)任。(5)參見《網(wǎng)信辦提出網(wǎng)站履行主體責(zé)任八項(xiàng)要求》,載《新華每日電訊》2016年8月18日第3版。平臺(tái)不僅明知不法信息存在需承擔(dān)責(zé)任,更是要對(duì)信息承擔(dān)主動(dòng)監(jiān)控義務(wù)。(6)參見《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》(2020年)第7條,互聯(lián)網(wǎng)直播服務(wù)提供者應(yīng)當(dāng)落實(shí)主體責(zé)任,配備與服務(wù)規(guī)模相適應(yīng)的專業(yè)人員,健全信息審核、信息安全管理、值班巡查、應(yīng)急處置、技術(shù)保障等制度。提供互聯(lián)網(wǎng)新聞信息直播服務(wù)的,應(yīng)當(dāng)設(shè)立總編輯?;ヂ?lián)網(wǎng)直播服務(wù)提供者應(yīng)當(dāng)建立直播內(nèi)容審核平臺(tái),根據(jù)互聯(lián)網(wǎng)直播的內(nèi)容類別、用戶規(guī)模等實(shí)施分級(jí)分類管理,對(duì)圖文、視頻、音頻等直播內(nèi)容加注或播報(bào)平臺(tái)標(biāo)識(shí)信息,對(duì)互聯(lián)網(wǎng)新聞信息直播及其互動(dòng)內(nèi)容實(shí)施先審后發(fā)管理。國(guó)家網(wǎng)信辦網(wǎng)站,http://www.cac.gov.cn/2017-09/07/c_1121624269.htm ?!痘ヂ?lián)網(wǎng)用戶公眾賬號(hào)信息服務(wù)管理規(guī)定》:“信息服務(wù)提供者應(yīng)加強(qiáng)對(duì)本平臺(tái)公眾賬號(hào)的監(jiān)測(cè)管理,發(fā)現(xiàn)有發(fā)布、傳播違法信息的,應(yīng)當(dāng)立即采取消除等處置措施,防止傳播擴(kuò)散,保存有關(guān)記錄,并向有關(guān)主管部門報(bào)告?!薄痘ヂ?lián)網(wǎng)跟帖評(píng)論服務(wù)管理規(guī)定》(2017年第8條):“跟帖評(píng)論服務(wù)提供者對(duì)發(fā)布違反法律法規(guī)和國(guó)家有關(guān)規(guī)定的信息內(nèi)容的,應(yīng)當(dāng)及時(shí)采取警示、拒絕發(fā)布、刪除信息、限制功能、暫停更新直至關(guān)閉賬號(hào)等措施,并保存相關(guān)記錄?!眹?guó)家網(wǎng)信辦網(wǎng)站,http://www.cac.gov.cn/2017-08/25/c_1121541842.htm,2020年8月17日訪問。2017年的《網(wǎng)絡(luò)安全法》為平臺(tái)設(shè)置了網(wǎng)絡(luò)運(yùn)行安全保護(hù)義務(wù)與網(wǎng)絡(luò)信息安全保護(hù)義務(wù),而網(wǎng)絡(luò)運(yùn)行(關(guān)鍵基礎(chǔ)設(shè)施的運(yùn)行)以及網(wǎng)絡(luò)信息安全中,數(shù)據(jù)安全也是其必然包含的題中之義。(7)信息與數(shù)據(jù)的關(guān)系在某些語境下是混用的。參見韓旭至:《信息權(quán)利范疇的模糊性使用及其后果——基于對(duì)信息、數(shù)據(jù)混用的分析》,載《華東政法大學(xué)學(xué)報(bào)》2020年第1期。

    第三,2018-2019年,平臺(tái)數(shù)據(jù)安全保障義務(wù)的急速擴(kuò)展階段。這一階段《電商法》《民法總則》的頒布,以及2019年5月國(guó)家網(wǎng)信辦的《數(shù)據(jù)安全管理辦法》等系列規(guī)定(8)近年來,國(guó)家網(wǎng)絡(luò)信息辦公室連續(xù)發(fā)布了《移動(dòng)互聯(lián)網(wǎng)應(yīng)用程序信息服務(wù)管理規(guī)定》(2016)、《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》(2016)、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》(2019)。擴(kuò)展了平臺(tái)的數(shù)據(jù)安全保障義務(wù)。一方面,增加了個(gè)人信息保護(hù)義務(wù)內(nèi)涵,平臺(tái)數(shù)據(jù)安全保障義務(wù)從防止泄露與非法使用擴(kuò)展至為用戶提供信息更正與刪除。(9)如《電子商務(wù)法》第24條第2款規(guī)定:“電子商務(wù)經(jīng)營(yíng)者收到用戶信息查詢或者更正、刪除的申請(qǐng)的,應(yīng)當(dāng)在核實(shí)身份后及時(shí)提供查詢或者更正、刪除用戶信息?!绷硪环矫妫脚_(tái)對(duì)于數(shù)據(jù)活動(dòng)的要求進(jìn)一步提高,提出了諸如不得歧視、遵守社會(huì)公德與倫理要求,也對(duì)數(shù)據(jù)收集、使用等活動(dòng)提出了細(xì)化的規(guī)范。

    (二)平臺(tái)數(shù)據(jù)安全保障義務(wù)的三個(gè)維度

    《數(shù)據(jù)安全法(草案)》與《網(wǎng)絡(luò)安全法》《電子商務(wù)法》《民法典》等法律,以及《信息傳播保護(hù)條例》《數(shù)據(jù)安全管理辦法》等政策法規(guī)以及諸多技術(shù)標(biāo)準(zhǔn),共同構(gòu)成了我國(guó)較為完備的平臺(tái)數(shù)據(jù)安全保障義務(wù)制度體系。

    平臺(tái)數(shù)據(jù)安全保障義務(wù)的第一個(gè)維度,是平臺(tái)的數(shù)據(jù)安全管理制度。法律直接深入平臺(tái)公司的治理結(jié)構(gòu),要求平臺(tái)設(shè)立一系列制度落實(shí)數(shù)據(jù)管理責(zé)任,具體包括:開展數(shù)據(jù)活動(dòng)應(yīng)當(dāng)按照規(guī)定建立健全全流程數(shù)據(jù)安全管理制度,組織開展數(shù)據(jù)安全教育培訓(xùn),采取相應(yīng)的技術(shù)措施和其他必要措施,保障數(shù)據(jù)安全(10)參見《數(shù)據(jù)安全法(草案)》第25條。;設(shè)立數(shù)據(jù)安全負(fù)責(zé)人和管理機(jī)構(gòu)(11)同⑧。;開展數(shù)據(jù)活動(dòng)應(yīng)當(dāng)加強(qiáng)數(shù)據(jù)安全風(fēng)險(xiǎn)監(jiān)測(cè)、定期開展風(fēng)險(xiǎn)評(píng)估,及時(shí)處置數(shù)據(jù)安全事件,并履行相應(yīng)的報(bào)告義務(wù)加強(qiáng)數(shù)據(jù)風(fēng)險(xiǎn)監(jiān)測(cè)并準(zhǔn)備安全事件預(yù)案等(12)參見《數(shù)據(jù)安全法(草案)》第28條。。平臺(tái)數(shù)據(jù)安全保障義務(wù)的第二個(gè)維度,是平臺(tái)需履行個(gè)人信息權(quán)利保護(hù)義務(wù)。開展數(shù)據(jù)活動(dòng)必須遵守法律法規(guī),尊重社會(huì)公德和倫理,有利于促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展,增進(jìn)人民福祉,不得違法收集、使用數(shù)據(jù),不得危害國(guó)家安全、公共利益,不得損害公民、組織的合法權(quán)益。強(qiáng)調(diào)平臺(tái)數(shù)據(jù)的收集方式、目的和使用范圍,并且不得超過必要的限度。(13)參見《數(shù)據(jù)安全法(草案)》第8條、第26條、第29條。平臺(tái)數(shù)據(jù)安全保障義務(wù)的第三個(gè)維度,是平臺(tái)的監(jiān)管配合義務(wù)。如作為數(shù)據(jù)交易中介機(jī)構(gòu)必須審核交易雙方的身份,并留存、審核交易記錄(14)參見《數(shù)據(jù)安全法(草案)》第30條。;在國(guó)家機(jī)關(guān)進(jìn)行偵查調(diào)取時(shí)的配合義務(wù)。(15)參見《數(shù)據(jù)安全法(草案)》第32條。

    近幾年的密集立法建立了一個(gè)動(dòng)態(tài)擴(kuò)展的平臺(tái)數(shù)據(jù)安全保障義務(wù)體系。這一制度體系的擴(kuò)張表現(xiàn)但不限于以下方面:

    第一,數(shù)據(jù)安全的理念從靜態(tài)安全轉(zhuǎn)向靜態(tài)與動(dòng)態(tài)安全并重的系統(tǒng)性安全理念。數(shù)據(jù)的靜態(tài)安全是指平臺(tái)應(yīng)當(dāng)采取技術(shù)措施和其他必要措施確保信息安全,在發(fā)生或者可能發(fā)生信息泄露、損毀、丟失的情況時(shí),應(yīng)當(dāng)立即采取補(bǔ)救措施。(16)參見《民法總則》第111條、《關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》第4條、《消費(fèi)者權(quán)益保護(hù)法》第14條、《網(wǎng)絡(luò)安全法》第42條第2款、《電子商務(wù)法》第30條等法條。2017年《網(wǎng)絡(luò)安全法》提出了網(wǎng)絡(luò)信息安全與網(wǎng)絡(luò)運(yùn)行安全并重的理念,豐富了“安全”的范疇。隨后兩年內(nèi),安全的含義擴(kuò)張至數(shù)據(jù)的有序流動(dòng)、公民合法權(quán)利的保護(hù)、社會(huì)公共秩序和倫理道德的遵守等層面。

    第二,制度層次從法律法規(guī)擴(kuò)展到包含政策、技術(shù)標(biāo)準(zhǔn)、場(chǎng)景規(guī)范等豐富的規(guī)范體系,包含民事責(zé)任、行政監(jiān)管責(zé)任等跨部門法律責(zé)任。由于數(shù)據(jù)活動(dòng)場(chǎng)景化、細(xì)分化,一般性的法律法規(guī)已經(jīng)無法滿足動(dòng)態(tài)多樣的技術(shù)迭代,技術(shù)標(biāo)準(zhǔn)在規(guī)范體系中的地位日益重要,逐步形成了以法律法規(guī)為一般規(guī)則,以政策性文件和技術(shù)標(biāo)準(zhǔn)為細(xì)化補(bǔ)充的平臺(tái)數(shù)據(jù)安全保障義務(wù)規(guī)范體系。

    第三,平臺(tái)數(shù)據(jù)安全保障義務(wù)從結(jié)果型義務(wù),轉(zhuǎn)向事前事中事后多環(huán)節(jié)覆蓋全數(shù)據(jù)生命周期的義務(wù)。平臺(tái)不僅需對(duì)數(shù)據(jù)安全的結(jié)果負(fù)責(zé),也需履行日常數(shù)據(jù)安全運(yùn)行的義務(wù)。此外,平臺(tái)的數(shù)據(jù)保障義務(wù)的對(duì)象不僅包含用戶數(shù)據(jù)主體、監(jiān)管部門,還對(duì)第三方接入平臺(tái)的數(shù)據(jù)安全提出了明確要求。(17)參見《數(shù)據(jù)安全管理辦法》第30條 網(wǎng)絡(luò)運(yùn)營(yíng)者對(duì)接入其平臺(tái)的第三方應(yīng)用,應(yīng)明確數(shù)據(jù)安全要求和責(zé)任,督促監(jiān)督第三方應(yīng)用運(yùn)營(yíng)者加強(qiáng)數(shù)據(jù)安全管理。第三方應(yīng)用發(fā)生數(shù)據(jù)安全事件對(duì)用戶造成損失的,網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)當(dāng)承擔(dān)部分或全部責(zé)任,除非網(wǎng)絡(luò)運(yùn)營(yíng)者能夠證明無過錯(cuò)。無論從數(shù)據(jù)安全理念、數(shù)據(jù)安全的制度層次還是數(shù)據(jù)安全保障義務(wù)的類型來說,平臺(tái)的數(shù)據(jù)安全保障義務(wù)體系正在逐步豐富與多樣化。

    (三)平臺(tái)數(shù)據(jù)安全保障義務(wù)的理論基礎(chǔ)及其局限

    傳統(tǒng)民事責(zé)任理論中無力解釋這樣一個(gè)涵蓋了多個(gè)法律部門,包含著民事責(zé)任、行政監(jiān)管與管理制度的平臺(tái)數(shù)據(jù)安全保障義務(wù)體系。

    第一,數(shù)據(jù)安全保障義務(wù)保護(hù)的法益遠(yuǎn)超“安全”。從適用范圍來說,侵權(quán)法意義上的安全保障義務(wù)適用于各種間接侵權(quán)領(lǐng)域。我國(guó)《侵權(quán)責(zé)任法》所規(guī)定的公共場(chǎng)所經(jīng)營(yíng)者的安全保障義務(wù),是對(duì)于物的安全保障義務(wù)和特定社會(huì)活動(dòng)的安全保障義務(wù)的綜合。(18)參見劉召成:《安全保障義務(wù)的擴(kuò)展使用與違法行為判斷標(biāo)準(zhǔn)的發(fā)展》,載《法學(xué)》2014年第5期。平臺(tái)作為數(shù)據(jù)活動(dòng)的開啟者和主導(dǎo)者對(duì)數(shù)據(jù)活動(dòng)領(lǐng)域所潛在的危險(xiǎn)負(fù)有防免義務(wù),即安全保障義務(wù)。然而,數(shù)據(jù)活動(dòng)中產(chǎn)生的系統(tǒng)風(fēng)險(xiǎn),不僅包含技術(shù)導(dǎo)致的交易異常、數(shù)據(jù)泄露在內(nèi)的技術(shù)風(fēng)險(xiǎn),也包含著歧視性定價(jià)、搜索排名和隱私侵害等數(shù)據(jù)利用活動(dòng)中的道德和倫理風(fēng)險(xiǎn)。平臺(tái)的數(shù)據(jù)安全保障義務(wù)所保護(hù)的法益遠(yuǎn)遠(yuǎn)大于侵權(quán)法意義上的安全保障義務(wù)。

    第二,合理注意義務(wù)標(biāo)準(zhǔn)模糊。安全保障義務(wù)的來源,是科技發(fā)展不斷拓展人們社會(huì)交往的范圍與深度。由于每項(xiàng)社會(huì)交往的開啟都可能對(duì)他人產(chǎn)生潛在的危險(xiǎn),因此每個(gè)開啟或主導(dǎo)社會(huì)交往之人都應(yīng)該適當(dāng)注意相關(guān)人員的安全。(19)參見劉文杰:《網(wǎng)絡(luò)服務(wù)提供者的安全保障義務(wù)》,載《中外法學(xué)》2012年第2期。安全保障義務(wù)的設(shè)定是為了解決不作為與損害后果之間的因果關(guān)系認(rèn)定存在的困難。“合理注意義務(wù)”的標(biāo)準(zhǔn),指某項(xiàng)安全保障措施在技術(shù)上已經(jīng)成熟且不會(huì)給義務(wù)人造成很大負(fù)擔(dān),并在風(fēng)險(xiǎn)防范上收益成本上符合比例原則,方可加諸于義務(wù)人。平臺(tái)的數(shù)據(jù)安全保障義務(wù)設(shè)定了寬泛的平臺(tái)注意義務(wù)。既要求平臺(tái)不得違反數(shù)據(jù)安全制度要求,更要求平臺(tái)從事收集、加工、交易等數(shù)據(jù)活動(dòng)符合社會(huì)道德與科技倫理。這不僅要求平臺(tái)盡到數(shù)據(jù)安全制度的注意義務(wù),更要求平臺(tái)積極追求符合社會(huì)公共利益結(jié)果的發(fā)生。

    第三,平臺(tái)自動(dòng)化運(yùn)行帶來的歸責(zé)難題。人工智能時(shí)代,平臺(tái)收集、加工、處理數(shù)據(jù)的過程依賴算法自動(dòng)進(jìn)行,如同自動(dòng)運(yùn)行的機(jī)器。按照傳統(tǒng)侵權(quán)責(zé)任理論,基于“平臺(tái)是技術(shù)中立的介質(zhì)屬性”,(20)參見楊樂:《網(wǎng)絡(luò)平臺(tái)法律責(zé)任研究》,電子工業(yè)出版社2019年版,第146頁。平臺(tái)責(zé)任的“行為人與責(zé)任人相分離”(21)指的是平臺(tái)侵權(quán)的內(nèi)容都是由用戶上傳的,如商標(biāo)侵權(quán)的商品、誹謗他人的言論,而平臺(tái)卻要為此承擔(dān)不利法律后果。參見尹培培:《網(wǎng)絡(luò)安全行政處罰的歸責(zé)原則》,載《東方法學(xué)》2018年第6期;梅夏英、劉明:《網(wǎng)絡(luò)侵權(quán)歸責(zé)的現(xiàn)實(shí)制約及價(jià)值考量——以〈侵權(quán)責(zé)任法〉第36條為切入點(diǎn)》,載《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2013年第2期。,平臺(tái)的自動(dòng)化趨勢(shì)似乎必然導(dǎo)向更輕的平臺(tái)義務(wù)。然而,與此種推論相悖,各國(guó)近年來不約而同地加強(qiáng)了平臺(tái)責(zé)任,平臺(tái)的數(shù)據(jù)安全保障義務(wù)呈現(xiàn)日益加強(qiáng)的趨勢(shì)。2019年歐盟通過《歐盟版權(quán)指令》,第13條要求Facebook、YouTube等平臺(tái)積極監(jiān)測(cè)其用戶的內(nèi)容,加強(qiáng)版權(quán)審核。(22)參見《Directive on Copyright in the Digital Singles Market》(2019),Article 13.2019年美國(guó)國(guó)會(huì)參議院的《停止支持互聯(lián)網(wǎng)審查法案》主張取消大型科技公司在《通信端正法案》第230條之下所自動(dòng)享有的責(zé)任豁免。(23)參見S.1914 - Ending Support for Internet Censorship Act 116th Congress (2019-2020) ,https://www.congress.gov/bill/116th-congress/senate-bill/1914,2020-04-24 accessed.我國(guó)的數(shù)據(jù)安全保障義務(wù)體系中,平臺(tái)作為數(shù)據(jù)處理者需遵循的規(guī)范越來越嚴(yán)格,并需在協(xié)助政府監(jiān)管中扮演更為積極的角色。

    傳統(tǒng)侵權(quán)責(zé)任理論無力解釋網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)安全保障義務(wù),因此我國(guó)的網(wǎng)絡(luò)相關(guān)立法提出了“誰運(yùn)營(yíng)誰負(fù)責(zé)”的“主體責(zé)任”概念,成為不斷施加平臺(tái)數(shù)據(jù)安全保障義務(wù)的理論基礎(chǔ)。那么,這樣一個(gè)糅雜性的平臺(tái)安全保障義務(wù)體系的理論基礎(chǔ)究竟是什么?

    二、平臺(tái)在數(shù)據(jù)社會(huì)生產(chǎn)中的地位:核心經(jīng)濟(jì)組織

    人工智能時(shí)代,數(shù)據(jù)成為了社會(huì)生產(chǎn)要素,對(duì)于平臺(tái)法律地位和義務(wù)來源的觀察也應(yīng)轉(zhuǎn)向數(shù)據(jù)生產(chǎn)的視角。平臺(tái)在數(shù)字經(jīng)濟(jì)社會(huì)生產(chǎn)中的核心經(jīng)濟(jì)組織的角色,其在社會(huì)生產(chǎn)中扮演的多重角色,是平臺(tái)承擔(dān)豐富的數(shù)據(jù)安全保障義務(wù)的基礎(chǔ)。

    (一)人工智能時(shí)代的社會(huì)生產(chǎn):數(shù)據(jù)生產(chǎn)

    隨著社會(huì)生產(chǎn)范式從物理的工業(yè)時(shí)代向數(shù)字經(jīng)濟(jì)轉(zhuǎn)變,越來越多的物理資源被數(shù)字化,而新興的數(shù)據(jù)作為生產(chǎn)要素也被提取、加工、流轉(zhuǎn),進(jìn)入了數(shù)字經(jīng)濟(jì)的社會(huì)生產(chǎn)過程。

    1.數(shù)據(jù)生產(chǎn)要素的提煉:個(gè)人信息收集。數(shù)據(jù)從何而來,并如何作為生產(chǎn)要素被提取并參與到社會(huì)生產(chǎn)的過程中的?個(gè)人信息作為生產(chǎn)要素被大型互聯(lián)網(wǎng)平臺(tái)利用強(qiáng)大的商業(yè)監(jiān)控行為廣泛獲取,并將其作為公司資源,用以獲得更多的投資。用戶個(gè)人信息的獲取和收集行為早已存在,但隨著數(shù)字經(jīng)濟(jì)的興起,由個(gè)人信息而來的數(shù)據(jù)方成為企業(yè)競(jìng)爭(zhēng)的核心資產(chǎn)。早在1994年,美國(guó)的網(wǎng)景公司就開發(fā)了名為“cookies”的用戶在線追蹤技術(shù),它使得任何可連接網(wǎng)絡(luò)的人都可以成為數(shù)據(jù)收集者,極大地?cái)U(kuò)大了公司參與商業(yè)監(jiān)控的機(jī)會(huì)。在線數(shù)字追蹤技術(shù)被廣泛應(yīng)用于瀏覽器、網(wǎng)絡(luò)游戲、搜索引擎、定向廣告等領(lǐng)域。隨著技術(shù)的發(fā)展,通過追蹤互聯(lián)網(wǎng)用戶來獲取個(gè)人信息的手段越來越隱蔽,并不斷深入到個(gè)人移動(dòng)設(shè)備的邏輯和硬件層。用持久的、秘密的數(shù)字追蹤技術(shù)和永久的硬件標(biāo)識(shí)符進(jìn)行用戶個(gè)人信息的獲取已經(jīng)成為普遍現(xiàn)象。(24)參見Steven Englehardt & Arvind Narayanan, Online Tracking: A 1-Million-Site Measurement and Analysis, in Proceedings of the 2016 ACM SIGSAC Conference on Computer and Communications Security (New York: ACM, 2016), 1388-40.也恰恰是由于個(gè)人信息和行為數(shù)據(jù)的經(jīng)濟(jì)價(jià)值,諸多的移動(dòng)應(yīng)用、社交網(wǎng)絡(luò)的設(shè)計(jì)者們努力將行為數(shù)據(jù)提取的機(jī)會(huì)最大化,最大限度讓用戶保持登錄狀態(tài)并延長(zhǎng)用戶在線時(shí)間,造成了日益嚴(yán)重的網(wǎng)絡(luò)成癮問題。

    2. 數(shù)據(jù)生產(chǎn)要素的加工:用戶畫像與預(yù)測(cè)。數(shù)據(jù)生產(chǎn)要素是如何通過加工轉(zhuǎn)化為利潤(rùn)的呢?在數(shù)據(jù)經(jīng)濟(jì)的時(shí)代,大規(guī)模、自動(dòng)化地從數(shù)據(jù)主體身上提取數(shù)據(jù)流的平臺(tái)架構(gòu)與算法,發(fā)揮著生產(chǎn)資料加工廠的作用,通過用戶畫像和用戶行為預(yù)測(cè),大規(guī)模、自動(dòng)化處理從人身上提取的數(shù)據(jù)流的平臺(tái)發(fā)揮著信息時(shí)代精煉廠的作用,將這些數(shù)據(jù)流轉(zhuǎn)化為最適合工業(yè)規(guī)模開發(fā)的形式。(25)參見Cohen, Julie E. Between truth and power: The legal constructions of informational capitalism. Oxford University Press, USA, 2019,p68.

    廣告企業(yè)、數(shù)據(jù)經(jīng)濟(jì)人和平臺(tái)公司利用數(shù)據(jù)分析能力,能對(duì)大量數(shù)據(jù)進(jìn)行篩選、分類和審問,并采用新的自動(dòng)化技術(shù)來識(shí)別模式,預(yù)測(cè)用戶行為,并根據(jù)新數(shù)據(jù)不斷調(diào)整模式和預(yù)測(cè)。以臉書與抖音等社交媒體為例,其可通過算法根據(jù)網(wǎng)絡(luò)信息的興趣標(biāo)簽、質(zhì)量標(biāo)簽等以及用戶的閱讀習(xí)慣、瀏覽記錄等,抽象出標(biāo)簽化的文章模型和用戶模型,并經(jīng)過排序、分類、關(guān)聯(lián)和過濾,自動(dòng)篩選出有效信息,進(jìn)行長(zhǎng)期、短期等多種模式的用戶畫像。

    “大數(shù)據(jù)殺熟”是典型的利用用戶個(gè)人信息與行為數(shù)據(jù)進(jìn)行差異化定價(jià),來榨取消費(fèi)者剩余的數(shù)字經(jīng)濟(jì)生產(chǎn)模式。個(gè)性化的定向廣告、搜索引擎在線內(nèi)容排序,短視頻平臺(tái)內(nèi)容推送等等,均是對(duì)于數(shù)據(jù)生產(chǎn)要素加工的結(jié)果。

    3.數(shù)據(jù)生產(chǎn)要素的流轉(zhuǎn)與交易。數(shù)據(jù)生產(chǎn)要素的流轉(zhuǎn)與交易,既可以傳統(tǒng)的轉(zhuǎn)移數(shù)據(jù)占有權(quán)益的方式進(jìn)行,更可以符合數(shù)字經(jīng)濟(jì)生產(chǎn)的模式進(jìn)行。一種重要的方式,是將高價(jià)值的消費(fèi)者群體確定為平臺(tái)公司、數(shù)據(jù)中介及其客戶的剩余價(jià)值提取目標(biāo),并將這類消費(fèi)者的數(shù)據(jù)在各類廣告商、應(yīng)用開發(fā)商和雇主之間分享。(26)參見U.S. Senate Committee on Commerce, Science, and Transportation, Office of Oversight and Investigations Majority Staff, “A Review of the Data Broker Industry: Collection, Use, and Sale of Consumer Data for Marketing Purposes”( Dec. 18, 2013), pp24. http://educationnewyork.com/files/rockefeller_databroker.pdf,2020-08-12 accessed.平臺(tái)通過對(duì)于數(shù)據(jù)的提取與加工,進(jìn)行用戶畫像,生成了具有概率性行為特征的“數(shù)據(jù)替身”可供其他訪問者預(yù)測(cè)型操作,如投放廣告或推送商品等。之后,企業(yè)和其他各類組織可以購買這些數(shù)據(jù)的訪問機(jī)會(huì),并將這種消費(fèi)者數(shù)據(jù)作為自己生產(chǎn)過程的投入。(27)參見Mireille Hildebrandt, Smart Technologies and the End(s) of Law :Novel Entanglements of Law and Technology ,Northampton, Mass.: Edward Elgar, 2015,p91-93.

    (二)平臺(tái)地位:數(shù)據(jù)生產(chǎn)的社會(huì)經(jīng)濟(jì)核心組織

    在平臺(tái)責(zé)任的理論研究中,網(wǎng)絡(luò)中介、基礎(chǔ)設(shè)施、平臺(tái)等術(shù)語經(jīng)常被交替使用。但是平臺(tái)早已超越了網(wǎng)絡(luò)服務(wù)提供者的角色,更不局限于經(jīng)濟(jì)基礎(chǔ)設(shè)施,而是成為數(shù)據(jù)的社會(huì)生長(zhǎng)過程中兼具多重角色的社會(huì)經(jīng)濟(jì)組織概念。

    1.平臺(tái)是數(shù)據(jù)生產(chǎn)要素的提煉加工者。數(shù)據(jù)作為生產(chǎn)要素的價(jià)值只有在平臺(tái)的運(yùn)作中才能夠體現(xiàn)。如果把數(shù)據(jù)比作是農(nóng)作物小麥,平臺(tái)則是小麥被收集、研磨、精煉為面粉的加工廠。(28)參見Cohen, Julie E. Between truth and power: The legal constructions of informational capitalism. Oxford University Press, USA, 2019,p68.數(shù)據(jù)對(duì)于用戶來說,只是互聯(lián)網(wǎng)瀏覽的副產(chǎn)品,但是對(duì)于平臺(tái)來說,則是重要的生產(chǎn)資料。用戶最多能夠察覺到個(gè)人數(shù)據(jù)被利用時(shí)的隱私損害,將數(shù)據(jù)所記錄的隱私當(dāng)做是需要防御與保護(hù)的對(duì)象,但是并不能夠?qū)?shù)據(jù)作為生產(chǎn)要素而變現(xiàn)。(29)參見Zuboff S,Big Other: Surveillance Capitalism and the Prospects of an Informal Civilization,30 Journal of Information Technology, 75-89(2015).只有平臺(tái)才能夠?qū)€(gè)人信息與行為數(shù)據(jù)提取為生產(chǎn)要素,或由平臺(tái)自我保留用于廣告推銷,或是分析后打包轉(zhuǎn)賣。數(shù)據(jù)這種生產(chǎn)要素對(duì)于用戶和平臺(tái)的“價(jià)值錯(cuò)位”只有在平臺(tái)公布財(cái)報(bào)和吸引投資時(shí)才會(huì)披露。

    從傳統(tǒng)個(gè)人權(quán)利的框架來看,平臺(tái)對(duì)用戶個(gè)人信息的數(shù)據(jù)化收集和加工,侵害了用戶個(gè)人的隱私權(quán),并使得人愈加工具性。(30)參見De Hingh, A. Some Reflections on Dignity as an Alternative Legal Concept in Data Protection Regulation. German Law Journal, . (2018)19(5), 1269-1290.然而如果從社會(huì)生產(chǎn)的角度來觀察,個(gè)人信息的收集和加工不僅是一種隱私的侵犯,更是一種社會(huì)生產(chǎn)的控制模式。用戶成為了被培養(yǎng)、處理和消費(fèi)的生產(chǎn)資源,有學(xué)者用“數(shù)字勞動(dòng)”來形容這一過程。(31)參見Chandler, D. and Fuchs, C. (eds.) Digital Objects, Digital Subjects: Interdisciplinary Perspectives on Capitalism, Labor and Politics in the Age of Big Data, London: University of Westminster Press, 2019, p 53-71.而多種多樣的數(shù)據(jù)控制者都會(huì)以平臺(tái)或者接入平臺(tái)的方式參與數(shù)據(jù)活動(dòng)。不論是公共服務(wù)還是商業(yè)服務(wù)者,都逐漸按照平臺(tái)的模式,向不特定人開放介入,動(dòng)態(tài)地收集數(shù)據(jù)進(jìn)行分析和匹配。(32)參見胡凌:《從開放資源到基礎(chǔ)服務(wù):平臺(tái)監(jiān)管的新視角》,載《學(xué)術(shù)月刊》 2019年第2期。

    2.平臺(tái)是數(shù)字經(jīng)濟(jì)的基礎(chǔ)設(shè)施。平臺(tái)在數(shù)字生產(chǎn)中扮演了數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施的角色。首先,平臺(tái)企業(yè)為社會(huì)提供統(tǒng)一的交易基礎(chǔ)服務(wù)——廣泛分布的計(jì)算結(jié)構(gòu)。本質(zhì)上這是平臺(tái)用通用技術(shù)與方法調(diào)動(dòng)計(jì)算力的框架(如阿里云)為社會(huì)提供基礎(chǔ)服務(wù)。這些技術(shù)基礎(chǔ)服務(wù)縮短了生產(chǎn)和消費(fèi)的環(huán)節(jié),使得價(jià)值生產(chǎn)速度遠(yuǎn)遠(yuǎn)超越傳統(tǒng)組織。其次,從硬件上平臺(tái)提供了硬件終端、操作系統(tǒng)、應(yīng)用程序App;從軟件上提供了行業(yè)標(biāo)準(zhǔn)、基礎(chǔ)通信設(shè)施、金融機(jī)構(gòu)(如支付寶)、交易所等。(33)同①。根據(jù)《網(wǎng)絡(luò)安全法》,有相當(dāng)數(shù)量的互聯(lián)網(wǎng)平臺(tái)企業(yè)可被認(rèn)定為關(guān)鍵信息基礎(chǔ)設(shè)施,受到特殊監(jiān)管和保護(hù)。(34)參見《網(wǎng)絡(luò)安全法》第3章第2節(jié)。

    平臺(tái)因提供基礎(chǔ)服務(wù)享有更大的競(jìng)爭(zhēng)優(yōu)勢(shì)。數(shù)據(jù)脫離生產(chǎn)環(huán)境之后被客體化、被處理、被估價(jià),只能依托于平臺(tái)的數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施進(jìn)行,無技術(shù)能力的企業(yè)只能以接入平臺(tái)的方式獲得平臺(tái)的數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施服務(wù),如外賣商家之于美團(tuán),微信小程序之于騰訊。其他企業(yè)依據(jù)不同的交易場(chǎng)景以收益分成或數(shù)據(jù)分享的方式,作為獲得信息基礎(chǔ)服務(wù)的對(duì)價(jià)。

    傳統(tǒng)的經(jīng)濟(jì)基礎(chǔ)設(shè)施如公路、網(wǎng)絡(luò)基站主要呈現(xiàn)物理形態(tài),作為公共基礎(chǔ)設(shè)施為社會(huì)提供普遍性服務(wù),保證基本服務(wù)質(zhì)量并保持中立性。(35)如最早的網(wǎng)絡(luò)中立理念,或者認(rèn)為搜索引擎也應(yīng)該是中立的。平臺(tái)一方面作為數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施,為社會(huì)提供存儲(chǔ)、連接與計(jì)算服務(wù);另一方面作為競(jìng)爭(zhēng)參與者利用數(shù)字經(jīng)濟(jì)技術(shù)設(shè)施獲得競(jìng)爭(zhēng)優(yōu)勢(shì),因此出現(xiàn)了利益的沖突而受到指責(zé)。如淘寶因?yàn)樾薷纳碳遗判蛞?guī)則受到圍攻,(36)參見張穎:《淘寶“傷”城,大賣家遭小商戶網(wǎng)絡(luò)群毆》,載中國(guó)網(wǎng)新聞,http://www.china.com.cn/economic/txt/2011-10/13/content_23613343.htm, 2018年8月22日訪問。或搜索引擎谷歌因?yàn)槠帘嗡阉魍醵黄鹪V,(37)Search King, Inc. v. Google Technology, Inc., Case No. CIV-02-1457-M (W.D. Okla. May. 27, 2003).本質(zhì)都是平臺(tái)這兩種角色造成的利益沖突。

    3.平臺(tái)是數(shù)字經(jīng)濟(jì)交易的多邊市場(chǎng)。平臺(tái)是社會(huì)生產(chǎn)中各類生產(chǎn)資源鏈接、交易的多邊市場(chǎng)。平臺(tái)通過提供數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施技術(shù)的方式,以一站式入口方式將多個(gè)服務(wù)集成在一個(gè)客戶端軟件或應(yīng)用程序上,實(shí)現(xiàn)多方資源在平臺(tái)的鏈接與融合。如網(wǎng)約車平臺(tái)早期依靠大量經(jīng)濟(jì)補(bǔ)貼,將乘客、司機(jī)與車輛吸引到平臺(tái)上,通過推動(dòng)市場(chǎng)交易便利化和使市場(chǎng)信息更對(duì)稱,形成了多邊市場(chǎng)的網(wǎng)絡(luò)效應(yīng),就進(jìn)一步享有了不斷擴(kuò)大服務(wù)范圍和市場(chǎng)數(shù)量的話語權(quán)。網(wǎng)約車平臺(tái)可挾海量乘客與司機(jī)和車輛資源換取其更大讓步,而因其司機(jī)與車輛資源的市場(chǎng)份額優(yōu)勢(shì),也可通過算法個(gè)性化定價(jià)獲取更多的消費(fèi)者剩余。

    平臺(tái)對(duì)交易與市場(chǎng)的控制力遠(yuǎn)高于集市、商場(chǎng)、連鎖超市等傳統(tǒng)市場(chǎng)。平臺(tái)一方面通過算法推薦與排序、信用評(píng)分系統(tǒng)、糾紛解決機(jī)制控制生產(chǎn)和銷售流程;另一方面則通過提供鏈接、自愿接入等方式避免獲得所有權(quán)或雇傭員工,而減輕占有資源的成本與法律上的責(zé)任。(38)胡凌:《平臺(tái)視角下的人工智能法律責(zé)任》,載《交大法學(xué)》2019年第3期。

    平臺(tái)在現(xiàn)行法律上的定義是“在網(wǎng)絡(luò)交易活動(dòng)中為交易雙方或者多方提供網(wǎng)頁空間、虛擬經(jīng)營(yíng)場(chǎng)所,交易規(guī)則、交易撮合、信息發(fā)布等服務(wù),供交易雙方或者多方獨(dú)立開展交易活動(dòng)的信息網(wǎng)絡(luò)系統(tǒng)”。(39)《網(wǎng)絡(luò)交易管理辦法》第3條、《網(wǎng)絡(luò)交易平臺(tái)經(jīng)營(yíng)者履行社會(huì)責(zé)任指引》第2條、《電子商務(wù)法》第9條。通過對(duì)平臺(tái)在數(shù)字經(jīng)濟(jì)中的角色分析,可知平臺(tái)遠(yuǎn)不止是允許信息發(fā)布任由資源自行匹配的網(wǎng)絡(luò)中介。平臺(tái)作為數(shù)字生產(chǎn)要素的提煉加工者、數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施與數(shù)字經(jīng)濟(jì)交易多變市場(chǎng),早已超越了提供信息鏈接的“網(wǎng)絡(luò)服務(wù)提供者”的傳統(tǒng)角色。數(shù)據(jù)時(shí)代,社會(huì)生產(chǎn)力逐漸走向數(shù)字經(jīng)濟(jì),平臺(tái)作為生產(chǎn)關(guān)系變化的代表,成為了數(shù)字經(jīng)濟(jì)核心組織。那么,平臺(tái)的權(quán)力與法律責(zé)任有哪些變化呢?

    三、平臺(tái)數(shù)據(jù)保障義務(wù)的性質(zhì):平臺(tái)在數(shù)據(jù)生產(chǎn)中權(quán)力的糾偏

    平臺(tái)的數(shù)據(jù)安全保障義務(wù)包含個(gè)人信息權(quán)利保護(hù)、行政監(jiān)管配合與安全運(yùn)行機(jī)制等多個(gè)層面。這一龐雜的義務(wù)體系并不是憑空而來,而是對(duì)于平臺(tái)數(shù)字經(jīng)濟(jì)社會(huì)生產(chǎn)中獲得的權(quán)力的糾偏機(jī)制。在霍菲爾德提出的“特權(quán)—無權(quán)力”框架中,權(quán)利與義務(wù)是相對(duì)的,但是法律特權(quán)并非存在于真空之中,特權(quán)的存在意味著別人的權(quán)利被剝奪。(40)參見[美]霍菲爾德:《基本法律概念》,張書友編譯,中國(guó)法制出版社2009年版,第34頁。平臺(tái)的數(shù)據(jù)安全保障義務(wù),則是平臺(tái)所受到的來自私法規(guī)范和公法規(guī)范的負(fù)擔(dān)。這些法律負(fù)擔(dān)施加給平臺(tái)以衡平其在數(shù)據(jù)經(jīng)濟(jì)中的不同領(lǐng)域獲得的權(quán)力或特權(quán)。

    1.個(gè)人信息權(quán)利保護(hù):平臺(tái)在數(shù)據(jù)生產(chǎn)要素收集中的權(quán)力糾偏。平臺(tái)的個(gè)人信息保護(hù)的義務(wù),是為了解除平臺(tái)對(duì)于個(gè)人權(quán)利的威脅。平臺(tái)通過收集與處理用戶個(gè)人信息和行為數(shù)據(jù),獲取法律上的特權(quán)。對(duì)于用戶來說,用戶無權(quán)就平臺(tái)采集數(shù)據(jù)提出異議,(41)有關(guān)知情同意的虛設(shè),國(guó)內(nèi)外學(xué)者多有研究。最近的一份報(bào)告研究GDPR如何影響由十家網(wǎng)絡(luò)公司起草的數(shù)據(jù)政策:(谷歌,F(xiàn)acebook,亞馬遜,Twitter,eBay,Instagram和Netflix)根據(jù)這項(xiàng)研究,在GDPR之后,這些政策的長(zhǎng)度平均增加了近26%,其復(fù)雜性也增加了。所研究的十項(xiàng)政策的總閱讀時(shí)間總計(jì)超過三小時(shí),有些政策要求超過25分鐘。閱讀需要的水平“范圍從11年級(jí)到19年級(jí)”。https://www.bbc.com/news/business-44599968,2019-4-10.無權(quán)在充分知情的情況下參與平臺(tái)處理和提煉數(shù)據(jù)價(jià)值的過程,無權(quán)對(duì)平臺(tái)對(duì)用戶畫像并預(yù)測(cè)用戶行為以引導(dǎo)其行動(dòng)、情感提出異議。平臺(tái)一方面從用戶那里免費(fèi)獲得特權(quán),另一方面主張自己是數(shù)據(jù)生產(chǎn)要素的創(chuàng)造者。平臺(tái)認(rèn)為自身擁有的龐大的計(jì)算能力和尖端的算法技術(shù),才能將“毫無價(jià)值”的個(gè)人信息與行為數(shù)據(jù)提煉出價(jià)值,用來驅(qū)動(dòng)搜索引擎、定向廣告和新聞資訊。(42)參見New Oracle Data Cloud and Data-as-a-Service Offerings Redefine Data-Driven Enterprise, https://finance.yahoo.com/news/oracle-data-cloud-data-offerings-170000728.html, 2020-08-22 accessed.這樣的說法對(duì)平臺(tái)極為有利:一方面通過敘事將平臺(tái)作為數(shù)據(jù)要素的生產(chǎn)者和數(shù)據(jù)價(jià)值的提煉者,進(jìn)而主張平臺(tái)應(yīng)享有數(shù)據(jù)帶來的權(quán)益;另一方面則可以將獲取用戶個(gè)人信息當(dāng)做是一種從無到有的勞動(dòng),進(jìn)而主張無需對(duì)用戶的個(gè)人信息權(quán)利保護(hù)負(fù)責(zé)。

    對(duì)于用戶個(gè)體來說,其地位從消費(fèi)者淪為數(shù)據(jù)生產(chǎn)的資源,成為其喪失自我控制與主體性的根本原因。平臺(tái)將用戶視為可供培養(yǎng)、處理和消費(fèi)的資源,依賴“通知同意”大規(guī)模收集用戶數(shù)據(jù),使得用戶淪為了數(shù)據(jù)生產(chǎn)鏈條上的一環(huán)。(43)參見胡凌:《論賽博空間的架構(gòu)及其法律意蘊(yùn)》,載《東方法學(xué)》2018年第3期。人類從機(jī)器的掌控者淪落為技術(shù)機(jī)器的生產(chǎn)資料,用戶的個(gè)人信息與行動(dòng)不停地生產(chǎn)著數(shù)據(jù)。因此有學(xué)者將數(shù)據(jù)稱為“被勞動(dòng)過濾過的勞動(dòng)對(duì)象”,將采集在線用戶個(gè)人信息和行為數(shù)據(jù)稱為“數(shù)字勞動(dòng)”。(44)參見Chandler, D. and Fuchs, C. (eds.) Digital Objects, Digital Subjects: Interdisciplinary Perspectives on Capitalism, Labor and Politics in the Age of Big Data, London: University of Westminster Press, 2019, p 53-71.一直以來,法律與監(jiān)管部門均未放棄對(duì)于平臺(tái)在數(shù)據(jù)生產(chǎn)要素領(lǐng)域的權(quán)力糾偏,但也遭遇了平臺(tái)的抵抗。早在2006年,美國(guó)的互聯(lián)網(wǎng)企業(yè)和網(wǎng)絡(luò)廣告商游說美國(guó)國(guó)會(huì),避免其使用“間諜軟件”來定義收集用戶信息的Cookies系統(tǒng),理由是對(duì)新技術(shù)的監(jiān)管會(huì)妨礙產(chǎn)業(yè)的創(chuàng)新。(45)參見Hearing Before the House Committee on Energy and Commerce, “Combating Spyware:H.R.29, the SPY Act” H.R.No.109-10,109th Cong., 1st Sess. 17-14.美國(guó)聯(lián)邦貿(mào)易委員會(huì)進(jìn)一步主張通過商業(yè)不公平和欺騙性做法,來監(jiān)管平臺(tái)秘密追蹤用戶和投放定向廣告的行為。后經(jīng)過交涉與妥協(xié),各國(guó)監(jiān)管部門逐步確立了“知情同意”制度成為評(píng)估平臺(tái)使用追蹤技術(shù)的主要監(jiān)管框架。因此,企業(yè)的“用戶隱私政策”——一個(gè)冗長(zhǎng)、乏味的文件,披露了平臺(tái)收集和處理個(gè)人數(shù)據(jù)的信息則成為了確保合規(guī)的實(shí)際工具。(46)參見Cohen, Julie E. Between truth and power: The legal constructions of informational capitalism. Oxford University Press, USA, 2019,p 58.基于隱私權(quán)和數(shù)據(jù)自決權(quán)的平臺(tái)權(quán)力糾偏機(jī)制,受制于個(gè)人主義的框架,無法應(yīng)對(duì)平臺(tái)在數(shù)字經(jīng)濟(jì)生產(chǎn)中的強(qiáng)勢(shì)地位。

    平臺(tái)數(shù)據(jù)安全保障義務(wù)中的個(gè)人信息保護(hù)義務(wù),就是為了進(jìn)一步衡平這種平臺(tái)在收集和使用用戶個(gè)人信息和行為數(shù)據(jù)的方面的特權(quán),要求平臺(tái)保證“數(shù)據(jù)活動(dòng)的合法性,收集方式、目的和使用范圍的合法性要求,并且不得超過必要的限度?!?/p>

    2.安全管理制度:平臺(tái)作為數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施的法定義務(wù)。平臺(tái)數(shù)據(jù)安全保障義務(wù)中的安全管理制度,是為了解決平臺(tái)對(duì)于數(shù)字公共安全的威脅。由于平臺(tái)作為數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施具有相較于政府的強(qiáng)大技術(shù)優(yōu)勢(shì),公權(quán)力不僅沒有能力介入數(shù)據(jù)加工、流轉(zhuǎn)等流程,甚至沒有能力監(jiān)測(cè)平臺(tái)的數(shù)據(jù)安全質(zhì)量。

    平臺(tái)作為數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施,不僅是社會(huì)公共領(lǐng)域數(shù)據(jù)存儲(chǔ)和加工的場(chǎng)所,更是通過技術(shù)具有了自身的目標(biāo)與議程:如社交媒體平臺(tái)已經(jīng)成為了公眾獲取新聞的主要媒介,平臺(tái)的推薦算法決定了新聞議程。平臺(tái)運(yùn)行的龐大數(shù)據(jù)流和作為商業(yè)秘密的算法,都無法像傳統(tǒng)的食品安全、衛(wèi)生等領(lǐng)域那樣容易檢查與評(píng)價(jià)。然而,平臺(tái)承擔(dān)著商業(yè)領(lǐng)域和公共各領(lǐng)域的數(shù)據(jù)的加工、處理、流轉(zhuǎn)、存儲(chǔ)等義務(wù),其如果不盡到審慎義務(wù),可能產(chǎn)生巨大的數(shù)據(jù)風(fēng)險(xiǎn),危害平臺(tái)經(jīng)濟(jì)利益與社會(huì)公共利益。由此而來,政府的監(jiān)管思路是推動(dòng)平臺(tái)責(zé)任從外在轉(zhuǎn)為內(nèi)在,推動(dòng)平臺(tái)自我建設(shè)強(qiáng)有力的基礎(chǔ)設(shè)施服務(wù),建立完善的數(shù)據(jù)安全日常管理制度,甚至將某些數(shù)據(jù)服務(wù)作為關(guān)鍵基礎(chǔ)設(shè)施,以確保數(shù)據(jù)的安全。這就不難理解在平臺(tái)的數(shù)據(jù)安全保護(hù)義務(wù)中,數(shù)據(jù)風(fēng)險(xiǎn)評(píng)估、數(shù)據(jù)等級(jí)保護(hù)、數(shù)據(jù)安全負(fù)責(zé)人、數(shù)據(jù)風(fēng)險(xiǎn)預(yù)測(cè)等共同構(gòu)成數(shù)據(jù)安全管理制度設(shè)置的原因。

    平臺(tái)法律責(zé)任的分配應(yīng)當(dāng)與平臺(tái)控制數(shù)據(jù)安全的能力相匹配。監(jiān)管部門如果以數(shù)據(jù)安全結(jié)果作為認(rèn)定平臺(tái)法律責(zé)任的理由,則對(duì)平臺(tái)施以事實(shí)上的無過錯(cuò)責(zé)任過于嚴(yán)苛。然而,平臺(tái)公共性的角色變化,不允許平臺(tái)作為數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施卻不承擔(dān)保障數(shù)據(jù)安全的法律義務(wù)。平臺(tái)作為公共性的經(jīng)濟(jì)基礎(chǔ)設(shè)施,本身又加強(qiáng)了其在數(shù)字經(jīng)濟(jì)市場(chǎng)的競(jìng)爭(zhēng)優(yōu)勢(shì)。故而,平臺(tái)需設(shè)置數(shù)據(jù)生命周期的安全管理制度并保障其日常運(yùn)行,監(jiān)管部門則將此作為平臺(tái)合規(guī)的考察點(diǎn)。平臺(tái)需承擔(dān)的數(shù)據(jù)安全管理義務(wù),是在分配無法預(yù)期的數(shù)據(jù)風(fēng)險(xiǎn)管理成本,這本質(zhì)是施加給平臺(tái)的法律負(fù)擔(dān),以衡平其作為數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施取得的特權(quán)。這方面則可以類比所有權(quán)的行使也要受到各種公法規(guī)范的限制,如土地管理法、城市規(guī)劃法、大氣污染防治法、噪音管制法等所設(shè)的所有權(quán)人的負(fù)擔(dān)。這些負(fù)擔(dān)意味著所有權(quán)人“特權(quán)”的減少。

    3.配合監(jiān)管維度:平臺(tái)作為多邊市場(chǎng)的協(xié)同治理責(zé)任。平臺(tái)數(shù)據(jù)安全保障義務(wù)中的配合監(jiān)管責(zé)任,目的在于解除平臺(tái)權(quán)力對(duì)國(guó)家權(quán)力的威脅。平臺(tái)作為數(shù)字經(jīng)濟(jì)的多邊市場(chǎng),其可能產(chǎn)生平臺(tái)行為的外部性,特別是數(shù)據(jù)非法交易、不正當(dāng)競(jìng)爭(zhēng)和壟斷行為。因此,政府要求平臺(tái)參與市場(chǎng)的協(xié)同治理,并承擔(dān)一定的行政義務(wù)。

    平臺(tái)數(shù)據(jù)安全保障義務(wù)中的配合監(jiān)管制度,并不局限于《數(shù)據(jù)安全法》。早在2015年修訂后的《食品安全法》與《廣告法》中,就規(guī)定了平臺(tái)對(duì)于平臺(tái)內(nèi)交易的監(jiān)管義務(wù)。平臺(tái)既有對(duì)交易主體資格的審核義務(wù),如“對(duì)入網(wǎng)食品經(jīng)營(yíng)者進(jìn)行實(shí)名登記并審查許可證”(47)參見《食品安全法》第62條。,又有相關(guān)違法行為的制止和報(bào)告義務(wù),“互聯(lián)網(wǎng)信息服務(wù)提供者對(duì)其明知或者應(yīng)知的利用其場(chǎng)所或者信息傳輸、發(fā)布平臺(tái)發(fā)送、發(fā)布違法廣告的,應(yīng)當(dāng)予以制止”(48)參見《廣告法》第45條。。平臺(tái)作為多邊市場(chǎng)的配合監(jiān)管義務(wù)方,經(jīng)過了平臺(tái)責(zé)任多個(gè)階段的博弈發(fā)展而來。平臺(tái)對(duì)于平臺(tái)上第三方的行為,最早只需根據(jù)侵權(quán)法對(duì)平臺(tái)用戶的侵權(quán)行為承擔(dān)間接侵權(quán)責(zé)任。但是,隨著平臺(tái)事實(shí)上鏈接了數(shù)字化的多方社會(huì)生產(chǎn)資源,對(duì)在線生產(chǎn)和交易具有一定程度的控制權(quán),平臺(tái)也就對(duì)平臺(tái)上的交易行為承擔(dān)了越來越重的管理責(zé)任。平臺(tái)早期只是調(diào)動(dòng)傳統(tǒng)經(jīng)濟(jì)組織無法有效利用的限制資源,但成熟后已經(jīng)有能力根據(jù)充分的信息重新組織生產(chǎn)鏈條。(49)參見胡凌:《從開放資源到基礎(chǔ)服務(wù):平臺(tái)監(jiān)管的新視角》,載《學(xué)術(shù)月刊》 2019年第2期。因此平臺(tái)逐漸被監(jiān)管部門施以越來越重的配合監(jiān)管義務(wù),其責(zé)任形式也不斷多樣化,從責(zé)令改正、處以罰款、沒收違法所得到責(zé)令停業(yè),吊銷相關(guān)行政許可,形成了一個(gè)龐大的體系。

    由此可見,從數(shù)據(jù)生產(chǎn)的角度來看,平臺(tái)是數(shù)據(jù)生產(chǎn)要素的收集加工者、數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施、數(shù)字交易多邊市場(chǎng),這三個(gè)角色分別對(duì)個(gè)人權(quán)利、公共安全與國(guó)家權(quán)力產(chǎn)生了威脅。設(shè)置平臺(tái)的數(shù)據(jù)安全保障義務(wù)是針對(duì)平臺(tái)作為以上三種角色享有法律特權(quán)的糾偏機(jī)制。

    四、平臺(tái)數(shù)據(jù)安全保障義務(wù)的合理構(gòu)建

    人工智能時(shí)代,平臺(tái)是數(shù)據(jù)生產(chǎn)的核心經(jīng)濟(jì)組織,但并不意味著平臺(tái)應(yīng)承擔(dān)無限的法律責(zé)任。合理的平臺(tái)數(shù)據(jù)安全保障義務(wù)水平,意味著既要考量個(gè)人權(quán)利保護(hù)、基礎(chǔ)設(shè)施安全與市場(chǎng)交易秩序,也要考量數(shù)據(jù)生產(chǎn)要素的流動(dòng),經(jīng)濟(jì)基礎(chǔ)設(shè)施的投入,以及數(shù)字多邊市場(chǎng)的繁榮。平臺(tái)數(shù)據(jù)安全保障義務(wù)的合理邊界,則是在這三組對(duì)立統(tǒng)一的價(jià)值中尋找平衡。

    (一)數(shù)字生產(chǎn)中平臺(tái)的“安全生產(chǎn)與產(chǎn)品質(zhì)量”責(zé)任

    在個(gè)人信息權(quán)利保護(hù)的維度,平臺(tái)的數(shù)據(jù)安全保障義務(wù)的核心任務(wù),是如何平衡用戶與平臺(tái)在數(shù)字生產(chǎn)中的關(guān)系。既要保護(hù)作為生產(chǎn)資料提供者的數(shù)據(jù)主體的隱私權(quán)、人格尊嚴(yán)、自治權(quán)等多項(xiàng)權(quán)益,又要保護(hù)平臺(tái)提煉和加工生產(chǎn)要素應(yīng)享有的經(jīng)濟(jì)利益,以及數(shù)字經(jīng)濟(jì)社會(huì)數(shù)據(jù)生產(chǎn)要素的流動(dòng)。從數(shù)據(jù)社會(huì)生產(chǎn)的角度討論個(gè)人信息保護(hù),應(yīng)將數(shù)據(jù)保護(hù)中的“數(shù)據(jù)權(quán)屬”視角轉(zhuǎn)化為將平臺(tái)視作數(shù)據(jù)提煉加工者的視角。是否建立具有排他性的“數(shù)據(jù)權(quán)”并非平臺(tái)履行保護(hù)個(gè)人信息權(quán)利上的義務(wù)的核心問題。原因在于,無論將數(shù)據(jù)視為用戶個(gè)體還是企業(yè)的權(quán)利,其經(jīng)過“知情同意”制度并付對(duì)價(jià)之后,權(quán)利的移轉(zhuǎn)意味著企業(yè)在加工數(shù)據(jù)時(shí)已經(jīng)享有準(zhǔn)財(cái)產(chǎn)權(quán)的處分權(quán)利,無需考慮附著于數(shù)據(jù)上的個(gè)人隱私、用戶自決等權(quán)利。而將平臺(tái)作為數(shù)據(jù)生產(chǎn)要素的提煉加工者,則可從安全生產(chǎn)與產(chǎn)品質(zhì)量的角度考量平臺(tái)與用戶個(gè)人的權(quán)利關(guān)系:

    第一,平臺(tái)數(shù)據(jù)安全保障義務(wù)的設(shè)置,應(yīng)注重?cái)?shù)據(jù)安全生產(chǎn)“加工”過程的規(guī)制,也應(yīng)承擔(dān)以“環(huán)境保護(hù)”為目的的生產(chǎn)者延伸責(zé)任。首先,應(yīng)將加工數(shù)據(jù)的算法作為規(guī)制的重點(diǎn)。如果說平臺(tái)是數(shù)據(jù)提煉加工者,那么算法就是收集處理數(shù)據(jù),挖掘數(shù)據(jù)價(jià)值的生產(chǎn)工具。平臺(tái)類型的演進(jìn)實(shí)質(zhì)是算法技術(shù)的演進(jìn),算法是平臺(tái)“競(jìng)爭(zhēng)必備工具”的理念已成為共識(shí)。(50)參見Matthew Hindman:The Internet Trap: How the Digital Economy Builds Monopolies and Undermines Democracy, Princeton University Press 2018,p 43.平臺(tái)借助算法開展數(shù)據(jù)收集、加工和處理等數(shù)據(jù)活動(dòng),算法自動(dòng)化運(yùn)行生成結(jié)果。一旦發(fā)生不利的法律后果,與“主體-行為-責(zé)任”邏輯下平臺(tái)未盡到注意義務(wù),以“不作為”的方式實(shí)施違法行為的認(rèn)識(shí)迥然不同。近兩年來,世界各國(guó)逐漸重視算法在平臺(tái)監(jiān)管的核心地位。2019年美國(guó)國(guó)會(huì)議員提出《算法問責(zé)法案》,擬對(duì)用戶在100萬人以上的平臺(tái)公司進(jìn)行算法審查。(51)參見H.R.2231 - Algorithmic Accountability Act of 2019,https://www.congress.gov/bill/116th-congress/house-bill/2231,2019-05-22 accessed.2019年澳大利亞競(jìng)爭(zhēng)與消費(fèi)者委員會(huì)(ACCC)宣布計(jì)劃設(shè)立專門分支機(jī)構(gòu)“主動(dòng)監(jiān)視”平臺(tái)算法運(yùn)行,賦予其要求披露算法詳細(xì)信息的權(quán)限。(52)參見Rob Taylor: Facebook and Google Algorithms Are Secret—but Australia Plans to Change That, https://www.wsj.com/articles/facebook-and-google-algorithms-are-secretbut-australia-plans-to-change-that-11564134106, 2020-4-20 accessed.我國(guó)網(wǎng)絡(luò)監(jiān)管部門也意識(shí)到平臺(tái)言論是算法對(duì)網(wǎng)絡(luò)信息內(nèi)容排序、推送、屏蔽的結(jié)果,要求平臺(tái)“優(yōu)化個(gè)性化算法推薦技術(shù)”(53)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》(2020)第12條:“網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)采用個(gè)性化算法推薦技術(shù)推送信息的,應(yīng)當(dāng)設(shè)置符合本規(guī)定第10條、第11條規(guī)定要求的推薦模型,建立健全人工干預(yù)和用戶自主選擇機(jī)制。”。其次,生產(chǎn)者延伸責(zé)任是指生產(chǎn)者就其生產(chǎn)的產(chǎn)品在整個(gè)生命周期對(duì)環(huán)境的影響應(yīng)承擔(dān)的責(zé)任。平臺(tái)開發(fā)部署的算法一旦存在設(shè)計(jì)上的倫理缺陷,可能造成損害的彌散化。(54)張欣:《從算法危機(jī)到算法信任: 算法治理的多元方案和本土化路徑》,載《華東政法大學(xué)學(xué)報(bào)》2019 年第6期。理論上,生產(chǎn)者除應(yīng)承擔(dān)傳統(tǒng)經(jīng)濟(jì)、行政法上的產(chǎn)品質(zhì)量責(zé)任、民商法上的產(chǎn)品侵權(quán)責(zé)任(包括環(huán)境侵權(quán)責(zé)任)外,其責(zé)任還必須延伸至原材料的選用、產(chǎn)品設(shè)計(jì)、產(chǎn)品生產(chǎn)、廢棄產(chǎn)品的回收和循環(huán)利用與最終處理階段,以實(shí)現(xiàn)環(huán)境保護(hù)和資源的節(jié)約與合理利用。(55)馬洪:《生產(chǎn)者延伸責(zé)任的擴(kuò)張性解釋》,載《法學(xué)研究》2009年第1期。同樣,為了避免平臺(tái)算法自動(dòng)化運(yùn)行帶來的自動(dòng)化決策“產(chǎn)品質(zhì)量”風(fēng)險(xiǎn),平臺(tái)應(yīng)重視數(shù)據(jù)收集的準(zhǔn)確性、算法設(shè)計(jì)、算法運(yùn)行情況,以保證數(shù)據(jù)生產(chǎn)利用生態(tài)的健康。平臺(tái)應(yīng)在投放自動(dòng)運(yùn)行的算法之前進(jìn)行算法影響評(píng)估,包括算法應(yīng)用對(duì)人權(quán)(56)在聯(lián)合國(guó)人權(quán)委員會(huì)的文件中,提出了對(duì)人權(quán)影響的評(píng)估框架;參見UNITED NATIONS,HUMAN RIGHTS COUNCIL,OFFICE OF THE HIGH COMM'R, GUIDINGPRINCIPLES ON BUSINESS AND HUMAN RIGHTS 23-26 (2011),https://www.ohchr.org/Documents/Publications/GuidingPrinciplesBusinessHREN.pdf[https://perma.cc/R3PC-BW5H]。同樣,紐約大學(xué)AI Now研究所提出的算法影響評(píng)估框架中也包括對(duì)人權(quán)的影響,See DILLON REISMAN ET AL., Al Now INST., ALGORITHMIC IMPACT ASSESSMENTS: A PRACTICAL FRAMEWORK FOR PUBLIC AGENCY ACCOUNTABILITY 5 (2018), https://ainowinstitute.org/ aiareport2018.pdf [https://perma.cc/JD9Z-5MZC]. 歐盟專家委員會(huì)提出的《關(guān)于先進(jìn)數(shù)字技術(shù)的人權(quán)影響框架》也提出了新技術(shù)的使用前應(yīng)考慮對(duì)人權(quán)的評(píng)估,Yeung K. A study of the implications of advanced digital technologies (including AI systems) for the concept of responsibility within a human rights framework. Committee of experts on human rights dimensions of automated data processing and different forms of artificial intelligence MSI-AUT Council of Europe, 5. (2018).、隱私(57)參見Privacy Impact Assessments, FED. TRADE COMMISSION, https://www.ftc.gov/site-information/privacy-policy/privacy-impact-assessments. 2020-04-23 accessed.和數(shù)據(jù)保護(hù)(58)參見Data Protection Impact Assessments, ICO, https://ico.org.uk/for-organisations/guide-to-the-general-data-protection-regulation-gdpr/accountability-and-governance/data-protection-impact-assessments [https://perma.cc/Q2NL-9AYZ],2020-9-20 accessed.的影響等,還有的學(xué)者主張算法設(shè)計(jì)部署者應(yīng)提供“社會(huì)影響聲明”“歧視影響評(píng)估”(59)Barocas, Solon, and Andrew D. Selbst. Big data's disparate impact. 671. Califormia Law Review 169 (2016).甚至“人類影響聲明”(60)Marc L. Roark, Human Impact Statements, 54 Washbum Law Joumal 649 (2015).等。這些倫理影響評(píng)估并非為了賦予個(gè)人權(quán)利,而是試圖創(chuàng)造一種環(huán)境,這種環(huán)境中未來能夠較少建立“有毒”的自動(dòng)化系統(tǒng)。(61)參見Alessandro Mantelero, AI and Big Data: A blueprint for a human rights, social and ethical impact assessment, 34 Computer Law & Security Review, 754 (2018).

    第二,平臺(tái)作為數(shù)據(jù)提煉加工者,應(yīng)對(duì)經(jīng)算法加工的“數(shù)字產(chǎn)品質(zhì)量”負(fù)責(zé)。如果將用戶個(gè)人信息作為數(shù)字生產(chǎn)的原材料,則經(jīng)過平臺(tái)算法加工的自動(dòng)化決策結(jié)果(如用戶畫像、評(píng)分結(jié)果等)可視作“數(shù)字產(chǎn)品”。這些數(shù)字產(chǎn)品一旦產(chǎn)生質(zhì)量問題,如數(shù)據(jù)錯(cuò)誤或自動(dòng)化決策有誤,既有可能對(duì)用戶產(chǎn)生直接的權(quán)利影響(如用戶被錯(cuò)誤識(shí)別),也有可能對(duì)用戶產(chǎn)生間接不利影響(如信用評(píng)分降低繼而可能影響獲得相關(guān)機(jī)會(huì))。平臺(tái)作為數(shù)字提煉加工者,應(yīng)承擔(dān)相應(yīng)的“數(shù)字產(chǎn)品”質(zhì)量責(zé)任。首先,用戶應(yīng)有權(quán)利知曉瑕疵“數(shù)字產(chǎn)品”的存在。平臺(tái)對(duì)于用戶的精準(zhǔn)畫像對(duì)用戶造成的不利影響,可能呈現(xiàn)機(jī)會(huì)損失的形態(tài),不僅無法被證明為實(shí)質(zhì)性的損害,甚至用戶無從得知。當(dāng)瑕疵“數(shù)字產(chǎn)品”對(duì)用戶的不利影響從間接轉(zhuǎn)為直接時(shí),用戶應(yīng)有權(quán)知曉其存在。如美國(guó)1970年《公平信用報(bào)告法》對(duì)提供匯總消費(fèi)者信息的“消費(fèi)者報(bào)告”的機(jī)構(gòu)(consumer reporting agency)設(shè)定了向消費(fèi)者提供特定通知的義務(wù)。(62)美國(guó)《公平及準(zhǔn)確信用交易法案》規(guī)定:“消費(fèi)者有權(quán)每年從信用報(bào)告機(jī)構(gòu)得到一份免費(fèi)的信用報(bào)告;有權(quán)獲得信用報(bào)告機(jī)構(gòu)所計(jì)算的信用評(píng)分,每當(dāng)有負(fù)面信息加入信用報(bào)告,信用報(bào)告機(jī)構(gòu)必須通知消費(fèi)者。”《公平信用報(bào)告法》規(guī)定:“銀行和其他信息提供者要及時(shí)對(duì)消費(fèi)者的問題做出反應(yīng);信用局要及時(shí)注銷過時(shí)信息,盡力確保信息的準(zhǔn)確性,將信息一年免費(fèi)披露一次給消費(fèi)者,提供的信息應(yīng)有合法理由?!迸c此相似,如平臺(tái)通過收集用戶個(gè)人公開信息、犯罪記錄、社交媒體使用狀況等數(shù)據(jù),利用算法預(yù)測(cè)工具生成消費(fèi)者報(bào)告或者評(píng)分,則可視作“數(shù)字產(chǎn)品”。而當(dāng)使用這種報(bào)告或評(píng)分作出對(duì)用戶的不利決策(如拒絕租賃房屋或者收取更高保險(xiǎn)費(fèi)),則應(yīng)向用戶提供不利行為通知,以供用戶查看有關(guān)報(bào)告信息或者更正數(shù)據(jù)。其次,允許用戶質(zhì)疑、拒絕和更換質(zhì)量瑕疵的“數(shù)字產(chǎn)品”。如在《歐盟一般數(shù)據(jù)保護(hù)條例(GDPR)》中即規(guī)定有關(guān)自身的數(shù)據(jù)與自動(dòng)化決策結(jié)果提出異議、獲得修正或拒絕接受,不受完全的自動(dòng)化決策支配的權(quán)利(the right not to be subject to a decision based solely on automated processing),(63)GDPR Article 22 (1)of the General Data Protection Regulation (GDPR) “the data subject has the right not to be subject to a decision based solely on automated processing, including profiling, when it produces legal effects concerning him or her or at least it similarly significantly affects him or her”.以及獲得人為干預(yù)的權(quán)利(The right to obtain human intervention)。(64)GDPR Article 22 (3)In the cases referred to in points (a) and (c) of paragraph 2, the data controller shall implement suitable measures to safeguard the data subject’s rights and freedoms and legitimate interests, at least the right to obtain human intervention on the part of the controller, to express his or her point of view and to contest the decision.盡管根據(jù)條文這兩項(xiàng)權(quán)利的行使存在著諸多限制,(65)根據(jù)GDPR22條(1)對(duì)適用此條款機(jī)器決策存在以下限定條件:第一,該機(jī)器決策對(duì)數(shù)據(jù)主體有法律效力或重大影響;第二,該機(jī)器決策中沒有人的參與,是一個(gè)純粹的自動(dòng)化決策(solely on automated processing)。仍提供給用戶一條對(duì)抗平臺(tái)用戶畫像的自動(dòng)化決策的選擇。

    第三,用戶個(gè)體權(quán)利的保護(hù)主要依靠政府監(jiān)管,以私權(quán)利救濟(jì)作為補(bǔ)充。為了實(shí)現(xiàn)產(chǎn)品質(zhì)量安全,法律設(shè)計(jì)了多層次的制度體系:包括事前的行業(yè)準(zhǔn)入制度、產(chǎn)品質(zhì)量體系標(biāo)準(zhǔn),事中的行政部門質(zhì)量抽查檢測(cè),事后的刑事、行政責(zé)任以及產(chǎn)品侵權(quán)責(zé)任。產(chǎn)品侵權(quán)責(zé)任的私權(quán)救濟(jì)路徑,顯然不是保證產(chǎn)品質(zhì)量的關(guān)鍵因素。同理,用戶個(gè)體權(quán)利的保護(hù)主要依靠法律設(shè)置合理的平臺(tái)義務(wù)與法律責(zé)任,以及政府?dāng)?shù)字安全的監(jiān)管體系。個(gè)體化的權(quán)利救濟(jì)路徑顯然并非效率最高的選擇。而用戶個(gè)人信息權(quán)利的保障,仍主要依賴多層次的包括行業(yè)技術(shù)標(biāo)準(zhǔn)、行政監(jiān)管在內(nèi)的數(shù)據(jù)治理體系。

    由此可見,從數(shù)字生產(chǎn)的角度觀察平臺(tái)對(duì)用戶個(gè)人信息權(quán)利的相關(guān)義務(wù),則應(yīng)建立健全數(shù)據(jù)安全治理體系,重視對(duì)平臺(tái)算法生產(chǎn)工具設(shè)計(jì)部署的監(jiān)管,要求平臺(tái)對(duì)“數(shù)字產(chǎn)品”質(zhì)量負(fù)責(zé)。除此之外,應(yīng)基于平臺(tái)在數(shù)字生產(chǎn)中的地位,為平臺(tái)設(shè)置類似于生產(chǎn)者承擔(dān)環(huán)境保護(hù)的生產(chǎn)者延伸責(zé)任,評(píng)估平臺(tái)數(shù)據(jù)活動(dòng)對(duì)人權(quán)、隱私、數(shù)據(jù)安全的影響。用戶個(gè)體既是生產(chǎn)資源的提供者,也是數(shù)字產(chǎn)品的消費(fèi)者,應(yīng)享有對(duì)數(shù)字產(chǎn)品提出異議、退換與拒絕的權(quán)利。

    (二)合理的平臺(tái)責(zé)任水平促進(jìn)數(shù)字社會(huì)生產(chǎn)

    平臺(tái)數(shù)據(jù)安全保障義務(wù)設(shè)置的另一個(gè)核心價(jià)值目標(biāo),是“促進(jìn)以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟(jì)發(fā)展,增進(jìn)人民福祉”(66)《數(shù)據(jù)安全法(草案)》第5條。。這就要求為平臺(tái)責(zé)任劃定合理的邊界,既要保證平臺(tái)作為經(jīng)濟(jì)基礎(chǔ)設(shè)施和多邊市場(chǎng)組織者承擔(dān)應(yīng)有的數(shù)字安全保障義務(wù),也要保障平臺(tái)能力與責(zé)任的匹配,促進(jìn)數(shù)字社會(huì)生產(chǎn)的發(fā)展。

    第一,設(shè)置合理的生產(chǎn)機(jī)制激勵(lì)數(shù)字生產(chǎn)要素流動(dòng)。平臺(tái)的數(shù)據(jù)安全保障義務(wù)設(shè)計(jì)不應(yīng)僅解決數(shù)字生產(chǎn)帶來的外部性問題,也應(yīng)考慮激勵(lì)數(shù)字生產(chǎn)。正如《數(shù)據(jù)安全法(草案)》的目標(biāo)是“通過數(shù)據(jù)開發(fā)活動(dòng)促進(jìn)公共福祉”。首先不宜為平臺(tái)的數(shù)據(jù)安全保障設(shè)置嚴(yán)格責(zé)任。根據(jù)平臺(tái)的主觀過錯(cuò)追究平臺(tái)在數(shù)據(jù)安全方面的法律責(zé)任,可促使監(jiān)管部門發(fā)現(xiàn)故障的根源,為其分配責(zé)任并懲罰或至少教育責(zé)任者成為可能。(67)參見Mittelstadt, Brent Daniel, et al. The Ethics of Algorithms: Mapping the Debate. https://doi.org/10.1177%2F2053951716679679, (2016).根據(jù)法律法規(guī)劃分的“重要數(shù)據(jù)”與“敏感數(shù)據(jù)”等數(shù)據(jù)處理活動(dòng),應(yīng)加強(qiáng)數(shù)據(jù)處理活動(dòng)中的信息備案制度,作為日后考察平臺(tái)主觀過錯(cuò)的問責(zé)點(diǎn)。其次,為促進(jìn)數(shù)據(jù)流動(dòng),對(duì)于平臺(tái)接入的第三方數(shù)據(jù)安全保障義務(wù)應(yīng)劃定合理的邊界,不宜由平臺(tái)承擔(dān)嚴(yán)格責(zé)任。網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)對(duì)介入其平臺(tái)的第三方應(yīng)用運(yùn)營(yíng)者進(jìn)行實(shí)名登記,明確其數(shù)據(jù)安全管理責(zé)任并審查其相關(guān)業(yè)務(wù)許可證;發(fā)現(xiàn)第三方運(yùn)營(yíng)者從事違法行為的,應(yīng)及時(shí)制止并立即報(bào)告監(jiān)管部門或立即停止提供網(wǎng)絡(luò)平臺(tái)服務(wù)。(68)參見劉金瑞:《合理設(shè)定網(wǎng)絡(luò)平臺(tái)對(duì)第三方應(yīng)用數(shù)據(jù)安全管理責(zé)任》,載《中國(guó)信息安全》2019年第6期。此外,還應(yīng)建立企業(yè)責(zé)任豁免制度,規(guī)定企業(yè)在遵循法定強(qiáng)制標(biāo)準(zhǔn)和按照法定要求共享安全信息的情況下,免除因此而產(chǎn)生的法律責(zé)任。

    第二,不宜一刀切地劃定平臺(tái)注意義務(wù)標(biāo)準(zhǔn),而應(yīng)根據(jù)平臺(tái)在數(shù)字生產(chǎn)中承擔(dān)的角色對(duì)平臺(tái)法律責(zé)任予以場(chǎng)景化劃分。首先,協(xié)調(diào)平臺(tái)作為經(jīng)濟(jì)基礎(chǔ)設(shè)施的公共性與平臺(tái)的私營(yíng)性本質(zhì)的矛盾。因數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施包括多層次硬件與軟件結(jié)構(gòu),并呈現(xiàn)公共性與私營(yíng)性混雜的特征,傳統(tǒng)壟斷法概念和公用設(shè)施,公物的概念都無法解決數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施的問題。在疫情防控期間提供“健康碼”服務(wù)的平臺(tái)企業(yè),與智慧城市合作提供計(jì)算服務(wù)的平臺(tái),以及為數(shù)字政府和法院等提供技術(shù)的平臺(tái),(69)參見張勇:《人工智能輔助辦案與量刑規(guī)范化的實(shí)現(xiàn)路徑》,載《上海政法學(xué)院學(xué)報(bào)(法治論叢)》2019年第2期。都可能承擔(dān)更高的數(shù)據(jù)安全保護(hù)義務(wù)。在此需注意的是,平臺(tái)的技術(shù)優(yōu)勢(shì)使得現(xiàn)有的數(shù)據(jù)安全標(biāo)準(zhǔn)基線由私營(yíng)平臺(tái)企業(yè)主導(dǎo),這也進(jìn)一步塑造了法律施加給平臺(tái)的數(shù)據(jù)安全保障義務(wù)水平。其次,對(duì)于平臺(tái)作為數(shù)字多邊市場(chǎng)組織者、重要數(shù)據(jù)處理者等不同角色,劃分不同的數(shù)據(jù)活動(dòng)風(fēng)險(xiǎn)等級(jí),并設(shè)定場(chǎng)景化的責(zé)任水平。如GDPR的數(shù)據(jù)處理評(píng)估制度,要求受到評(píng)估的算法系統(tǒng)從事“高風(fēng)險(xiǎn)數(shù)據(jù)處理活動(dòng)”,又或德國(guó)數(shù)據(jù)倫理委員會(huì)提出的算法風(fēng)險(xiǎn)評(píng)估方案,主張對(duì)數(shù)字服務(wù)企業(yè)使用的算法進(jìn)行五級(jí)的風(fēng)險(xiǎn)評(píng)級(jí)制度,對(duì)不同級(jí)別的算法采取不同強(qiáng)度的監(jiān)管。(70)根據(jù)算法處理的數(shù)據(jù)所涉及的利益大小,可對(duì)算法進(jìn)行風(fēng)險(xiǎn)評(píng)級(jí),對(duì)不同類型的算法采取不同強(qiáng)度的監(jiān)管。以德國(guó)數(shù)據(jù)倫理委員會(huì)提出制定算法評(píng)估方案為例,其主張對(duì)算法分為五類:(1)對(duì)于具有較低潛在危害的系統(tǒng)例如飲料制作機(jī),不應(yīng)監(jiān)管;(2)對(duì)于具有潛在危害的系統(tǒng),例如電子商務(wù)平臺(tái)的動(dòng)態(tài)定價(jià)機(jī)制應(yīng)該放寬管制,可以采用事后控制機(jī)制,加強(qiáng)披露義務(wù)等來降低其潛在危險(xiǎn);(3)對(duì)于具有一般或明顯危害的系統(tǒng),應(yīng)考慮以發(fā)放許可證的方式,促使審批、監(jiān)管常規(guī)化;(4)對(duì)于具有相當(dāng)潛在風(fēng)險(xiǎn)的系統(tǒng),例如在信用評(píng)估方面具有準(zhǔn)壟斷地位的公司,應(yīng)公布其算法細(xì)節(jié),包括計(jì)算所參考的因素及其權(quán)重,算法所使用的數(shù)據(jù),以及對(duì)算法模型的內(nèi)在邏輯進(jìn)行解釋;(5)對(duì)于自動(dòng)化武器等具有潛在不合理危險(xiǎn)的系統(tǒng),則應(yīng)該“完全或者部分”禁止。參見Opinion of the Data Ethic sCommission, 159 (2018), https://www.bmjv.de/SharedDocs/Downloads/DE/Ministerium/ForschungUndWissenschaft/DEK_Empfehlungen_englisch.html;jsessionid=C4CE6C88B9310034A97B42CD67553FC7.2_cid289?nn=11678512, 2020-04-20 accessed.

    第三,合理的平臺(tái)責(zé)任水平設(shè)置需考慮到對(duì)市場(chǎng)競(jìng)爭(zhēng)的影響。平臺(tái)作為數(shù)字經(jīng)濟(jì)多邊市場(chǎng),政府也通過發(fā)放牌照等方式加強(qiáng)對(duì)市場(chǎng)秩序的監(jiān)管。如果對(duì)可提供數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施服務(wù)的大型平臺(tái)與中小型互聯(lián)網(wǎng)企業(yè)施加同一水平的責(zé)任,勢(shì)必會(huì)提高中小型互聯(lián)網(wǎng)企業(yè)的合規(guī)成本,推動(dòng)中小型企業(yè)接入大型平臺(tái),進(jìn)而加強(qiáng)數(shù)字經(jīng)濟(jì)領(lǐng)域壟斷的態(tài)勢(shì)。近年來,頭部互聯(lián)網(wǎng)企業(yè)均在積極推動(dòng)建設(shè)數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施并以此自居。(71)如馬云,馬化騰均在不同場(chǎng)合提出阿里與騰訊在積極推進(jìn)數(shù)字經(jīng)濟(jì)基礎(chǔ)設(shè)施建設(shè)。參見馬化騰在2017年“騰訊云+未來”峰會(huì)的演講,https://www.donews.com/news/detail/1/2957589.html,2020-09-25訪問。以及參見《馬云:商業(yè)基礎(chǔ)設(shè)施是阿里的核心價(jià)值》,載《經(jīng)濟(jì)參考報(bào)》2016年6月15日。應(yīng)鼓勵(lì)大型平臺(tái)企業(yè)共建共營(yíng)數(shù)字化轉(zhuǎn)型的通用性基礎(chǔ)軟硬件和應(yīng)用平臺(tái),降低中小企業(yè)數(shù)字化轉(zhuǎn)型成本。

    結(jié)語

    《數(shù)據(jù)安全法(草案)》確立了多維度多主體的數(shù)據(jù)安全治理體系,平臺(tái)是其中最為重要的主體。近年來,學(xué)者們多以“私權(quán)力”作為平臺(tái)承擔(dān)社會(huì)公共責(zé)任的理論基礎(chǔ),但仍從社會(huì)運(yùn)行的某一層面進(jìn)行觀察。平臺(tái)是數(shù)字經(jīng)濟(jì)中核心的社會(huì)生產(chǎn)組織,扮演著數(shù)據(jù)提煉加工者、經(jīng)濟(jì)基礎(chǔ)設(shè)施和多邊市場(chǎng)的多重角色,因此被法律加諸不同層次的義務(wù)以衡平其在數(shù)字生產(chǎn)領(lǐng)域的特權(quán)。平臺(tái)的法律義務(wù)體系既具有跨部門的多重性,又分別有不同的制度目標(biāo)。以數(shù)字生產(chǎn)中平臺(tái)的地位來解釋平臺(tái)的法律責(zé)任,有助于從規(guī)范正當(dāng)性層面理解平臺(tái)責(zé)任,破解平臺(tái)責(zé)任僅為功能主義進(jìn)路的理論誤區(qū)。

    猜你喜歡
    用戶
    雅閣國(guó)內(nèi)用戶交付突破300萬輛
    車主之友(2022年4期)2022-08-27 00:58:26
    您撥打的用戶已戀愛,請(qǐng)稍后再哭
    關(guān)注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    關(guān)注用戶
    商用汽車(2016年5期)2016-11-28 09:55:15
    兩新黨建新媒體用戶與全網(wǎng)新媒體用戶之間有何差別
    關(guān)注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    關(guān)注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    挖掘用戶需求尖端科技應(yīng)用
    Camera360:拍出5億用戶
    100萬用戶
    在线视频色国产色| 亚洲一区高清亚洲精品| 亚洲精品国产色婷婷电影| av天堂久久9| 午夜福利影视在线免费观看| 91字幕亚洲| 精品国产美女av久久久久小说| 免费观看人在逋| 大香蕉久久成人网| svipshipincom国产片| av电影中文网址| 12—13女人毛片做爰片一| 日韩欧美国产一区二区入口| 久久久久久久国产电影| 久久婷婷成人综合色麻豆| 麻豆成人av在线观看| 亚洲专区国产一区二区| 国产免费男女视频| 欧美 亚洲 国产 日韩一| 日日爽夜夜爽网站| 中文字幕高清在线视频| 在线十欧美十亚洲十日本专区| 18禁观看日本| 99精品欧美一区二区三区四区| 免费人成视频x8x8入口观看| 美女扒开内裤让男人捅视频| 黄色成人免费大全| 日韩 欧美 亚洲 中文字幕| 大陆偷拍与自拍| 午夜精品在线福利| 成人18禁在线播放| 超碰成人久久| tube8黄色片| 两个人免费观看高清视频| 一二三四社区在线视频社区8| 电影成人av| 国产单亲对白刺激| 亚洲中文日韩欧美视频| 国产精品久久久久久精品古装| 午夜福利一区二区在线看| videosex国产| 久久香蕉激情| 黄色a级毛片大全视频| 变态另类成人亚洲欧美熟女 | 岛国在线观看网站| 一区福利在线观看| 18禁裸乳无遮挡免费网站照片 | 国产野战对白在线观看| 18禁美女被吸乳视频| 国产97色在线日韩免费| 757午夜福利合集在线观看| 免费黄频网站在线观看国产| 男女下面插进去视频免费观看| 成年女人毛片免费观看观看9 | 久久久水蜜桃国产精品网| 亚洲精品自拍成人| 在线播放国产精品三级| 一级a爱视频在线免费观看| tube8黄色片| 老司机影院毛片| 日本一区二区免费在线视频| 91精品国产国语对白视频| 不卡一级毛片| 99国产精品免费福利视频| 啪啪无遮挡十八禁网站| 成人18禁在线播放| 在线观看www视频免费| tube8黄色片| 丁香欧美五月| 天天影视国产精品| 国产又色又爽无遮挡免费看| 韩国精品一区二区三区| 精品国产超薄肉色丝袜足j| 亚洲欧美精品综合一区二区三区| 欧美性长视频在线观看| 91在线观看av| 香蕉久久夜色| 亚洲欧美精品综合一区二区三区| 免费观看人在逋| 巨乳人妻的诱惑在线观看| 久久精品国产亚洲av香蕉五月 | 可以免费在线观看a视频的电影网站| 自拍欧美九色日韩亚洲蝌蚪91| 国产精品永久免费网站| 国产精品 欧美亚洲| 91大片在线观看| 亚洲情色 制服丝袜| 午夜免费鲁丝| 欧美 亚洲 国产 日韩一| 成人国产一区最新在线观看| 国产精品一区二区在线观看99| bbb黄色大片| 亚洲av片天天在线观看| av天堂在线播放| 俄罗斯特黄特色一大片| 人妻久久中文字幕网| 欧美不卡视频在线免费观看 | 亚洲av熟女| 国产精品免费大片| 国产99白浆流出| 日本精品一区二区三区蜜桃| 18禁黄网站禁片午夜丰满| 在线观看免费高清a一片| 久久人人97超碰香蕉20202| 国产男女超爽视频在线观看| 久久久国产一区二区| 老司机在亚洲福利影院| 欧美黑人欧美精品刺激| 午夜老司机福利片| 丝袜美足系列| 天天影视国产精品| а√天堂www在线а√下载 | 国产一区二区三区综合在线观看| 欧美日韩福利视频一区二区| 亚洲中文日韩欧美视频| 搡老岳熟女国产| 亚洲精品中文字幕一二三四区| 中文字幕色久视频| 又紧又爽又黄一区二区| 国产欧美日韩精品亚洲av| 国产熟女午夜一区二区三区| 丝袜美足系列| 久久精品国产亚洲av香蕉五月 | 日韩制服丝袜自拍偷拍| 国产成人精品无人区| 大片电影免费在线观看免费| 久久香蕉精品热| 男女床上黄色一级片免费看| 国产成人免费观看mmmm| 欧美日韩精品网址| 欧美日本中文国产一区发布| 国产精品久久久久久人妻精品电影| 国产精品偷伦视频观看了| 极品人妻少妇av视频| 最近最新中文字幕大全电影3 | 欧美乱妇无乱码| 老司机午夜福利在线观看视频| 国产亚洲欧美精品永久| 国产精品免费大片| 一级毛片精品| 777久久人妻少妇嫩草av网站| 建设人人有责人人尽责人人享有的| 男人的好看免费观看在线视频 | 一进一出好大好爽视频| 视频在线观看一区二区三区| 色综合婷婷激情| 国产在线观看jvid| 91国产中文字幕| 少妇猛男粗大的猛烈进出视频| 村上凉子中文字幕在线| 一级,二级,三级黄色视频| 免费观看精品视频网站| 国产又爽黄色视频| 久久香蕉激情| 777久久人妻少妇嫩草av网站| 中文字幕人妻丝袜一区二区| 女人被狂操c到高潮| 国产精品乱码一区二三区的特点 | 欧美在线黄色| 99精品久久久久人妻精品| 99久久99久久久精品蜜桃| 在线观看一区二区三区激情| 午夜精品在线福利| 欧美激情久久久久久爽电影 | 一区二区日韩欧美中文字幕| 日本wwww免费看| 老司机亚洲免费影院| 久久精品国产亚洲av香蕉五月 | 在线观看一区二区三区激情| 一级作爱视频免费观看| 9热在线视频观看99| 精品乱码久久久久久99久播| 色婷婷av一区二区三区视频| 一区二区三区激情视频| 中文字幕另类日韩欧美亚洲嫩草| 正在播放国产对白刺激| videos熟女内射| 免费看十八禁软件| 成人永久免费在线观看视频| 国产免费av片在线观看野外av| 久久香蕉激情| 亚洲欧美精品综合一区二区三区| 久久中文字幕人妻熟女| 免费在线观看日本一区| 成年动漫av网址| 后天国语完整版免费观看| 亚洲av成人一区二区三| 欧美激情 高清一区二区三区| 欧美人与性动交α欧美精品济南到| 女人爽到高潮嗷嗷叫在线视频| 亚洲三区欧美一区| 欧美日韩亚洲高清精品| 精品少妇一区二区三区视频日本电影| 妹子高潮喷水视频| 在线观看免费视频日本深夜| 亚洲伊人色综图| 成年人免费黄色播放视频| 色婷婷av一区二区三区视频| 亚洲色图av天堂| 久久精品国产清高在天天线| 日韩大码丰满熟妇| 多毛熟女@视频| 精品久久久精品久久久| 欧美日韩亚洲高清精品| 日本黄色日本黄色录像| 久久精品国产亚洲av高清一级| 大型av网站在线播放| 麻豆国产av国片精品| 国产成人啪精品午夜网站| 亚洲欧美日韩另类电影网站| 久久久久久久午夜电影 | av天堂久久9| 中文亚洲av片在线观看爽 | 91大片在线观看| 自线自在国产av| 中文字幕人妻丝袜制服| 啦啦啦在线免费观看视频4| 婷婷精品国产亚洲av在线 | 9热在线视频观看99| 亚洲成av片中文字幕在线观看| 波多野结衣一区麻豆| 天天躁日日躁夜夜躁夜夜| 天天影视国产精品| 一级作爱视频免费观看| 九色亚洲精品在线播放| 亚洲av成人av| 免费久久久久久久精品成人欧美视频| 亚洲精品中文字幕在线视频| 90打野战视频偷拍视频| 亚洲国产中文字幕在线视频| 中文字幕制服av| 久久久久久久午夜电影 | 久久精品国产综合久久久| 村上凉子中文字幕在线| 久9热在线精品视频| 亚洲午夜理论影院| 亚洲男人天堂网一区| 无人区码免费观看不卡| 亚洲中文字幕日韩| 99国产综合亚洲精品| 久久午夜综合久久蜜桃| 亚洲美女黄片视频| 成人手机av| 欧美精品啪啪一区二区三区| 天堂√8在线中文| 美女扒开内裤让男人捅视频| 国产精品久久久久久精品古装| 91成年电影在线观看| 高清在线国产一区| 亚洲少妇的诱惑av| 啪啪无遮挡十八禁网站| 高清欧美精品videossex| 久久天堂一区二区三区四区| 亚洲国产中文字幕在线视频| av线在线观看网站| 国产欧美日韩一区二区精品| 亚洲一区中文字幕在线| 少妇裸体淫交视频免费看高清 | 久久中文字幕一级| 一区二区三区国产精品乱码| 国产又爽黄色视频| 免费不卡黄色视频| 丰满饥渴人妻一区二区三| 黄频高清免费视频| 免费在线观看日本一区| 亚洲第一青青草原| 欧美日韩视频精品一区| 精品国产乱子伦一区二区三区| 热99国产精品久久久久久7| 乱人伦中国视频| 国产精品.久久久| 久9热在线精品视频| 亚洲avbb在线观看| 91成年电影在线观看| 久久亚洲真实| 91国产中文字幕| 久久久国产成人精品二区 | 国产成人精品久久二区二区免费| 国产亚洲精品久久久久久毛片 | 午夜久久久在线观看| 国产免费男女视频| 极品少妇高潮喷水抽搐| 精品国产乱码久久久久久男人| 99久久精品国产亚洲精品| 久久国产亚洲av麻豆专区| 久久久国产欧美日韩av| 女人久久www免费人成看片| 久久午夜亚洲精品久久| 亚洲avbb在线观看| 欧美国产精品va在线观看不卡| 999久久久精品免费观看国产| 国产高清激情床上av| 欧美激情高清一区二区三区| 一区二区三区国产精品乱码| 亚洲精品一二三| 人妻久久中文字幕网| 女性被躁到高潮视频| 成人亚洲精品一区在线观看| 9色porny在线观看| 免费在线观看完整版高清| 夜夜夜夜夜久久久久| 黄色 视频免费看| 香蕉丝袜av| xxx96com| 亚洲精品国产区一区二| 亚洲成人国产一区在线观看| 成人黄色视频免费在线看| 搡老乐熟女国产| 999精品在线视频| 亚洲九九香蕉| e午夜精品久久久久久久| netflix在线观看网站| 亚洲精品在线观看二区| 俄罗斯特黄特色一大片| 校园春色视频在线观看| 亚洲熟女毛片儿| 中文字幕人妻丝袜一区二区| 日本一区二区免费在线视频| 国产精品乱码一区二三区的特点 | 高清毛片免费观看视频网站 | 俄罗斯特黄特色一大片| 操出白浆在线播放| 美女福利国产在线| 午夜福利视频在线观看免费| 叶爱在线成人免费视频播放| 欧美日韩亚洲国产一区二区在线观看 | 岛国毛片在线播放| 狠狠狠狠99中文字幕| 狂野欧美激情性xxxx| 91九色精品人成在线观看| 自线自在国产av| 欧美黑人精品巨大| 两性夫妻黄色片| 9色porny在线观看| 亚洲精品国产区一区二| 丰满的人妻完整版| 久久香蕉激情| 怎么达到女性高潮| 亚洲成人免费电影在线观看| 人妻一区二区av| 中亚洲国语对白在线视频| 欧美国产精品一级二级三级| 亚洲精品国产区一区二| 99在线人妻在线中文字幕 | 超碰成人久久| 亚洲全国av大片| 国产男女超爽视频在线观看| 大片电影免费在线观看免费| 欧美国产精品va在线观看不卡| 18禁观看日本| 亚洲精品粉嫩美女一区| 夜夜夜夜夜久久久久| 又黄又粗又硬又大视频| 亚洲国产看品久久| 一区二区三区精品91| 丰满迷人的少妇在线观看| 国产欧美日韩一区二区三区在线| 中文字幕另类日韩欧美亚洲嫩草| 18禁裸乳无遮挡动漫免费视频| 免费日韩欧美在线观看| 在线视频色国产色| 麻豆av在线久日| 亚洲一区二区三区不卡视频| 国产精品av久久久久免费| xxxhd国产人妻xxx| 国产午夜精品久久久久久| 久久热在线av| 亚洲男人天堂网一区| 午夜成年电影在线免费观看| 在线永久观看黄色视频| 亚洲综合色网址| 亚洲欧美色中文字幕在线| 亚洲一卡2卡3卡4卡5卡精品中文| 欧美亚洲日本最大视频资源| 国产成人影院久久av| 色播在线永久视频| 亚洲精品久久成人aⅴ小说| 美女 人体艺术 gogo| 夜夜爽天天搞| 国产片内射在线| 久久久久久久国产电影| 麻豆av在线久日| 日日夜夜操网爽| 999久久久国产精品视频| 国产精华一区二区三区| 亚洲国产欧美网| 亚洲精品一二三| 中亚洲国语对白在线视频| 国产人伦9x9x在线观看| 天天躁夜夜躁狠狠躁躁| 欧美日韩中文字幕国产精品一区二区三区 | 午夜福利欧美成人| 欧美色视频一区免费| 美女福利国产在线| 一a级毛片在线观看| 无人区码免费观看不卡| 亚洲国产欧美网| 亚洲片人在线观看| 三级毛片av免费| 成年人午夜在线观看视频| 一二三四社区在线视频社区8| 性少妇av在线| 亚洲精品一卡2卡三卡4卡5卡| 成人亚洲精品一区在线观看| 精品久久蜜臀av无| 亚洲自偷自拍图片 自拍| 久久久久久久国产电影| 麻豆av在线久日| 91大片在线观看| 亚洲欧美日韩另类电影网站| 亚洲av日韩精品久久久久久密| 日本wwww免费看| 国产精品久久久久成人av| 欧美老熟妇乱子伦牲交| 无人区码免费观看不卡| 热99国产精品久久久久久7| 女性生殖器流出的白浆| 在线观看免费高清a一片| 免费高清在线观看日韩| 成人精品一区二区免费| 91av网站免费观看| 亚洲自偷自拍图片 自拍| 久久久久久久精品吃奶| 岛国在线观看网站| 亚洲精品国产精品久久久不卡| 欧美成狂野欧美在线观看| 激情在线观看视频在线高清 | 黄片播放在线免费| 欧美日韩中文字幕国产精品一区二区三区 | 女人高潮潮喷娇喘18禁视频| 国产麻豆69| 精品亚洲成国产av| 精品久久久久久电影网| 国产真人三级小视频在线观看| 久久草成人影院| av在线播放免费不卡| 91国产中文字幕| 午夜视频精品福利| 亚洲人成电影免费在线| 亚洲国产毛片av蜜桃av| 亚洲成国产人片在线观看| 亚洲精品久久成人aⅴ小说| 精品无人区乱码1区二区| 亚洲av成人不卡在线观看播放网| 久久久久视频综合| 一区福利在线观看| 亚洲情色 制服丝袜| 美女高潮喷水抽搐中文字幕| 亚洲成国产人片在线观看| av中文乱码字幕在线| 大码成人一级视频| 亚洲精品一二三| 亚洲色图综合在线观看| 91成年电影在线观看| av国产精品久久久久影院| 久久久久精品人妻al黑| 日日夜夜操网爽| 女性生殖器流出的白浆| 亚洲自偷自拍图片 自拍| а√天堂www在线а√下载 | 中国美女看黄片| 身体一侧抽搐| 视频在线观看一区二区三区| 女人被躁到高潮嗷嗷叫费观| 精品久久久久久电影网| 免费黄频网站在线观看国产| 十分钟在线观看高清视频www| 在线观看一区二区三区激情| 亚洲国产中文字幕在线视频| av视频免费观看在线观看| 丰满迷人的少妇在线观看| 男女床上黄色一级片免费看| 亚洲欧美一区二区三区久久| 极品教师在线免费播放| 午夜激情av网站| 亚洲aⅴ乱码一区二区在线播放 | 久久久久久人人人人人| av福利片在线| 亚洲美女黄片视频| 国产亚洲欧美98| 亚洲伊人色综图| 国产单亲对白刺激| 国产91精品成人一区二区三区| 国产精品一区二区免费欧美| 精品久久久久久久毛片微露脸| 亚洲av成人一区二区三| 俄罗斯特黄特色一大片| 九色亚洲精品在线播放| 久久天躁狠狠躁夜夜2o2o| 老汉色∧v一级毛片| av福利片在线| 日韩欧美国产一区二区入口| 亚洲精品国产一区二区精华液| tube8黄色片| 欧美日韩福利视频一区二区| 中文亚洲av片在线观看爽 | 自拍欧美九色日韩亚洲蝌蚪91| 亚洲精品在线美女| 亚洲aⅴ乱码一区二区在线播放 | 啦啦啦免费观看视频1| 国产成人av教育| 亚洲欧美精品综合一区二区三区| 成人手机av| 每晚都被弄得嗷嗷叫到高潮| 少妇的丰满在线观看| av线在线观看网站| 国产精品永久免费网站| 亚洲,欧美精品.| 91在线观看av| 狠狠婷婷综合久久久久久88av| 午夜福利影视在线免费观看| 久久精品国产亚洲av高清一级| 九色亚洲精品在线播放| 黄色片一级片一级黄色片| 18禁观看日本| 大片电影免费在线观看免费| 他把我摸到了高潮在线观看| 黑人欧美特级aaaaaa片| 国产一区二区三区在线臀色熟女 | 妹子高潮喷水视频| 18禁黄网站禁片午夜丰满| 精品视频人人做人人爽| 成人18禁在线播放| 国产精品二区激情视频| av不卡在线播放| 一级片免费观看大全| av免费在线观看网站| 国产伦人伦偷精品视频| 精品久久久精品久久久| 99国产综合亚洲精品| 亚洲av片天天在线观看| 日本黄色日本黄色录像| 午夜久久久在线观看| 午夜免费成人在线视频| 中文字幕人妻熟女乱码| 国产视频一区二区在线看| 最近最新中文字幕大全免费视频| 精品国内亚洲2022精品成人 | 国产伦人伦偷精品视频| 午夜91福利影院| 天堂√8在线中文| 成人18禁高潮啪啪吃奶动态图| 免费少妇av软件| 国产精品美女特级片免费视频播放器 | 老司机亚洲免费影院| 亚洲熟女精品中文字幕| 日本五十路高清| 精品第一国产精品| 久久久久久久午夜电影 | 国产99白浆流出| 久久久久视频综合| 国产精品国产av在线观看| 热re99久久国产66热| 欧美性长视频在线观看| 亚洲一区二区三区欧美精品| 妹子高潮喷水视频| 成人三级做爰电影| tube8黄色片| 人人澡人人妻人| 岛国毛片在线播放| 757午夜福利合集在线观看| 亚洲五月婷婷丁香| 午夜福利视频在线观看免费| 久久久国产一区二区| 一区二区日韩欧美中文字幕| 精品卡一卡二卡四卡免费| 18禁美女被吸乳视频| 少妇粗大呻吟视频| 日本vs欧美在线观看视频| av视频免费观看在线观看| 久久热在线av| 欧美激情 高清一区二区三区| 欧美 亚洲 国产 日韩一| 中国美女看黄片| 999久久久国产精品视频| 男人的好看免费观看在线视频 | 一边摸一边做爽爽视频免费| 亚洲精华国产精华精| av不卡在线播放| 国产av精品麻豆| 国产激情欧美一区二区| 深夜精品福利| 怎么达到女性高潮| 亚洲av日韩精品久久久久久密| 女性被躁到高潮视频| 久99久视频精品免费| 国产精品久久久av美女十八| 啦啦啦在线免费观看视频4| 国产伦人伦偷精品视频| 岛国在线观看网站| 成年人黄色毛片网站| 在线观看一区二区三区激情| 国产aⅴ精品一区二区三区波| 亚洲精品美女久久久久99蜜臀| 欧美日韩av久久| 亚洲av熟女| 国产免费男女视频| 欧美激情高清一区二区三区| 真人做人爱边吃奶动态| 美女高潮到喷水免费观看| 亚洲欧美日韩高清在线视频| 久热这里只有精品99| 色尼玛亚洲综合影院| 午夜成年电影在线免费观看| 黄色a级毛片大全视频| 少妇粗大呻吟视频| 亚洲人成电影免费在线| 老司机靠b影院| 久久精品aⅴ一区二区三区四区| 五月开心婷婷网| 久久精品亚洲熟妇少妇任你| 99国产综合亚洲精品| 一本大道久久a久久精品| 亚洲精品美女久久久久99蜜臀| 一区二区三区国产精品乱码|