• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)字社會中算法消費(fèi)者的個人信息保護(hù)體系構(gòu)建*

    2022-02-03 21:04:07劉穎
    廣東社會科學(xué) 2022年1期
    關(guān)鍵詞:保護(hù)法經(jīng)營者個人信息

    劉穎

    《個人信息保護(hù)法》被譽(yù)為我國個人信息保護(hù)的“基本法”,構(gòu)建了數(shù)字經(jīng)濟(jì)社會中以“自然人”為核心的個人信息保護(hù)基本框架。個人信息保護(hù)法不區(qū)分具象人格和適用場景上的差別,而是適用于所有“個人”以及所有場合中的“個人信息”保護(hù),所有場合包括線下實(shí)體和互聯(lián)網(wǎng),也包括有算法主導(dǎo)的互聯(lián)網(wǎng)、無算法主導(dǎo)的互聯(lián)網(wǎng)場景。數(shù)字平臺作為數(shù)字經(jīng)濟(jì)中最重要的商業(yè)主體,其通過大數(shù)據(jù)、物聯(lián)網(wǎng)(LoT)、智能算法技術(shù)的深度融合,逐漸走向了“萬物互聯(lián)”的數(shù)字化世界,并塑造了全新的平臺經(jīng)濟(jì)商業(yè)模式。在此經(jīng)濟(jì)模式中,消費(fèi)者的個人信息被數(shù)字平臺不斷收集,并被算法深度分析,消費(fèi)者利益被肆意地攫取,導(dǎo)致在數(shù)字社會中消費(fèi)者與數(shù)字平臺利益嚴(yán)重失衡。在數(shù)字經(jīng)濟(jì)中如何保護(hù)消費(fèi)者既享受算法便利,又不被算法算計(jì)就顯得極其重要。本文從算法消費(fèi)者的角度,探索構(gòu)建算法消費(fèi)者的個人信息保護(hù)體系。

    一、數(shù)字經(jīng)濟(jì)背景下的算法消費(fèi)者

    (一)數(shù)字經(jīng)濟(jì)背景下被算法算計(jì)的消費(fèi)者

    如今,算法定義了我們的生活,臉書(Facebook)、推特、知乎、今日頭條、抖音等數(shù)字平臺通過機(jī)器學(xué)習(xí)等智能算法來決定向你推薦哪些內(nèi)容。數(shù)字平臺經(jīng)營者(以下簡稱平臺經(jīng)營者)通過智能終端、API(應(yīng)用程序接口)、SDK(軟件工具開發(fā)包)、IoT設(shè)備、瀏覽器、傳感器等自動收集用戶的個人信息,并運(yùn)用智能算法對消費(fèi)者進(jìn)行用戶“畫像”,以此進(jìn)行后續(xù)的商業(yè)行為。數(shù)字經(jīng)濟(jì)時代中的平臺經(jīng)營者與傳統(tǒng)互聯(lián)網(wǎng)消費(fèi)平臺有著顯著不同,他們依托平臺的生態(tài)實(shí)現(xiàn)自組織、自運(yùn)營的數(shù)字化發(fā)展,甚至在平臺生態(tài)內(nèi)形成“算法權(quán)力”,同時他們在算法驅(qū)動下精準(zhǔn)預(yù)測或塑造消費(fèi)者偏好。隨著線上線下界限的不斷模糊,依托智能算法、大數(shù)據(jù)、物聯(lián)網(wǎng)等科學(xué)技術(shù)的發(fā)展,算法已經(jīng)成為各個領(lǐng)域的技術(shù)基礎(chǔ)架構(gòu),使得原有的社會關(guān)系與權(quán)力結(jié)構(gòu)不斷固化與發(fā)展。①劉穎、王佳偉:《算法規(guī)制的私法進(jìn)路》,《上海大學(xué)學(xué)報(bào)(社會科學(xué)版)》2021年第6期,第12頁??梢?,在數(shù)字經(jīng)濟(jì)社會中,智能算法是一把雙刃劍,即智能算法為消費(fèi)者提供更多便利的同時,亦有可能無時無刻地算計(jì)消費(fèi)者。

    (二)傳統(tǒng)經(jīng)濟(jì)向數(shù)字經(jīng)濟(jì)轉(zhuǎn)型下的消費(fèi)者保護(hù)

    回顧消費(fèi)者保護(hù)的進(jìn)程可知,近代西方消費(fèi)者法由消費(fèi)者運(yùn)動推動產(chǎn)生,“二戰(zhàn)”之后資本主義國家消費(fèi)者運(yùn)動勃興,各國消費(fèi)者組織應(yīng)運(yùn)而生。以美國消費(fèi)者運(yùn)動為例,共經(jīng)歷了反假貨運(yùn)動、非營利消費(fèi)者組織的興起和法律激進(jìn)主義時代。②參見姚佳:《消費(fèi)者法理念與技術(shù)重構(gòu)》,北京:法律出版社,2019年,第45、47頁。21世紀(jì)以來,互聯(lián)網(wǎng)與信息科學(xué)技術(shù)深度融合與發(fā)展,當(dāng)前社會已經(jīng)從工業(yè)經(jīng)濟(jì)邁向數(shù)字經(jīng)濟(jì)時代。但是,我國《消費(fèi)者權(quán)益保護(hù)法》的困境在于,仍未脫離現(xiàn)實(shí)世界的傳統(tǒng)框架,不能滿足互聯(lián)網(wǎng)服務(wù)消費(fèi)者權(quán)益保護(hù)的需求。③孫南翔:《論作為消費(fèi)者的數(shù)據(jù)主體及其數(shù)據(jù)保護(hù)機(jī)制》,《政治與法律》2018年第7期,第33頁。例如,目前消費(fèi)者法中的消費(fèi)者知情權(quán)、自主選擇權(quán)等消費(fèi)者權(quán)利源于20世紀(jì)消費(fèi)者運(yùn)動,依舊為傳統(tǒng)保護(hù)框架下的保護(hù)模式;傳統(tǒng)保護(hù)模式缺乏應(yīng)對平臺經(jīng)營者利用算法、個人信息和數(shù)據(jù)等新興技術(shù)手段侵害消費(fèi)者的保護(hù)措施。盡管《電子商務(wù)法》第18條規(guī)定了定制搜索結(jié)果條款,④葛江虬:《解釋論視角下<電子商務(wù)法>定制搜索結(jié)果條款的規(guī)范目的及限制適用》,《法律科學(xué)》2021年第3期,第9頁。但該條規(guī)范過于簡單,或許更多是行政監(jiān)管規(guī)范,以至于其在私法上的適用和保護(hù)效果仍有待觀察。

    (三)算法消費(fèi)者作為消費(fèi)者的一種新類型:算法消費(fèi)者的內(nèi)涵界定

    算法消費(fèi)者是消費(fèi)者的新類型?!断M(fèi)者權(quán)益保護(hù)法》第2條規(guī)定“消費(fèi)者為生活消費(fèi)需要購買、使用商品或者接受服務(wù)”。算法消費(fèi)者,也是為生活消費(fèi)需要購買、使用商品或者接受服務(wù)。

    算法消費(fèi)者是通過互聯(lián)網(wǎng)等網(wǎng)絡(luò)平臺購買、使用商品或者接受服務(wù)的消費(fèi)者,基于平臺經(jīng)營者利用智能算法介入消費(fèi)或服務(wù)行為,線上消費(fèi)者隨之蛻變?yōu)樗惴ㄏM(fèi)者。故而算法消費(fèi)者是在數(shù)字經(jīng)濟(jì)背景下平臺經(jīng)濟(jì)中應(yīng)運(yùn)而生的一種消費(fèi)者類型,是算法與互聯(lián)網(wǎng)嵌入融合的產(chǎn)物。算法消費(fèi)者的本質(zhì)是“互聯(lián)網(wǎng)+算法”,是通過在智能算法接入互聯(lián)網(wǎng)等信息網(wǎng)絡(luò)中為生活消費(fèi)購買商品或接受服務(wù)的消費(fèi)者。

    二、算法消費(fèi)者個人信息保護(hù)的基本框架與反思

    (一)算法消費(fèi)者個人信息保護(hù)體系

    自2012年12月28日第十一屆全國人大常委會第三十次會議通過《全國人民代表大會常務(wù)委員會關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》開始,我國確立了以“合法、正當(dāng)、必要原則”+“同意”為核心的個人信息保護(hù)制度。在此后《電信和互聯(lián)網(wǎng)用戶個人信息保護(hù)規(guī)定》(2013年)第5條和第9條、《網(wǎng)絡(luò)安全法》(2016年)第22條、《民法典》(2020年)第1035條、《個人信息保護(hù)法》(2021年)第5條和第13條均堅(jiān)持“合法、正當(dāng)、必要原則”+“同意”的兩項(xiàng)核心內(nèi)容??梢?,上述兩項(xiàng)核心內(nèi)容已經(jīng)作為我國個人信息保護(hù)體系的基本框架。

    回歸算法消費(fèi)者視角,其個人信息保護(hù)體系并不與上述體系完全重合。一方面,算法消費(fèi)者作為消費(fèi)者的一種新類型,消費(fèi)者個人信息保護(hù)的一般規(guī)則必然適用于算法消費(fèi)者。《民法典》第1035條堅(jiān)持了個人信息保護(hù)中的“合法、正當(dāng)、必要原則”+“同意”的兩項(xiàng)核心規(guī)則,但在細(xì)節(jié)上有所調(diào)整,例如增加“不得過度處理”、“同意規(guī)則的例外性規(guī)定”等內(nèi)容。綜上,《民法典·人格權(quán)編》中第六章“隱私權(quán)與個人信息保護(hù)”規(guī)定了個人信息保護(hù)的系列規(guī)則,該章作為個人信息保護(hù)的一般性規(guī)定適用于所有自然人。因此,《民法典·人格權(quán)編》第六章“隱私權(quán)與個人信息保護(hù)”也是算法消費(fèi)者個人信息保護(hù)的一般規(guī)則?!断M(fèi)者權(quán)益保護(hù)法》(2013年修正)第29條規(guī)定了消費(fèi)者個人信息保護(hù)的規(guī)則,該條自然可適用于算法消費(fèi)者。算法消費(fèi)者作為電子商務(wù)中的重要參與者之一,其個人信息保護(hù)也受《電子商務(wù)法》(2018年)第23條的調(diào)整,但該條僅作了“應(yīng)當(dāng)遵守法律、行政法規(guī)有關(guān)個人信息保護(hù)的規(guī)定”的指引性規(guī)定。2021年頒布的《個人信息保護(hù)法》作為個人信息保護(hù)的“基本法”,是自然人個人信息保護(hù)的特別法。就算法消費(fèi)者個人信息保護(hù)體系而言,從適用關(guān)系上來看,《民法典·人格權(quán)編》中第六章“隱私權(quán)與個人信息保護(hù)”是算法消費(fèi)者個人信息保護(hù)的一般性規(guī)則,《消費(fèi)者權(quán)益保護(hù)法》第29條是算法消費(fèi)者個人信息保護(hù)規(guī)則的特殊規(guī)范,《個人信息保護(hù)法》是作為自然人個人信息保護(hù)的特別法。因此《個人信息保護(hù)法》應(yīng)予優(yōu)先適用,《民法典》《消費(fèi)者權(quán)益保護(hù)法》具有適用的備位性。此外,從行政監(jiān)管角度,政府部門從職責(zé)范圍出發(fā)制定的相關(guān)個人信息保護(hù)的部門規(guī)章也有適用算法消費(fèi)者個人信息保護(hù)的空間,如國家網(wǎng)信辦頒布的《移動互聯(lián)網(wǎng)應(yīng)用程序信息服務(wù)管理規(guī)定》(2016年)、國家市場監(jiān)管總局頒布的《網(wǎng)絡(luò)交易監(jiān)督管理辦法》(2021年)等部門規(guī)章對個人信息保護(hù)作了更為細(xì)致的規(guī)定。

    (二)同意作為形式控制的缺陷

    同意是我國個人信息保護(hù)的核心規(guī)則之一,算法消費(fèi)者個人信息的“同意”規(guī)則適用《個人信息保護(hù)法》第13條的規(guī)定。我國自2012年即確立了個人信息保護(hù)的“同意”規(guī)則,然則,國內(nèi)外學(xué)者對該規(guī)則有效性均無一例外地提出質(zhì)疑。

    為什么消費(fèi)者會陷入一種困境,即一方面關(guān)心自身隱私,另一方面卻又同意侵蝕自身隱私的數(shù)據(jù)行為并使自己暴露于面臨信息損害的風(fēng)險(xiǎn)之中。這是因?yàn)閭€人信息保護(hù)中的“同意”存在三種病理形態(tài),即不知情同意(unwitting consent)、被強(qiáng)迫的同意(coerced consent)以及無行為能力的同意(incapacitated consent)。①NeilRichardsandWoodrowHartzog,“ThePathologiesofDigitalConsent”,WashingtonUniversityLawReview,vol.96,no.6,2019,p.1476.首先,不知情同意將“知情”從“知情和自愿”中分離出來。因?yàn)樵跀?shù)字環(huán)境中,太多消費(fèi)者對自身同意的數(shù)據(jù)行為或暴露幾乎一無所知。例如,基于文化程度和認(rèn)知上的差異,消費(fèi)者并不知曉經(jīng)營者提供的各類法律術(shù)語或技術(shù)規(guī)制的煩瑣說明,形式上的告知形同虛設(shè),在點(diǎn)擊“同意”時,消費(fèi)者考慮的僅是使用上的便捷性,而不認(rèn)真閱讀所有隱私協(xié)議或政策,即使認(rèn)真研讀,也不可能把所有的隱私政策都看完。隱私政策等所謂披露告知之所以失敗,不僅與復(fù)雜煩瑣的披露有關(guān),也與消費(fèi)者跳過及略讀被披露信息的“無所謂”心理相關(guān)。①參見[美]歐姆瑞·本·沙哈爾、[美]卡爾·E.施奈德:《過猶不及:強(qiáng)制披露的失敗》,陳曉芳譯,北京:法律出版社,2015年,第14-77頁。其次,被強(qiáng)迫的同意不是經(jīng)營者通過行為強(qiáng)迫消費(fèi)者簽署同意,而是指“自愿”從“知情和自愿”中分離出來,具體是指在數(shù)字環(huán)境中的消費(fèi)者對同意的選擇極其有限,更不用說自由地討價(jià)還價(jià)。一方面,在數(shù)字經(jīng)濟(jì)中的平臺容易居于壟斷地位,例如所謂形成“六巨頭”(三巨頭如BAT、新三巨頭如TMD)②BAT(百度、阿里、騰訊)是公認(rèn)的我國互聯(lián)網(wǎng)三巨頭,而隨著互聯(lián)網(wǎng)的發(fā)展,又有三家企業(yè)進(jìn)入了人們的視野,它們被認(rèn)為是互聯(lián)網(wǎng)新三巨頭TMD(今日頭條、美團(tuán)、滴滴)。的局面,這在客觀上讓消費(fèi)者在使用方面的可選擇性不多;甚至每個平臺公司提供的隱私政策都基本一致,造成實(shí)際沒有可選擇余地。另一方面,經(jīng)營者可能采用一次概括授權(quán)、默認(rèn)授權(quán)、與其他授權(quán)捆綁、停止安裝使用等變相強(qiáng)制的方式,取得算法消費(fèi)者的同意。此時的“同意”只是一種無可奈何、不得不作出的“同意”,難謂真實(shí)意思表示。③張新寶:《個人信息收集:告知同意原則適用的限制》,《比較法研究》2019年第5期,第15頁。最后,無行為能力的同意是將“自愿”從“知情和自愿”中剝離出來。我國《個人信息保護(hù)法》第28條和第31條都將未滿14周歲的未成年人作為個人信息保護(hù)的特殊對象。可見,在《個人信息保護(hù)法》中對于已滿14周歲未滿18周歲未成年人的保護(hù)并無特殊規(guī)定,即與18歲以上成年人均適用于一般規(guī)則。已滿14周歲的未成年人在民法上為限制民事行為能力人,其作出的法律行為除純獲利益行為或由監(jiān)護(hù)人同意、追認(rèn)外一般無效?!秱€人信息保護(hù)法》中的“同意”作為一種意思表示,④陸青:《個人信息保護(hù)中“同意”規(guī)則的規(guī)范構(gòu)造》,《武漢大學(xué)學(xué)報(bào)(哲學(xué)社會科學(xué)版)》2019年第5期,第123頁。與民法中意思表示中“同意”的效力存在著悖論。

    同意制度作為個人在數(shù)字經(jīng)濟(jì)社會中信息保護(hù)的一種機(jī)制,賦予個人的信息自決權(quán)或自我管理控制權(quán)。但同意機(jī)制無論在理論上還是實(shí)踐中⑤有學(xué)者對此作了進(jìn)一步的闡述,認(rèn)為塑造同意神話存在有自愿困境、結(jié)構(gòu)困境、認(rèn)知困境、外生性困境和時間困境等六個誤區(qū)。See Charlotte A.Tschider,“The Consent Myth:Improving Choice for Patients of the Future”,Washington University Law Review,vol.96,no.6,2019,pp.1519-1532.都存在著“困境”,并且難以執(zhí)行。⑥參見趙園園:《互聯(lián)網(wǎng)征信中個人信息保護(hù)制度的審視與反思》,《廣東社會科學(xué)》2017年第5期,第214頁。這種困境就是,流于形式的告知義務(wù)導(dǎo)致同意的作出缺乏實(shí)質(zhì)性的“知情”和“自愿”,此“虛化”的“告知-同意”模式讓平臺經(jīng)營者取得了攫取個人信息的“合法性”。最終,同意也就成為一張平臺企業(yè)處理個人信息的自由通行證。

    (三)算法消費(fèi)者個人信息保護(hù)中過程保護(hù)的僵硬性與結(jié)果保護(hù)的不足

    《個人信息保護(hù)法》作為個人信息保護(hù)的基本法,可分為“過程保護(hù)”與“結(jié)果保護(hù)”兩種模式。⑦參見蔡培如:《個人信息保護(hù)原理之辨:過程保護(hù)與結(jié)果保護(hù)》,《行政法學(xué)研究》2021年第5期,第91頁。但在個人信息保護(hù)場景中并不區(qū)分信息的媒介是電子信息抑或其他類型,也不區(qū)分信息的收集方式為線上或線下。電子信息、線上收集個人信息與傳統(tǒng)媒介信息、線下收集個人信息的保護(hù)力度應(yīng)有所差別。即使是線上信息的收集又可以是否涉及算法介入的場景區(qū)分為有無算法收集、分析的方式。因此,個人信息保護(hù)在不同場景中的保護(hù)強(qiáng)度和適用上均有所差別。但遺憾的是,《個人信息保護(hù)法》在過程保護(hù)和結(jié)果保護(hù)的模式中均未對此進(jìn)行區(qū)分,體現(xiàn)了其一定的僵硬性與缺陷。

    個人信息中的過程保護(hù)主要是指信息處理過程中,個人參與所享有的各類權(quán)利。如知情權(quán)、決定權(quán)、查詢和復(fù)制權(quán)、同意與撤回權(quán)、可攜帶權(quán)以及可刪除權(quán)等等。以算法消費(fèi)者知情權(quán)為例,作為消費(fèi)者的知情權(quán)規(guī)定于《消費(fèi)者權(quán)益保護(hù)法》第8條。據(jù)此,消費(fèi)者享有知悉其購買、使用的商品或者接受的服務(wù)的真實(shí)情況的權(quán)利?!峨娮由虅?wù)法》第17條規(guī)定了電子商務(wù)經(jīng)營者應(yīng)當(dāng)全面、真實(shí)、準(zhǔn)確、及時地披露商品或者服務(wù)信息,作為線上交易的算法消費(fèi)者自然可以適用該條。從解釋論的角度,《消費(fèi)者權(quán)益保護(hù)法》第8條和《電子商務(wù)法》第17條規(guī)定知情權(quán)的范圍僅限于商品或服務(wù)的真實(shí)情況,均不涉及商品或服務(wù)外的情況,如在涉及算法介入的人工智能交易場景中,消費(fèi)者似乎難以獲得算法等自動化決策介入或個人信息被處理過程的各類信息。對此,算法消費(fèi)者在個人信息方面的知情權(quán)只能尋求《個人信息保護(hù)法》的救濟(jì)。《個人信息保護(hù)法》第44條規(guī)定了個人在個人信息處理的知情權(quán)、決定權(quán),但該知情權(quán)的規(guī)定過于原則性,對于知情權(quán)的范圍與程度需要進(jìn)一步解釋。一般而言,個人知情權(quán)與個人信息處理者的告知義務(wù)為一體兩面。與個人的知情權(quán)原則性相比,《個人信息保護(hù)法》對于個人信息處理者的告知義務(wù)做了比較細(xì)致的規(guī)定,如第17、22、23、30條分別規(guī)定了個人信息處理者在處理個人信息前、轉(zhuǎn)移個人信息、向其他個人信息處理者提供個人信息以及處理敏感個人信息等情形的告知義務(wù)。但上述個人的知情權(quán)和個人信息處理者的告知義務(wù)適用對象為《個人信息保護(hù)法》中的“個人”,并無區(qū)分不同主體在不同場景中或不同類型消費(fèi)者(個體)的知情權(quán),這將導(dǎo)致在法律適用上的僵硬性。

    此外,結(jié)果保護(hù)的內(nèi)涵主要是利用立法、行政資源規(guī)范個人信息處理行為,將個人信息處理過程中造成的可能損害與風(fēng)險(xiǎn)監(jiān)管控制在可接受的程度之內(nèi)。然而,結(jié)果保護(hù)模式的缺陷在于未能從正面打破個人參與乃至控制信息處理過程的意義。①參見蔡培如:《個人信息保護(hù)原理之辨:過程保護(hù)與結(jié)果保護(hù)》,第97頁。筆者認(rèn)為,無論個人信息保護(hù)中的過程保護(hù)模式,抑或結(jié)果保護(hù)模式,整體抽象人格的保護(hù)方式具有僵硬性。在數(shù)字經(jīng)濟(jì)社會中,個人信息的保護(hù)強(qiáng)度與個人信息流通、利用效率之間具有相關(guān)性。不區(qū)分具象人格和適用場景的一刀切式個人信息保護(hù),會導(dǎo)致個人信息保護(hù)與數(shù)字經(jīng)濟(jì)發(fā)展之間處于失衡狀態(tài)。簡而言之,算法消費(fèi)者是數(shù)字經(jīng)濟(jì)中的重要參與主體,如何在算法消費(fèi)者個人信息保護(hù)與信息流通處理、利用效率之間保持利益平衡是算法消費(fèi)者保護(hù)的一項(xiàng)重要議題。

    三、算法消費(fèi)者個人信息保護(hù)中過程保護(hù)的路徑完善

    (一)以算法消費(fèi)者作為具象人格的個人信息保護(hù)新解

    1.同意機(jī)制的多元化。前文已論及,同意機(jī)制已經(jīng)陷入形式化的窠臼之中。法律經(jīng)濟(jì)學(xué)研究認(rèn)為,強(qiáng)制性規(guī)則是保護(hù)消費(fèi)者最有效,也是最冒險(xiǎn)的監(jiān)管方法;最冒險(xiǎn)在于將產(chǎn)生提高價(jià)格、縮小市場規(guī)模或者征收消極的交叉補(bǔ)貼的后果,因此通過使用大數(shù)據(jù),根據(jù)預(yù)期的個人需求為每個用戶量身定制產(chǎn)品進(jìn)行個性化規(guī)則,既能夠提升有效性,又能降低風(fēng)險(xiǎn)性;個性化保護(hù)是一個新穎解決方案。②參見[美]歐姆瑞·本·沙哈爾、[以色列]阿瑞爾·博拉:《合同法中強(qiáng)制性規(guī)則的個性化》,劉穎、葉哲君譯,《民商法論叢》2020年第2期,第133頁。在互聯(lián)網(wǎng)個人信息保護(hù)中的普遍免費(fèi)模式有保護(hù)不足的問題,尤其是虛化了個人信息保護(hù)的“同意原則”。①參見張新寶:《“普遍免費(fèi)+個別付費(fèi)”:個人信息保護(hù)的一個新思維》,《比較法研究》2018年第5期,第3頁。因此,個人信息保護(hù)需要引入個別付費(fèi)模式加以矯正和補(bǔ)充,形成與“普遍免費(fèi)”模式并行的“普遍免費(fèi)+個別付費(fèi)”雙重模式。②參見張新寶:《“普遍免費(fèi)+個別付費(fèi)”:個人信息保護(hù)的一個新思維》,第12頁。同時,在具體場景中,對信息主體的經(jīng)濟(jì)激勵機(jī)制可以作為同意的促成機(jī)制,有益于個人信息保護(hù)和數(shù)據(jù)合理使用的平衡。③蔡培如、王錫鋅:《論個人信息保護(hù)中的人格保護(hù)與經(jīng)濟(jì)激勵機(jī)制》,《比較法研究》2020年第1期,第106頁。

    上述討論為算法消費(fèi)者在個人信息保護(hù)中的“同意”機(jī)制的多元化解釋提供了方案。在比較法上,《加州消費(fèi)者隱私法案》(California Consumer Privacy Act)中即對消費(fèi)者主體進(jìn)行區(qū)分,賦予企業(yè)通過差異化價(jià)格或費(fèi)率向消費(fèi)者提供個人信息經(jīng)濟(jì)激勵計(jì)劃;如第1798.125節(jié)(a)、(b)款分別規(guī)定了企業(yè)為了個人信息收集、出售、刪除等向消費(fèi)者提供經(jīng)濟(jì)激勵,并在《加州消費(fèi)者隱私法案條例》(California Consumer Privacy Act Regulation)第999.307節(jié)的“經(jīng)濟(jì)激勵告知”中作出細(xì)致規(guī)定。有學(xué)者建議對同意機(jī)制的多元化有所回應(yīng),如“信息業(yè)者、政務(wù)部門處理個人信息,應(yīng)當(dāng)事先征得信息主體的同意,但法律、行政法規(guī)另有規(guī)定的除外”④張新寶、葛鑫:《個人信息保護(hù)法(專家建議稿)及立法理由書》,北京:中國人民大學(xué)出版社,2021年,第35頁。。遺憾的是,《個人信息保護(hù)法》針對個人信息進(jìn)行不區(qū)分主體的統(tǒng)一保護(hù)。但算法消費(fèi)者與一般個人也有一定差異性,尤其需要考慮算法消費(fèi)者與平臺經(jīng)營者之間在個人信息保護(hù)和信息流通、數(shù)據(jù)使用中的利益平衡。因此,為算法消費(fèi)者提供“經(jīng)濟(jì)激勵+普遍免費(fèi)+個別付費(fèi)”的個性化同意機(jī)制方案,可以滿足不同類型算法消費(fèi)者的同意機(jī)制需求,也可回避“同意”機(jī)制一刀切模式的形同虛設(shè)弊端。

    2.算法應(yīng)用下的個性化披露。從《消費(fèi)者權(quán)益保護(hù)法》規(guī)定的消費(fèi)者知情權(quán)和經(jīng)營者告知義務(wù)觀察,告知義務(wù)的范圍并非漫無邊際的全面披露,而是要實(shí)現(xiàn)有效的告知,信息披露的程度無限制地?cái)U(kuò)大不當(dāng)然等于消費(fèi)者獲得有效保護(hù)。因?yàn)闊o限制地?cái)U(kuò)大告知義務(wù)范圍不符合經(jīng)營者和消費(fèi)者的利益需求,甚至可能導(dǎo)致交易成本的邊際遞增。⑤劉穎:《經(jīng)營者沉默欺詐認(rèn)定的矯正與回歸》,《華東政法大學(xué)學(xué)報(bào)》2020年第5期,第191頁?;诖?,以數(shù)字技術(shù)發(fā)展的角度考慮,通過算法和數(shù)據(jù)的應(yīng)用實(shí)現(xiàn)個性化披露是另一個解決方案。從法律制度發(fā)展的脈絡(luò)來看,立法一直在追求法律規(guī)則的個性化,但限制于技術(shù)條件,只能通過法律解釋進(jìn)行規(guī)則的類型化分析。個性化法律的關(guān)鍵目的是利用大數(shù)據(jù)、區(qū)塊鏈等數(shù)字技術(shù)進(jìn)行監(jiān)管,這有利于作為數(shù)據(jù)主體的算法消費(fèi)者,而不被個性化法律剝削或計(jì)算。隨著大數(shù)據(jù)、預(yù)測算法(prediction algorithm)和即時通信(instantaneous communication)等有關(guān)技術(shù)的發(fā)展,法律為實(shí)現(xiàn)其目標(biāo)而發(fā)現(xiàn)和傳達(dá)相關(guān)個人背景的成本得以減少,因此,實(shí)現(xiàn)量身定制、準(zhǔn)確且高度語境化的法律目標(biāo)變得更加切實(shí)可行。⑥Anthony J.Casey,Anthony Niblett,“A Framework for the New Personalization of Law”,The University of Chicago Law Review,vol.86,no.2,2019,p.335.例如,經(jīng)營者通過用戶畫像分析和個性化算法推薦向算法消費(fèi)者進(jìn)行精準(zhǔn)推送廣告或商業(yè)營銷,此即為量身定制、準(zhǔn)確的個性化方式的運(yùn)用。

    平臺經(jīng)營者對消費(fèi)者了解得越多,就意味著向他們提供相關(guān)信息的責(zé)任越大,因?yàn)楦?xì)粒度的算法消費(fèi)者數(shù)據(jù)畫像意味著更細(xì)粒度的披露。⑦Christoph Busch,“Implementing Personalized Law:Personalized Disclosures in Consumer Law and Data Privacy Law”,The University of Chicago Law Review,vol.86,no.2,2019,pp.327-328.個性化披露的優(yōu)勢在于定制披露項(xiàng)目的顯著性級別和信息披露的復(fù)雜程度,從而減少信息過載的風(fēng)險(xiǎn)。因?yàn)楫?dāng)前統(tǒng)一披露制度的關(guān)鍵問題是信息超載的風(fēng)險(xiǎn),每條信息的同等權(quán)重加劇了這一風(fēng)險(xiǎn);此時,每位消費(fèi)者都得到了相同的信息,但并不是所有信息對每個人都同等重要。①Philipp,Hacker,Personalizing EU Private Law:From Disclosures to Nudges and Mandates,European Review of Private Law,vol.25,no.3,2017,p.667.因此,個性化披露的本質(zhì)是由消費(fèi)者自身的大數(shù)據(jù)畫像決定其所能看見的信息披露內(nèi)容。

    基于此,在數(shù)字時代中算法的大規(guī)模應(yīng)用下,應(yīng)賦予算法消費(fèi)者選擇是否同意平臺經(jīng)營者利用個性化信息進(jìn)行用戶畫像的權(quán)利,如果算法消費(fèi)者選擇進(jìn)入隱私友好模式,那么平臺經(jīng)營者可按照傳統(tǒng)統(tǒng)一披露的方式履行告知義務(wù)。但如果其選擇個性化的用戶畫像,則課以平臺經(jīng)營者個性化披露的義務(wù),通過個性化算法來約束平臺經(jīng)營者。

    3.《民法典》視角中的算法消費(fèi)者個人私密信息的保護(hù)。我國《民法典》采取了隱私權(quán)和個人信息二元化的架構(gòu),②參見許可、孫銘溪:《個人私密信息的再厘清》,《中國應(yīng)用法學(xué)》2021年第1期,第3頁。對隱私權(quán)和個人信息規(guī)定了不同的保護(hù)路徑。但《民法典》1034條第3款規(guī)定“個人信息中的私密信息,適用有關(guān)隱私權(quán)的規(guī)定;沒有規(guī)定的,適用有關(guān)個人信息保護(hù)的規(guī)定”,個人信息中的私密信息保護(hù)可以經(jīng)由該條突破二元化架構(gòu)。從解釋上觀察,將個人信息中的私密信息保護(hù)直接適用隱私權(quán)的規(guī)定,可見立法者對于私密信息突出保護(hù)的用意極其明顯。如前述,算法消費(fèi)者作為民事主體中的自然人,自然可以適用《民法典》關(guān)于個人信息保護(hù)的規(guī)則。因此,算法消費(fèi)者的個人私密信息保護(hù)亦有隱私權(quán)保護(hù)的優(yōu)先適用路徑。

    算法消費(fèi)者的個人私密信息有別于傳統(tǒng)消費(fèi)者的個人私密信息。在傳統(tǒng)條件下,由于受制于技術(shù)條件,經(jīng)營者無法有效獲取消費(fèi)者有關(guān)消費(fèi)需求、消費(fèi)傾向等方面的信息。③黃薇主編:《中華人民共和國民法典人格權(quán)編解讀》,北京:中國法制出版社,2020年,第203頁。傳統(tǒng)消費(fèi)者的個人私密信息,更多是一些可通過物理方式獲知具有身份特征且不愿被人知曉的隱私。但在數(shù)字社會中,算法消費(fèi)者的網(wǎng)絡(luò)行蹤痕跡、消費(fèi)偏好、消費(fèi)需求等具有隱私性的信息,被平臺經(jīng)營者利用智能算法技術(shù)肆意地隱蔽性收集和分析從而形成用戶畫像。基于個人私密信息既需要滿足可具識別性的客觀特征,也應(yīng)滿足不愿被他人知曉的主觀特征,其范圍存在一定彈性空間,不能通過立法列舉式的規(guī)定進(jìn)行確定。因?yàn)椴煌袠I(yè)、領(lǐng)域的消費(fèi)者和不同類型的消費(fèi)者,如算法消費(fèi)者和傳統(tǒng)消費(fèi)者對于“不愿他人知曉”的主觀感受程度截然不同??傊瑐€人私密信息應(yīng)當(dāng)根據(jù)社會正常交往、交易關(guān)系等各種動態(tài)變化的因素互相作用、影響形成的不同場景和對象予以確定。④參見冉克平:《論〈民法典〉視野下個人隱私信息的保護(hù)與利用》,《社會科學(xué)輯刊》2021年第5期,第109頁。以算法消費(fèi)者為例,在不同交易關(guān)系和類型中可能影響消費(fèi)者選擇或決定形成的消費(fèi)偏好、網(wǎng)絡(luò)瀏覽痕跡等可以被認(rèn)定為私密信息。

    再者,算法消費(fèi)者的個人敏感信息與個人私密信息具有一定重疊部分。《民法典》中個人信息和個人私密信息主要是從私法保護(hù)路徑上進(jìn)行區(qū)分,《個人信息保護(hù)法》從個人信息處理規(guī)則的不同區(qū)分為個人信息和個人敏感信息,二者在分類的標(biāo)準(zhǔn)和目的上均不同。有學(xué)者在此基礎(chǔ)上將私密信息分為敏感隱私信息和非敏感隱私信息。⑤參見冉克平:《論〈民法典〉視野下個人隱私信息的保護(hù)與利用》,第110頁。對于算法消費(fèi)者而言,其個人私密信息主要是指不想被經(jīng)營者所知曉,或者一旦被知曉可能對用戶畫像產(chǎn)生影響的個人信息,例如讀書記錄、電影購票記錄和購物訂單記錄等網(wǎng)絡(luò)行蹤軌跡等。但算法消費(fèi)者的個人私密信息范圍具有一定的個性化特征,因此可結(jié)合同意多元化機(jī)制認(rèn)定不同算法消費(fèi)者個人私密信息的場景。

    最后,個人私密信息保護(hù)與個人信息非私密保護(hù)在法律效果上有明顯差別。個人私密信息可基于《民法典》第1034條第3款的指引性規(guī)定,適用《民法典》第1033條及《民法典·侵權(quán)責(zé)任編》中關(guān)于侵害隱私權(quán)的請求權(quán)基礎(chǔ),并獲得侵權(quán)責(zé)任的救濟(jì)。必須指出的是,《民法典》第1033條處理他人的私密信息的例外要件是“除法律另有規(guī)定或者權(quán)利人明確同意”,此處的“權(quán)利人明確同意”與《個人信息保護(hù)法》第14條的“在充分知情的前提下自愿、明確作出同意”具有不同法律意義。前者是基于隱私權(quán)適用的授權(quán),后者為個人信息保護(hù)法中的“告知+同意”機(jī)制的形式要件履行。

    (二)算法消費(fèi)者自動化決策拒絕權(quán):從形式到實(shí)質(zhì)控制

    從平臺自主利用算法進(jìn)行商業(yè)化運(yùn)作以來,消費(fèi)者都是被動地或被默認(rèn)地不自主地成為算法消費(fèi)者,以至于算法消費(fèi)者被算法悄無聲息地“算計(jì)”和“剝削”。賦予算法消費(fèi)者參與自動化決策的控制權(quán)意義在于,讓消費(fèi)者充分自主地評估算法介入場景的風(fēng)險(xiǎn),并決定是否參與該場景的各類行為之中,本質(zhì)上為自主選擇權(quán)。

    《個人信息保護(hù)法》第24條規(guī)定了個人的自動化決策的拒絕權(quán),該規(guī)定是針對算法消費(fèi)者的特殊規(guī)定,并賦予算法消費(fèi)者參與自動化決策的拒絕權(quán),也是第一次在法律中確認(rèn)了以算法為核心的自動化決策可由個人決定是否參與的權(quán)利,具有重要?dú)v史意義。但該條賦予算法消費(fèi)者參與自動化決策拒絕權(quán)也有不足之處,其根本問題在于該拒絕權(quán)僅有形式意義上的控制權(quán),并且在適用范圍上局限于“信息推送”和“商業(yè)營銷”。對此,比較法上有關(guān)自動化決策拒絕權(quán)在適用條件、方式和適用范圍上規(guī)定得更加明確具體。例如,歐盟《通用數(shù)據(jù)保護(hù)條例》第四節(jié)專門規(guī)定了拒絕權(quán)與自動化的個人自決,其中《通用數(shù)據(jù)保護(hù)條例》第21條規(guī)定了拒絕權(quán)的適用條件與方式;第22條規(guī)定了自動化的個人自決適用范圍不限于識別分析,主要保護(hù)數(shù)據(jù)主體不受基于自動化處理得出決定的制約,避免對數(shù)據(jù)主體產(chǎn)生影響。我國《個人信息保護(hù)法》第24條規(guī)定的拒絕權(quán)在適用上具有一定的局限性,留給了法律解釋的空間。我國互聯(lián)網(wǎng)服務(wù)監(jiān)管機(jī)構(gòu)注意到了以算法為核心的自動化決策規(guī)制的不足,《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中的第17條賦予了用戶關(guān)閉算法推薦服務(wù)的選擇權(quán)。相比《個人信息保護(hù)法》第24條,該規(guī)定擴(kuò)大了用戶的算法推薦服務(wù)關(guān)閉權(quán)的適用范圍,突破了“信息推送”和“商業(yè)營銷”的范圍,而是適用于所有算法推薦服務(wù)的場景。但該規(guī)定僅為部門規(guī)章,主要是用于監(jiān)管機(jī)構(gòu)規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動,并非從法律、法規(guī)層面賦予算法消費(fèi)者(用戶)私法意義上的自主拒絕權(quán)(關(guān)閉權(quán))。

    從實(shí)證法分析,我國《消費(fèi)者權(quán)益保護(hù)法》第9條第1款規(guī)定了消費(fèi)者自主選擇權(quán),即消費(fèi)者享有自主選擇商品或者服務(wù)的權(quán)利;在該條第2款中進(jìn)一步規(guī)定了自主選擇權(quán)的范圍。在傳統(tǒng)商業(yè)消費(fèi)模式中,為了降低信息不對稱損害消費(fèi)者權(quán)益的影響,消費(fèi)者自主選擇權(quán)的范圍基本上包括經(jīng)營者的選擇、商品品種或者服務(wù)方式的選擇以及自主訂立合同等。然而,在現(xiàn)代互聯(lián)網(wǎng)消費(fèi)模式中,尤其是以算法和大數(shù)據(jù)共同嵌入的交易行為之中,經(jīng)營者和算法消費(fèi)者交易的除商品或服務(wù)本身的信息不對稱外,還造成新型的技術(shù)信息不對稱?;诖?,筆者認(rèn)為可對《消費(fèi)者權(quán)益保護(hù)法》第9條第1款的消費(fèi)者自主選擇權(quán)進(jìn)行擴(kuò)大解釋,將算法消費(fèi)者算法(自動化決策)的自主選擇權(quán)納入作為消費(fèi)者自主選擇權(quán)范圍之內(nèi)。由此,構(gòu)建算法消費(fèi)者私法意義上的自動化決策的自主選擇權(quán),賦予消費(fèi)者從自動化決策的形式拒絕到實(shí)質(zhì)控制的權(quán)利。

    (三)算法個人信息處理者的信息信義義務(wù)

    在數(shù)字時代的消費(fèi)場景中,算法消費(fèi)者點(diǎn)擊“同意”后即開啟了信息被處理的大門。數(shù)字算法場景中信息處理具有復(fù)雜性、隱蔽性和技術(shù)性等特征,即使算法消費(fèi)者在信息處理過程中可享有知情權(quán)、查閱權(quán)、刪除權(quán)和可攜帶權(quán)等過程保護(hù)的權(quán)利。但不可改變的窘境是,個人信息或數(shù)據(jù)一旦經(jīng)“同意”機(jī)制獲得自由的通行證之后,算法消費(fèi)者幾乎完全失去了個人信息的控制力。此時,與其通過利益平衡賦予或規(guī)定各項(xiàng)權(quán)利、機(jī)制加劇雙方的矛盾狀態(tài),還不如通過“信任”的粘合劑來黏合經(jīng)營者與算法消費(fèi)者之間的關(guān)系。

    信息信義義務(wù)是傳統(tǒng)信義義務(wù)向數(shù)字社會的延伸。信義義務(wù)的范圍具有一定的開放性,并且隨著社會經(jīng)濟(jì)的變化而不斷發(fā)展。新型忠實(shí)關(guān)系之程序持續(xù)進(jìn)行中,依服務(wù)條款內(nèi)容、托付財(cái)產(chǎn)或權(quán)利之本質(zhì)、交易成立之目的及誘因、被委任之個人或機(jī)構(gòu)對委托人控制影響力之有無以及對受任人違背及濫用信任行為之誘惑等內(nèi)容而定。①[美]Tamar Frankel:《忠實(shí)法》,林鼎鈞、翁祖立譯,臺北:臺灣新學(xué)林出版股份有限公司,2016年,第62頁。忠實(shí)關(guān)系不僅是人與人之間信賴之基礎(chǔ),也是社會制度憑以建立之信賴基礎(chǔ)。②[美]Tamar Frankel:《忠實(shí)法》,第91頁。信任對于可持續(xù)的數(shù)字未來至關(guān)重要,促進(jìn)信任的隱私規(guī)則可以創(chuàng)造個人和社會價(jià)值。③Neil Richards and Woodrow Hartzog,“Taking Trust Seriously in Privacy Law”,Stanford Technology Law Review,vol.19,2016,p.472.因此,在數(shù)字時代,以算法和大數(shù)據(jù)主導(dǎo)的網(wǎng)絡(luò)服務(wù)提供商與用戶(算法消費(fèi)者)之間的關(guān)系具有類似性,信息信義義務(wù)可以作為一種新形態(tài)的信義義務(wù)。丹尼爾·沙勒夫(Daniel Solove)認(rèn)為,在數(shù)字時代里數(shù)據(jù)企業(yè)收集了大量個人信息,數(shù)據(jù)企業(yè)和個人之間存在信義關(guān)系,需要通過信義法指導(dǎo)并制定完善的政策對此進(jìn)行規(guī)制。④Daniel J.Solve,The Digital Person:Technology and Privacy in the Information Age,New York:New York University Press,2004,pp.102-105.巴爾金教授(Balkin)認(rèn)為許多網(wǎng)絡(luò)服務(wù)商以及收集、分析、使用、買賣和分配個人信息的云計(jì)算公司應(yīng)視作顧客和用戶的信息受托人。⑤Jack M.Balkin,“Information Fiduciaries and the First Amendment”,UC Davis Law Review,vol.49,no.4,2016,p.1185.信息信義義務(wù)受托人不能誘使終端用戶(算法消費(fèi)者)信任他們以獲取個人信息,然后以背叛這種信任的方式使用這種信息,這不利于終端用戶(算法消費(fèi)者)的利益。⑥[美]杰克·巴爾金:《算法社會的三大法則》,劉穎、陳瑤瑤譯,《法治現(xiàn)代化研究》2021年第2期,第193頁。

    關(guān)于信息信義義務(wù)的內(nèi)涵和范圍,有學(xué)者將信息隱私法中的信義義務(wù)內(nèi)容列為謹(jǐn)慎義務(wù)(Discretion)、誠實(shí)守信義務(wù)(Honesty)、保護(hù)義務(wù)(Protection),并引入忠實(shí)義務(wù)(Loyalty)作為隱私的基本價(jià)值。⑦Neil Richards and Woodrow Hartzog,“Taking Trust Seriously in Privacy Law”,pp.458-465.也有學(xué)者從數(shù)據(jù)隱私與用戶期待關(guān)系中提出信息信義義務(wù)的范圍,即信息信義義務(wù)的標(biāo)準(zhǔn)可以確保在充分保護(hù)個人的同時,以數(shù)據(jù)為中心的業(yè)務(wù)模型可以繼續(xù)運(yùn)行??梢?,信息信義義務(wù)與傳統(tǒng)信義義務(wù)的內(nèi)涵與特征基本一致,只是在每項(xiàng)內(nèi)容中融入了信息和隱私保護(hù)的元素。在數(shù)字時代,值得信任意味著謹(jǐn)慎對待我們的數(shù)據(jù)、誠實(shí)對待數(shù)據(jù)實(shí)踐的風(fēng)險(xiǎn)、保護(hù)我們的個人信息,最重要的是忠誠于我們這些數(shù)據(jù)主體。⑧Neil Richards and Woodrow Hartzog,“Taking Trust Seriously in Privacy Law”,p.501.信息信義義務(wù)在我國實(shí)證法上也有所回應(yīng),例如《個人信息保護(hù)法》第5條后句、《中華人民共和國數(shù)據(jù)安全法》第8條、《網(wǎng)絡(luò)安全法》第9條以及《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第4條對信息信義義務(wù)作了大致的規(guī)定。綜上,通過解釋上述條文課以經(jīng)營者信息信義義務(wù),可以讓算法消費(fèi)者獲得從個人信息收集、信息處理和信息應(yīng)用的全過程的保護(hù),以此彌補(bǔ)同意機(jī)制的缺陷。

    四、算法消費(fèi)者個人信息的公益訴訟保護(hù)

    (一)基于個人信息保護(hù)公益訴訟的算法消費(fèi)者個人信息保護(hù)

    1.提起公益訴訟的主體?!秱€人信息保護(hù)法》第70條規(guī)定的公益訴訟提起主體范圍為“人民檢察院、法律規(guī)定的消費(fèi)者組織和由國家網(wǎng)信部門確定的組織”。首先,市級人民檢察院是個人信息公益訴訟保護(hù)的提起主體之一。根據(jù)《最高人民法院、最高人民檢察院關(guān)于檢察公益訴訟案件適用法律若干問題的解釋》(以下簡稱為《公益訴訟司法解釋》)第5條規(guī)定,檢察機(jī)關(guān)的民事公益訴訟提起主體為市(分、州)人民檢察院。其次,法律規(guī)定的消費(fèi)者組織也是個人信息公益訴訟的提起主體,此處是《個人信息保護(hù)法(三審稿)》在《個人信息保護(hù)法(二審稿)》的基礎(chǔ)上增加的內(nèi)容。法律有廣義上的法律和狹義上的法律之區(qū)分,此處需要進(jìn)一步解釋。一方面,根據(jù)立法資料解釋,在草案三次審議稿第七十條中增加“法律規(guī)定的消費(fèi)者組織”是為了與消費(fèi)者權(quán)益保護(hù)法有關(guān)規(guī)定相銜接,似乎對“法律”應(yīng)作狹義上解釋,即僅包括全國人大或全國人大常委會制定的法律。另一方面,作為地方性法規(guī)的《深圳經(jīng)濟(jì)特區(qū)數(shù)據(jù)條例》也對數(shù)據(jù)公益訴訟作出相應(yīng)的規(guī)定,例如在其第98條中將數(shù)據(jù)公益訴訟的提起主體限定為“法律、法規(guī)規(guī)定的組織可以依法提起民事公益訴訟”,此處的法律與法規(guī)作并列處理,也僅指狹義上的法律。故而,《個人信息保護(hù)法》所涉“法律規(guī)定的消費(fèi)者組織”應(yīng)解釋為狹義上法律規(guī)定的消費(fèi)者組織。根據(jù)現(xiàn)有法律規(guī)定的消費(fèi)者組織,主要是指《消費(fèi)者權(quán)益保護(hù)法》第47條規(guī)定的“中國消費(fèi)者協(xié)會以及省級消費(fèi)者協(xié)會”。最后,國家網(wǎng)信部門確定的組織也是個人信息保護(hù)的提起主體。網(wǎng)信部門是國家互聯(lián)網(wǎng)信息管理的主體部門,《個人信息保護(hù)法》第70條將個人信息公益訴訟提起主體規(guī)定為“國家網(wǎng)信部門確定的組織”,一定程度上給予了網(wǎng)信部門自由度。此處的“國家網(wǎng)信部門”應(yīng)作限定解釋,僅指中華人民共和國國家互聯(lián)網(wǎng)信息辦公室,并不包括省級以下網(wǎng)信部門。

    上述三類個人信息保護(hù)公益訴訟提起主體是否具有順位,《個人信息保護(hù)法》第70條僅做了列舉性規(guī)定,未做進(jìn)一步規(guī)定。在學(xué)者建議稿中,張新寶教授認(rèn)為人民檢察院提起個人信息公益訴訟具有補(bǔ)充地位。①參見張新寶、葛鑫:《個人信息保護(hù)法(專家建議稿)及立法理由書》,第232頁。另外,從《民事訴訟法》第55條的變遷來看,《民事訴訟法》第55條于2017年修正時增加了第2款。可見,檢察院在公益訴訟中具有一定的謙抑性。對于消費(fèi)者組織和國家網(wǎng)信部門的順位上,需要在解釋上進(jìn)一步研究?;谇笆鋈珖舜髴椃ㄅc法律委員會的修改意見報(bào)告,消費(fèi)者個人信息公益訴訟應(yīng)作為個人信息公益訴訟的一種類型。所以在算法消費(fèi)者的個人信息公益訴訟問題上,應(yīng)先由消費(fèi)者組織提起,再由國家網(wǎng)信部門確定的組織作為訴訟提起主體。如果是除消費(fèi)者外的個人信息保護(hù)公益訴訟,此時消費(fèi)者組織并非訴訟提起主體,自然由國家網(wǎng)信部門確定的組織作為公益訴訟提起主體。

    2.個人信息公益訴訟制度的其他要件。個人信息公益訴訟的適用范圍,首先應(yīng)為個人信息處理者違反個人信息保護(hù)法規(guī)定處理個人信息。在算法消費(fèi)者個人信息保護(hù)場景,應(yīng)為個人信息處理者(包括互聯(lián)網(wǎng)平臺經(jīng)營者、平臺內(nèi)經(jīng)營者)違反個人信息保護(hù)法規(guī)定處理算法消費(fèi)者的個人信息時,可適用個人信息公益訴訟的保護(hù)。就文義解釋上而言,似乎所有違反個人信息保護(hù)法規(guī)定處理算法消費(fèi)者個人信息的,都可被提起公益訴訟。但是,基于公益訴訟是私益訴訟的補(bǔ)充,個人信息公益訴訟仍應(yīng)從私法上的請求權(quán)基礎(chǔ)向個人信息不法行為人主張承擔(dān)相應(yīng)的民事責(zé)任,因此需要《個人信息保護(hù)法》結(jié)合其他民事規(guī)范進(jìn)行適用。

    (二)基于消費(fèi)者公益訴訟的算法消費(fèi)者保護(hù)

    《消費(fèi)者權(quán)益保護(hù)法》第47條規(guī)定了消費(fèi)者公益訴訟,但該條僅籠統(tǒng)地規(guī)定對“侵害眾多消費(fèi)者合法權(quán)益的行為”可提起訴訟。《最高人民法院關(guān)于審理消費(fèi)民事公益訴訟案件適用法律若干問題的解釋》(以下簡稱為《消費(fèi)民事公益訴訟司法解釋》)對于消費(fèi)民事公益訴訟制度作出比較詳細(xì)的規(guī)定,《公益訴訟司法解釋》第1條回應(yīng)了消費(fèi)民事公益訴訟的適用范圍限定于“經(jīng)營者侵害眾多不特定消費(fèi)者合法權(quán)益……”,并在第2條對于適用《消費(fèi)者權(quán)益保護(hù)法》第47條的范圍做了列舉,該條第5項(xiàng)規(guī)定“其他侵害眾多不特定消費(fèi)者合法權(quán)益或者具有危及消費(fèi)者人身、財(cái)產(chǎn)安全危險(xiǎn)等損害社會公共利益的行為”也可納入消費(fèi)民事公益訴訟的適用范圍。前文的研究已經(jīng)論及,從解釋上可將《消費(fèi)者權(quán)益保護(hù)法》中的知情權(quán)和自主選擇權(quán)的主體擴(kuò)大到算法消費(fèi)者,即其在數(shù)據(jù)、算法主導(dǎo)的消費(fèi)場景中對于算法等自動化決策、算法運(yùn)行等情況的知情權(quán)和自主選擇權(quán)。據(jù)此,經(jīng)營者基于算法或數(shù)據(jù)等技術(shù)性手段侵害消費(fèi)者的行為可解釋為“其他侵害眾多不特定消費(fèi)者合法權(quán)益損害社會公共利益的行為”的一種類型。因此,算法消費(fèi)者可以通過消費(fèi)民事公益訴訟獲得救濟(jì)。

    消費(fèi)民事公益訴訟中的提起主體除了消費(fèi)者協(xié)會組織外,還包括檢察院。因?yàn)椤断M(fèi)民事公益訴訟司法解釋》第1條第2款規(guī)定了法律規(guī)定或全國人大及其常委會授權(quán)的機(jī)關(guān)和社會組織提起的消費(fèi)民事公益訴訟也適用該司法解釋,《民事訴訟法》(2017年)第55條第2款明確規(guī)定了人民檢察院有權(quán)提起消費(fèi)公益訴訟。據(jù)此,人民檢察院也可作為算法消費(fèi)者民事公益訴訟的提起主體。

    結(jié)論

    在數(shù)字經(jīng)濟(jì)社會,傳統(tǒng)消費(fèi)者與經(jīng)營者的模式向算法消費(fèi)者和平臺經(jīng)營者模式轉(zhuǎn)變,消費(fèi)者保護(hù)框架亦從傳統(tǒng)消費(fèi)者到算法消費(fèi)者過渡?,F(xiàn)行《民法典》《消費(fèi)者權(quán)益保護(hù)法》《電子商務(wù)法》《個人信息保護(hù)法》所構(gòu)造的消費(fèi)者個人信息保護(hù)體系,均以傳統(tǒng)消費(fèi)者保護(hù)場景作為參照物,不能很好地應(yīng)對數(shù)字經(jīng)濟(jì)社會復(fù)雜的智能算法技術(shù)恣意侵害算法消費(fèi)者的情況。算法消費(fèi)者的保護(hù)問題,將是數(shù)字經(jīng)濟(jì)社會中的重要課題之一。算法消費(fèi)者不僅是民事主體中的自然人,也是消費(fèi)者的一種新類型,還是電子商務(wù)的重要參與者。因此,算法消費(fèi)者個人信息保護(hù)體系的構(gòu)建,需要在《民法典》《個人信息保護(hù)法》《消費(fèi)者權(quán)益保護(hù)法》《電子商務(wù)法》等法律的基礎(chǔ)上進(jìn)行法律銜接與適用空間的解釋或立法構(gòu)造。

    猜你喜歡
    保護(hù)法經(jīng)營者個人信息
    明清珠江三角洲基塘區(qū)的田場與經(jīng)營者
    廣州文博(2023年0期)2023-12-21 07:24:30
    我國將加快制定耕地保護(hù)法
    如何保護(hù)勞動者的個人信息?
    工會博覽(2022年16期)2022-07-16 05:53:54
    個人信息保護(hù)進(jìn)入“法時代”
    《經(jīng)營者》征稿啟事
    未成年人保護(hù)法 大幅修訂亮點(diǎn)多
    海峽姐妹(2020年11期)2021-01-18 06:16:24
    警惕個人信息泄露
    綠色中國(2019年14期)2019-11-26 07:11:44
    聚眾淫亂罪的保護(hù)法益及處罰限定
    做一名聰明的集團(tuán)醫(yī)院經(jīng)營者
    未成年人保護(hù)法(一)
    新少年(2014年7期)2014-07-23 05:54:46
    成年女人看的毛片在线观看| 免费一级毛片在线播放高清视频| 日韩 亚洲 欧美在线| 国产精品美女特级片免费视频播放器| 天堂影院成人在线观看| kizo精华| 寂寞人妻少妇视频99o| 26uuu在线亚洲综合色| 超碰av人人做人人爽久久| 日本欧美国产在线视频| av黄色大香蕉| 精品国产一区二区三区久久久樱花 | 久久久久久久亚洲中文字幕| 精品酒店卫生间| 国产真实伦视频高清在线观看| 男女边吃奶边做爰视频| 国内精品宾馆在线| 免费观看精品视频网站| 欧美一区二区精品小视频在线| 国产高清视频在线观看网站| 麻豆成人午夜福利视频| 波多野结衣巨乳人妻| 1000部很黄的大片| 国产成人精品婷婷| 欧美色视频一区免费| 国产 一区 欧美 日韩| 国产白丝娇喘喷水9色精品| 久久国产乱子免费精品| 一夜夜www| 国产精品国产三级国产专区5o | 少妇被粗大猛烈的视频| 亚洲精品色激情综合| 少妇裸体淫交视频免费看高清| 最后的刺客免费高清国语| 一卡2卡三卡四卡精品乱码亚洲| 国产成人一区二区在线| 2021天堂中文幕一二区在线观| 亚洲精品国产成人久久av| 99在线视频只有这里精品首页| 真实男女啪啪啪动态图| 永久免费av网站大全| 亚洲精品乱久久久久久| 成人性生交大片免费视频hd| 国产精品野战在线观看| 中文字幕av成人在线电影| 长腿黑丝高跟| 少妇人妻精品综合一区二区| 欧美日本视频| www日本黄色视频网| 一夜夜www| 久热久热在线精品观看| www.av在线官网国产| 成人三级黄色视频| 99久久无色码亚洲精品果冻| 国产又黄又爽又无遮挡在线| 两个人的视频大全免费| 最近视频中文字幕2019在线8| 51国产日韩欧美| 成人欧美大片| 午夜福利在线在线| 狠狠狠狠99中文字幕| 又爽又黄无遮挡网站| 欧美日韩国产亚洲二区| 久久精品国产自在天天线| 91久久精品国产一区二区成人| 国产精品蜜桃在线观看| 小说图片视频综合网站| 丰满人妻一区二区三区视频av| 最近手机中文字幕大全| 秋霞伦理黄片| 久久99蜜桃精品久久| 久久综合国产亚洲精品| 极品教师在线视频| 人人妻人人澡人人爽人人夜夜 | 亚洲国产欧美在线一区| 秋霞在线观看毛片| 人妻制服诱惑在线中文字幕| 久久99热这里只有精品18| 午夜福利在线观看吧| 亚洲国产精品国产精品| 1000部很黄的大片| 超碰av人人做人人爽久久| 国产一级毛片在线| 国产精品国产高清国产av| 国产不卡一卡二| 久久韩国三级中文字幕| 国产成人a区在线观看| 亚洲欧美精品自产自拍| 噜噜噜噜噜久久久久久91| 国产视频内射| 国产精品乱码一区二三区的特点| 日本wwww免费看| 亚洲婷婷狠狠爱综合网| 中文字幕久久专区| 亚洲乱码一区二区免费版| 最近中文字幕高清免费大全6| 女的被弄到高潮叫床怎么办| 熟女电影av网| 色综合站精品国产| 中文字幕亚洲精品专区| 最近中文字幕2019免费版| 在线免费观看的www视频| 大香蕉97超碰在线| 18+在线观看网站| 自拍偷自拍亚洲精品老妇| 日韩成人av中文字幕在线观看| 中文字幕制服av| 小说图片视频综合网站| 男女国产视频网站| 99热这里只有精品一区| av福利片在线观看| 亚洲av福利一区| 日韩 亚洲 欧美在线| 久久久久免费精品人妻一区二区| 九九久久精品国产亚洲av麻豆| 国产精品久久视频播放| 精品国内亚洲2022精品成人| 亚洲成人中文字幕在线播放| 亚洲欧美清纯卡通| av专区在线播放| 2021天堂中文幕一二区在线观| 免费观看性生交大片5| 久久久久久久国产电影| 国产免费一级a男人的天堂| 精品久久国产蜜桃| 国产精品久久久久久久久免| 欧美区成人在线视频| 亚洲国产欧美在线一区| 三级国产精品片| 国产精品不卡视频一区二区| 亚洲中文字幕一区二区三区有码在线看| 欧美日韩精品成人综合77777| 亚洲内射少妇av| 日本av手机在线免费观看| 2021少妇久久久久久久久久久| 嘟嘟电影网在线观看| 国产免费福利视频在线观看| eeuss影院久久| 中文字幕熟女人妻在线| 好男人视频免费观看在线| 超碰97精品在线观看| www.av在线官网国产| 亚洲av男天堂| 午夜爱爱视频在线播放| 一个人看视频在线观看www免费| 2021天堂中文幕一二区在线观| 成年女人永久免费观看视频| 亚洲高清免费不卡视频| av女优亚洲男人天堂| 中文字幕亚洲精品专区| 亚洲性久久影院| 永久网站在线| 国产精品av视频在线免费观看| 我要看日韩黄色一级片| 国产在视频线精品| 亚洲av不卡在线观看| 中文资源天堂在线| 99热网站在线观看| 精品一区二区三区视频在线| 九草在线视频观看| 国产国拍精品亚洲av在线观看| 日韩一区二区三区影片| 欧美区成人在线视频| 亚洲欧洲日产国产| 中文字幕免费在线视频6| 中文亚洲av片在线观看爽| 日本猛色少妇xxxxx猛交久久| 国产乱来视频区| 国产毛片a区久久久久| 我的女老师完整版在线观看| 欧美xxxx性猛交bbbb| 伊人久久精品亚洲午夜| 日韩三级伦理在线观看| 特大巨黑吊av在线直播| 成年女人看的毛片在线观看| 日日干狠狠操夜夜爽| 国产大屁股一区二区在线视频| 男人舔奶头视频| 69av精品久久久久久| 久久久久久久亚洲中文字幕| 看非洲黑人一级黄片| 亚洲四区av| 日韩成人伦理影院| 精品一区二区免费观看| a级毛色黄片| 网址你懂的国产日韩在线| 又粗又硬又长又爽又黄的视频| 国产视频内射| 午夜福利在线观看免费完整高清在| 舔av片在线| 18禁动态无遮挡网站| 国产精品久久久久久久电影| 成人午夜高清在线视频| 国产精品野战在线观看| 高清日韩中文字幕在线| 一级av片app| 精品国产露脸久久av麻豆 | 国产高清国产精品国产三级 | АⅤ资源中文在线天堂| 欧美成人免费av一区二区三区| 高清午夜精品一区二区三区| 99九九线精品视频在线观看视频| 联通29元200g的流量卡| 99久久精品热视频| 亚洲精品456在线播放app| 中文亚洲av片在线观看爽| 中国国产av一级| 久久久久久久久久久丰满| 日韩av在线免费看完整版不卡| 欧美成人a在线观看| 国产精品电影一区二区三区| 七月丁香在线播放| a级毛色黄片| 高清午夜精品一区二区三区| 99九九线精品视频在线观看视频| 亚洲丝袜综合中文字幕| 亚洲av男天堂| 中文字幕免费在线视频6| 91久久精品电影网| 成人无遮挡网站| 97超碰精品成人国产| 99热网站在线观看| 欧美极品一区二区三区四区| 午夜福利在线在线| 国产真实乱freesex| 日本熟妇午夜| or卡值多少钱| 亚洲丝袜综合中文字幕| 搡女人真爽免费视频火全软件| 国产成人aa在线观看| 女人久久www免费人成看片 | 国产精品国产高清国产av| 国产精品三级大全| 直男gayav资源| 日日啪夜夜撸| 午夜免费激情av| 久久久久免费精品人妻一区二区| 亚洲欧洲日产国产| 一级爰片在线观看| 九九久久精品国产亚洲av麻豆| 国产乱来视频区| 久久精品91蜜桃| 精品免费久久久久久久清纯| 国产精品人妻久久久久久| 国产成人免费观看mmmm| 韩国高清视频一区二区三区| ponron亚洲| 亚洲五月天丁香| 国产成人午夜福利电影在线观看| 国产av不卡久久| 亚洲精品乱码久久久v下载方式| 亚洲精品自拍成人| 99在线视频只有这里精品首页| 成年版毛片免费区| 狠狠狠狠99中文字幕| 免费一级毛片在线播放高清视频| 七月丁香在线播放| 国产久久久一区二区三区| 国产高潮美女av| 国产高清国产精品国产三级 | 99热全是精品| 国产激情偷乱视频一区二区| 日韩精品青青久久久久久| 色综合站精品国产| 成年免费大片在线观看| 亚洲丝袜综合中文字幕| 国产探花极品一区二区| 亚洲成人中文字幕在线播放| 亚洲国产欧美在线一区| 好男人视频免费观看在线| 丝袜喷水一区| 欧美精品一区二区大全| 精品久久久久久久久av| 亚洲天堂国产精品一区在线| 3wmmmm亚洲av在线观看| 成人鲁丝片一二三区免费| 国产免费一级a男人的天堂| 亚洲婷婷狠狠爱综合网| 欧美不卡视频在线免费观看| 日本爱情动作片www.在线观看| 午夜视频国产福利| 国产精品三级大全| 国产精品电影一区二区三区| 欧美精品国产亚洲| 国产亚洲91精品色在线| 天堂网av新在线| 午夜a级毛片| 麻豆乱淫一区二区| 男女啪啪激烈高潮av片| 国产片特级美女逼逼视频| 国语自产精品视频在线第100页| 中国国产av一级| 青春草视频在线免费观看| 99久久精品热视频| 久热久热在线精品观看| 久久99精品国语久久久| 中文字幕精品亚洲无线码一区| 夜夜看夜夜爽夜夜摸| 欧美激情在线99| 91狼人影院| 国产一区二区在线av高清观看| 乱码一卡2卡4卡精品| 久久精品国产自在天天线| 麻豆av噜噜一区二区三区| 国内少妇人妻偷人精品xxx网站| 能在线免费看毛片的网站| 黄色一级大片看看| 69av精品久久久久久| 国产午夜精品论理片| 国产黄a三级三级三级人| 国产色爽女视频免费观看| 草草在线视频免费看| 极品教师在线视频| 国产一区二区在线观看日韩| 国产69精品久久久久777片| 精品人妻偷拍中文字幕| 欧美zozozo另类| 国产探花在线观看一区二区| 国产精品熟女久久久久浪| 免费观看精品视频网站| 国产精品久久久久久久电影| 亚洲国产精品专区欧美| 国产亚洲最大av| 久久久久性生活片| 日韩一区二区视频免费看| 亚洲精品久久久久久婷婷小说 | av又黄又爽大尺度在线免费看 | 精品人妻一区二区三区麻豆| 国内精品一区二区在线观看| 中文欧美无线码| 六月丁香七月| 啦啦啦观看免费观看视频高清| av在线观看视频网站免费| 女人十人毛片免费观看3o分钟| 高清在线视频一区二区三区 | 日韩强制内射视频| 如何舔出高潮| 午夜福利在线观看免费完整高清在| 日韩强制内射视频| 成年av动漫网址| 午夜福利网站1000一区二区三区| 免费看美女性在线毛片视频| 国产av一区在线观看免费| 久久国产乱子免费精品| 特大巨黑吊av在线直播| 最新中文字幕久久久久| 亚洲av免费高清在线观看| 伊人久久精品亚洲午夜| 日本wwww免费看| 性插视频无遮挡在线免费观看| 99久久人妻综合| 国产精品一区二区性色av| 久久久精品94久久精品| 国产v大片淫在线免费观看| 成人亚洲欧美一区二区av| 久久人人爽人人爽人人片va| 99热这里只有是精品在线观看| 伊人久久精品亚洲午夜| www.色视频.com| 国产亚洲av嫩草精品影院| 国产精品99久久久久久久久| 爱豆传媒免费全集在线观看| a级毛色黄片| 国产精品久久久久久久电影| 我要搜黄色片| 国产色爽女视频免费观看| 精品人妻视频免费看| 最近2019中文字幕mv第一页| 蜜臀久久99精品久久宅男| 少妇熟女欧美另类| 亚洲欧美日韩无卡精品| 国产麻豆成人av免费视频| 国产精品1区2区在线观看.| 色综合站精品国产| 日韩亚洲欧美综合| 亚洲aⅴ乱码一区二区在线播放| 日韩欧美国产在线观看| 中文字幕av成人在线电影| 亚洲五月天丁香| 亚洲精华国产精华液的使用体验| 久久99热这里只有精品18| 美女cb高潮喷水在线观看| 99久久精品一区二区三区| 日本五十路高清| 99久久无色码亚洲精品果冻| 日韩一区二区视频免费看| 亚洲伊人久久精品综合 | 免费一级毛片在线播放高清视频| 精品久久国产蜜桃| 亚洲精华国产精华液的使用体验| 午夜亚洲福利在线播放| 成人一区二区视频在线观看| 成人国产麻豆网| 麻豆乱淫一区二区| 欧美最新免费一区二区三区| 国产成年人精品一区二区| 99热全是精品| .国产精品久久| 最近最新中文字幕免费大全7| 亚洲欧美日韩高清专用| 精品熟女少妇av免费看| 亚洲av免费高清在线观看| 我的老师免费观看完整版| 日本欧美国产在线视频| 亚洲av二区三区四区| 国产视频首页在线观看| 亚洲熟妇中文字幕五十中出| 午夜福利视频1000在线观看| 天天一区二区日本电影三级| 久久精品影院6| 老司机福利观看| 男人舔奶头视频| 最近的中文字幕免费完整| 日日啪夜夜撸| 韩国高清视频一区二区三区| 亚洲欧美日韩无卡精品| av线在线观看网站| 国产成人免费观看mmmm| 可以在线观看毛片的网站| 国产黄a三级三级三级人| 午夜免费男女啪啪视频观看| 综合色av麻豆| 一个人看视频在线观看www免费| 嫩草影院新地址| 国产白丝娇喘喷水9色精品| 国产精品久久视频播放| 日本黄大片高清| 久久久久网色| 神马国产精品三级电影在线观看| 亚洲一区高清亚洲精品| 男女下面进入的视频免费午夜| 久久精品国产亚洲av天美| 我的女老师完整版在线观看| 精品国内亚洲2022精品成人| 国产亚洲最大av| 亚洲在久久综合| 少妇猛男粗大的猛烈进出视频 | 18+在线观看网站| 国产av不卡久久| 蜜桃久久精品国产亚洲av| 美女大奶头视频| 真实男女啪啪啪动态图| 热99在线观看视频| 免费在线观看成人毛片| 欧美精品一区二区大全| 欧美zozozo另类| 国产伦一二天堂av在线观看| 一级毛片电影观看 | 国产一级毛片七仙女欲春2| 91精品伊人久久大香线蕉| 97超碰精品成人国产| 国国产精品蜜臀av免费| 精品人妻偷拍中文字幕| 少妇的逼好多水| 亚洲av成人精品一区久久| 亚洲av.av天堂| 国产日韩欧美在线精品| 成年女人永久免费观看视频| 伦精品一区二区三区| 男女视频在线观看网站免费| 亚洲成人av在线免费| 亚洲av免费高清在线观看| 22中文网久久字幕| 韩国高清视频一区二区三区| 婷婷六月久久综合丁香| 午夜精品一区二区三区免费看| 有码 亚洲区| 国产伦一二天堂av在线观看| 六月丁香七月| 国产精品综合久久久久久久免费| 国产精品国产三级国产专区5o | 亚洲精品乱码久久久v下载方式| 色吧在线观看| 国产精品野战在线观看| 嫩草影院新地址| 夫妻性生交免费视频一级片| 熟女人妻精品中文字幕| 2022亚洲国产成人精品| 国产精品久久电影中文字幕| 亚洲18禁久久av| 欧美日本视频| 国产精品久久久久久av不卡| 一区二区三区高清视频在线| 亚洲一区高清亚洲精品| 七月丁香在线播放| 麻豆一二三区av精品| 嫩草影院新地址| 小说图片视频综合网站| 51国产日韩欧美| 成人三级黄色视频| 国产亚洲av片在线观看秒播厂 | 久久精品久久精品一区二区三区| 欧美区成人在线视频| 简卡轻食公司| 少妇被粗大猛烈的视频| 国产成人精品一,二区| 国产视频首页在线观看| 日韩,欧美,国产一区二区三区 | 亚洲精品日韩在线中文字幕| 老司机福利观看| 国产一区亚洲一区在线观看| 亚洲成av人片在线播放无| 岛国在线免费视频观看| 人妻夜夜爽99麻豆av| 国产精品一二三区在线看| 日韩精品有码人妻一区| 精品久久久噜噜| 噜噜噜噜噜久久久久久91| 网址你懂的国产日韩在线| 日韩亚洲欧美综合| 91av网一区二区| 老师上课跳d突然被开到最大视频| 丰满乱子伦码专区| 黄色配什么色好看| 午夜精品在线福利| 国产 一区精品| 天堂影院成人在线观看| 舔av片在线| 亚洲av二区三区四区| 水蜜桃什么品种好| 少妇人妻一区二区三区视频| 又爽又黄a免费视频| 淫秽高清视频在线观看| h日本视频在线播放| 熟女人妻精品中文字幕| 久久精品国产自在天天线| 大又大粗又爽又黄少妇毛片口| 一级毛片久久久久久久久女| 欧美三级亚洲精品| 国产精品一二三区在线看| 久久久成人免费电影| 久久久欧美国产精品| 亚洲国产精品成人综合色| av天堂中文字幕网| 一区二区三区免费毛片| 天天一区二区日本电影三级| 全区人妻精品视频| 免费看美女性在线毛片视频| 欧美日本视频| 乱人视频在线观看| 日韩欧美在线乱码| 18禁在线播放成人免费| 97超碰精品成人国产| 一级毛片久久久久久久久女| 日本熟妇午夜| 久久韩国三级中文字幕| 欧美区成人在线视频| 精品欧美国产一区二区三| 日本黄大片高清| 51国产日韩欧美| av播播在线观看一区| 久久99热6这里只有精品| 中文欧美无线码| 特大巨黑吊av在线直播| 亚洲av成人精品一二三区| 99久久成人亚洲精品观看| 国产男人的电影天堂91| 青春草视频在线免费观看| 国产精品日韩av在线免费观看| 国产精品人妻久久久久久| 免费看美女性在线毛片视频| 欧美+日韩+精品| 欧美激情在线99| 在线a可以看的网站| 99国产精品一区二区蜜桃av| 九九在线视频观看精品| 国内精品宾馆在线| 久久久亚洲精品成人影院| 久久人人爽人人片av| 汤姆久久久久久久影院中文字幕 | 国产高清国产精品国产三级 | 国产成人aa在线观看| 免费播放大片免费观看视频在线观看 | av天堂中文字幕网| 少妇熟女欧美另类| 99热网站在线观看| 特级一级黄色大片| 好男人在线观看高清免费视频| 日本色播在线视频| 99热精品在线国产| 亚洲五月天丁香| 久久久午夜欧美精品| 极品教师在线视频| 少妇丰满av| 中文在线观看免费www的网站| 国产精品一及| 久久久精品大字幕| 久久精品综合一区二区三区| 欧美一级a爱片免费观看看| 又粗又硬又长又爽又黄的视频| 99热精品在线国产| 狠狠狠狠99中文字幕| 日韩一本色道免费dvd| 内地一区二区视频在线| 99九九线精品视频在线观看视频| 亚洲电影在线观看av| 中文字幕亚洲精品专区| 国国产精品蜜臀av免费| 中文亚洲av片在线观看爽| 婷婷色av中文字幕| 国产黄a三级三级三级人| 看十八女毛片水多多多| 国产精品一二三区在线看| 亚洲自偷自拍三级| 九草在线视频观看| 三级毛片av免费| 国产成人免费观看mmmm| 亚洲欧美日韩东京热| 水蜜桃什么品种好| 99久久中文字幕三级久久日本| 高清视频免费观看一区二区 | 免费观看精品视频网站| 一个人观看的视频www高清免费观看| 亚洲真实伦在线观看| 国产高清三级在线|