• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人臉識別信息收集與使用過程中知情同意原則的修正

    2022-11-08 13:41:20洪丹娜林李童欣
    關(guān)鍵詞:信息處理知情人臉識別

    洪丹娜,林李童欣

    (華南理工大學(xué) 法學(xué)院,廣東 廣州 510006)

    一、問題的提出

    21世紀(jì)以來,互聯(lián)網(wǎng)技術(shù)的快速擴張使社會關(guān)系產(chǎn)生了難以預(yù)先判斷的變革性內(nèi)容。之前線下社會中那些本不具備私人屬性的個人信息成為亟須法律保護的客體。例如,作為個人信息的“性別”在原本沒有被互聯(lián)網(wǎng)覆蓋的空間中是由其自然外觀顯露出來的,本身不可隱藏也不必納入隱私信息的類別當(dāng)中。然而,在網(wǎng)絡(luò)空間中,“性別”是屬于可被用于識別用戶的間接信息,被納入人格權(quán)保護的客體當(dāng)中。因此,對于某些在傳統(tǒng)法律中根本不具備權(quán)利屬性的信息應(yīng)當(dāng)采取全新的規(guī)制思路,隨著人臉識別技術(shù)的發(fā)展而產(chǎn)生的人臉信息保護缺位更應(yīng)當(dāng)?shù)玫街匾暋?021 年央視 3·15 晚會驚曝多家知名商店安裝人臉識別攝像頭,海量人臉信息被收集,但沒有一個商家明確告知消費者,征得同意更是無從談起。人臉識別技術(shù)是基于人的臉部特征信息進行身份識別的一種生物識別技術(shù),其基本流程是用攝像機或攝像頭采集含有人臉的圖像或視頻流,并自動在圖像中檢測和跟蹤人臉,進而對檢測到的人臉進行臉部識別的一系列相關(guān)技術(shù),通常也叫做人像識別、面部識別。在純粹的不與互聯(lián)網(wǎng)相連接的物理空間內(nèi),人臉無須采取任何保密、遮擋措施出現(xiàn);但當(dāng)其作為一項最基本的識別特征運用于人臉識別技術(shù)中,由人臉進而識別關(guān)聯(lián)到自然人其他個人信息的隱私風(fēng)險和人臉數(shù)據(jù)泄露的安全風(fēng)險將會大大加劇。刷臉不再限于“把人認(rèn)出來”的身份識別過程,而是重在于人臉驗證/人臉辨析基礎(chǔ)上所進行的人臉分析或其他關(guān)聯(lián)分析,已從純粹的身份識別機制轉(zhuǎn)換為識別分析機制。正是人臉識別技術(shù)從身份識別機制轉(zhuǎn)向?qū)€體關(guān)聯(lián)信息的分析機制,使得人臉識別技術(shù)的運用中隱藏著人格尊嚴(yán)、隱私、個人信息等被侵犯的風(fēng)險。

    與此同時,在具體、社會化的人臉識別技術(shù)應(yīng)用場景中,現(xiàn)有的規(guī)制知情同意的規(guī)范條文和合同條款過于關(guān)注形式上的告知和同意,往往在外觀上落實了知情同意,但有意無意地忽略其制度目的,甚至刻意以形式取代目的。一方面,技術(shù)啟用方往往以格式條款的大范圍、大面積簽訂或“一鍵打鉤”式的一攬子協(xié)議來規(guī)避對用戶承擔(dān)的敏感信息保護責(zé)任,甚至在啟用人臉識別技術(shù)替代傳統(tǒng)的生物識別系統(tǒng)時默認(rèn)用戶已經(jīng)同意使用該技術(shù)進行身份識別,直接跳過啟用前協(xié)商的階段。另一方面,啟用方很少向用戶披露技術(shù)開發(fā)者及技術(shù)本身的運作流程、數(shù)據(jù)抓取的原理、安全措施以及數(shù)據(jù)泄露的救濟手段等內(nèi)容。因此,在司法場域中,無論是對相關(guān)法條運用釋義學(xué)技術(shù)或是在法律允許的框架內(nèi)靈活適用法律原則,都體現(xiàn)出了社會現(xiàn)實對法律修正的迫切需求。2021年4月9日,被稱為“人臉識別第一案”的郭某訴杭州野生動物世界一案二審宣判結(jié)束,浙江省杭州市中級人民法院大部分支持了一審的判決內(nèi)容,即判決杭州野生動物世界賠償郭某合同利益損失及交通費,刪除其提交的面部特征信息,并增加了一項“杭州野生動物世界有限公司刪除郭某辦理指紋年卡時提交的指紋識別信息”。在該案中,無論是一審杭州市富陽區(qū)人民法院以被告方違反合同為判決基礎(chǔ),還是二審杭州市中級人民法院維持一審合同違反的法理判決,都從側(cè)面體現(xiàn)出當(dāng)前我國還未建立人臉信息保護權(quán)利體系,具備身份可識別性的信息作為一項新興的權(quán)利客體還未被恰當(dāng)?shù)丶{入法律體系中。雖然《中華人民共和國民法典》(以下簡稱《民法典》)合同編與侵權(quán)責(zé)任編的部分規(guī)范能對數(shù)據(jù)財產(chǎn)利益加以保護,但隨著數(shù)據(jù)人格利益呈現(xiàn)出與財產(chǎn)利益并重的趨勢,合同編與侵權(quán)責(zé)任編相關(guān)理論已不能支持法院在個案中判決人臉識別啟用方數(shù)據(jù)收集合同無效。

    當(dāng)前我國主要構(gòu)建了以知情同意原則為基礎(chǔ)的對人臉識別信息收集與使用的規(guī)制,但此原則的適用在人臉識別技術(shù)大規(guī)模應(yīng)用中呈現(xiàn)出明顯的窘境。若能通過對現(xiàn)行法體系內(nèi)知情同意原則的修正,在不違反法穩(wěn)定性、秩序性的前提下,彌合法的統(tǒng)一與技術(shù)發(fā)展的矛盾,則能更好地立足于大數(shù)據(jù)發(fā)展的風(fēng)口,以人臉識別領(lǐng)域的實際問題為導(dǎo)向,回應(yīng)新技術(shù)背景下公民保護個人敏感信息的需求。

    二、知情同意原則的提出與發(fā)展

    盡管知情同意原則在實踐中往往出現(xiàn)以“形式”同意取代“實質(zhì)”同意的窘境,在人臉識別技術(shù)大規(guī)模應(yīng)用時更是呈現(xiàn)出捉襟見肘的適用困境,但不可否認(rèn)其作為個人信息保護原則的重要性地位?;诖耍斜匾獙χ橥庠瓌t進行追根溯源,并梳理其發(fā)展脈絡(luò),進而理解其正當(dāng)性基礎(chǔ),為堅守和修正知情同意原則提供理論根基。知情同意原則的產(chǎn)生與信息時代的興起有著深刻的邏輯連接,在大數(shù)據(jù)背景下的萬物互聯(lián)社會中具備價值層面上的正當(dāng)性,從而以其自身的自足性回應(yīng)其他信息保護理論的質(zhì)疑。

    (一)知情同意原則的提出

    知情同意原則最初是作為一項倫理原則在醫(yī)學(xué)領(lǐng)域確立的,該原則的出現(xiàn)不僅是為了解決醫(yī)療領(lǐng)域侵權(quán)的問題,而且是出于對患者人身權(quán)的尊重以及對自由主義、個人自主觀念的推崇。隨著時代的發(fā)展,知情同意原則在相關(guān)信息保護法律中逐漸建立起核心地位。該原則自醫(yī)學(xué)領(lǐng)域向法學(xué)領(lǐng)域的轉(zhuǎn)移離不開個人信息自決權(quán)理論脈絡(luò)的延伸,換言之,知情同意原則實乃個人信息自決權(quán)在信息流通領(lǐng)域中關(guān)于權(quán)利客體、效力等事項的具體和細化。

    在個人信息自決權(quán)理論的擁簇者看來,個人信息自決權(quán)存在于個人信息處理的各個步驟,也存在于所有的個人信息之上。為了應(yīng)對日益增多的個人信息收集、處理和利用行為,法律上也應(yīng)當(dāng)賦予當(dāng)事人一個足以與之抗衡的地位,即在具體規(guī)則的設(shè)計上應(yīng)當(dāng)降低信息處理者的地位,增強當(dāng)事人對于自己的信息的控制能力。因此,由個人信息自決權(quán)所導(dǎo)出的具體規(guī)則大體可被歸結(jié)為:個人信息的收集、傳播或者利用原則上受到禁止,除非獲得信息主體的同意;個人信息處理者基于法定事由或者對于信息處理本身具有正當(dāng)?shù)睦娣娇商幚韨€人信息;個人信息的收集目的必須明確,個人信息收集者日后的信息處理行為受到該目的的拘束,任何超出收集目的的信息處理行為將被視為對信息自決權(quán)的侵害;當(dāng)事人對信息處理者享有一系列的積極請求權(quán),包括查詢權(quán)、制作副本的權(quán)利、刪除權(quán)、更正權(quán)等。上述規(guī)則基本被國外主流的個人信息保護法案所接受。如歐洲委員會1980年《個人數(shù)據(jù)自動化處理中的個人保護公約》、2008年美國伊利諾伊州《生物信息隱私法案》以及2018年歐盟的《一般數(shù)據(jù)保護條例》(GDPR)等。

    (二)知情同意原則的正當(dāng)性基礎(chǔ)

    對個人自主的喪失和關(guān)注在現(xiàn)今獨特的信息環(huán)境背景下有現(xiàn)象級的社會意義。人工智能、互聯(lián)網(wǎng)等新型信息技術(shù)的集合為各層次的非個人主體提供了控制和監(jiān)視的手段,有學(xué)者認(rèn)為這種趨勢是“數(shù)字化國家主義”的興起?!皵?shù)字化國家主義”的概念生成于侵犯隱私和大規(guī)模監(jiān)視商業(yè)化的行為日益普遍的時期,在這樣的一種背景下,個體自主性逐漸被當(dāng)成是“針對自己被非法征服、數(shù)字監(jiān)控和數(shù)據(jù)收集的補救辦法”,人的自主性被打入泥潭,人將屈從于本能與管理,人將只會是服從的動物和集合體的奴仆,因此,知情同意原則為人自主、理性的決策提供了前端的行為基礎(chǔ),抑制了數(shù)字利維坦的生成。

    對應(yīng)強勢的“數(shù)字化國家主義”,既有的人權(quán)形態(tài)也在發(fā)生深刻的變革與重塑,數(shù)字人權(quán)需要全新的內(nèi)涵、形式與結(jié)構(gòu),以對抗隱私侵犯、算法歧視、信息壟斷等新型問題。但無論人權(quán)發(fā)展進化到何種格局,其基本的道德基礎(chǔ)和價值內(nèi)核始終都在于法對個人自主和尊嚴(yán)的關(guān)注,而知情同意原則賦予個人信息自決權(quán),無疑是抬高個體自主與自由、削弱國家數(shù)字霸權(quán)的最好途徑。

    (三)知情同意原則適用的質(zhì)疑與回應(yīng)

    基于知情同意原則在現(xiàn)實中發(fā)生的適用錯位,高富平主張“知情同意原則不是信息收集的正當(dāng)性基礎(chǔ)”,認(rèn)為個人信息的社會化屬性和社會化利用應(yīng)當(dāng)取代知情同意原則,由社會為治理主體進行個人數(shù)據(jù)的監(jiān)控和保護。而任龍龍主張對知情同意原則進行路徑重構(gòu),認(rèn)為基于場景與風(fēng)險導(dǎo)向的新理念,應(yīng)取消信息處理前的靜態(tài)合規(guī)遵循,采用責(zé)任歸責(zé)和事后判斷的保護方式等。但即使是在個人信息公共屬性大大強化、知情同意原則實施成本不再低廉的趨勢下,知情同意原則依舊有其堅實的理論基礎(chǔ)。

    數(shù)據(jù)主體對個人信息理所當(dāng)然地享有某種控制權(quán)利——數(shù)據(jù)或信息是個人在計算機世界中的虛擬身份,經(jīng)算法處理后的數(shù)據(jù)畫像和基于畫像結(jié)果的定向廣告推送與主體的人格自由有密不可分的聯(lián)系,不管各國立法是將此種控制權(quán)納入隱私權(quán)、一般人格權(quán)的保護框架內(nèi),抑或視為個人信息自決權(quán)的延伸,主體都是數(shù)據(jù)或信息流轉(zhuǎn)的初始源頭。個人信息的社會屬性一說雖然對個人信息控制權(quán)造成了不小的沖擊,但并不能動搖主體的知情同意作為個人信息采集時應(yīng)遵守的一項原則的根本性地位。

    有學(xué)者認(rèn)為知情同意原則的正當(dāng)性根植于契約自治,契合了當(dāng)下數(shù)據(jù)治理合同路徑,不同的互聯(lián)網(wǎng)企業(yè)與用戶之間存在內(nèi)容近似的合同關(guān)系。此種類比較隱私權(quán)理論、個人信息自決權(quán)理論拓寬了解釋上的可適用空間。以合同理論的視角來看,主體允許采集者采集信息是以其所提供的諸多產(chǎn)品或服務(wù)為對價的。一方面,主體基于對個性化、針對化的產(chǎn)品或服務(wù)的需求讓渡信息所有權(quán)和使用權(quán);另一方面,由于所采集的信息能夠帶來可觀的收益,各數(shù)據(jù)采集者趨利而動,紛紛以產(chǎn)品和服務(wù)進一步拓寬用戶群,搜集數(shù)據(jù)。數(shù)據(jù)主體當(dāng)然享有締約自由,即對個人信息的自治權(quán),可以通過訂立契約來允許信息采集的行為,但法律對此種自治的介入在于保障私人自治過程中有關(guān)主體在經(jīng)濟、社會等多方面條件地位平等、力量均衡。契約自由、契約自治等私人自治領(lǐng)域的帝王原則并不等同于公權(quán)力完全不得介入該領(lǐng)域?qū)嵭羞m度干預(yù),在信息協(xié)議中出現(xiàn)的無名合同、格式化合同等復(fù)雜的權(quán)利義務(wù)條款,利益保護的不公平傾斜現(xiàn)象使得法律必然要對其施加必要的關(guān)注。而隱私權(quán)和個人信息自決權(quán)理論既無法解決個人信息主體性和社會性之間的矛盾,也無法在兩種相互矛盾的特性中取得適當(dāng)?shù)钠胶狻?/p>

    也有學(xué)者認(rèn)為由于目前個人通過知情同意機制履行對個人信息的私力救濟的實踐困境,應(yīng)當(dāng)由法律設(shè)立第三方機構(gòu)實施中立的保護、監(jiān)督、管理職能。但是,第三方中立機構(gòu)在對個人信息保護領(lǐng)域的注意程度遠遠小于信息主體本人。在當(dāng)前的技術(shù)背景下,信息主體對保護自身信息不力并不是因為主體對自身利益的疏于關(guān)注,而是因為雙方主體在專業(yè)知識量上的差異以及因保護與救濟缺位導(dǎo)致信息維護成本遠高于不合理的流轉(zhuǎn)成本。不能因為個人對自身信息的保護不力就理所當(dāng)然地剝奪個體對信息的自治權(quán)和自決權(quán),立法和司法應(yīng)當(dāng)積極改善知情同意原則與時代邏輯矛盾的處境,賦予私人主體更多權(quán)利來應(yīng)對技術(shù)對社會的傾軋和異化。況且,從外部來判斷自決結(jié)果是否對本人有利,本身就與自決的精神不相符合。法律支持?jǐn)?shù)據(jù)主體對個人信息享有自決權(quán)和控制權(quán)并不僅僅是因為個人是自身利益的最好維護者,而且是因為只有個人才有權(quán)最終決定其個人信息是否以及在多大程度上與誰共享的問題,即使第三方擁有超越其上的專業(yè)知識和深度理解,也不能否定自決精神背后法律對個人自主信念的珍視和維護。

    三、人臉識別信息收集與使用中知情同意原則的適用

    (一)現(xiàn)行法律規(guī)定中知情同意原則的適用框架

    我國尚未對人臉識別信息乃至其上位概念(生物識別信息)作專門規(guī)定,現(xiàn)行法律大多以個人信息為一般客體建構(gòu)法律規(guī)制體系。我國在處理個人信息保護層面的法律技術(shù)時,也相應(yīng)借鑒了國際上主流的信息保護立法,搭建起以知情同意原則為基本架構(gòu)的私權(quán)體系。通過歸結(jié)相關(guān)法律法規(guī)的內(nèi)容,知情同意原則在我國法律框架內(nèi)主要表現(xiàn)為以下幾點的適用規(guī)則:

    第一,形式同意的規(guī)范,即收集用戶信息必須得到信息主體的事前同意;未經(jīng)信息主體的授權(quán)同意,數(shù)據(jù)收集者及使用者對用戶個人信息的收集和處理被視為沒有相應(yīng)的合法性基礎(chǔ),應(yīng)承擔(dān)相應(yīng)的法律責(zé)任?!睹穹ǖ洹?第一千零三十四條和第一千零三十五條集中規(guī)定了關(guān)于自然人信息保護方面的權(quán)利。首先,第一千零三十四條明確了對自然人個人信息的法律保護,接著對個人信息的概念和范圍予以界定,其中就包括人臉識別信息所屬的生物識別信息。其次,通過準(zhǔn)用性規(guī)則的設(shè)定來指導(dǎo)權(quán)利保護所適用的法律,第一千零三十五條明確了個人信息處理應(yīng)遵循合法、正當(dāng)、必要原則以及處理的必要條件,其中就明示了自然人的同意是信息處理的合法要件?!吨腥A人民共和國網(wǎng)絡(luò)安全法》(以下簡稱《網(wǎng)絡(luò)安全法》)第二十二條第三款規(guī)定網(wǎng)絡(luò)產(chǎn)品及服務(wù)的提供者必須取得用戶的明示同意才可收集其信息,提高了收集者同意在信息處理中的地位,同時對脫敏信息(即不可識別特定個人且不得復(fù)原的信息)與一般個人信息提出了不同的同意要求,為推進個人信息處理的實質(zhì)同意奠定了一定的基礎(chǔ)。

    第二,詳細規(guī)范知情同意的適用細則,促使實質(zhì)同意,防范形式同意而實質(zhì)損害數(shù)據(jù)主體的個人信息的行為?!吨腥A人民共和國個人信息保護法》(以下簡稱《個人信息保護法》)第十四條規(guī)定“同意應(yīng)當(dāng)由個人在充分知情的前提下自愿、明確作出。法律、行政法規(guī)規(guī)定處理個人信息應(yīng)當(dāng)取得個人單獨同意或者書面同意的,從其規(guī)定。個人信息的處理目的、處理方式和處理的個人信息種類發(fā)生變更的,應(yīng)當(dāng)重新取得個人同意”,從而防止同意流于形式化。第十六條針對此前出現(xiàn)的“強制同意”要求個人信息處理者不得以個人不同意處理其個人信息或撤回同意為由拒絕提供產(chǎn)品或服務(wù);第十七條則細化了信息處理前的告知方式和告知內(nèi)容。各項規(guī)范文件均指出以捆綁授權(quán)、強制同意、消極同意等方式作出的同意無效,回應(yīng)了在實踐中頻繁出現(xiàn)的App強制索權(quán)、過度索權(quán)、超范圍收集信息等問題。

    第三,對知情同意原則適用的例外情形進行明確規(guī)定,防范未經(jīng)同意而收集和使用個人信息。除法律另有規(guī)定外,個人信息收集均遵循知情同意原則。法律對可以不獲取信息收集者同意而進行處理的情形作出了明確的規(guī)定,任何單位和個人不得在法律規(guī)定的范圍之外濫用知情同意豁免權(quán)?!蹲罡呷嗣穹ㄔ宏P(guān)于審理利用信息網(wǎng)絡(luò)侵害人身權(quán)益民事糾紛案件適用法律若干問題的規(guī)定》的第十二條中列舉了有關(guān)合法使用的若干情形,除自然人書面同意的條款之外,還包括為促進社會公共利益在必要范圍內(nèi)使用、學(xué)校和科研機構(gòu)為學(xué)術(shù)研究或社會統(tǒng)計的目的使用不具備識別性的已經(jīng)個人同意授權(quán)的信息、以其他合法渠道獲取的信息等合法使用的情形。《個人信息保護法》中對個人信息處理規(guī)則作出了更加詳細的界定,包括與知情同意原則相并列的合法處理信息的情形,如為履行合同所必需、應(yīng)對突發(fā)公共衛(wèi)生事件、緊急情況下保護自然人生命健康和財產(chǎn)安全所必需等。《最高人民法院關(guān)于審理使用人臉識別技術(shù)處理個人信息相關(guān)民事案件適用法律若干問題的規(guī)定》(以下簡稱《規(guī)定》)專門針對人臉信息處理的合法使用情形作出了較為完善的規(guī)定,包括基于應(yīng)對突發(fā)公共衛(wèi)生事件或其他緊急情形的需要、維護公共安全、保障公共利益、個人同意以及符合法律、行政法規(guī)規(guī)定的其他情形。

    第四,不同類型的信息處理體現(xiàn)出同意的分層?!秱€人信息保護法》區(qū)分了一般同意與單獨同意,第二十三條、二十五條、二十六條、二十九條分別規(guī)定在向第三方提供、公開處理、公共場所安裝圖像采集與個人身份識別設(shè)備、處理個人敏感信息的情形下須取得個人單獨同意。此外,2020年國家市場監(jiān)督管理總局出臺《信息安全技術(shù)個人信息安全規(guī)范》中也區(qū)分了一般授權(quán)同意與明示同意,個人信息收集需“告知+授權(quán)同意”,個人敏感信息收集需“明示同意+完全、自主、清晰的知情”,個人生物識別信息需“單獨告知+明示同意”,收集未成年人個人信息應(yīng)取得其監(jiān)護人或年滿14周歲本人的明示同意。

    第五,通過為數(shù)據(jù)主體賦權(quán)和提供救濟渠道來反向倒逼數(shù)據(jù)收集者、使用者實質(zhì)履行知情同意原則的基本要求。為實質(zhì)保障用戶行使其對個人信息的控制權(quán)和同意權(quán),法律賦予自然人刪除權(quán)、損害賠償請求權(quán)、侵害行為禁止令請求權(quán),并強制網(wǎng)絡(luò)服務(wù)提供者提供與同意同等便捷的撤回條件,不得以用戶不同意拒絕提供業(yè)務(wù),賦予用戶更大的業(yè)務(wù)選擇權(quán)。

    (二)人臉識別信息收集與使用中知情同意原則適用的困境

    法律制度并不必然總是完全契合社會發(fā)展的,隨著社會跳躍式前進,成文法極大可能存在斷層和滯后。個人信息保護的知情同意原則恰恰就處于前數(shù)據(jù)時代與大數(shù)據(jù)時代的背景落差之中,正是此種現(xiàn)實的落差造成了《個人信息保護法》無法完美地回應(yīng)現(xiàn)實司法需求,也同樣是知情同意原則困境的源頭。在前數(shù)據(jù)時代,信息的交換以少量的信息處理與交換、與信息處理者的個性化交流為前提,信息主體得以在充分的知情下作出具體而明確的有效同意;而當(dāng)社會進入大數(shù)據(jù)時代,數(shù)據(jù)量的倍數(shù)增長、數(shù)據(jù)交換主體的隱名化與抽象化、數(shù)據(jù)交流的頻繁程度遠非前數(shù)據(jù)時代可比,有效的知情基礎(chǔ)被更加復(fù)雜的技術(shù)更新和社會情勢破壞幾盡。隨著人臉識別技術(shù)運用的普及,作為生物信息的人臉信息的保護需求與當(dāng)前知情同意原則適用框架的矛盾將會尤為突出。具體而言,其適用將面臨如下幾方面的考驗。

    1.目的拘束原則與數(shù)據(jù)二次利用

    目的拘束原則即數(shù)據(jù)利用不得超越數(shù)據(jù)收集時設(shè)定的范圍,在人臉信息的收集、儲存、處理、使用等各環(huán)節(jié)應(yīng)設(shè)置邊界,并以明確固定在規(guī)范性文件中的收集方式方法為基準(zhǔn),一旦目的達成,就應(yīng)當(dāng)及時刪除銷毀存儲的人臉信息。但在現(xiàn)今的信息或數(shù)據(jù)價值鏈之中,即使是收集者也無法在首次采集數(shù)據(jù)時完全預(yù)知與窮盡所有的數(shù)據(jù)利用方式,這就給收集者的告知義務(wù)的全面履行帶來了事實上的障礙。如果收集和利用者本身也無法對數(shù)據(jù)后續(xù)利用的目的作出清晰而明確地陳述,那法律設(shè)定保障數(shù)據(jù)主體知情權(quán)的強制告知規(guī)范將趨向事實上的“不能”,進而導(dǎo)致法律上的“不能”。在信息流動中,個體幾乎居于風(fēng)險的主要位置,即要承載由不確定風(fēng)險所帶來的所有后果;但是從信息獲得、披露與結(jié)果承受等角度而言,個體幾乎陷于一種消極、被動的地位,而在很大程度上能夠掌控相應(yīng)風(fēng)險或獲得更為對稱信息的卻是掌握個人信息的平臺或企業(yè)一方。

    在大數(shù)據(jù)時代,知情同意原則的相對化和適用區(qū)分化源于其運行的理論邏輯與現(xiàn)實經(jīng)濟邏輯的不相符。隨著人工智能技術(shù)進一步發(fā)展,科技的進步使思維方式產(chǎn)生深刻的變革:在數(shù)據(jù)分析之前沒有根本性的目的,通過分析產(chǎn)生事物間的相關(guān)性,擺脫前見預(yù)設(shè)的束縛,進而獲得創(chuàng)新的靈感,此種新興的方法區(qū)別于以往搜索和研究前需要提出一個前提假設(shè),通過實驗證成或證偽的舊式方法。收集者為應(yīng)付立法僵硬的目的告知義務(wù),往往在雙方協(xié)議中對信息收集的目的作概括性的說明,而用戶就必須作出概括性的同意。在采集前的告知中,被采集主體面臨大量數(shù)據(jù)信息的堆積接收,告知協(xié)議中專業(yè)性內(nèi)容占比大,存在大量缺乏專業(yè)知識背景則難以消化的條款,個人面臨超出其能力范圍的信息提取成本負擔(dān)。在采集后,由于被采集主體作出了不利的概括性同意,數(shù)據(jù)收集者得以利用不平等的協(xié)議條款隨意處理個人信息,而不履行采集授權(quán)后的告知義務(wù),信息過載與信息不足同時存在,被采集主體的知情權(quán)大打折扣。相較于有明確采集目的及應(yīng)用用途的數(shù)據(jù)收集者來說,以科研和技術(shù)更新為目的的數(shù)據(jù)收集者往往受目的拘束原則的桎梏更為深重。人臉識別算法準(zhǔn)確性的提高往往依賴于機器以大量人臉數(shù)據(jù)為基礎(chǔ)的數(shù)據(jù)庫的反復(fù)學(xué)習(xí),而這些數(shù)據(jù)在國內(nèi)很少有途徑獲取,這就使得這一部分的科研需求走入了未經(jīng)用戶同意而向上一級用戶收集者批量獲取人臉數(shù)據(jù)的方向。

    2.數(shù)據(jù)收集者與數(shù)據(jù)主體的信息不對稱、地位不平等

    即使數(shù)據(jù)收集者依照法律規(guī)定忠實履行了告知義務(wù),但數(shù)據(jù)主體依舊處于信息產(chǎn)業(yè)鏈中潛在受害者的地位。這是因為在實踐中,在用戶首次注冊或登錄個人賬號時皆會推送相應(yīng)的“隱私免責(zé)聲明”或“隱私政策”,如果用戶不勾選同意,則會被直接禁止使用相關(guān)產(chǎn)品或服務(wù),用戶在沒有被提供更為安全的替代選項的情況下,被迫在缺少對自身信息泄漏危險的知情下交出數(shù)據(jù)控制權(quán)。除此之外,網(wǎng)站還自主為用戶完成了不利用用戶數(shù)據(jù)安全的默認(rèn)設(shè)置,這些安全設(shè)置步驟多、操作復(fù)雜,一般的互聯(lián)網(wǎng)用戶都不會自行進行調(diào)整,網(wǎng)絡(luò)設(shè)備、服務(wù)的普及化以及平臺和應(yīng)用的密集化使得用戶頻繁作出授權(quán)同意,知情同意淪為現(xiàn)實負擔(dān)而非利益保護機制。

    3.風(fēng)險責(zé)任主體與數(shù)據(jù)受益主體的分離趨勢

    傳統(tǒng)的對數(shù)據(jù)濫用的責(zé)任倫理為過失責(zé)任追究原則,行為人無過錯則無責(zé)任,該原則的有效性在于實現(xiàn)對責(zé)任后果主體的相對性倫理綁定。我國對侵犯個人信息的法律責(zé)任追究也體現(xiàn)了這一過失責(zé)任機制,而這一機械式責(zé)任倫理面對高度智能化、數(shù)據(jù)化的人臉識別技術(shù)顯得格格不入,現(xiàn)有的過錯責(zé)任原則無法有效地對人臉識別技術(shù)帶來的責(zé)任規(guī)則進行劃分。人臉識別等新型人工智能技術(shù)的發(fā)展使數(shù)據(jù)收集、分析、儲存范式都發(fā)生了根本性的革新,數(shù)據(jù)紅利不再單純表現(xiàn)為一般信息的集合,而更多是指以數(shù)據(jù)分類為基礎(chǔ)的算法運用,進而得出與數(shù)據(jù)主體相關(guān)的分析結(jié)果。在人臉數(shù)據(jù)收集伊始,人臉數(shù)據(jù)、面部特征信息就與數(shù)據(jù)主體分離,收集者及二次利用者成為數(shù)據(jù)的唯一受益者,而人臉數(shù)據(jù)泄露、濫用的風(fēng)險卻需要最初的數(shù)據(jù)主體背書,此種分離趨勢顯然有悖于公正理念和責(zé)任歸責(zé)原則?,F(xiàn)實權(quán)益結(jié)構(gòu)的失衡以及技術(shù)應(yīng)用產(chǎn)生的效益與代價之間不對稱折射出大數(shù)據(jù)時代知情同意原則適用的蒼白。

    4.技術(shù)應(yīng)用的非對稱性掏空同意內(nèi)核

    采集方可以在用戶主體無意識的狀態(tài)下獲取人臉圖像,采集的非接觸性、便利性導(dǎo)致技術(shù)應(yīng)用上的不對稱性,人臉識別技術(shù)在物理上實現(xiàn)了跳躍被采集主體允諾和配合的階段,但物理上的阻隔和懸置不等同于規(guī)范上的豁免,不等同于獲得了主體的正當(dāng)性同意,技術(shù)侵入和破壞了個人合理的隱私空間。與人臉的高曝光率相呼應(yīng)的是人臉與人格主體的高度關(guān)聯(lián)性,一旦人臉信息以某種形式固定下來被傳輸和分析,在高度關(guān)聯(lián)性下層層推進,采集而成的信息范圍往往大大超出被采集主體合理期待的范圍,被采集主體會產(chǎn)生隱私被窺探、權(quán)利被侵犯的憤怒感,相關(guān)保護缺位或孱弱又會大大加劇矛盾?!半[私”概念本身意味著一種社會、文化以及學(xué)科定義上的開放性,以往人的隱私是基于個人私密的、不愿意也不適宜宣之于眾的選擇,除極少數(shù)文化背景下,一般社會環(huán)境下的人臉都是公開示人的,本不屬于隱私范疇,但人臉識別技術(shù)使得原本公開的信息成為隱私信息,也就是信息隱私化使得傳統(tǒng)隱私的邊界得以擴展。

    四、人臉識別信息收集與使用中知情同意原則適用的修正建議

    目的拘束原則與信息二次利用之間的張力過大,收集者與被收集者在信息處理中地位失衡,責(zé)任主體與受益主體的分離趨勢增大以及技術(shù)應(yīng)用懸置了同意要件等種種情形,無不警示著知情同意原則在人臉識別技術(shù)中適用的現(xiàn)實阻礙。因此,有必要對該原則現(xiàn)行的法律適用框架作出一定的修正,從知情和同意兩方面著手,以程序公正推進實體公正的實現(xiàn),同時應(yīng)重視被采集者與采集者權(quán)利分配格局的實質(zhì)公正。

    (一)保障知情基礎(chǔ)

    知情是被采集主體作出有效同意的充分條件,要提高同意的真實性就必須保障被采集者的知情基礎(chǔ),那么立法必須對采集者的告知義務(wù)作出相應(yīng)強制性規(guī)定。首先,應(yīng)制定采集者告知內(nèi)容和告知方式的統(tǒng)一標(biāo)準(zhǔn)。采集告知的形式應(yīng)當(dāng)清晰、顯著且適應(yīng)一般被采集者的閱讀和理解能力。載有告知內(nèi)容的隱私政策、隱私協(xié)議、信息共享協(xié)議等文件應(yīng)當(dāng)能為普通主體即不具備計算機專業(yè)素養(yǎng)的主體所閱知,避免使用大量專業(yè)術(shù)語;告知界面應(yīng)當(dāng)簡潔、顯著,將采集信息的主體、種類、用途、采集方式、信息采集后的后續(xù)處理過程和潛在風(fēng)險等要點信息簡明顯示在告知頁面上,不得通過大量無效信息的堆疊對主體行使知情權(quán)設(shè)置障礙。行業(yè)協(xié)會或工信部門可以制定具有反復(fù)適用功能的信息采集指引,供企業(yè)履行告知義務(wù)時進行選擇,信息指引中應(yīng)當(dāng)明確采集的主體、內(nèi)容、信息采集的目的、處理方式、后續(xù)流向、潛在風(fēng)險等模塊的強制告知義務(wù),信息指引的形式應(yīng)當(dāng)清晰、明確、易于理解、透明度高。其次,還可以通過轉(zhuǎn)變知情權(quán)實現(xiàn)的形式來保障相關(guān)數(shù)據(jù)主體的權(quán)益,換言之,避免事前一次性的含義模糊的告知,而轉(zhuǎn)變?yōu)樾畔⑻幚磉^程中動態(tài)的、持續(xù)的、清晰的告知實現(xiàn),從強調(diào)信息處理的事前目的拘束轉(zhuǎn)變?yōu)橐孕畔⑻幚韺崟r進程中的手段、方式的工具拘束為立足點,將更容易實現(xiàn)對數(shù)據(jù)主體知情權(quán)的保護。

    (二)建立標(biāo)準(zhǔn)化的司法風(fēng)險評估

    Nissenbaum提出的“情境誠信理論”認(rèn)為,個人信息保護應(yīng)當(dāng)根據(jù)不同的情境或領(lǐng)域而有不同的期待。誰收集信息,誰在分析,誰在傳播并且傳播給了誰,個人信息的性質(zhì),各方之間的關(guān)系以及各方機構(gòu)、社會情況等多因素都可能影響特定領(lǐng)域內(nèi)規(guī)范內(nèi)容的確定。個人信息使用的合規(guī)邊界是主觀的、動態(tài)的,超出了規(guī)范事前所能預(yù)設(shè)的范圍,后續(xù)信息收集與處理應(yīng)當(dāng)尊重原始收集時的具體語境,利用隱私風(fēng)險評估具體評估信息處理行為。場景理論以場景的區(qū)分為出發(fā)點,核心在于風(fēng)險的控制,意在跳出傳統(tǒng)知情同意結(jié)構(gòu)“全有或全無”的思維定式,轉(zhuǎn)而進行程度化的標(biāo)準(zhǔn)式評估,避免立法的僵化。

    我國立法并非沒有對信息處理風(fēng)險進行場景化處理?!秱€人信息保護法》對敏感個人信息的定義體現(xiàn)了一定程度的風(fēng)險評估,但最高人民法院出臺的規(guī)定中沒有對司法風(fēng)險評估給予一定標(biāo)準(zhǔn)化的指導(dǎo),究竟在何種情形下以何種方法泄露或非法使用信息將達到侵害自然人人格尊嚴(yán)、人身或財產(chǎn)安全的程度仍是沒有具體的定義,司法彈性空間過大。場景理論并不意味著賦予司法者完全的自由裁量權(quán),現(xiàn)行的規(guī)范結(jié)構(gòu)過于疏漏,制度的柔性使得處于弱勢地位的被收集者維權(quán)難度大大增加,信息泄露風(fēng)險幾何級增長,司法必須彌補不同情境下規(guī)范的抽象性。因此,立法應(yīng)重視可技術(shù)化、工具化應(yīng)用的同意要件的設(shè)立。

    (三)允許但嚴(yán)格限制人臉信息的社會控制

    個人信息的社會控制理論主張個人信息具有社會屬性,個人信息權(quán)并非絕對、排他的控制和支配權(quán),個人信息的合理使用應(yīng)當(dāng)建立在對所涉各方綜合的利益衡量之上。社會控制理論的基礎(chǔ)是個人信息的社會性、公共性、共享性,側(cè)重信息成為公共資源流通中所帶來的社會紅利,認(rèn)為隱私是社會保護的產(chǎn)物。該理論相比知情同意規(guī)則更加契合大數(shù)據(jù)時代的運行邏輯,理論實施的難度和成本也大大低于知情同意規(guī)則。但是,在人臉信息社會控制論上仍需采取嚴(yán)格的限制立場,原因在于,人臉信息相較于一般個人信息更具特殊性。一般性地禁止人臉信息的社會控制,賦予個人對人臉信息收集、存儲、使用、加工、傳輸、提供、公開等過程的支配和控制權(quán)并不會妨礙社會的正常運行。英國信息委員會辦公室在2021年《公共場所使用人臉識別技術(shù)》報告中指出,面對不特定主體自動化運行的刷臉應(yīng)用難以依靠同意而獲得合法性。荷蘭的數(shù)據(jù)保護機構(gòu)對一家采用人臉識別技術(shù)的超市發(fā)出正式警告,認(rèn)為防止失竊并不能成為啟用人臉識別技術(shù)的合法性理由。國外數(shù)據(jù)保護機構(gòu)的謹(jǐn)慎做法恰恰是出于人臉信息嚴(yán)格保護要求的考慮,警惕人臉識別技術(shù)大規(guī)模應(yīng)用可能造成的監(jiān)視場景。自然人的面部特征具有唯一性和不可更改性,法律僅僅限制利用科技手段不當(dāng)處理和保存人臉信息進而損害自然人權(quán)利與自由的情形,而在判斷是否啟用人臉識別手段以及啟用后是否造成不必要的侵害等事項上,自然人的自主權(quán)和自決權(quán)順序優(yōu)于社會控制。

    (四)增加人臉信息的特殊刪除請求權(quán)

    《規(guī)定》第七條第二款:“信息處理者利用網(wǎng)絡(luò)服務(wù)處理人臉信息侵害自然人人格權(quán)益的,適用民法典第一千一百九十五條、第一千一百九十六條、第一千一百九十七條等規(guī)定?!薄睹穹ǖ洹返谝磺б话倬攀鍡l至一千一百九十七條規(guī)定了網(wǎng)絡(luò)用戶、網(wǎng)絡(luò)服務(wù)提供者以及權(quán)利人在信息網(wǎng)絡(luò)侵權(quán)時各自的權(quán)利義務(wù),權(quán)利人享有通知—刪除權(quán),網(wǎng)絡(luò)服務(wù)提供者有及時采取必要措施、屏蔽、斷開侵權(quán)信息鏈接、通知轉(zhuǎn)送義務(wù)等。但在人臉信息侵權(quán)中,普通網(wǎng)絡(luò)用戶(即與被侵權(quán)人處于同一地位的網(wǎng)絡(luò)用戶)難以獲取甚至處理他人的人臉信息,往往是因為網(wǎng)絡(luò)服務(wù)提供者的行為或錯誤才導(dǎo)致人臉信息的不當(dāng)泄露或使用,因此,該類“去中心化”的侵權(quán)一般不適用普通信息網(wǎng)絡(luò)的三方模型進行侵權(quán)救濟,應(yīng)當(dāng)賦予權(quán)利人審查期限更短、反應(yīng)更為迅速的信息刪除權(quán),將侵權(quán)審查的權(quán)利移交給第三方機構(gòu)并設(shè)置嚴(yán)格的審查期限。

    (五)公益訴訟事后救濟制度的補充

    在大數(shù)據(jù)時代,數(shù)據(jù)的集合表現(xiàn)為數(shù)量和結(jié)構(gòu)上的雙重復(fù)雜性,一旦遭到泄露或引發(fā)關(guān)聯(lián)其他信息的風(fēng)險,其造成的危害規(guī)模和程度、廣度也使民事普通訴訟程序難以填平。擴展公益訴訟的制度內(nèi)容和制度框架,使得現(xiàn)有的可訴內(nèi)容在原本的環(huán)境生態(tài)、消費者權(quán)益的基礎(chǔ)上增加數(shù)據(jù)安全一項,公訴機關(guān)依法對侵害公民信息安全的行為提起公訴,允許受侵害的利益相關(guān)人員附加提起訴訟,一方面有利于更全面地維護數(shù)據(jù)主體的合法權(quán)益,填平其造成的損害;另一方面有利于節(jié)省司法資源,避免單一主體分散提起不同訴訟,造成司法資源在同一時空的重復(fù)和浪費。

    實踐中,個人信息泄露現(xiàn)象多發(fā),然而極少耳聞對信息泄露者提起的訴訟,一方面是因為訴訟成本遠遠高于受損利益;另一方面在于個人沒有取證的手段、渠道和能力,當(dāng)今網(wǎng)絡(luò)環(huán)境的維護大部分倚賴工信部門的職權(quán)式查處也根源于此。除了要改善個體在信息網(wǎng)絡(luò)環(huán)境中的被動地位之外,以工信部門和檢察系統(tǒng)為聯(lián)合,實現(xiàn)在網(wǎng)絡(luò)信息環(huán)境方面的公益維權(quán),不失為對個人取證能力缺陷的一種合理彌補。

    五、結(jié) 語

    如今,人臉識別技術(shù)在公共領(lǐng)域已經(jīng)得到一定程度的推廣。例如,在人流龐大的交通樞紐處設(shè)置的闖紅燈曝光臺;對潛逃多年尚未落網(wǎng)的重大犯罪嫌疑人的追捕;尋找失散多年的被拐賣的婦女兒童;地鐵和高鐵安檢入口以人臉識別代替人工核驗等。但是,我們對諸如此類的技術(shù)應(yīng)用是否是維護公共安全與秩序、促進社會和諧與穩(wěn)定所必需仍存留疑問。大規(guī)模地啟用人臉識別技術(shù),以其非接觸性、高效性、便捷性換取公權(quán)力對社會的高強度督查,全體公民的人臉數(shù)據(jù)處于高度風(fēng)險的不確定性、開放性成為潛在代價,未必是所有人都愿意作出的對價給付。因此,如何實現(xiàn)知情同意原則在程序上、實體上的雙重制度修正與變更,進一步緩解大數(shù)據(jù)社會背景下數(shù)據(jù)主體各方的獲得感與付出成本之間的落差,平衡多方在數(shù)據(jù)紅利的趨向之中利益需要的可能性與期待性成為現(xiàn)代法學(xué)的一大課題。

    人臉信息不同于一般的個人信息,在規(guī)范與司法的應(yīng)用下,應(yīng)當(dāng)更為關(guān)注人臉信息的特殊性,而非盲目套用一般個人信息的侵權(quán)救濟模板以保護自然人的同意權(quán)。法在進行現(xiàn)實的利益衡量的過程之外,更需要牢記法本身的價值導(dǎo)向,它始終為維持人類尊嚴(yán)與地位留有余地。

    猜你喜歡
    信息處理知情人臉識別
    東營市智能信息處理實驗室
    人臉識別 等
    基于Revit和Dynamo的施工BIM信息處理
    揭開人臉識別的神秘面紗
    地震烈度信息處理平臺研究
    CTCS-3級列控系統(tǒng)RBC與ATP結(jié)合部異常信息處理
    知情圖報
    小演奏家(2016年5期)2016-05-14 15:11:12
    淺析知情同意在藥物臨床試驗中的實施
    靜海縣人大常委會組織知情觀察
    天津人大(2015年9期)2015-11-24 03:26:13
    基于類獨立核稀疏表示的魯棒人臉識別
    計算機工程(2015年8期)2015-07-03 12:19:07
    一夜夜www| 久久6这里有精品| 看非洲黑人一级黄片| 欧美高清成人免费视频www| 国产亚洲精品久久久com| 国产一区二区三区av在线| 91精品一卡2卡3卡4卡| 99久久精品国产国产毛片| 又大又黄又爽视频免费| 国产白丝娇喘喷水9色精品| 超碰97精品在线观看| 99久久中文字幕三级久久日本| 国产av码专区亚洲av| 天堂网av新在线| 熟女人妻精品中文字幕| 综合色av麻豆| 五月伊人婷婷丁香| 欧美激情久久久久久爽电影| 国产乱人偷精品视频| 国产在视频线精品| 亚洲熟妇中文字幕五十中出| 亚洲av中文av极速乱| 国产午夜精品论理片| 中文资源天堂在线| 国产精品伦人一区二区| 性色avwww在线观看| 欧美另类一区| 国产精品1区2区在线观看.| 最近中文字幕2019免费版| 亚洲最大成人中文| 午夜免费观看性视频| 丝瓜视频免费看黄片| 日韩 亚洲 欧美在线| 嫩草影院入口| 国产成人精品婷婷| 国产伦精品一区二区三区视频9| 男女边摸边吃奶| 在线a可以看的网站| 久久久久久久久中文| 日日啪夜夜爽| a级毛色黄片| 五月天丁香电影| 精品久久久久久久末码| 深爱激情五月婷婷| 国产成年人精品一区二区| 日韩人妻高清精品专区| 三级经典国产精品| 亚洲欧美成人精品一区二区| av线在线观看网站| 超碰97精品在线观看| 最近2019中文字幕mv第一页| 99久国产av精品国产电影| av在线播放精品| av在线播放精品| 激情 狠狠 欧美| 国产精品一区二区三区四区久久| 久久久久久久久大av| 精华霜和精华液先用哪个| 91午夜精品亚洲一区二区三区| 精品少妇黑人巨大在线播放| 欧美激情国产日韩精品一区| 99视频精品全部免费 在线| 国产精品福利在线免费观看| 国产精品一区二区性色av| 黄色配什么色好看| 赤兔流量卡办理| 国产高清三级在线| 超碰97精品在线观看| 熟女人妻精品中文字幕| 午夜福利在线观看吧| 日日干狠狠操夜夜爽| 久久久久久国产a免费观看| 国产成人免费观看mmmm| 国产精品国产三级专区第一集| 两个人的视频大全免费| h日本视频在线播放| 99re6热这里在线精品视频| 欧美人与善性xxx| 国产伦理片在线播放av一区| 国产免费又黄又爽又色| 日韩视频在线欧美| 精品久久久噜噜| 国产成人a区在线观看| 亚洲国产色片| 久久6这里有精品| 免费av毛片视频| 日本与韩国留学比较| 搞女人的毛片| 精品久久久久久久久久久久久| 午夜激情欧美在线| 美女cb高潮喷水在线观看| 在线观看美女被高潮喷水网站| 又粗又硬又长又爽又黄的视频| 男的添女的下面高潮视频| 国产黄片美女视频| 色5月婷婷丁香| 欧美97在线视频| 亚洲av成人精品一区久久| 美女高潮的动态| 成人性生交大片免费视频hd| 一区二区三区免费毛片| 26uuu在线亚洲综合色| 91狼人影院| 久久久久精品性色| 搡老妇女老女人老熟妇| 免费不卡的大黄色大毛片视频在线观看 | 久久久久久久国产电影| 久久人人爽人人片av| 观看美女的网站| 男女边吃奶边做爰视频| 亚州av有码| 色综合亚洲欧美另类图片| 亚洲精品成人久久久久久| 深夜a级毛片| 街头女战士在线观看网站| 久久99蜜桃精品久久| 汤姆久久久久久久影院中文字幕 | 午夜免费观看性视频| 中文字幕人妻熟人妻熟丝袜美| 国产一级毛片在线| 欧美3d第一页| 18禁动态无遮挡网站| 亚洲精品国产av蜜桃| 晚上一个人看的免费电影| 国产精品国产三级国产专区5o| 精品一区二区三区视频在线| 午夜福利视频1000在线观看| 亚洲婷婷狠狠爱综合网| 两个人视频免费观看高清| 最近视频中文字幕2019在线8| 午夜激情久久久久久久| 黑人高潮一二区| 99久久中文字幕三级久久日本| 亚洲欧美成人综合另类久久久| 欧美日韩精品成人综合77777| 国产精品无大码| 国内少妇人妻偷人精品xxx网站| 美女脱内裤让男人舔精品视频| 夫妻性生交免费视频一级片| 人人妻人人澡人人爽人人夜夜 | 精品不卡国产一区二区三区| 欧美人与善性xxx| 天天一区二区日本电影三级| 国产伦在线观看视频一区| 十八禁网站网址无遮挡 | 18禁动态无遮挡网站| 国产乱来视频区| 非洲黑人性xxxx精品又粗又长| 简卡轻食公司| 亚洲av在线观看美女高潮| 成人午夜精彩视频在线观看| 久久这里有精品视频免费| 午夜免费观看性视频| 美女被艹到高潮喷水动态| 99热这里只有是精品50| 最近最新中文字幕大全电影3| 乱码一卡2卡4卡精品| 欧美一级a爱片免费观看看| 夜夜爽夜夜爽视频| 国产成人精品一,二区| 免费少妇av软件| 国产色爽女视频免费观看| 亚洲在线观看片| 国产综合懂色| 免费观看精品视频网站| 国产亚洲av片在线观看秒播厂 | 午夜免费男女啪啪视频观看| 亚洲精华国产精华液的使用体验| 97超碰精品成人国产| 亚洲,欧美,日韩| 女人久久www免费人成看片| 国产精品久久久久久久电影| 午夜福利网站1000一区二区三区| 男女边摸边吃奶| 婷婷色综合大香蕉| 日本wwww免费看| 爱豆传媒免费全集在线观看| 一边亲一边摸免费视频| 色综合站精品国产| 亚洲av一区综合| 18禁在线无遮挡免费观看视频| 亚洲国产最新在线播放| 午夜福利视频1000在线观看| 97精品久久久久久久久久精品| 人妻系列 视频| 国产在线一区二区三区精| 亚洲美女搞黄在线观看| 亚洲在线自拍视频| 赤兔流量卡办理| 国产探花极品一区二区| 国产白丝娇喘喷水9色精品| 一级毛片黄色毛片免费观看视频| 在线a可以看的网站| 日本-黄色视频高清免费观看| 日韩一本色道免费dvd| 成年版毛片免费区| 亚洲成色77777| av专区在线播放| 日本熟妇午夜| 日韩,欧美,国产一区二区三区| 国产精品1区2区在线观看.| 国产午夜福利久久久久久| 免费看a级黄色片| 少妇被粗大猛烈的视频| 免费不卡的大黄色大毛片视频在线观看 | 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 精品久久久噜噜| 欧美日本视频| 久久久久久久久久久免费av| 亚洲欧美精品自产自拍| 亚洲精品亚洲一区二区| 精品人妻视频免费看| 97超视频在线观看视频| 亚洲av福利一区| 中国国产av一级| 日韩成人av中文字幕在线观看| 亚洲国产最新在线播放| 国产人妻一区二区三区在| 简卡轻食公司| 如何舔出高潮| 又黄又爽又刺激的免费视频.| 国产又色又爽无遮挡免| 国产探花极品一区二区| 国产黄片美女视频| av在线蜜桃| 精品人妻视频免费看| 亚洲一级一片aⅴ在线观看| 中国国产av一级| 18禁裸乳无遮挡免费网站照片| 国产麻豆成人av免费视频| 亚洲精品国产av蜜桃| 国产伦精品一区二区三区四那| 欧美变态另类bdsm刘玥| 又爽又黄无遮挡网站| 三级经典国产精品| 久久久国产一区二区| 亚洲三级黄色毛片| 国产精品一二三区在线看| 麻豆成人午夜福利视频| 久久精品国产亚洲网站| 高清毛片免费看| 日韩在线高清观看一区二区三区| 亚洲成人av在线免费| 男人舔奶头视频| www.色视频.com| 国产视频首页在线观看| 国产精品久久久久久av不卡| 国产中年淑女户外野战色| 亚洲图色成人| 国产亚洲精品av在线| 美女大奶头视频| 久久久精品94久久精品| 91精品伊人久久大香线蕉| 熟女人妻精品中文字幕| 国产91av在线免费观看| 成人一区二区视频在线观看| 伊人久久精品亚洲午夜| 1000部很黄的大片| 在线观看一区二区三区| 男女边吃奶边做爰视频| 天天躁日日操中文字幕| 国产美女午夜福利| 亚洲精品一区蜜桃| 久久这里有精品视频免费| 看十八女毛片水多多多| 婷婷色麻豆天堂久久| 黑人高潮一二区| 在线观看美女被高潮喷水网站| 国内精品宾馆在线| 超碰97精品在线观看| 国产综合懂色| 网址你懂的国产日韩在线| 纵有疾风起免费观看全集完整版 | 成年女人看的毛片在线观看| 国产三级在线视频| 免费电影在线观看免费观看| 国产精品爽爽va在线观看网站| 久久午夜福利片| 国产麻豆成人av免费视频| 高清毛片免费看| 中文字幕av在线有码专区| 18+在线观看网站| 九九在线视频观看精品| 欧美bdsm另类| 国产亚洲午夜精品一区二区久久 | 色吧在线观看| 久久久精品94久久精品| 亚洲综合精品二区| 熟妇人妻不卡中文字幕| av专区在线播放| 国产白丝娇喘喷水9色精品| 2022亚洲国产成人精品| 国产欧美另类精品又又久久亚洲欧美| 日本爱情动作片www.在线观看| 亚洲四区av| 非洲黑人性xxxx精品又粗又长| 天堂影院成人在线观看| 少妇的逼水好多| 免费观看av网站的网址| 少妇丰满av| 欧美性猛交╳xxx乱大交人| 亚洲国产色片| 尤物成人国产欧美一区二区三区| 欧美最新免费一区二区三区| 免费高清在线观看视频在线观看| 丰满人妻一区二区三区视频av| 一级毛片久久久久久久久女| 亚洲av免费高清在线观看| 亚洲图色成人| 99re6热这里在线精品视频| 日本黄大片高清| 少妇被粗大猛烈的视频| 淫秽高清视频在线观看| 五月天丁香电影| av线在线观看网站| 免费无遮挡裸体视频| 婷婷色综合大香蕉| 狂野欧美激情性xxxx在线观看| 国产淫片久久久久久久久| 老女人水多毛片| 网址你懂的国产日韩在线| av在线观看视频网站免费| 精品国产三级普通话版| 国产一区亚洲一区在线观看| 日韩成人av中文字幕在线观看| 国产精品美女特级片免费视频播放器| 中文字幕免费在线视频6| 成人午夜精彩视频在线观看| 欧美xxⅹ黑人| 免费电影在线观看免费观看| 亚洲婷婷狠狠爱综合网| 国产v大片淫在线免费观看| 国产探花在线观看一区二区| 最近中文字幕2019免费版| 3wmmmm亚洲av在线观看| 欧美性感艳星| 日韩一区二区三区影片| 国产又色又爽无遮挡免| 久久久久久九九精品二区国产| 少妇的逼好多水| 最近2019中文字幕mv第一页| 天堂av国产一区二区熟女人妻| 国内精品美女久久久久久| 久久久久久久久大av| 亚洲婷婷狠狠爱综合网| 一级av片app| 国产成人一区二区在线| 久久99蜜桃精品久久| 成人漫画全彩无遮挡| 日本黄色片子视频| 人妻一区二区av| freevideosex欧美| 噜噜噜噜噜久久久久久91| 国产黄色视频一区二区在线观看| 人人妻人人看人人澡| 午夜福利在线在线| 国产精品精品国产色婷婷| 亚洲精品成人av观看孕妇| 欧美日本视频| 国产精品无大码| 一级毛片久久久久久久久女| 国产精品一二三区在线看| 日韩成人伦理影院| 黄片无遮挡物在线观看| 在线观看美女被高潮喷水网站| 蜜桃亚洲精品一区二区三区| 国产成人freesex在线| 黄片无遮挡物在线观看| 久久99热这里只频精品6学生| 亚洲av电影不卡..在线观看| 久久热精品热| 日本av手机在线免费观看| 成人亚洲精品av一区二区| 免费无遮挡裸体视频| 久久久久久伊人网av| 亚洲最大成人手机在线| 国产激情偷乱视频一区二区| 2022亚洲国产成人精品| 午夜亚洲福利在线播放| 成年av动漫网址| 免费无遮挡裸体视频| 国内揄拍国产精品人妻在线| 18禁裸乳无遮挡免费网站照片| av在线老鸭窝| 国产永久视频网站| 99九九线精品视频在线观看视频| 欧美3d第一页| 久久久久久久久久久免费av| 色吧在线观看| 精品人妻熟女av久视频| 日韩成人伦理影院| 男女下面进入的视频免费午夜| 午夜福利在线观看吧| 国产 一区 欧美 日韩| 中文字幕av成人在线电影| 在线观看美女被高潮喷水网站| 国产久久久一区二区三区| 欧美日韩一区二区视频在线观看视频在线 | 日韩一区二区三区影片| 尾随美女入室| 又大又黄又爽视频免费| 99久国产av精品国产电影| 在线播放无遮挡| 久久精品夜夜夜夜夜久久蜜豆| 性色avwww在线观看| 国产伦精品一区二区三区四那| 亚洲精品日韩在线中文字幕| 久久综合国产亚洲精品| 特大巨黑吊av在线直播| 国产高清不卡午夜福利| 麻豆国产97在线/欧美| 亚洲精品中文字幕在线视频 | 亚洲av电影不卡..在线观看| 国产精品.久久久| 日韩欧美三级三区| 好男人在线观看高清免费视频| a级一级毛片免费在线观看| 国产三级在线视频| 毛片一级片免费看久久久久| 日本一本二区三区精品| 日韩一本色道免费dvd| 亚洲av一区综合| av线在线观看网站| 你懂的网址亚洲精品在线观看| 免费电影在线观看免费观看| 在线免费十八禁| 特级一级黄色大片| 亚洲怡红院男人天堂| 一本一本综合久久| 国产亚洲精品av在线| 99久久精品热视频| 国产精品嫩草影院av在线观看| 97超碰精品成人国产| 91av网一区二区| 97热精品久久久久久| 国产伦精品一区二区三区四那| 亚洲精品成人久久久久久| 日本一二三区视频观看| 久久久欧美国产精品| 搡女人真爽免费视频火全软件| 日本欧美国产在线视频| 特级一级黄色大片| 美女黄网站色视频| 建设人人有责人人尽责人人享有的 | 精品久久久噜噜| 亚洲乱码一区二区免费版| 91精品伊人久久大香线蕉| 亚洲三级黄色毛片| 亚洲自拍偷在线| 精品久久久精品久久久| 看黄色毛片网站| 久久精品国产自在天天线| 五月天丁香电影| 亚洲在久久综合| 精品不卡国产一区二区三区| 黑人高潮一二区| 亚洲精品中文字幕在线视频 | 欧美极品一区二区三区四区| 国产午夜福利久久久久久| 欧美日韩视频高清一区二区三区二| 直男gayav资源| 中文字幕av成人在线电影| 国精品久久久久久国模美| 中文在线观看免费www的网站| 欧美最新免费一区二区三区| 欧美另类一区| 久久精品国产亚洲av天美| 国产爱豆传媒在线观看| 免费观看性生交大片5| 天堂网av新在线| 黄片wwwwww| 国产美女午夜福利| 色网站视频免费| 一夜夜www| 老师上课跳d突然被开到最大视频| 国产精品国产三级专区第一集| 精品久久久精品久久久| 国产亚洲精品av在线| 亚洲精品乱久久久久久| 女人被狂操c到高潮| 纵有疾风起免费观看全集完整版 | 又爽又黄无遮挡网站| 国产精品一区二区性色av| 日日摸夜夜添夜夜爱| 波多野结衣巨乳人妻| 最近最新中文字幕免费大全7| 国产v大片淫在线免费观看| 成人毛片60女人毛片免费| 毛片一级片免费看久久久久| 看黄色毛片网站| 亚洲av免费在线观看| 亚洲人成网站在线播| 久久久久久九九精品二区国产| 午夜福利在线观看吧| 国产探花极品一区二区| 久久精品综合一区二区三区| 亚洲不卡免费看| 亚洲真实伦在线观看| 在线免费十八禁| 国产免费一级a男人的天堂| 能在线免费看毛片的网站| kizo精华| 亚洲欧洲日产国产| 久久久a久久爽久久v久久| 久久精品国产自在天天线| 麻豆乱淫一区二区| 天堂中文最新版在线下载 | 亚洲国产精品sss在线观看| 久久久久网色| 人妻制服诱惑在线中文字幕| 亚洲精品国产成人久久av| 午夜精品一区二区三区免费看| 久久精品国产自在天天线| 三级国产精品片| 国产免费福利视频在线观看| 91精品伊人久久大香线蕉| 小蜜桃在线观看免费完整版高清| 99久久中文字幕三级久久日本| 18禁动态无遮挡网站| 国产三级在线视频| 国产老妇伦熟女老妇高清| 色网站视频免费| 一二三四中文在线观看免费高清| 中文资源天堂在线| 少妇的逼好多水| 国产综合懂色| 热99在线观看视频| 欧美3d第一页| 国产精品国产三级专区第一集| 男人爽女人下面视频在线观看| 女人久久www免费人成看片| 最近视频中文字幕2019在线8| 亚洲av中文字字幕乱码综合| 亚洲av男天堂| 免费看日本二区| 边亲边吃奶的免费视频| 午夜福利视频精品| 成人综合一区亚洲| 两个人的视频大全免费| 99热网站在线观看| 高清欧美精品videossex| 中文字幕久久专区| 天天躁夜夜躁狠狠久久av| 一级a做视频免费观看| 久久精品国产鲁丝片午夜精品| 美女主播在线视频| 麻豆乱淫一区二区| 久久久久久九九精品二区国产| 大香蕉97超碰在线| 一级毛片黄色毛片免费观看视频| 六月丁香七月| 看十八女毛片水多多多| 搡老妇女老女人老熟妇| 一个人看视频在线观看www免费| 一级二级三级毛片免费看| 国产又色又爽无遮挡免| 精品久久久久久久久av| 午夜精品一区二区三区免费看| 国产精品国产三级国产av玫瑰| 国产v大片淫在线免费观看| 免费看a级黄色片| a级毛色黄片| 亚洲精品,欧美精品| 三级国产精品片| 午夜日本视频在线| 亚洲国产精品成人久久小说| 成人亚洲欧美一区二区av| 亚洲婷婷狠狠爱综合网| 一个人看的www免费观看视频| 女人十人毛片免费观看3o分钟| 亚洲欧美日韩东京热| 国产精品爽爽va在线观看网站| 国产激情偷乱视频一区二区| 国产亚洲午夜精品一区二区久久 | 国产精品伦人一区二区| av网站免费在线观看视频 | 亚洲精品成人av观看孕妇| 欧美激情久久久久久爽电影| 日韩av免费高清视频| 免费少妇av软件| 亚洲内射少妇av| 久久久精品免费免费高清| 国产黄a三级三级三级人| 成人欧美大片| 国产亚洲午夜精品一区二区久久 | 久久久久久久亚洲中文字幕| 九九久久精品国产亚洲av麻豆| 亚洲国产精品国产精品| 久久精品久久久久久噜噜老黄| 成年av动漫网址| 日韩大片免费观看网站| 国产 一区 欧美 日韩| 亚洲精品乱久久久久久| 亚洲在线观看片| 精品久久国产蜜桃| 欧美变态另类bdsm刘玥| 91久久精品国产一区二区三区| 国产又色又爽无遮挡免| 美女xxoo啪啪120秒动态图| 欧美人与善性xxx| 欧美激情在线99| 伦理电影大哥的女人| 欧美日韩国产mv在线观看视频 | 女人十人毛片免费观看3o分钟| 床上黄色一级片| 大又大粗又爽又黄少妇毛片口| 一级片'在线观看视频| 秋霞伦理黄片| 青春草亚洲视频在线观看| 麻豆成人av视频| 国产黄片视频在线免费观看| 伦理电影大哥的女人| 亚洲精品影视一区二区三区av| 女人久久www免费人成看片| 亚洲精品影视一区二区三区av|