• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人臉識別規(guī)制中公共利益的限度

    2021-11-21 12:46:36
    對外經(jīng)貿(mào) 2021年6期
    關(guān)鍵詞:公共利益人臉識別人臉

    郭 楊

    (上海政法學(xué)院,上海 201701)

    隨著“大數(shù)據(jù)”時代的來臨,人臉識別的應(yīng)用場景愈發(fā)廣泛。在刑事偵查領(lǐng)域,前有人臉識別技術(shù)在某演唱會中抓捕逃犯,后有利用機(jī)場人臉識別系統(tǒng)抓獲嫌疑人;商業(yè)應(yīng)用從“刷臉支付”“刷臉打卡”再到公廁的“刷臉取紙”,人臉識別早已遍布各類公共場所。與人臉識別的廣泛場景不相稱的是,我國相關(guān)規(guī)制的顯著不足。在使用的主體上,無論是政府、社區(qū)還是商家,似乎均可任意運(yùn)用人臉識別技術(shù)。在常見的適用情境中,如機(jī)場錄入人像與數(shù)據(jù)庫中數(shù)據(jù)進(jìn)行匹配以驗證身份,人臉識別技術(shù)的自動識別和實(shí)時分析功能也極大侵?jǐn)_了個人信息的安全。商業(yè)應(yīng)用中現(xiàn)行法要求商家明確告知風(fēng)險并在信息主體“知情同意”后方可進(jìn)行人臉識別;而對于以公共利益為由使用人臉識別的情形相對而言受到的關(guān)注和質(zhì)疑較少。但這并非意味著“公共利益”就是無節(jié)制使用人臉識別的理由,被譽(yù)為“國內(nèi)人臉識別第一案”的“郭某訴某公司”即為一個規(guī)制不力導(dǎo)致的惡果。由于公共利益本身具有抽象性,學(xué)界至今尚未形成一個公認(rèn)的權(quán)威概念,這也是導(dǎo)致現(xiàn)實(shí)中公共利益虛化、弱化、泛化的一個重要原因。因此,設(shè)定公共利益的適當(dāng)限度就成為了當(dāng)下亟待解決的問題。

    一、我國對公共空間中人臉識別的規(guī)制

    (一)現(xiàn)行法律對人臉識別領(lǐng)域公共利益的限定不足

    我國目前對于人臉識別并沒有出臺專門性的法律予以規(guī)制,相關(guān)權(quán)益的保護(hù)散落于《民法典》《網(wǎng)絡(luò)信息安全法》以及各類規(guī)范和指南中。《民法典》對于人臉信息的保護(hù)路徑依附于個人信息保護(hù)舉措,并沒有對人臉識別領(lǐng)域中的公共利益進(jìn)行特殊的保護(hù)。人臉信息的公共社會性和私人性的雙重屬性決定了其并不能作為現(xiàn)有隱私權(quán)的客體,故在現(xiàn)行法律框架下對其適用的是個人信息保護(hù)的規(guī)定,并未對既具公開性,又具有敏感性的人臉信息予以特別保護(hù)。人臉信息界定上的模棱兩可導(dǎo)致了該領(lǐng)域中公共利益范圍的模糊性和不確定性,由此給人臉識別在公共場所中應(yīng)用的必要性認(rèn)定帶來了難題。

    此外《民法典》第 1036 條還規(guī)定了收集使用自然人個人信息不承擔(dān)民事責(zé)任的情形,其中就包括“合理處理自然人自行公開或其他已經(jīng)合法公開的信息”。作為社會交往中一環(huán),人臉信息的展露被無可爭議地視為個人信息而對外公開。那么,在公共空間中經(jīng)過公布的個人信息是否仍受保護(hù)?

    我國現(xiàn)行法律對人臉信息進(jìn)行了初步的規(guī)制。

    (二)目的限制原則與“公共利益”的濫用

    目前實(shí)踐中在公共場所能否適用人臉識別的判斷一般是基于目的限制原則。目的限制原則(Principle of Purpose Limitation)源自目的規(guī)范原則和兼容性使用原則(Principle of Compatible Use),要求數(shù)據(jù)收集的目的應(yīng)“具體、明確、合法”,不應(yīng)以“與原始收集目的不相容”的方式進(jìn)一步處理數(shù)據(jù),以促進(jìn)法的透明度、確定性以及可預(yù)測性。

    目的規(guī)范原則要求收集的初始目的都需要符合具體、明確和合法三個標(biāo)準(zhǔn)。需要明確的一點(diǎn)是,在政府部門主導(dǎo)的或為了國家安全而進(jìn)行人臉識別的情況下,可預(yù)見性并不意味著個人應(yīng)當(dāng)能夠預(yù)見到將要進(jìn)行的檢查,而是要求法律以適當(dāng)?shù)姆绞奖砻髟诤畏N情況下允許采取此類措施。[1]兼容性使用原則,要求為特定目的收集的面部信息應(yīng)在隨后的使用中限于該目的,不應(yīng)以相悖于最初目的之方式進(jìn)行更深層次的加工。值得注意的是,不相關(guān)的目的不一定不兼容。

    目的限制原則看似為公共利益在人臉識別的應(yīng)用問題劃定了明晰的邊界,其實(shí)該原則本身仍處于概括性表達(dá)的層面,兩個子原則的深化解釋并不足以完全解釋母原則實(shí)際含義。舉一實(shí)例可見:2019 年,法國馬賽地區(qū)的一所高中被允許使用面部識別系統(tǒng)進(jìn)行管理,提高學(xué)生入校速度,并幫助管理人員發(fā)現(xiàn)未經(jīng)授權(quán)甚至偽造身份進(jìn)入學(xué)校的無關(guān)人員。作為人臉識別適用的兩個目的——提高入校速度和管理效率,經(jīng)過有關(guān)部門允許后應(yīng)被認(rèn)定符合目的規(guī)范要求,同時也無相關(guān)證據(jù)表明超出了兼容性使用的必要,應(yīng)當(dāng)被認(rèn)定為符合目的限制原則。然而,該舉措?yún)s引發(fā)了民眾的廣泛質(zhì)疑,他們認(rèn)為在保障校園安全的前提下提高學(xué)生入校速度有侵入性更低的可替代方法,對于該目的概括性的解釋不足以構(gòu)成使用人臉識別的理由。

    實(shí)踐證明,目的限制原則并不足以劃定公共利益在人臉識別中的邊界,甚至對其表述的概括性可能會增加以公共利益為由濫用人臉識別的風(fēng)險。在社會聯(lián)系愈發(fā)緊密的今天,任何使用人臉識別的目的最終都可能被解釋為是出于對公共利益的考量,因此,目的限制原則看似必要,實(shí)則空泛虛化,亟需完善,并與其他理論銜接,如此方能夠劃定人臉識別中公共利益的合理邊界。

    (三)個人隱私保護(hù)路徑的不足

    當(dāng)面對地位上具有顯著優(yōu)勢的數(shù)據(jù)收集者時,現(xiàn)有的隱私理論體系對公共空間中的隱私保護(hù)問題顯然力不從心。迪恩將傳統(tǒng)上被認(rèn)為是“不受打擾”的隱私權(quán)擴(kuò)展至四類,被美國超過一半的州通過法規(guī)或判例的形式予以采納。然而,迪恩所提出的隱私侵權(quán)理論只適用于在公眾視野之外發(fā)生的行為,排除了對在公眾場合中對人臉的獲取與進(jìn)一步加工使用。幾乎所有美國法院都堅定地認(rèn)為,當(dāng)被捕獲的行為發(fā)生在公共空間時,原告無法維持隱私主張。[2]

    將人臉信息劃入到隱私權(quán)的保護(hù)領(lǐng)域,借此抗衡公共利益的做法,既不可行又缺乏實(shí)際意義。與專享性的個人利益相區(qū)別的是,公共利益是一個非排他性的概念。這就意味著公共利益和個人隱私并不是非此即彼、相互排斥的狀態(tài)。對于公共空間中應(yīng)用的人臉識別,人們在多數(shù)情況下并不介意,甚至也不認(rèn)為侵犯了自己的隱私,故泛泛而談公共空間中人臉識別的應(yīng)用是否侵犯了隱私權(quán)并無多大意義?;陬A(yù)防違法犯罪或治理社會等公共利益而進(jìn)行的此種部署雖對個體具有一定的侵入性,但限制人臉信息流通或使用的做法也體現(xiàn)了對隱私權(quán)的尊重。因此,與其說人臉識別直接侵犯了隱私權(quán),不如說是該技術(shù)的濫用增加了隱私權(quán)被濫用的風(fēng)險。[3]人們對于人臉識別的擔(dān)憂并非該技術(shù)本身的使用,而是在于被收集后人臉信息可能被不當(dāng)使用,以及對隨之而來的個人信息尤其是隱私信息泄露的問題。

    在風(fēng)險社會背景下,個人隱私與公共利益不再具有堡壘分明的劃分,人們更關(guān)注于如何實(shí)現(xiàn)二者的共生共存。維護(hù)公共利益是人臉識別應(yīng)用的首要價值基礎(chǔ),實(shí)現(xiàn)個體利益的最大化則是社會進(jìn)步的主要推動力,一味追求公共安全忽視個人隱私的保護(hù)則會對個體權(quán)利造成不公,從而催生個體的不滿和怨憤。越是處于風(fēng)險社會,越應(yīng)當(dāng)強(qiáng)調(diào)對個人隱私的保護(hù),不能以公共利益為代價增加隱私權(quán)受侵犯的風(fēng)險。

    二、域外有關(guān)人臉識別中公共利益的法律規(guī)制

    (一)歐盟——“統(tǒng)領(lǐng)引導(dǎo)”模式下的人臉信息保護(hù)機(jī)制

    1.歐盟關(guān)于人臉識別的法律規(guī)制框架

    在個人信息保護(hù)層面,歐盟采用“統(tǒng)領(lǐng)+各成員國立法”的模式。通過制定歐盟統(tǒng)領(lǐng)性的規(guī)則,引導(dǎo)各成員國建立各自的個人信息保護(hù)法律體制。此類規(guī)則,主要指歐盟保護(hù)人臉識別數(shù)據(jù)的核心法律——《通用數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation,以下簡稱“GDPR”)。GDPR 作為一項一般性文書與歐盟第2016/680 號指令組成了歐盟數(shù)據(jù)保護(hù)的新框架。

    在實(shí)現(xiàn)公共利益的過程中,GDPR 考慮到數(shù)據(jù)處理過程中相關(guān)的風(fēng)險,規(guī)定了必要的保護(hù)性舉措,主要包括風(fēng)險評估和數(shù)據(jù)保護(hù)官等。第35 條特別規(guī)定,“進(jìn)行大規(guī)模系統(tǒng)性監(jiān)控”的數(shù)據(jù)控制者在處理數(shù)據(jù)之前,必須結(jié)合處理的性質(zhì)、范圍、語境與目的,對可能給個人數(shù)據(jù)帶來的影響進(jìn)行評估,并建立和公開評估處理列表。第37 條則規(guī)定,核心涉及大規(guī)模系統(tǒng)性監(jiān)控的處理活動中,數(shù)據(jù)控制者和處理者應(yīng)當(dāng)委任數(shù)據(jù)保護(hù)官來提供咨詢建議。

    雖然尊重數(shù)據(jù)主體的基本權(quán)利與自由是GDPR 的立法宗旨,但這并不意味著數(shù)據(jù)主體的權(quán)利不受任何的限制。GDPR 將生物特征信息歸入個人數(shù)據(jù)的“特殊類別”,一般情況下禁止處理此類信息,但也規(guī)定了例外情形。GDPR 第23 條列舉了歐盟或其成員國可以通過立法手段限制數(shù)據(jù)主體權(quán)利的情形,其中大部分是出于對公共利益的考量;并規(guī)定此類限制性的立法條文中應(yīng)當(dāng)包括的具體內(nèi)容,如處理措施的目的和類型、限制的范圍、防止濫用或非法訪問的措施等。這意味著GDPR對于個人數(shù)據(jù)保護(hù)并不是絕對的,需要做到與其他基本人權(quán)、基本自由相協(xié)調(diào),不能妨礙信息自由和公眾知情權(quán)等基本權(quán)利。[4]

    歐盟第2016/680 號指令是關(guān)于主管當(dāng)局為預(yù)防、調(diào)查、偵查或起訴刑事犯罪或執(zhí)行刑事處罰目的,而處理個人數(shù)據(jù)以及此類數(shù)據(jù)的自由流通方面的規(guī)定。出于對公共利益的考量,第13 條、15 條、16 條中均出現(xiàn)了基于公共安全而限制數(shù)據(jù)主體的部分權(quán)利的規(guī)定。指令第19 條還規(guī)定了執(zhí)法機(jī)關(guān)的問責(zé)制,以使其能夠遵守數(shù)據(jù)保護(hù)的義務(wù)。雖然該條款的規(guī)定較為含糊,但它將問責(zé)義務(wù)與執(zhí)行的技術(shù)和組織的措施聯(lián)系起來,例如規(guī)定執(zhí)法機(jī)關(guān)具有“保護(hù)數(shù)據(jù)”的義務(wù),并應(yīng)進(jìn)行相稱性評估,說明處理數(shù)據(jù)的合法性、必要性以及對數(shù)據(jù)主體的影響。

    2.歐盟對人臉識別的監(jiān)管機(jī)制

    雖然GDPR 的效力層級在歐盟是“條例”,僅次于具有“憲法性”的《里斯本條約》,但部分企業(yè)與歐盟成員國仍未對其實(shí)施做好準(zhǔn)備。為了確保GDPR 的順利進(jìn)行,歐盟采用了“行政-司法”救濟(jì)機(jī)制解決數(shù)據(jù)主體的權(quán)利保護(hù)問題。數(shù)據(jù)主體有向監(jiān)管部門申訴的權(quán)利,由監(jiān)管機(jī)構(gòu)對于被申訴的行為進(jìn)行相關(guān)調(diào)查,判定是否違反GDPR。如果監(jiān)管機(jī)構(gòu)不受理或者三個月內(nèi)沒有告知申訴的進(jìn)展和結(jié)果,數(shù)據(jù)主體可以向相關(guān)法院進(jìn)行申訴,獲得進(jìn)一步的司法救濟(jì)。

    除了政府監(jiān)管渠道外,民間數(shù)據(jù)保護(hù)組織也發(fā)揮著重要的監(jiān)管作用。德國漢堡數(shù)據(jù)保護(hù)和信息自由協(xié)會(DPA)曾指令警方刪除面部信息儲存處理的一個數(shù)據(jù)庫。該數(shù)據(jù)庫由視頻監(jiān)控材料、公民上傳的私人錄像以及從媒體來源獲取的視頻和圖像等內(nèi)容所組成。警局對此有一個專門軟件用于識別圖像上的人臉,計算其特征,并創(chuàng)建和存儲以這種方式捕獲的人臉的數(shù)學(xué)模型。漢堡DPA 認(rèn)為盡管高效的刑事起訴非常重要,但在一個法治國家中,并非任何技術(shù)性事物都可能被法律所容許,創(chuàng)建該數(shù)據(jù)庫的行為是對大部分人的權(quán)利和自由的非法侵犯。然而法院認(rèn)為,漢堡DPA 應(yīng)審查警方處理數(shù)據(jù)的具體形式,并就違反GDPR 的情況進(jìn)行調(diào)查并得出結(jié)論,而非側(cè)重于警方數(shù)據(jù)庫的建立及其結(jié)構(gòu)問題,因此其要求刪除數(shù)據(jù)庫的指令無效。此外,漢堡DPA沒有考慮到警方作出賠償?shù)目赡苄裕试撝噶钤谛惺棺锰帣?quán)時存有缺陷。漢堡參議院認(rèn)為,協(xié)會應(yīng)提出申訴或發(fā)出警告,而無權(quán)下達(dá)命令。[5]從本案的判決中可以看出,對于數(shù)據(jù)保護(hù)協(xié)會,法院和立法機(jī)關(guān)傾向于將民間數(shù)據(jù)保護(hù)協(xié)會作為數(shù)據(jù)主體,認(rèn)為其不能具有裁決權(quán),但具有一定的調(diào)查權(quán)。

    因此,歐盟在公共領(lǐng)域中人臉識別規(guī)制監(jiān)管問題上,實(shí)則是采用“機(jī)構(gòu)——行政——司法”多層監(jiān)督方式促進(jìn)人臉識別技術(shù)的合理使用。

    (二)美國——嚴(yán)格限制面部識別技術(shù)的使用

    在美國,許多公民權(quán)利組織已經(jīng)對面部識別技術(shù)的使用敲響了警鐘,呼吁政府采取緊急政策和監(jiān)管行動限制其使用。美國的加利福尼亞州、華盛頓州、愛達(dá)荷州、德克薩斯州和伊利諾斯州等州已經(jīng)在通過協(xié)調(diào)運(yùn)動,帶頭規(guī)范或徹底禁止使用人臉識別技術(shù)。

    美國參議院提出的《算法問責(zé)法案》要求商業(yè)公司需要對做出自動決策的高風(fēng)險系統(tǒng)進(jìn)行評估。高風(fēng)險的自動決策系統(tǒng)中就包括可能引起安全或隱私方面的顧慮,涉及大規(guī)模監(jiān)控公眾物理位置的人臉識別技術(shù)。評估必須詳細(xì)描述該系統(tǒng),確定個人信息的隱私和安全風(fēng)險,并說明為減少這些風(fēng)險而采取的步驟。對高風(fēng)險信息系統(tǒng),還需要評估該系統(tǒng)對隱私的保護(hù)措施和安全程度。

    作為聯(lián)邦制國家,美國各州在面部信息保護(hù)方面也進(jìn)行了具體的立法管控。其中最具參考性的當(dāng)屬伊利諾伊州的《生物信息隱私法案》。但該法并不規(guī)定生物信息能否使用,而是將重點(diǎn)放在規(guī)制使用生物信息的方式,如需要告知自然人主體的內(nèi)容、企業(yè)保留生物信息的時間限制等內(nèi)容。該法要求私人實(shí)體必須符合“所在行業(yè)內(nèi)的合理注意標(biāo)準(zhǔn)”,而對于標(biāo)準(zhǔn)的判斷,不同行業(yè)也不盡相同,需要法院在作出判決時具體考量。舊金山市通過的《停止秘密監(jiān)視條例》,全面禁止當(dāng)?shù)卣块T使用人臉識別技術(shù),主要原因是該技術(shù)本身可能帶有的算法歧視,在保障公民權(quán)利和自由方面得不償失。因此,該條例將人臉識別的直接使用以及通過該技術(shù)獲取某些信息都視為違法行為。這意味著既不能在公共場所安裝人臉識別的攝像頭,也不能利用該技術(shù)鎖定嫌疑犯。

    2020 年3 月12 日,華盛頓州通過了第 6280 號《人臉識別服務(wù)法》。該法案中建立了人工審查、測試等機(jī)制來規(guī)范人臉識別技術(shù)的服務(wù)和使用。法案要求使用人臉識別服務(wù)的州或地方政府機(jī)構(gòu)做出對個人產(chǎn)生法律效力或具有類似重大影響的決定時,必須確保該等決定遵守“實(shí)質(zhì)性人工審查”的要求。所謂的“實(shí)質(zhì)性人工審查”是指由政府機(jī)構(gòu)中經(jīng)過培訓(xùn)的一人或多人進(jìn)行審查或監(jiān)管。采取類似措施的還有加利福尼亞州的《人臉識別技術(shù)法》(草案),該草案同樣對人臉識別的應(yīng)用要求進(jìn)行人工審查。此外,該草案還規(guī)定“在不威脅自由民主的情況下,允許州政府建立以某種方式適用人臉識別的保障措施。州政府可出于保護(hù)公共安全的目的,使用人臉識別定位、鑒別失蹤人員和犯罪受害者?!?/p>

    從民間組織、聯(lián)邦政府,再到各州,美國對于人臉識別技術(shù)目前仍采取較為謹(jǐn)慎的態(tài)度,嚴(yán)格限制或禁止該技術(shù)的使用。即便是出于公共利益的考量而使用該技術(shù),也要詳盡進(jìn)行介紹,經(jīng)過實(shí)質(zhì)性的審查,并采取周密的風(fēng)險防控舉措。與美國的嚴(yán)格管控相比,國內(nèi)人臉識別技術(shù)使用仍處于一個比較寬松的環(huán)境中。

    (三)波蘭——詳盡規(guī)定了人臉信息數(shù)據(jù)的處理和儲存

    波蘭政府在疫情期間推出了一款名為“家庭隔離”的應(yīng)用,強(qiáng)制公眾使用該應(yīng)用發(fā)送照片以證明遵守了隔離規(guī)則。并且政府在未經(jīng)有關(guān)數(shù)據(jù)主體同意的情況下,能夠直接從電信服務(wù)提供商獲取患病或被隔離人員終端設(shè)備的位置數(shù)據(jù)。

    在處理數(shù)據(jù)的地點(diǎn)上,考慮到在單個設(shè)備上竊取數(shù)據(jù)要比在安全服務(wù)器上容易得多,波蘭數(shù)字化部選擇了集中式的分析方案,將收集的人臉信息等數(shù)據(jù)統(tǒng)一在服務(wù)端進(jìn)行驗證。但也有學(xué)者提出,從隱私的角度出發(fā),數(shù)據(jù)收集者最好在設(shè)備上執(zhí)行人臉兼容性分析,創(chuàng)建生物特征的本地模型,再將這種模型的校驗和存儲在服務(wù)器上,以驗證模型是否隨時間變化。在請求驗證位置和面部時,僅將本地圖片與模型進(jìn)行比對,確定是否發(fā)生更改。在用戶數(shù)據(jù)的存儲期限上,從停止使用之時算起,該應(yīng)用對于用戶的個人數(shù)據(jù)儲存期限為六年,與《波蘭民法典》對索賠的限制期限相符。

    三、基于公共利益應(yīng)用人臉識別管控建議

    人臉識別技術(shù)作為一個新生領(lǐng)域,問世至今已得到各行業(yè)廣泛的青睞。然而,由于法的滯后性,目前并無有效的法律規(guī)制該技術(shù)隨意收集和濫用人臉信息。政府雖然不能對市場進(jìn)行絕對的管控,但可以通過制定相應(yīng)的法律法規(guī)對公共利益和私人利益進(jìn)行權(quán)衡,從而保障弱勢群體的信息自主權(quán)。

    (一)引入“場景導(dǎo)向”和安全審查

    由于目前法律規(guī)制不足與監(jiān)管約束不力,加之相關(guān)主體在信息收集與使用等方面缺少社會責(zé)任感,人臉信息泄露的可能性大大增加。因此,將人臉識別放置于“場景”下討論其使用的合理性,并引入嚴(yán)格的安全審查程序是保障其安全應(yīng)用的前提性條件。

    所謂的“場景導(dǎo)向”是要將個人信息的保護(hù)程度置于其所處的具體環(huán)境中進(jìn)行審視,綜合多方面對判斷處理個人信息的合理程度。人臉信息的處理是否合理的關(guān)鍵在于是否符合用戶的“合理預(yù)期”。有學(xué)者提出,通過實(shí)質(zhì)性界定的方式將公共利益分為基于安全保障、法律執(zhí)行、社會福利、經(jīng)濟(jì)發(fā)展四種類型。一般情況下它們所體現(xiàn)的利益大小依次減弱,但也要根據(jù)具體情況進(jìn)行判斷?;诠怖嫦拗茢?shù)據(jù)主體的權(quán)益屬于法律的適用,應(yīng)當(dāng)通過法律方法的方式判斷公共利益的具體內(nèi)容。[6]但在取得相關(guān)經(jīng)驗之前,確定人臉識別領(lǐng)域中限制個人自主權(quán)的場景是一項困難的任務(wù)。除了根據(jù)事實(shí)性質(zhì)判斷場景是屬于公共領(lǐng)域還是私人領(lǐng)域,立法者還有必要對應(yīng)用的具體場景進(jìn)一步加以區(qū)分,詳細(xì)地列明適用的場景和理由。

    不同場景的審查嚴(yán)格程度,取決于該場景下可能遭遇的風(fēng)險程度。針對可能發(fā)生的風(fēng)險目前存在著強(qiáng)風(fēng)險和弱風(fēng)險預(yù)防理論。強(qiáng)風(fēng)險預(yù)防理論認(rèn)為一項行為只有在被確認(rèn)沒有任何危害的情況后方可進(jìn)行;弱風(fēng)險理論認(rèn)為對于可能的風(fēng)險不能以其發(fā)生欠缺充分性而延遲采取預(yù)防危害的措施。[7]上文中美國各州對人臉識別的嚴(yán)格限制做法體現(xiàn)了強(qiáng)風(fēng)險預(yù)防理論。雖然不乏有學(xué)者提出,出于商業(yè)主體技術(shù)的領(lǐng)先優(yōu)勢和政府技術(shù)的相對落后地位的考量,政府使用人臉識別應(yīng)以事前規(guī)制為主,非政府部門的使用行為則應(yīng)關(guān)注于事中事后規(guī)制。[8]這則是從弱風(fēng)險理論的角度側(cè)重于對非政府行為導(dǎo)致風(fēng)險的預(yù)防。目前政府的人臉識別設(shè)施的安裝和監(jiān)控大多與第三方公司進(jìn)行合作,共同開展和監(jiān)管,并不存在技術(shù)信息過分遲延滯后的情形,所以筆者認(rèn)為以技術(shù)滯后為由對政府進(jìn)行事后監(jiān)管的提議有待考量。

    對于存在較強(qiáng)風(fēng)險的人臉識別使用場景,美國華盛頓州和加利福尼亞州上述中兩部法案所提出的實(shí)質(zhì)性人工審查對我國是可資借鑒。由公安機(jī)關(guān)作為人臉識別技術(shù)使用的安全審查的專門機(jī)關(guān)進(jìn)行管理,在專門機(jī)關(guān)進(jìn)行審查之下,可以設(shè)置經(jīng)過培訓(xùn)的專職的監(jiān)管員或者專職的審查小組具體負(fù)責(zé)人臉識別技術(shù)的審查。例如,商場、企業(yè)等單位及公園、學(xué)校等應(yīng)用人臉識別都應(yīng)該提前審批,公安部門負(fù)責(zé)依法審核其使用的合法性、正當(dāng)性和必要性,具體的審查的工作則由專職的監(jiān)管員進(jìn)行負(fù)責(zé)。有關(guān)機(jī)關(guān)應(yīng)當(dāng)制定明確的審查標(biāo)準(zhǔn)和程序,提高使用者責(zé)任的同時也要設(shè)立相應(yīng)審查標(biāo)準(zhǔn)及程序,加強(qiáng)人臉生物識別信息數(shù)據(jù)的管理和協(xié)作。

    此外,學(xué)界可以探索“場景理論”在人臉識別領(lǐng)域的發(fā)展,并且對于不同的場景設(shè)置差異化的保障機(jī)制,根據(jù)不同的具體場景采取差異化的保障措施,進(jìn)而對信息使用中的風(fēng)險進(jìn)行規(guī)制,從而完成由“動態(tài)合規(guī)”向“動態(tài)風(fēng)險規(guī)制的轉(zhuǎn)變”。通過多樣化、情景化的權(quán)益安排,滿足人臉信息在不同場景下的需求的同時,也有助于監(jiān)管部門對于有關(guān)合同進(jìn)行分散審查與裁判。

    (二)分階段控制

    1.收集

    人臉識別技術(shù)在諸多領(lǐng)域都得到了廣泛的應(yīng)用,從現(xiàn)實(shí)生活中來看,人臉識別技術(shù)的應(yīng)用大致分為以下幾個方面:一是政府等公共機(jī)構(gòu)基于社會公共目的而收集與利用人臉信息,例如機(jī)場、高鐵安檢時使用的人臉識別技術(shù)。二是商業(yè)主體對于交易主體進(jìn)行人臉信息的收集和應(yīng)用,如支付寶、微信等支付平臺。三是某些特定的機(jī)構(gòu)基于其他的需要對人臉信息進(jìn)行收集,如進(jìn)入特定場所或者使用某些特定的軟件而被要求刷臉認(rèn)證等。統(tǒng)觀上述情形,收集人臉信息的行為可以劃分為基于公共利益目的的需要與非公共利益目的兩種類型。

    第一,基于公共利益目的收集人臉信息。

    國家在人臉識別技術(shù)應(yīng)用的領(lǐng)域中扮演了多種角色。從現(xiàn)實(shí)情況來看,國家已然成為人臉信息最大的收集、處理和利用方。國家對人臉信息的收集可以有效地保障公共利益與社會秩序,從而極大地發(fā)揮個人生物識別信息的作用。但人臉識別技術(shù)的應(yīng)用帶來收益的同時也存在著巨大的安全風(fēng)險。因此,政府機(jī)關(guān)收集人臉信息必須基于公共利益的目的需要,且符合比例原則的要求。公共機(jī)構(gòu)在利用人臉識別技術(shù)收集個人生物信息時必須遵守以下規(guī)則:其一,政府等公共機(jī)構(gòu)必須以公共利益為目的收集人臉信息。例如,政府為了疫情防控收集個人面部信息,公安機(jī)關(guān)在刑事偵查等情形下收集并利用人臉信息。其二,有明確法律依據(jù)或經(jīng)授權(quán)的主體才可收集。政府等公共機(jī)構(gòu)收集人臉信息之前必須具有明確的授權(quán),且必須在職權(quán)范圍內(nèi)收集。

    第二,基于非公共利益目的收集人臉信息。

    對于非政府部門使用人臉識別的做法,目前的立法和實(shí)踐多體現(xiàn)了弱風(fēng)險預(yù)防理論。商業(yè)主體使用人臉識別技術(shù)并且收集人臉信息通常并非基于公共利益的目的。近年來,各商業(yè)公司收集個人生物信息的趨勢呈迅速上升的趨勢,實(shí)踐中判定個人信息是否收集過度也是基于“必要性”而非公共利益的考量。此類情形大多為商業(yè)主體為了提高自身的服務(wù)、商品質(zhì)量甚至是僅僅滿足自身的管理便利而使用人臉識別。

    此外,學(xué)校、公園等非商業(yè)主體的日常管理中也時常出現(xiàn)人臉識別的影子。在公法上,學(xué)校的管理行為長期被界定為“內(nèi)部管理行為”,無法通過訴訟途徑救濟(jì)。但并非一切管理行為都完全自治,人臉識別引入到學(xué)校進(jìn)行日常的管理雖然在一定程度上提高了管理效率,但此類行為顯然不符合比例原則。以面部數(shù)據(jù)被捕獲為代價換取有其他可提供渠道的商品、服務(wù),對于理性主體無疑是不合比例的。因此,基于非公益目的使用人臉識別的情形設(shè)定應(yīng)當(dāng)更為嚴(yán)苛,收集前應(yīng)當(dāng)確保被收集人實(shí)質(zhì)知情和同意。這必須通過制度設(shè)計來令當(dāng)事人真正知曉所面對的風(fēng)險、成本和收集,在此基礎(chǔ)上作出同意與否的結(jié)論。[9]

    2.保存

    在人臉信息儲存的經(jīng)驗中,波蘭政府的相關(guān)舉措值得我國參考借鑒。我國目前的商業(yè)應(yīng)用中,對于人臉數(shù)據(jù)收集后一般是傳輸?shù)椒?wù)器中進(jìn)行分析和處理,采用統(tǒng)一集中式的分析方法,此種做法是考慮到數(shù)據(jù)處理的安全性,但在隱私保護(hù)層面有待考慮。

    此外我國目前法律規(guī)范對于面部信息存儲的期限并沒有作出規(guī)定。從商業(yè)領(lǐng)域來看,面部信息的使用存儲一般以實(shí)現(xiàn)特定目的為期限,諸如“美顏相機(jī)”在用戶協(xié)議中承諾“服務(wù)完成后系統(tǒng)將自動刪除相關(guān)圖像?!?/p>

    雖然在商業(yè)領(lǐng)域中,限制數(shù)據(jù)保留的期間是一種常規(guī)做法。但在公共空間中設(shè)置的人臉信息識別裝置,是一種可大規(guī)模收集敏感數(shù)據(jù)的管理控制工具,管理目的一旦達(dá)到,這種手段方法就應(yīng)該立即停止,以免造成不必要的個人數(shù)據(jù)面臨的風(fēng)險?;谔厥饽康倪M(jìn)行的數(shù)據(jù)收集、使用后應(yīng)當(dāng)及時予以刪除,不應(yīng)超出實(shí)現(xiàn)特定目的所需要的期限;若有其他目的需要進(jìn)一步使用該數(shù)據(jù)并延長存儲期限的,則應(yīng)當(dāng)經(jīng)過嚴(yán)格明確的審批流程,確保面部信息的合目的性使用。

    3.使用

    由于信息技術(shù)的快速發(fā)展,政府部門之間或者政府部分與商業(yè)公司之間共享數(shù)據(jù)變得十分常見。為了避免在此過程中個人信息的泄露,必須要構(gòu)建一套數(shù)據(jù)使用和交換標(biāo)準(zhǔn)。商業(yè)公司在處理、利用人臉識別技術(shù)收集到的人臉信息時,不能超出規(guī)定的目的。公共場合隱私的“非隱私化處理”符合理性法則,但在公共場合中個人隱私處于難以控制或暫時喪失控制狀態(tài),這時就需要考慮對公共場合中涉私信息進(jìn)行隱私化處理。

    此外,立法機(jī)關(guān)應(yīng)當(dāng)提高該技術(shù)使用領(lǐng)域的透明度,為該技術(shù)的使用提供充分合理的理由,如存在對監(jiān)控主體參與犯罪或犯罪威脅的合理懷疑。而執(zhí)法機(jī)關(guān)在對人臉信息進(jìn)行收集使用前,應(yīng)當(dāng)事先對其的必要性和影響進(jìn)行評估。有關(guān)監(jiān)督當(dāng)局也要向個人充分通報其人臉信息數(shù)據(jù)的處理情況,并使其有機(jī)會行使權(quán)利,特別是通過向法院和監(jiān)管機(jī)構(gòu)提出申訴來糾正、獲取、刪除和質(zhì)疑處理相關(guān)業(yè)務(wù)。

    (三)事后追責(zé)機(jī)制

    當(dāng)政府及相關(guān)部門作為人臉信息的收集主體時,大多數(shù)情況下其收集行為對于公民具有強(qiáng)制性。此時,政府所承擔(dān)的責(zé)任不僅是維護(hù)公共利益,更要重視個人的信息權(quán)益。除了對于人臉信息的收集和使用情況及時進(jìn)行公布,采取必要的保護(hù)措施外,有關(guān)部門還應(yīng)當(dāng)建立起明確、具體的責(zé)任機(jī)制,對于面部信息泄露后的追責(zé)機(jī)制進(jìn)行詳盡的說明,以確保公眾相信權(quán)力不會被濫用。對于那些人臉信息被收集后不合理的使用或泄露,但未對其提起訴訟的個人,至少在事后獲得相關(guān)信息以及適當(dāng)?shù)难a(bǔ)救。

    對于人臉識別技術(shù)的開發(fā)者或合作者,有必要規(guī)制其公開信息的范圍、方式,增加公眾對于采取人臉識別的了解,進(jìn)而確保技術(shù)符合知情權(quán)、程序性權(quán)利以及其他基本權(quán)利和自由,以便對侵犯基本權(quán)利的使用提出質(zhì)疑。對于人們不理性的行為,也需要通過強(qiáng)化信息掌控者的責(zé)任對知情同意進(jìn)行柔韌化處理。數(shù)據(jù)保護(hù)機(jī)關(guān)應(yīng)當(dāng)對人臉信息的收集進(jìn)行合法性審查,尤其是為“公共安全”目的而采取的措施,更應(yīng)當(dāng)根據(jù)嚴(yán)格必要性的要求進(jìn)行審查。

    (四)隱私權(quán)路徑及程序性追責(zé)的改進(jìn)方案

    相較于保護(hù)人臉面部圖像,規(guī)制人臉識別更側(cè)重于保護(hù)面部信息所隱含的其他信息,如個人習(xí)慣、偏好等可以作為隱私權(quán)保護(hù)對象的信息。保護(hù)個人著作和任何其他智力或情感作品是出于對維護(hù)隱私權(quán)的考慮,當(dāng)需要將這種保護(hù)擴(kuò)展到個人外表、言語、行為和家庭等方面,而法律又沒有相關(guān)規(guī)定時,我們不妨從維護(hù)這些私人身份的最終目的——防止出現(xiàn)公共畫像進(jìn)行考慮,從而能夠?qū)㈦[私權(quán)擴(kuò)張行使。

    在私人領(lǐng)域,目前一個侵權(quán)保護(hù)的誘人方案是法院或立法機(jī)構(gòu)將“隱私”擴(kuò)大到公共場所。為了避免濫訴,需要嚴(yán)格限制獲得隱私保護(hù)的資格:只保護(hù)“那些受到嚴(yán)重的公共入侵的人”。作為一種替代辦法,法院可以放寬對侵權(quán)和公共信息權(quán)的解釋,以便使申訴適用于人臉識別搜索系統(tǒng)。需要注意的是,隱私權(quán)并不是絕對的權(quán)利,它的行使要受到追求合法目標(biāo)的限制。此類限制在適用前應(yīng)通過合法性的測試,并在真正必要時按照比例原則予以適用。

    目前我國民法中并未對“違反程序”的個人信息處理行為規(guī)定其民事責(zé)任。由此,程序性違法行為的民事責(zé)任,特別是民事?lián)p害賠償責(zé)任的認(rèn)定就變成了一個未解的疑惑。《民法典》中看似可援引的責(zé)任承擔(dān)方式——“損害賠償”,以人身、財產(chǎn)、嚴(yán)重精神損害等實(shí)質(zhì)性損害為基礎(chǔ)。而人臉識別是程序性的行為,違法特征突出表現(xiàn)為“程序性違法”,[10]可能并沒有出現(xiàn)實(shí)質(zhì)性損害,由此便對民事訴訟救濟(jì)的實(shí)現(xiàn)造成了阻礙。確定“程序性違法”中損害的認(rèn)定標(biāo)準(zhǔn)并且規(guī)定責(zé)任承擔(dān)問題,就成了解決侵犯人臉信息救濟(jì)途徑中亟待解決的一環(huán)。

    四、結(jié)語

    大數(shù)據(jù)時期的到來對個人信息保護(hù)提出了史無前例的巨大挑戰(zhàn),將相關(guān)制度推向改革的風(fēng)口。除了正確理解并借鑒國際社會中已然形成的保護(hù)規(guī)則外,我國還要根據(jù)自身的國情和實(shí)際,凝練出社會的共同認(rèn)知,兼顧個人尊嚴(yán)和公共利益,制定有力的、有保障的人臉識別規(guī)制制度。面對現(xiàn)如今人臉信息被濫用的問題,解決方案不能僅僅寄托于普通個體身上,因為理性主體的數(shù)據(jù)安全意識培養(yǎng)并非一蹴而就。故對于行業(yè)自律的要求愈發(fā)嚴(yán)苛,對與外部的法律、行政監(jiān)管也要求更加嚴(yán)密。而想要明晰各方的權(quán)責(zé),只有對人臉識別使用的核心目的——公共利益,進(jìn)行相應(yīng)使用限度的分析劃界,才能夠?qū)崿F(xiàn)。

    猜你喜歡
    公共利益人臉識別人臉
    談?wù)剛€人信息保護(hù)和公共利益維護(hù)的合理界限
    人臉識別 等
    有特點(diǎn)的人臉
    揭開人臉識別的神秘面紗
    三國漫——人臉解鎖
    動漫星空(2018年9期)2018-10-26 01:17:14
    論專利行政執(zhí)法對公共利益的保護(hù)
    基于類獨(dú)立核稀疏表示的魯棒人臉識別
    馬面部與人臉相似度驚人
    長得象人臉的十種動物
    奇聞怪事(2014年5期)2014-05-13 21:43:01
    基于K-L變換和平均近鄰法的人臉識別
    99精品在免费线老司机午夜| 男人舔奶头视频| 此物有八面人人有两片| 精品久久久久久,| 国产不卡一卡二| 男女下面进入的视频免费午夜| 国产精品一及| 一二三四社区在线视频社区8| 国产亚洲欧美在线一区二区| 男女之事视频高清在线观看| 嫩草影院入口| 一本一本综合久久| 无人区码免费观看不卡| 国产日本99.免费观看| 精品99又大又爽又粗少妇毛片 | 99热这里只有是精品在线观看 | 国内揄拍国产精品人妻在线| 亚洲激情在线av| 国产精品一区二区三区四区久久| 最近视频中文字幕2019在线8| 欧美激情在线99| 在现免费观看毛片| 久久99热6这里只有精品| 国产大屁股一区二区在线视频| 人人妻人人看人人澡| .国产精品久久| 久久精品人妻少妇| www日本黄色视频网| 久久婷婷人人爽人人干人人爱| 日本精品一区二区三区蜜桃| 极品教师在线免费播放| 欧美zozozo另类| 18禁裸乳无遮挡免费网站照片| 精品一区二区三区视频在线| 国产人妻一区二区三区在| 国产视频内射| 久久天躁狠狠躁夜夜2o2o| 免费搜索国产男女视频| 天堂√8在线中文| 我要看日韩黄色一级片| 老鸭窝网址在线观看| 特大巨黑吊av在线直播| 免费av不卡在线播放| 日本 av在线| 色播亚洲综合网| 国产精品久久久久久久久免 | 有码 亚洲区| 麻豆国产av国片精品| 国产在线精品亚洲第一网站| 午夜福利在线观看免费完整高清在 | 能在线免费观看的黄片| 91在线观看av| www日本黄色视频网| 两个人视频免费观看高清| 一级av片app| 久久久久久久久久成人| www日本黄色视频网| 岛国在线免费视频观看| www.熟女人妻精品国产| 小说图片视频综合网站| 久久人人爽人人爽人人片va | 三级男女做爰猛烈吃奶摸视频| 国产高清激情床上av| 99久久无色码亚洲精品果冻| 国产aⅴ精品一区二区三区波| 久久国产精品影院| АⅤ资源中文在线天堂| 国产成人av教育| 日韩欧美在线乱码| 国产野战对白在线观看| 久久亚洲真实| 国产成人a区在线观看| 日本黄色视频三级网站网址| 色哟哟·www| 精品久久久久久久久av| 中文字幕精品亚洲无线码一区| 中文字幕高清在线视频| 麻豆久久精品国产亚洲av| 精品国产三级普通话版| 一个人免费在线观看的高清视频| 欧美性猛交╳xxx乱大交人| 亚洲精华国产精华精| 日韩有码中文字幕| 欧洲精品卡2卡3卡4卡5卡区| 国产av麻豆久久久久久久| 亚洲av五月六月丁香网| 大型黄色视频在线免费观看| 男女下面进入的视频免费午夜| 久久久久久国产a免费观看| 亚洲七黄色美女视频| 最近在线观看免费完整版| 久久草成人影院| 日日夜夜操网爽| 国产白丝娇喘喷水9色精品| 午夜福利高清视频| 亚洲美女视频黄频| 嫩草影院新地址| 能在线免费观看的黄片| 国内久久婷婷六月综合欲色啪| 午夜日韩欧美国产| 在线观看免费视频日本深夜| 自拍偷自拍亚洲精品老妇| 日韩欧美三级三区| 91在线精品国自产拍蜜月| 成人av在线播放网站| 亚洲精品乱码久久久v下载方式| 中文字幕av在线有码专区| 国产老妇女一区| av国产免费在线观看| 九九热线精品视视频播放| 18禁裸乳无遮挡免费网站照片| 中出人妻视频一区二区| 看片在线看免费视频| 九九在线视频观看精品| 亚洲国产精品999在线| 精品久久国产蜜桃| 99riav亚洲国产免费| 91麻豆av在线| 午夜日韩欧美国产| 色哟哟哟哟哟哟| 他把我摸到了高潮在线观看| 在线观看美女被高潮喷水网站 | 色综合婷婷激情| 成年女人看的毛片在线观看| 欧美bdsm另类| 国产精品女同一区二区软件 | 如何舔出高潮| 99久久99久久久精品蜜桃| 精品一区二区三区视频在线观看免费| 久久精品夜夜夜夜夜久久蜜豆| 俄罗斯特黄特色一大片| 国产真实乱freesex| 老女人水多毛片| 日韩精品中文字幕看吧| 国产av在哪里看| 九色成人免费人妻av| 国产精华一区二区三区| 亚洲美女搞黄在线观看 | 无人区码免费观看不卡| 成人美女网站在线观看视频| 亚洲av二区三区四区| 无遮挡黄片免费观看| 亚洲无线在线观看| 久9热在线精品视频| 又爽又黄a免费视频| 成人国产综合亚洲| 国产三级在线视频| 久久久久久久午夜电影| 真人一进一出gif抽搐免费| 久久国产精品人妻蜜桃| 欧美最新免费一区二区三区 | 日本 欧美在线| 特大巨黑吊av在线直播| 色5月婷婷丁香| 亚洲精品亚洲一区二区| 久久精品影院6| 午夜福利视频1000在线观看| 别揉我奶头 嗯啊视频| 成人高潮视频无遮挡免费网站| 日韩欧美国产一区二区入口| 少妇的逼好多水| 一本久久中文字幕| 国产精品久久电影中文字幕| 日韩国内少妇激情av| 久久欧美精品欧美久久欧美| 久久人人爽人人爽人人片va | 国产精品电影一区二区三区| 国产老妇女一区| 国产高清激情床上av| 69人妻影院| 国产亚洲欧美98| 亚洲av中文字字幕乱码综合| 国产精品一区二区性色av| 亚洲av.av天堂| 91久久精品国产一区二区成人| 久久99热6这里只有精品| 波多野结衣巨乳人妻| 每晚都被弄得嗷嗷叫到高潮| 深夜精品福利| 99riav亚洲国产免费| 日本三级黄在线观看| 少妇高潮的动态图| 亚洲成人中文字幕在线播放| 我要搜黄色片| 夜夜夜夜夜久久久久| 99久久99久久久精品蜜桃| 大型黄色视频在线免费观看| 少妇的逼好多水| 日本撒尿小便嘘嘘汇集6| 性色av乱码一区二区三区2| 午夜老司机福利剧场| 一卡2卡三卡四卡精品乱码亚洲| 好看av亚洲va欧美ⅴa在| 99国产综合亚洲精品| 热99re8久久精品国产| 免费人成在线观看视频色| 亚洲 欧美 日韩 在线 免费| 久久婷婷人人爽人人干人人爱| 欧美激情在线99| 特大巨黑吊av在线直播| 一个人看视频在线观看www免费| 神马国产精品三级电影在线观看| 国产三级黄色录像| 麻豆成人午夜福利视频| 国产精品电影一区二区三区| 国产高潮美女av| 亚洲熟妇熟女久久| 日韩亚洲欧美综合| 啦啦啦韩国在线观看视频| 麻豆久久精品国产亚洲av| 亚洲熟妇中文字幕五十中出| 欧美色视频一区免费| av黄色大香蕉| 午夜两性在线视频| 欧美黑人欧美精品刺激| 禁无遮挡网站| 精品久久久久久久久久免费视频| 国产亚洲精品久久久久久毛片| 婷婷六月久久综合丁香| 欧美黑人巨大hd| 精品99又大又爽又粗少妇毛片 | 熟女电影av网| 亚洲精品色激情综合| 亚洲五月婷婷丁香| av在线老鸭窝| 精品一区二区三区视频在线观看免费| 国产私拍福利视频在线观看| 日韩高清综合在线| 国产综合懂色| 国产精品一区二区性色av| 国产国拍精品亚洲av在线观看| 欧美乱妇无乱码| 亚洲欧美日韩高清在线视频| 亚洲中文字幕一区二区三区有码在线看| 黄片小视频在线播放| 国产精华一区二区三区| 精品一区二区三区av网在线观看| 精品一区二区三区人妻视频| 国产高清视频在线观看网站| 亚洲国产色片| 麻豆一二三区av精品| 久久欧美精品欧美久久欧美| 欧美性猛交╳xxx乱大交人| 欧美黄色淫秽网站| 亚洲欧美日韩东京热| avwww免费| 毛片一级片免费看久久久久 | 亚洲人成伊人成综合网2020| 在线观看舔阴道视频| 久久国产乱子伦精品免费另类| 午夜亚洲福利在线播放| 亚洲av电影不卡..在线观看| 国产成+人综合+亚洲专区| 久久欧美精品欧美久久欧美| 久久久久久久久久黄片| 18美女黄网站色大片免费观看| 午夜老司机福利剧场| 校园春色视频在线观看| 亚洲经典国产精华液单 | 99久国产av精品| 欧美日韩国产亚洲二区| 91av网一区二区| 啪啪无遮挡十八禁网站| 国产免费男女视频| 国产精品精品国产色婷婷| 99热这里只有是精品50| 久久婷婷人人爽人人干人人爱| 国产视频内射| 国产高潮美女av| 最后的刺客免费高清国语| 久久精品国产亚洲av涩爱 | 国产精品乱码一区二三区的特点| 一个人免费在线观看的高清视频| 可以在线观看毛片的网站| 他把我摸到了高潮在线观看| 如何舔出高潮| 神马国产精品三级电影在线观看| 久久午夜亚洲精品久久| 欧美三级亚洲精品| 男女视频在线观看网站免费| 国产精品99久久久久久久久| 琪琪午夜伦伦电影理论片6080| 国产 一区 欧美 日韩| 亚洲精品日韩av片在线观看| 女人被狂操c到高潮| ponron亚洲| 男插女下体视频免费在线播放| 激情在线观看视频在线高清| 最近中文字幕高清免费大全6 | 欧美不卡视频在线免费观看| 精品免费久久久久久久清纯| 特级一级黄色大片| 偷拍熟女少妇极品色| 窝窝影院91人妻| 国产精品,欧美在线| 一卡2卡三卡四卡精品乱码亚洲| 人人妻人人澡欧美一区二区| xxxwww97欧美| 2021天堂中文幕一二区在线观| 精品人妻熟女av久视频| 日韩欧美 国产精品| 亚洲五月婷婷丁香| 日本黄色视频三级网站网址| 十八禁人妻一区二区| 网址你懂的国产日韩在线| 男女之事视频高清在线观看| 久久精品国产亚洲av涩爱 | .国产精品久久| 狠狠狠狠99中文字幕| 国产亚洲精品综合一区在线观看| 90打野战视频偷拍视频| 麻豆一二三区av精品| 精品午夜福利在线看| 日韩欧美国产在线观看| 国产不卡一卡二| 毛片女人毛片| 又紧又爽又黄一区二区| 最近最新免费中文字幕在线| 网址你懂的国产日韩在线| 69人妻影院| 亚洲,欧美,日韩| 在线免费观看的www视频| 1024手机看黄色片| 真人做人爱边吃奶动态| 午夜福利在线在线| 一区福利在线观看| 亚洲七黄色美女视频| 首页视频小说图片口味搜索| 欧美最黄视频在线播放免费| 悠悠久久av| 国产精品精品国产色婷婷| 免费黄网站久久成人精品 | 国产精品久久久久久人妻精品电影| 精品人妻一区二区三区麻豆 | 99riav亚洲国产免费| 国产探花在线观看一区二区| 精品人妻视频免费看| 亚洲五月婷婷丁香| 亚洲av二区三区四区| 久久久久久久精品吃奶| 精品福利观看| 午夜福利在线观看吧| 日韩精品中文字幕看吧| 老鸭窝网址在线观看| 白带黄色成豆腐渣| 欧美成人一区二区免费高清观看| 欧美不卡视频在线免费观看| 中亚洲国语对白在线视频| 白带黄色成豆腐渣| 午夜福利在线观看吧| 黄色日韩在线| 成人无遮挡网站| 亚洲av二区三区四区| 欧美黑人巨大hd| 国产乱人伦免费视频| 丝袜美腿在线中文| 国产精品国产高清国产av| 欧美激情在线99| 国产毛片a区久久久久| 女人十人毛片免费观看3o分钟| 日韩国内少妇激情av| 午夜亚洲福利在线播放| 婷婷亚洲欧美| 久久久久国内视频| 国产午夜福利久久久久久| 国产精华一区二区三区| 午夜福利在线观看免费完整高清在 | 欧美+日韩+精品| 深爱激情五月婷婷| 伊人久久精品亚洲午夜| 日韩av在线大香蕉| 国产精品1区2区在线观看.| 性插视频无遮挡在线免费观看| 婷婷亚洲欧美| 在线观看午夜福利视频| 动漫黄色视频在线观看| 亚洲人成电影免费在线| 国产精品影院久久| 国产单亲对白刺激| 国产主播在线观看一区二区| 观看免费一级毛片| АⅤ资源中文在线天堂| 国产精品人妻久久久久久| 国产精品爽爽va在线观看网站| 亚洲午夜理论影院| 观看美女的网站| 欧美激情国产日韩精品一区| 免费搜索国产男女视频| 夜夜看夜夜爽夜夜摸| 亚洲成av人片免费观看| 久久精品人妻少妇| 国产单亲对白刺激| 国产精品av视频在线免费观看| 国产成人啪精品午夜网站| 色综合亚洲欧美另类图片| 国产又黄又爽又无遮挡在线| 一二三四社区在线视频社区8| 窝窝影院91人妻| 亚洲av日韩精品久久久久久密| 人人妻人人看人人澡| 偷拍熟女少妇极品色| 亚洲va日本ⅴa欧美va伊人久久| 国产高清有码在线观看视频| 国语自产精品视频在线第100页| 天天躁日日操中文字幕| 成人特级黄色片久久久久久久| 真人一进一出gif抽搐免费| 欧美一区二区精品小视频在线| 热99re8久久精品国产| 最好的美女福利视频网| 亚洲人成网站在线播| 亚洲美女视频黄频| 国产成人a区在线观看| 国产黄a三级三级三级人| 天堂av国产一区二区熟女人妻| 亚洲无线在线观看| 在线十欧美十亚洲十日本专区| 男女视频在线观看网站免费| 永久网站在线| 国内精品久久久久久久电影| 中文字幕人成人乱码亚洲影| 精品人妻一区二区三区麻豆 | 国内少妇人妻偷人精品xxx网站| 51国产日韩欧美| 国产三级在线视频| 国产久久久一区二区三区| 亚洲av.av天堂| 精品一区二区三区av网在线观看| 淫秽高清视频在线观看| 18+在线观看网站| 国产黄色小视频在线观看| 激情在线观看视频在线高清| 免费观看的影片在线观看| 成人av一区二区三区在线看| 99热这里只有是精品在线观看 | 淫妇啪啪啪对白视频| 有码 亚洲区| 韩国av一区二区三区四区| 亚洲av第一区精品v没综合| 黄色日韩在线| 别揉我奶头~嗯~啊~动态视频| 99国产极品粉嫩在线观看| 国产v大片淫在线免费观看| 精品国产三级普通话版| 高潮久久久久久久久久久不卡| 淫秽高清视频在线观看| 成人国产综合亚洲| 欧美乱妇无乱码| 国产三级中文精品| 婷婷丁香在线五月| 亚洲av免费在线观看| 美女被艹到高潮喷水动态| 国产精品自产拍在线观看55亚洲| 国产白丝娇喘喷水9色精品| 免费观看的影片在线观看| 91午夜精品亚洲一区二区三区 | 久久久久国产精品人妻aⅴ院| 成人无遮挡网站| 国产高潮美女av| 麻豆av噜噜一区二区三区| 18禁黄网站禁片免费观看直播| 午夜福利成人在线免费观看| 香蕉av资源在线| 日日夜夜操网爽| 超碰av人人做人人爽久久| 婷婷精品国产亚洲av| 美女cb高潮喷水在线观看| 大型黄色视频在线免费观看| 特大巨黑吊av在线直播| 深夜精品福利| 亚洲一区二区三区不卡视频| 日本 欧美在线| 1000部很黄的大片| 国产单亲对白刺激| 黄片小视频在线播放| 成人精品一区二区免费| 亚洲国产精品成人综合色| 国产一级毛片七仙女欲春2| 国产中年淑女户外野战色| 搡老岳熟女国产| 乱码一卡2卡4卡精品| 丰满乱子伦码专区| 成年版毛片免费区| 别揉我奶头~嗯~啊~动态视频| 亚洲自拍偷在线| 尤物成人国产欧美一区二区三区| 麻豆国产97在线/欧美| 亚洲,欧美,日韩| 日韩欧美精品免费久久 | 精品99又大又爽又粗少妇毛片 | 亚洲人成电影免费在线| 五月伊人婷婷丁香| 淫妇啪啪啪对白视频| 极品教师在线免费播放| 女同久久另类99精品国产91| 非洲黑人性xxxx精品又粗又长| 五月伊人婷婷丁香| 国内精品久久久久精免费| 超碰av人人做人人爽久久| 女同久久另类99精品国产91| 精品无人区乱码1区二区| 日本 av在线| 欧美潮喷喷水| 亚洲,欧美精品.| 亚洲欧美日韩高清在线视频| 欧美午夜高清在线| 中文字幕免费在线视频6| 亚洲成人精品中文字幕电影| 国产精品亚洲av一区麻豆| 少妇人妻一区二区三区视频| 国产69精品久久久久777片| 国产三级在线视频| 午夜激情欧美在线| 日本五十路高清| 亚洲人成伊人成综合网2020| 国产精品久久久久久亚洲av鲁大| 免费在线观看成人毛片| 亚洲真实伦在线观看| 美女高潮的动态| 一级a爱片免费观看的视频| 91麻豆av在线| 久久精品国产自在天天线| 99热这里只有精品一区| 国内揄拍国产精品人妻在线| 欧美国产日韩亚洲一区| 亚洲激情在线av| 久久久久久久亚洲中文字幕 | 热99re8久久精品国产| 神马国产精品三级电影在线观看| 亚洲成a人片在线一区二区| 国产午夜精品久久久久久一区二区三区 | 婷婷丁香在线五月| 久久这里只有精品中国| 国产色爽女视频免费观看| 国产精品自产拍在线观看55亚洲| 午夜两性在线视频| 久久久国产成人精品二区| 欧美黄色片欧美黄色片| 国产探花极品一区二区| 久久久色成人| 最新中文字幕久久久久| 亚洲中文日韩欧美视频| 国产成人影院久久av| 国产精品影院久久| 国产又黄又爽又无遮挡在线| 在线观看美女被高潮喷水网站 | 久久天躁狠狠躁夜夜2o2o| 亚洲av成人不卡在线观看播放网| 天堂影院成人在线观看| 日韩欧美免费精品| 精品一区二区三区视频在线观看免费| 老司机午夜福利在线观看视频| 十八禁网站免费在线| 国产毛片a区久久久久| 国产精品美女特级片免费视频播放器| 国内揄拍国产精品人妻在线| 午夜日韩欧美国产| 男人的好看免费观看在线视频| 久久人人精品亚洲av| 久久国产精品人妻蜜桃| а√天堂www在线а√下载| 日韩欧美 国产精品| 亚洲国产精品久久男人天堂| or卡值多少钱| 亚洲第一区二区三区不卡| 99久国产av精品| 精品久久国产蜜桃| 在线观看66精品国产| 国产视频内射| 亚洲熟妇中文字幕五十中出| 成年版毛片免费区| 久久久久性生活片| 亚洲,欧美精品.| 亚洲最大成人中文| 能在线免费观看的黄片| 免费av毛片视频| 国产午夜精品论理片| 禁无遮挡网站| 少妇丰满av| 中文字幕av在线有码专区| 久久久久九九精品影院| 深夜a级毛片| 成人欧美大片| 成人无遮挡网站| 亚洲国产精品999在线| 美女被艹到高潮喷水动态| 欧美xxxx黑人xx丫x性爽| 日本与韩国留学比较| 亚洲三级黄色毛片| 嫩草影院入口| 无遮挡黄片免费观看| 国产欧美日韩精品一区二区| 在线观看午夜福利视频| 91av网一区二区| 波多野结衣巨乳人妻| 男插女下体视频免费在线播放| av国产免费在线观看| 成人精品一区二区免费| 禁无遮挡网站| 亚洲片人在线观看| 中文资源天堂在线| 精品一区二区三区视频在线| 丰满的人妻完整版| 亚洲,欧美,日韩| 国产精品美女特级片免费视频播放器| 国产精品一及| 欧美激情久久久久久爽电影| 亚洲欧美激情综合另类| 男女床上黄色一级片免费看| 欧美不卡视频在线免费观看| 桃色一区二区三区在线观看| 变态另类丝袜制服| 久久香蕉精品热| 精品99又大又爽又粗少妇毛片 | 久久草成人影院|