• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能家居消費者的個人信息保護

    2020-04-28 02:39:14貴州警察學(xué)院貴州貴陽550005
    貴州警察學(xué)院學(xué)報 2020年1期
    關(guān)鍵詞:智能家居經(jīng)營者個人信息

    曾 真(貴州警察學(xué)院,貴州 貴陽 550005)

    今日世界對人工智能早已不再陌生,在技術(shù)日益進步的浪潮下,智能家居已經(jīng)從科幻構(gòu)想走進千家萬戶,成為人們?nèi)粘I畹谋匦杵?。智能家居(Home Automation)是利用物聯(lián)網(wǎng)技術(shù)(Internet of Things)將各種家用設(shè)備連接到一起,提供集成的家居控制系統(tǒng)。一方面,智能家居的設(shè)計初衷是為生活提供便利,節(jié)省家務(wù)勞動的人力和時間成本,為了達(dá)到這一目的,聯(lián)網(wǎng)設(shè)備不可避免地要獲取、儲存、傳輸甚至分析、利用與人類生活各個方面密切相關(guān)的信息;另一方面,消費者享有個人信息依法得到保護的權(quán)利。如此,智能家居對消費者個人信息的采集和利用各環(huán)節(jié)都有可能與信息保護的需要相沖突。2018年9月,中國消費者協(xié)會官網(wǎng)發(fā)布《APP個人信息泄露情況調(diào)查報告》,數(shù)據(jù)顯示有超過85%的受訪者曾遭遇個人信息泄露的問題[1]。事實表明,我國消費者個人信息安全情況不容樂觀,因此,有必要對可能發(fā)生的信息風(fēng)險進行識別,并制定相應(yīng)對策,以期在便捷生活和個人信息充分保護之間達(dá)到平衡。針對我國實際情況,2018年,全國人大常委會已將制定我國的《個人信息保護法》列入本屆立法規(guī)劃,其中,智能家居設(shè)備的信息風(fēng)險是亟待關(guān)注和解決的重要問題。

    一、智能家居運作基本原理

    智能家居系統(tǒng)通常包括兩個必要部分,其一是一套集成系統(tǒng)終端設(shè)備作為控制中心,另一部分是通過網(wǎng)絡(luò)連接接入該集成系統(tǒng)的所有受控設(shè)備,使用者只需操作該集成系統(tǒng)即可控制所有接入設(shè)備。[2]“智能”則體現(xiàn)為便利的人機交互性,作為控制中心的終端集成系統(tǒng)操作高度智能化,甚至可以通過分析使用者輸入的指令,掌握其使用習(xí)慣、偏好等,運用一系列復(fù)雜算法為使用者自動匹配最優(yōu)方案。

    (一)電子數(shù)據(jù)采集設(shè)備——受控制的接入設(shè)備

    電子數(shù)據(jù)采集設(shè)備(Electronic Data Gathering Equipment,簡稱EDGE),是一套以電子格式收集數(shù)據(jù)的計算機化系統(tǒng)。在智能家居架構(gòu)中,這套系統(tǒng)兼有信號輸出和輸入的功能。

    EDGE系統(tǒng)輸出的信號,是基于執(zhí)行器(Actuators)、家用電器(Appliances)以及傳感器(Sensors)等設(shè)備收集到的智能家居運行所需要的信息 。例如智能門鎖能記錄門鎖開啟、關(guān)閉的狀態(tài),智能室內(nèi)溫濕度計能實時監(jiān)控家中溫度、濕度變化,帶運動感應(yīng)功能的電器如燈泡等能感應(yīng)到周圍人或者動物的運動,通過這些設(shè)備將信號輸入網(wǎng)絡(luò)服務(wù)器,使用者即可在終端設(shè)備上掌握家居安全、環(huán)境監(jiān)控以及機器運轉(zhuǎn)狀況等各項指標(biāo)。

    實現(xiàn)信號輸入功能,需要用戶在終端集成系統(tǒng)將指令上傳到網(wǎng)絡(luò)服務(wù)器,則接入該網(wǎng)絡(luò)服務(wù)器的所有EDGE設(shè)備就能按照用戶的指令需求做出相應(yīng)反饋,例如用戶可通過指令遠(yuǎn)程操作打開空調(diào)、電視、電燈等電器,或者授予客人臨時打開門鎖進入室內(nèi)的權(quán)限等,此時用戶輸入的指令轉(zhuǎn)換為電子信號,使EDGE設(shè)備能按用戶的需求工作。

    可以接入EDGE系統(tǒng)的設(shè)備范圍幾乎不受限制,大到暖通、空調(diào)、照明、安防等控制系統(tǒng)或者電視、冰箱、洗衣機、家庭影院等家用電器,小到電飯煲、烤箱、咖啡機、鬧鐘等生活用品,萬物皆可互聯(lián)。部分電器自身可以發(fā)射和接收網(wǎng)絡(luò)信號,不能通過電流發(fā)射和接收信號的物體也可以通過置入射頻識別碼等手段使其接入終端。物聯(lián)網(wǎng)技術(shù)使家居智能化成為現(xiàn)實,隨著聯(lián)網(wǎng)成本的日益縮減,智能家居的普及已然形成不可阻擋的趨勢。

    (二)集成系統(tǒng)

    集成系統(tǒng)(System Integrations)也就是用戶使用的控制中心終端設(shè)備,通常表現(xiàn)為智能手機、平板、電腦、音箱等形式的輸入設(shè)備,由于與EDGE系統(tǒng)共享網(wǎng)絡(luò)服務(wù)器,即使是處于因特網(wǎng)離線狀態(tài)的內(nèi)網(wǎng)服務(wù)器,集成系統(tǒng)輸入界面的家居設(shè)備控制功能也能正常使用。例如蘋果公司將iPhone、iPad等移動設(shè)備作為入口,使用者在智能手機或者平板電腦上安裝Home Kit控制平臺軟件,即可通過軟件對家居設(shè)備進行控制,類似的還有Google Home;亞馬遜公司則利用Echo智能音響及智能語音識別技術(shù)將用戶的語音口令轉(zhuǎn)換為數(shù)據(jù)指令來控制各種聯(lián)網(wǎng)設(shè)備,國內(nèi)的百度、阿里巴巴、騰訊、小米等公司都推出了這種智能音箱。

    (三)網(wǎng)關(guān)和網(wǎng)絡(luò)云

    在計算機網(wǎng)絡(luò)中,網(wǎng)關(guān)(Gateway)顧名思義就是連接兩個網(wǎng)絡(luò)的設(shè)備。由圖1可知,左側(cè)電子數(shù)據(jù)采集設(shè)備和右側(cè)集成系統(tǒng)分屬于兩個網(wǎng)絡(luò),由網(wǎng)關(guān)連接起來。在此過程中,網(wǎng)絡(luò)云(Cloud)的作用類似于“大腦”,不僅能作為中轉(zhuǎn)站擴展網(wǎng)關(guān)的儲存空間,更能利用海量數(shù)據(jù)、通過復(fù)雜算法進行機器學(xué)習(xí),為用戶提供精準(zhǔn)、便捷的服務(wù)體驗。但是,信息分步傳輸,以及信息在網(wǎng)絡(luò)空間的長期存儲,也不可避免地增加了信息泄露的風(fēng)險。[3]事實上,云技術(shù)的廣泛使用,在給消費者帶來便利的同時,也在很大程度上犧牲了安全性。

    圖1 基于網(wǎng)絡(luò)云的智能家居架構(gòu)

    二、家居智能化隱私泄露風(fēng)險分析

    (一)用戶注冊信息泄露風(fēng)險

    在為家居設(shè)備及控制系統(tǒng)進行初始化設(shè)置時,為了注冊賬號開通使用,用戶必須主動提供一些個人及家庭的基本信息,包括但不限于用戶的姓名、性別、年齡、職業(yè)、婚姻狀況、家庭成員、住址、電話號碼、社交網(wǎng)絡(luò)賬號、電子郵箱甚至月收入情況、銀行卡號等基本情況。此外,如果是注冊使用智能體重體脂秤、室內(nèi)運動器械(跑步機、動感單車、劃船機等)等設(shè)備,有時還需要用戶輸入身高、體重、體型等涉及個人隱私的數(shù)據(jù)。

    按照通常的交易習(xí)慣,消費者與智能家居設(shè)備經(jīng)營者之間普遍使用格式化合同,用戶必須同意相關(guān)協(xié)議才能開始注冊。而這些格式條款中經(jīng)常包含這樣的內(nèi)容:用戶同意設(shè)備收集某些個人數(shù)據(jù),同意將用戶的個人數(shù)據(jù)上傳到服務(wù)器,同意經(jīng)營者分析、使用用戶的各項數(shù)據(jù),甚至同意經(jīng)營者與第三方共享用戶的數(shù)據(jù)。由于這些格式條款限制、影響了一部分消費者的權(quán)利,所以這些條款一般都在協(xié)議中以黑體加粗字加以強調(diào),但是極少有用戶注冊時會打開用戶協(xié)議等一系列條款仔細(xì)閱讀,這就導(dǎo)致許多用戶在并不知情的情況下,授權(quán)經(jīng)營者對其個人信息加以利用。有些經(jīng)營者不重視消費者個人信息安全保護,更有甚者為了謀取不正當(dāng)?shù)慕?jīng)濟利益,對公民進行非法監(jiān)控[4],與販賣公民個人信息的個人或者組織勾結(jié),故意泄露或者非法利用消費者個人信息?,F(xiàn)實生活中,消費者的個人注冊信息被泄露給第三方導(dǎo)致消費者財產(chǎn)安全、人身安全受到威脅甚至實際損害的例子比比皆是。例如注冊使用某品牌智能健身跑步機后,注冊手機馬上就能收到各類健身機構(gòu)的廣告消息甚至毫無關(guān)系的垃圾信息,這些信息一旦強制訂閱很難取消,有些商業(yè)廣告甚至無法取消訂閱,讓機主不堪其擾。由于經(jīng)營者對消費者敏感信息的保護力度不夠,甚至有的經(jīng)營者將消費者個人信息作為其經(jīng)營對象牟利,致使消費者的個人信息安全岌岌可危。用戶注冊存在的這些信息安全風(fēng)險,必須依靠強有力的法律保障迫使經(jīng)營者加以重視,加強其對消費者個人信息的保護力度。

    (二)設(shè)備存儲信息泄露風(fēng)險

    有些智能家居設(shè)備本身就用于監(jiān)控、記錄,為了完成其基本功能需要,自然要收集、保存用戶的許多隱私數(shù)據(jù),例如各種網(wǎng)絡(luò)攝像頭、智能門鎖門鈴等設(shè)備。這些設(shè)備接收和記錄的數(shù)據(jù)絕大部分涉及用戶個人隱私,例如用戶家中人員動向、物件陳設(shè),家附近的安防狀態(tài)等等,一旦被泄露或者不當(dāng)利用,會給消費者和使用者的生命財產(chǎn)安全造成損失。

    典型案例是2017年曝光的360智能攝像頭和水滴直播涉嫌侵犯公民個人隱私事件。由于360智能攝像頭自帶在線直播功能,一旦開啟即可直接接入水滴直播平臺將攝像頭錄制內(nèi)容實時與在線直播觀看者分享互動。這項功能的設(shè)計初衷是為了監(jiān)控課堂教學(xué)情況,家長可以在直播間看到孩子在教室的一舉一動,但是被某些別有用心的用戶惡意利用。例如有“黑客”通過遠(yuǎn)程操控把沒有開啟直播功能的360智能攝像頭打開,將使用者的一舉一動公開傳播到互聯(lián)網(wǎng),使用者的隱私被一覽無余,導(dǎo)致消費者對這類網(wǎng)絡(luò)攝像頭的安全性、保密性失去信心。實施這種行為的“黑客”顯然違反法律[5],但也不能忽視攝像頭和直播平臺的經(jīng)營者應(yīng)當(dāng)承擔(dān)的信息安全保障責(zé)任。[6]奇虎360公司應(yīng)當(dāng)定期排查攝像頭的系統(tǒng)安全漏洞,對可能存在的安全隱患進行系統(tǒng)升級等及時處理,并提醒使用者因網(wǎng)絡(luò)攝像頭有泄露個人隱私之虞,在未使用時應(yīng)當(dāng)及時斷電;而水滴直播網(wǎng)站應(yīng)當(dāng)對在其平臺進行直播的內(nèi)容負(fù)監(jiān)管責(zé)任,若有不當(dāng)及時采取信號屏蔽等緊急處理措施。如果“黑客”無法打開用戶家中的攝像頭,或者在未經(jīng)用戶許可時直播平臺不支持聯(lián)網(wǎng)傳送數(shù)據(jù),用戶在使用網(wǎng)絡(luò)攝像頭時就能夠更加放心。

    (三)間接性信息暴露風(fēng)險

    間接性的信息泄露由于較為隱蔽,尚未引起消費者的重視;然而,這種基于數(shù)據(jù)分析而掌握的關(guān)于消費者生活習(xí)慣的信息,一旦泄露其后果也非常嚴(yán)重。在各類智能家居設(shè)備的使用過程中,用戶將會發(fā)出各種指令,例如給掃地機器人設(shè)定家中無人時進行清掃的程式,或者通過手機等設(shè)備在戶外對家中的機器進行遠(yuǎn)程操控,例如在只有老人、小孩在家時打開各項安全防控,設(shè)置空調(diào)、窗簾、照明設(shè)備等固定的開關(guān)時間,或者出門散步時打開可聯(lián)網(wǎng)的洗碗機、咖啡機、豆?jié){機等等,由于智能家居一般會自動記錄用戶的特別指令,以便按照用戶的使用習(xí)慣為用戶智能匹配機器運行模式,這樣用戶只需設(shè)定一次個性化模式即可長期適用。有研究表明,消費者一般認(rèn)為那些不記錄音頻或者視頻的設(shè)備(如燈泡和恒溫器)不存在隱私風(fēng)險,事實上來自此類設(shè)備的原始數(shù)據(jù)可用于推斷家庭入住率、工作習(xí)慣、睡眠模式和其他用戶活動等用戶習(xí)慣。[7]如果這些信息泄露,被用于分析用戶何時在家、何時家中無人或者只有老人小孩等與個人家庭生活密切相關(guān)的重要信息,將嚴(yán)重降低居家安全感,尤其是獨身女性、失獨老人等容易成為人身或者財產(chǎn)性犯罪的目標(biāo)。

    智能家居消費者對物聯(lián)網(wǎng)設(shè)備便利性和互聯(lián)性的關(guān)注度往往超過對設(shè)備老化、安全漏洞和隱私泄露等問題的擔(dān)憂。出于對物聯(lián)網(wǎng)設(shè)備制造商和銷售者的信任,消費者普遍傾向性認(rèn)為經(jīng)營者會采取措施對其個人隱私進行保護,但現(xiàn)實是許多經(jīng)營者實際并沒有執(zhí)行數(shù)據(jù)加密或者匿名化等信息安全規(guī)范。這表明,單純依靠企業(yè)的社會責(zé)任感和自我約束而不施加外部壓力,無法保障智能家居消費者的信息安全,發(fā)展健康有序的智能家居產(chǎn)業(yè)。

    三、歐盟GDPR防控方案研究

    歐盟于2016年4月27日通過,2018年5月25日強制執(zhí)行的《通用數(shù)據(jù)保護條例》(General Data Protection Regulation,縮寫作GDPR),是關(guān)于歐盟范圍內(nèi)個人數(shù)據(jù)和隱私保護的法律規(guī)范,其主要目標(biāo)為統(tǒng)一歐盟內(nèi)經(jīng)營者對個人信息保護的最低要求,取回歐盟公民以及居民對于個人資料的控制權(quán)。GDPR實施后,所有歐盟內(nèi)的經(jīng)營者以及業(yè)務(wù)范圍涉及歐盟的跨國公司必須更新其對用戶個人隱私的獲取、存儲、利用等方式以符合GDPR的要求。各公司網(wǎng)站必須在頁面顯著位置標(biāo)明本站已符合GDPR要求,并將信息采集內(nèi)容進行強制公示,對以往未提請用戶充分注意的信息自動收集情形予以限制。據(jù)統(tǒng)計,許多境外網(wǎng)站通過減少頁面加載項,大幅提升了網(wǎng)頁打開速度,這些網(wǎng)站還以GDPR為依據(jù)改善其網(wǎng)站整體前端工程,從而進一步提高網(wǎng)站性能。例如在GDPR實施后,美國網(wǎng)站“USA Today”為其歐盟用戶上線運行了單獨的網(wǎng)站版本,在該歐洲版中,網(wǎng)站刪除了所有跟蹤腳本和廣告,使得頁面加載內(nèi)容減少了近90%,網(wǎng)頁大小從5.2MB降至500KB,不到原頁面大小的十分之一。又如當(dāng)從歐盟IP地址訪問美國網(wǎng)站“The Verge”時,頁面會彈出一條用于確認(rèn)用戶是否同意網(wǎng)站進行用戶跟蹤的信息,如果用戶不接受該條款,瀏覽記錄就不會被跟蹤,并且網(wǎng)站的速度會變得更快,加載時間從32秒降至5秒,JavaScript文件從61個減至2個,加載內(nèi)容從2MB減至1MB。

    (一)保護范圍廣泛

    GDPR的適用范圍及于所有在歐盟內(nèi)經(jīng)營的數(shù)據(jù)控制者或者處理者①“控制者”指的是決定個人數(shù)據(jù)處理目的與方式的自然人或者法人、公共機構(gòu)、規(guī)制機構(gòu)或者其他組織;“處理者”指的是為數(shù)據(jù)控制者處理個人數(shù)據(jù)的自然人或者法人、公共機構(gòu)、規(guī)制機構(gòu)或者其他組織。對個人數(shù)據(jù)的處理,不論處理過程是否在歐盟內(nèi)進行。而經(jīng)營者能接觸到的與個人信息有關(guān)的數(shù)據(jù),幾乎都被GDPR納入了保護范圍:一是身份識別信息,包括姓名、地址、電話號碼、身份證號、車牌號、相片、影片、電子郵件內(nèi)容等信息;二是網(wǎng)絡(luò)虛擬數(shù)據(jù),包括地理位置、IP地址、Cookie(網(wǎng)站為了辨別用戶身份而儲存在用戶本地終端上的數(shù)據(jù))、移動設(shè)備ID(用于設(shè)備追蹤的唯一的設(shè)備識別碼,例如IMEI國際移動設(shè)備識別碼)、射頻識別碼RFID(通過無線電信號識別特定目標(biāo)并讀寫數(shù)據(jù)的技術(shù),例如高速公路ETC快速通道即為射頻應(yīng)答器的應(yīng)用之一)、社交網(wǎng)絡(luò)活動記錄等;三是生物識別和遺傳信息,包括病歷資料、指紋、面部識別、視網(wǎng)膜掃描等;四是種族、民族特征及其他身份特征,包括精神狀況,文化、社會、政治觀念,性別取向甚至經(jīng)濟水平等。對個人數(shù)據(jù)涵蓋范圍的廣泛,特別是對加入對虛擬數(shù)據(jù)的保護是GDPR有別于其前身Data Protection Directive(數(shù)據(jù)保護指令,簡稱DPD)的重要特征。

    (二)權(quán)利內(nèi)容完整

    GDPR為用戶(數(shù)據(jù)主體)精心設(shè)計了一套隱私權(quán)體系,幫助他們?nèi)』貙€人信息的控制。這些權(quán)利包括:第一,訪問權(quán)。個人有權(quán)請求訪問他們的個人數(shù)據(jù),并詢問經(jīng)營者收集數(shù)據(jù)后如何使用他們的數(shù)據(jù)。如果用戶提出要求,經(jīng)營者必須免費提供用戶被收集信息的完整副本的電子格式。第二,被遺忘權(quán)。如果消費者與經(jīng)營者之間就提供商品或者服務(wù)的協(xié)議終止,或者如果用戶收回經(jīng)營者對其個人數(shù)據(jù)進行處理的許可,那么他們有權(quán)要求經(jīng)營者刪除被收集的個人數(shù)據(jù)。第三,轉(zhuǎn)移數(shù)據(jù)的權(quán)利。用戶有權(quán)從經(jīng)營者處獲取其被收集的個人信息,并在別處重復(fù)使用這些數(shù)據(jù),即用戶有權(quán)將其個人數(shù)據(jù)從一個經(jīng)營者處轉(zhuǎn)移至另一個經(jīng)營者處。尤其是當(dāng)用戶終止與某一經(jīng)營者的服務(wù)提供協(xié)議,轉(zhuǎn)而與同行業(yè)其他競爭者訂立協(xié)議時,在該經(jīng)營者處收集、儲存的用戶的個人數(shù)據(jù)必須根據(jù)用戶需要及時轉(zhuǎn)移。第四,知情權(quán)?;谟脩籼幏謧€人信息的自由,經(jīng)營者收集任何數(shù)據(jù)前必須告知用戶并且得到明確的許可,經(jīng)營者征求用戶許可的條款用語必須明確,并且用戶的許可可以隨時撤回。第五,要求更正信息的權(quán)利。這項權(quán)利確保個人在信息失去時效性、信息不完整或者不準(zhǔn)確時能夠更新信息。第六,限制數(shù)據(jù)收集、處理或者存儲的權(quán)利?;趥€人請求,經(jīng)營者可以存儲但不得處理其個人數(shù)據(jù)。第七,反對權(quán)。根據(jù)此項權(quán)利,個人有權(quán)要求經(jīng)營者停止以營利為目的處理其個人數(shù)據(jù)。反對權(quán)無豁免事由,經(jīng)營者必須在收到請求后立即停止處理,并且經(jīng)營者必須明確告知用戶這一權(quán)利。第八,獲得通知的權(quán)利。這項權(quán)利要求經(jīng)營者應(yīng)當(dāng)在安全漏洞被首次發(fā)現(xiàn)后72小時內(nèi)通知用戶。

    這些權(quán)利看似顯而易見,但在此之前未經(jīng)法律認(rèn)可,如要對其進行保護和救濟,于法無據(jù)。在GDPR框架下上升為法律權(quán)利的更完整、更全面的隱私權(quán)體系,將對歐盟用戶的個人信息保護產(chǎn)生積極而深遠(yuǎn)的影響。

    (三)保護標(biāo)準(zhǔn)高

    GDPR明確規(guī)定了經(jīng)營者處理用戶個人數(shù)據(jù)的七項原則:“合法公平透明性原則(lawfulness,fairness,and transparency)、目的限制原則(limitation of purpose)、數(shù)據(jù)最小化原則(minimization of data)、精確性原則(accuracy)、存儲限制原則(limitation of storage)、完整性與保密性原則(integrity and confidentiality)以及權(quán)責(zé)一致原則(accountability)”[8]。這意味著經(jīng)營范圍在歐盟的經(jīng)營者須保證其數(shù)據(jù)收集目的具體、清晰、正當(dāng);數(shù)據(jù)處理方式合法、合理、透明、有限度;如收集的數(shù)據(jù)有誤,應(yīng)當(dāng)及時更正或者刪除;個人身份識別信息存儲有期限;經(jīng)營者應(yīng)當(dāng)采取合理的技術(shù)手段、組織措施確保個人數(shù)據(jù)安全;以及經(jīng)營者對其遵守了上述原則須承擔(dān)相應(yīng)的舉證責(zé)任。[9]這七項保護原則,特別是“權(quán)責(zé)一致原則”,明確界定了個人信息安全從事前防御要求到舉證責(zé)任分配的相關(guān)內(nèi)容,配合完整的隱私權(quán)體系,能起到嚴(yán)密的保護作用。

    (四)處罰力度大

    GDPR確立了相當(dāng)嚴(yán)厲的罰款制度以保障其規(guī)則的有效實施,經(jīng)營者如果未能符合GDPR的監(jiān)管要求,例如企業(yè)應(yīng)當(dāng)設(shè)置而沒有設(shè)置數(shù)據(jù)保護官(Data Protection Officer,簡稱DPO),或者存在安全漏洞,即使較小的違法行為也有可能引致1000萬歐元或者該公司全球營業(yè)額2%(取較大值)的巨額罰款。根據(jù)行為后果的嚴(yán)重程度,處罰額度最高可達(dá)2000萬歐元或者公司全球營業(yè)額的4%(取較大值)。處罰額度視具體情況而定,取決于違法行為的程度和造成損失的大小,具體數(shù)額由GDPR在歐盟各國的指定機構(gòu)確定。GDPR正式施行以來第一起重罰案例,是2019年1月法國信息與自由委員會(CNIL)宣布對谷歌處以5000萬歐元(約合5700萬美元)的罰款[10],原因是谷歌公司谷歌在處理數(shù)據(jù)之前沒有得到用戶明確同意,用戶基本上不知道自己已經(jīng)同意分享數(shù)據(jù),也不知道谷歌計劃如何使用這些信息,而谷歌公司利用其在搜索引擎、地圖和視頻網(wǎng)站等互聯(lián)網(wǎng)服務(wù)領(lǐng)域的市場優(yōu)勢地位,廣泛收集用戶數(shù)據(jù),用以展示個性化廣告,是對用戶個人信息的不當(dāng)使用。巨額處罰增加了企業(yè)違法成本,對企業(yè)行為規(guī)范化起到威懾作用,能夠倒逼企業(yè)重視消費者的個人信息保護問題,從源頭上遏止企業(yè)不尊重消費者個人信息的現(xiàn)象。

    四、我國智能家居消費者個人信息保護的反思

    (一)經(jīng)營者對消費者個人信息保護義務(wù)的重構(gòu)

    《中華人民共和國消費者權(quán)益保護法》(以下簡稱《消法》)第14條確認(rèn)了消費者享有個人信息受保護權(quán)①《消法》第14條規(guī)定: 消費者在購買、使用商品和接受服務(wù)時,享有人格尊嚴(yán)、民族風(fēng)俗習(xí)慣得到尊重的權(quán)利,享有個人信息依法得到保護的權(quán)利。,第29條則從經(jīng)營者義務(wù)的角度細(xì)化對消費者個人信息保護的要求②《消法》第29條規(guī)定:經(jīng)營者在收集、使用消費者信息時應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則,明示收集、使用信息的目的、方式和范圍,并經(jīng)消費者同意。經(jīng)營者收集、使用消費者個人信息,應(yīng)當(dāng)公開其收集、使用規(guī)則,不得違反法律、法規(guī)的規(guī)定和雙方的約定收集、使用信息。經(jīng)營者及其工作人員對收集的消費者個人信息必須嚴(yán)格保密,不得泄露、出售或者非法向他人提供。經(jīng)營者應(yīng)當(dāng)采取技術(shù)措施和其他必要措施,確保信息安全,防止消費者個人信息泄露、丟失。在發(fā)生或者可能發(fā)生信息泄露、丟失的情況時,應(yīng)當(dāng)立即采取補救措施。經(jīng)營者未經(jīng)消費者同意或者請求,或者消費者明確表示拒絕的,不得向其發(fā)送商業(yè)性信息。??傮w上,《消法》也設(shè)置了與GDPR相類似的數(shù)據(jù)收集和使用的合法性、正當(dāng)性、必要性的基本原則,但是在法律規(guī)范中并未對正當(dāng)性、必要性的具體要求予以明確;因此,許多情況下,何為“正當(dāng)”、何為“必要”,以及經(jīng)營者是否達(dá)到法律對于“正當(dāng)”“必要”的要求,需要由法官或者法學(xué)家在個案中加以界定。例如一款智能燈泡是否應(yīng)當(dāng)收集用戶的地理位置信息(盡管有的廠家聲稱通過聯(lián)網(wǎng)上傳地理信息可以根據(jù)日出、日落時間控制燈泡的關(guān)閉或者開啟)呢。不可否認(rèn),智能家居設(shè)備的制造公司確有必要收集一些多余信息,用于提高和改善服務(wù)。例如谷歌公司為了改善其智能音箱的智能語音識別功能,會在用戶并未輸入語音指令啟動設(shè)備時就對周圍聲音進行收集和上傳,谷歌公司智能語音識別功能研發(fā)部門持續(xù)對收集到的語音信息進行分析,根據(jù)數(shù)據(jù)顯示,將高頻語料錄入語料庫替換掉低頻詞、短語及句子。雖然許多消費者對此舉存在爭議,認(rèn)為其個人生活在不間斷地被谷歌公司監(jiān)控,但是對此,谷歌公司采用了一套復(fù)雜算法以預(yù)防可能發(fā)生的隱私泄露,即把用戶身份識別信息和相應(yīng)的語言信息進行亂序處理,這樣用戶就無需擔(dān)心其個人信息是否匿名,因為通過語音信息無法對應(yīng)找到該信息的發(fā)出者,也無法反向利用用戶的賬戶信息找到其所發(fā)出過的語音指令。并且,谷歌公司還規(guī)定所有收集到的語音信息經(jīng)過一段時間后須強制刪除。這種做法的確行之有效,消費者并未因?qū)﹄[私泄露的擔(dān)憂而拒絕購買谷歌公司的智能音箱。這說明,縱然個案情形千變?nèi)f化,建立一套清晰、可操作的標(biāo)準(zhǔn)[11],用于判斷經(jīng)營者收集的消費者個人信息的內(nèi)容以及收集程序是否合法,以便于在案件中統(tǒng)一進行識別,是有必要的。

    除此之外,關(guān)于經(jīng)營者應(yīng)當(dāng)如何“明示收集使用信息的目的、方式和范圍”,怎樣“公開其收集、使用規(guī)則”,以及消費者同意的取得方式、經(jīng)營者如何履行保密義務(wù)等問題也有待進一步明確。智能家居設(shè)備收集和使用的往往是消費者最私密、最敏感的信息,因此經(jīng)營者對消費者個人信息進行收集、存儲的全過程都應(yīng)當(dāng)受到嚴(yán)密監(jiān)管,并有明確而行之有效的制度進行規(guī)范。如果缺乏嚴(yán)格的法律規(guī)制尤其是法律責(zé)任的約束,僅僅依靠企業(yè)自身的社會責(zé)任感,期待企業(yè)自覺遵守秩序,無疑會令消費者的信息安全處在高度危險的信息環(huán)境中,無論是由于經(jīng)營者的故意或者過失直接導(dǎo)致消費者個人信息泄露,還是由于經(jīng)營者所生產(chǎn)、銷售的智能家居設(shè)備本身存在不合理的信息安全風(fēng)險易受網(wǎng)絡(luò)“黑客”等第三方攻擊[12],后果都將不堪設(shè)想。在互聯(lián)網(wǎng)極度發(fā)達(dá)的當(dāng)下,任何個人隱私一旦暴露在網(wǎng)絡(luò)環(huán)境中,任憑當(dāng)事人采取任何補救措施都于事無補,因其已經(jīng)泄露的隱私不可能被完全消除毫不留痕,反而會被無數(shù)網(wǎng)絡(luò)使用者收集、存儲甚至加以利用。因此,當(dāng)談及個人信息的保護,以事前約束的方式敦促經(jīng)營者加大力度履行所負(fù)擔(dān)的消費者個人信息保護義務(wù),往往比信息泄露后對經(jīng)營者進行事后懲罰更有效。對經(jīng)營者進行事前的行為約束是對立法者提出的要求,如果法律規(guī)范內(nèi)容明確并且具有可執(zhí)行性,經(jīng)營者自然能按照法律規(guī)范的指引為相應(yīng)行為,消費者的信息風(fēng)險也隨之下降。而在現(xiàn)實中,為了節(jié)省信息成本,同時又能滿足法律要求,經(jīng)營者往往通過預(yù)先擬定的《用戶協(xié)議》等格式條款,將消費者信息的收集目的、方式和范圍以及收集、使用規(guī)則等作為其中的內(nèi)容,消費者必須勾選“同意《用戶協(xié)議》”的注冊條款才能開始使用經(jīng)營者的商品或者享受有關(guān)服務(wù),經(jīng)營者隨即利用這種“消費者的同意”來為其疏于保護消費者個人信息安全的行為進行抗辯。經(jīng)營者之所以“鉆空子”,就是由于法律規(guī)定不夠明確,并且違法成本較低,無法引起經(jīng)營者主觀上的重視。另外,如果智能家居設(shè)備的使用者是無民事行為能力人或者限制民事行為能力人,又或者是對電子設(shè)備不甚了解的老年人,他們的“同意”是否可以作為經(jīng)營者的抗辯理由,如果用戶自身對個人信息保護并不十分注重,是否可以任由經(jīng)營者利用其個人信息呢?在對經(jīng)營者對消費者負(fù)有的個人信息保護義務(wù)進行重構(gòu)時,這些因素都應(yīng)當(dāng)被考慮進來。

    (二)消費者個人信息受保護權(quán)與安全權(quán)的競合與價值沖突

    《消法》規(guī)定“消費者享有人身、財產(chǎn)安全不受損害的權(quán)利”①《消法》第7條規(guī)定: 消費者在購買、使用商品和接受服務(wù)時享有人身、財產(chǎn)安全不受損害的權(quán)利。消費者有權(quán)要求經(jīng)營者提供的商品和服務(wù),符合保障人身、財產(chǎn)安全的要求。,在直接意義上,消費者的安全權(quán),意味著經(jīng)營者提供的商品、服務(wù)不應(yīng)存在不合理的危險,并且如果經(jīng)營者有某些固定的經(jīng)營場所,例如“賓館、商場、餐館、銀行、機場、車站、港口、影劇院”等經(jīng)營場所的經(jīng)營者對在該場所內(nèi)的消費者的人身、財產(chǎn)安全也負(fù)有一定的安全保障義務(wù)②《消法》第18條規(guī)定: 經(jīng)營者應(yīng)當(dāng)保證其提供的商品或者服務(wù)符合保障人身、財產(chǎn)安全的要求。對可能危及人身、財產(chǎn)安全的商品和服務(wù),應(yīng)當(dāng)向消費者作出真實的說明和明確的警示,并說明和標(biāo)明正確使用商品或者接受服務(wù)的方法以及防止危害發(fā)生的方法。賓館、商場、餐館、銀行、機場、車站、港口、影劇院等經(jīng)營場所的經(jīng)營者,應(yīng)當(dāng)對消費者盡到安全保障義務(wù)。,與此相對應(yīng),《侵權(quán)責(zé)任法》也規(guī)定了賓館、商場、銀行、車站、娛樂場所等公共場所的管理人的安全保障義務(wù)③《侵權(quán)責(zé)任法》第37條規(guī)定:賓館、商場、銀行、車站、娛樂場所等公共場所的管理人或者群眾性活動的組織者,未盡到安全保障義務(wù),造成他人損害的,應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任。因第三人的行為造成他人損害的,由第三人承擔(dān)侵權(quán)責(zé)任;管理人或者組織者未盡到安全保障義務(wù)的,承擔(dān)相應(yīng)的補充責(zé)任。。假設(shè)消費者在使用智能家居設(shè)備的過程中,個人信息被泄露,其財產(chǎn)、身體健康甚至生命安全受到侵害,是否屬于消費者安全權(quán)的保護范疇?智能家居設(shè)備經(jīng)營者是否可能因為其產(chǎn)品有信息安全的瑕疵甚至缺陷而承擔(dān)產(chǎn)品責(zé)任?當(dāng)消費者的安全權(quán)和個人信息受保護權(quán)發(fā)生競合時,由于在不同情形下?lián)p害賠償?shù)姆秶煌嬎愠龅馁r償額也不同,是否可以由消費者自行決定以何理由起訴,以最大化保護消費者利益?在人工智能技術(shù)大力發(fā)展的背景下,有時智能家居設(shè)備的安全漏洞或許無法完全歸咎于設(shè)備制造者或者銷售者,因為搭載人工智能技術(shù)的設(shè)備自身具有學(xué)習(xí)能力,一些在制造、生產(chǎn)時不存在或者無法發(fā)現(xiàn)的缺陷可能會在機器學(xué)習(xí)的過程中發(fā)掘出來,此時經(jīng)營者可否援引產(chǎn)品責(zé)任的免責(zé)事由進行抗辯?又比如,消費者在酒店客房使用酒店提供的某款智能音箱時因個人信息泄露,致使人身、財產(chǎn)安全遭受威脅,酒店是否應(yīng)當(dāng)對此承擔(dān)公共場所管理人的安全保障義務(wù)?如果答案是肯定的,那么智能家居設(shè)備的經(jīng)營者、提供者(酒店)以及直接侵權(quán)人之間的侵權(quán)責(zé)任應(yīng)當(dāng)如何分配,也需要進一步明確。

    消費者的安全權(quán)與個人信息受保護權(quán)并不總是競合的關(guān)系,有時兩者也背道而馳,存在一定沖突,在人工智能背景下這種沖突甚至呈現(xiàn)擴大的趨勢。例如,假設(shè)一臺持續(xù)運轉(zhuǎn)的智能音箱檢測到用戶在喊“救命”,或者設(shè)備研發(fā)部門在對收集到的語料進行分析時聽到青少年用戶說“我媽媽被爸爸打了”,智能音箱能否自動為其呼叫報警電話?研發(fā)部門又是否有權(quán)追蹤此條語音信息的來源,向用戶證實其真實性?在出現(xiàn)消費者安全權(quán)和個人信息受保護權(quán)的價值沖突時,應(yīng)當(dāng)明確安全的價值是高于個人隱私的價值的。如果法律更注重保護用戶的人身、財產(chǎn)安全,那么對經(jīng)營者就提出了相應(yīng)的要求,一旦用戶真的遇到人身、財產(chǎn)的危險,智能音箱或者研發(fā)人員必須積極行為幫助用戶脫險,否則有可能構(gòu)成經(jīng)營者對消費者人身、財產(chǎn)安全的保護義務(wù)的違反。但是也不能無限擴大這種價值取向,因為如果在任何情況下都認(rèn)定公民的人身安全、財產(chǎn)安全的價值優(yōu)先于個人隱私,將模糊公民個人隱私的邊界,極易使得經(jīng)營者擴張其對消費者個人信息的收集、存儲和利用,經(jīng)營者甚至有可能以保護消費者安全權(quán)為由拒絕履行對消費者個人信息的保護義務(wù),反而出現(xiàn)對公民個人隱私進行不當(dāng)監(jiān)視的危險傾向。至于在個案中應(yīng)當(dāng)強調(diào)公民的安全權(quán)還是個人信息受保護權(quán),也許只能由法官根據(jù)事實來判斷。

    此外,通過智能家居設(shè)備收集的信息能否用作刑事或者民事訴訟的證據(jù),這在目前的司法實踐中尚未受到關(guān)注,但是可以預(yù)見,隨著智能家居設(shè)備收集的信息量越來越大、信息面越來越廣,在不久的將來,利用智能家居設(shè)備經(jīng)營者存儲在其數(shù)據(jù)庫中的信息作為訴訟證據(jù)會形成不可阻擋的趨勢。這將導(dǎo)致現(xiàn)有的證據(jù)規(guī)則受到?jīng)_擊,因為智能家居設(shè)備具有一定程度的自主意識,并不能認(rèn)為智能家居設(shè)備的行為完全代表了其制造者或者使用者,那么是否就能認(rèn)定通過智能家居設(shè)備合法收集到的個人信息作為訴訟證據(jù)不違反證據(jù)收集的規(guī)則,從而可以用作指控信息被收集者的證據(jù)呢?這其實也體現(xiàn)了消費者個人信息受保護權(quán)與安全權(quán)之間的價值沖突,應(yīng)當(dāng)考慮到,如果認(rèn)定智能家居設(shè)備收集到的信息可以作為針對該用戶自身的合法證據(jù),將不利于智能家居設(shè)備市場的發(fā)展。但是如果用戶同意,則可以利用。此外,用戶如果需要利用智能家居設(shè)備收集的信息作出有利于自己的證明,經(jīng)營者應(yīng)當(dāng)予以配合,從自然法角度,用戶取回自己的信息是其天然享有的權(quán)利,經(jīng)營者之所以能夠收集用戶的個人信息,實際上是由于用戶讓渡出了一部分隱私權(quán),因此用戶利用其個人信息進行舉證應(yīng)當(dāng)是無條件的,經(jīng)營者沒有理由拒絕。

    (三)消費者的精神損害賠償請求權(quán)

    《消法》對消費者可以提起精神損害賠償請求的情形進行了限定①《消法》 第51條規(guī)定: 經(jīng)營者有侮辱誹謗、搜查身體、侵犯人身自由等侵害消費者或者其他受害人人身權(quán)益的行為,造成嚴(yán)重精神損害的,受害人可以要求精神損害賠償。,并不包括經(jīng)營者違反保護消費者個人信息義務(wù)的情形。根據(jù)《侵權(quán)責(zé)任法》第2條②《侵權(quán)責(zé)任法》第2條規(guī)定:侵害民事權(quán)益,應(yīng)當(dāng)依照本法承擔(dān)侵權(quán)責(zé)任。本法所稱民事權(quán)益,包括生命權(quán)、健康權(quán)、姓名權(quán)、名譽權(quán)、榮譽權(quán)、肖像權(quán)、隱私權(quán)、婚姻自主權(quán)、監(jiān)護權(quán)、所有權(quán)、用益物權(quán)、擔(dān)保物權(quán)、著作權(quán)、專利權(quán)、商標(biāo)專用權(quán)、發(fā)現(xiàn)權(quán)、股權(quán)、繼承權(quán)等人身、財產(chǎn)權(quán)益。,受法律保護的民事權(quán)利包括隱私權(quán),并且該法第22條規(guī)定,“侵害他人人身權(quán)益,造成他人嚴(yán)重精神損害的,被侵權(quán)人可以請求精神損害賠償?!庇捎谠凇肚謾?quán)責(zé)任法》中涉及侵犯隱私權(quán)的主體只有醫(yī)療機構(gòu)及其醫(yī)務(wù)人員,并沒有對經(jīng)營者侵犯消費者個人隱私的侵權(quán)責(zé)任加以特別規(guī)定,如果把《消法》看作是《侵權(quán)責(zé)任法》的特別法,那么消費者享有的各項權(quán)利都應(yīng)當(dāng)受到《侵權(quán)責(zé)任法》的保護,而消費者的隱私權(quán)是一種典型的人身權(quán)益,假如經(jīng)營者違反對消費者個人信息保護的義務(wù),侵害了消費者隱私權(quán),給消費者帶來精神損失,允許消費者就該損失請求精神損害賠償,在邏輯上是恰當(dāng)?shù)?。例如,?jīng)常有消費者在終止與經(jīng)營者的商品或者服務(wù)合同后,卻發(fā)現(xiàn)其個人電話被泄露,收到許多騷擾短信或者電話,不堪其擾。如果消費者在購物平臺上對經(jīng)營者做出負(fù)面評價,有的經(jīng)營者甚至將消費者的所有個人信息曝光給“呼死你”等網(wǎng)絡(luò)電話呼叫平臺,對消費者進行信息轟炸。更有甚者,將消費者的信息曝光給淫穢色情網(wǎng)站,用抹黑消費者等方法對其進行人格侮辱。經(jīng)歷這些情況,消費者難免會產(chǎn)生負(fù)面情緒,如果維權(quán)途徑不暢,再加上缺乏合理的疏導(dǎo),在與經(jīng)營者對峙時,作為弱勢群體的消費者精神上很容易遭受重創(chuàng),甚至造成難以復(fù)原也難以衡量的精神損害。對這類消費者進行精神上的救濟,認(rèn)可他們享有精神損害賠償請求權(quán),并無不可。再者,如果由于經(jīng)營者的疏忽導(dǎo)致消費者個人隱私泄露,引起嚴(yán)重后果,造成嚴(yán)重精神損害的,消費者能否得到精神損失賠償呢?例如,家用智能攝像頭記錄下來的居家生活情況,被黑客攻擊后公布到網(wǎng)絡(luò)服務(wù)器上,讓用戶的私密信息公之于眾,對其造成不可消除的精神損害。盡管直接的侵權(quán)責(zé)任人是網(wǎng)絡(luò)黑客,但如果攝像頭的數(shù)據(jù)安全性存在設(shè)計上的缺陷,該智能產(chǎn)品的制造者和銷售者是否應(yīng)當(dāng)對消費者的精神損失承擔(dān)相應(yīng)賠償責(zé)任?經(jīng)營者與侵權(quán)的直接責(zé)任人之間的責(zé)任份額如何確定?經(jīng)營者是否需要承擔(dān)連帶責(zé)任?而消費者由于隱私受侵害,要想獲得精神損害賠償,其精神損失需要達(dá)到何種程度?證明責(zé)任如何分配?在現(xiàn)有制度下,這些問題尚無統(tǒng)一的答案。但可以確定的是,消費者因個人隱私受侵犯而受到精神上的創(chuàng)傷,應(yīng)當(dāng)允許其請求精神損害賠償。

    五、結(jié)語

    近年來,關(guān)于智能家居設(shè)備信息安全的自然科學(xué)和社會科學(xué)研究都在逐漸增多,單就法學(xué)領(lǐng)域而言,智能家居設(shè)備的發(fā)展對消費者個人信息保護帶來巨大影響,無論是對于純粹的理論研究還是在立法或者司法實務(wù)界,都是無法回避的問題。一般來說,法律制度是相對滯后的,但關(guān)于法律問題的思考應(yīng)該是前瞻的。針對智能家居設(shè)備帶來的有關(guān)隱私、倫理、責(zé)任、安全等問題,需要在政府主導(dǎo)下,以經(jīng)營者和消費者的合作互信為基礎(chǔ),共同削弱智能家居設(shè)備對消費者個人信息安全造成的不利影響,創(chuàng)建人類與人工智能彼此信任的未來。

    猜你喜歡
    智能家居經(jīng)營者個人信息
    明清珠江三角洲基塘區(qū)的田場與經(jīng)營者
    廣州文博(2023年0期)2023-12-21 07:24:30
    如何保護勞動者的個人信息?
    工會博覽(2022年16期)2022-07-16 05:53:54
    個人信息保護進入“法時代”
    《經(jīng)營者》征稿啟事
    警惕個人信息泄露
    綠色中國(2019年14期)2019-11-26 07:11:44
    基于Zigbee的無線通信技術(shù)在智能家居中的應(yīng)用
    電子制作(2018年1期)2018-04-04 01:48:28
    關(guān)于智能家居真正需求的探討
    做一名聰明的集團醫(yī)院經(jīng)營者
    智能家居更貼心
    個人信息保護等6項通信行業(yè)標(biāo)準(zhǔn)征求意見
    欧美区成人在线视频| 12—13女人毛片做爰片一| 亚洲美女黄片视频| 九色成人免费人妻av| 男女视频在线观看网站免费| 国产精品久久电影中文字幕| 脱女人内裤的视频| 丁香六月欧美| 可以在线观看毛片的网站| 中文字幕久久专区| 午夜久久久久精精品| 精品国内亚洲2022精品成人| 丁香六月欧美| 亚洲国产日韩欧美精品在线观看 | 99热只有精品国产| 免费高清视频大片| 少妇人妻一区二区三区视频| 午夜影院日韩av| av天堂在线播放| 在线视频色国产色| 亚洲美女黄片视频| 婷婷六月久久综合丁香| 国产精品三级大全| 久久久久久大精品| 一个人观看的视频www高清免费观看| 高清毛片免费观看视频网站| 51国产日韩欧美| 狂野欧美激情性xxxx| 欧美成人免费av一区二区三区| 真实男女啪啪啪动态图| 国产精品 欧美亚洲| 男人舔奶头视频| 在线观看免费视频日本深夜| 麻豆久久精品国产亚洲av| 亚洲精品亚洲一区二区| 日韩成人在线观看一区二区三区| 少妇人妻一区二区三区视频| 久久这里只有精品中国| 欧美黑人欧美精品刺激| 麻豆国产97在线/欧美| 久久久久久久午夜电影| 亚洲av成人av| 欧美在线一区亚洲| 亚洲第一电影网av| 日韩中文字幕欧美一区二区| 男女床上黄色一级片免费看| 熟女人妻精品中文字幕| 午夜日韩欧美国产| 少妇人妻一区二区三区视频| 欧美黑人巨大hd| 亚洲av电影不卡..在线观看| 免费无遮挡裸体视频| 在线视频色国产色| 嫩草影院入口| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 欧美乱色亚洲激情| 国产不卡一卡二| 亚洲欧美一区二区三区黑人| 蜜桃久久精品国产亚洲av| 国产精品一区二区三区四区免费观看 | 国产精品三级大全| 国产亚洲欧美98| 亚洲国产日韩欧美精品在线观看 | 日本三级黄在线观看| 又黄又爽又免费观看的视频| 国产免费av片在线观看野外av| 一个人观看的视频www高清免费观看| 成人亚洲精品av一区二区| 伊人久久精品亚洲午夜| 九九久久精品国产亚洲av麻豆| 啪啪无遮挡十八禁网站| 观看免费一级毛片| ponron亚洲| 国产亚洲欧美在线一区二区| 美女高潮的动态| 国产亚洲精品一区二区www| 精品人妻1区二区| 噜噜噜噜噜久久久久久91| x7x7x7水蜜桃| 757午夜福利合集在线观看| 五月伊人婷婷丁香| 一个人观看的视频www高清免费观看| 法律面前人人平等表现在哪些方面| 精品福利观看| 国产精品久久久人人做人人爽| 成人无遮挡网站| 亚洲天堂国产精品一区在线| 午夜福利高清视频| 我要搜黄色片| 尤物成人国产欧美一区二区三区| 身体一侧抽搐| 天天添夜夜摸| 精品99又大又爽又粗少妇毛片 | 欧美绝顶高潮抽搐喷水| 国产精品久久久人人做人人爽| 性色avwww在线观看| 最近最新中文字幕大全电影3| 亚洲电影在线观看av| 美女高潮喷水抽搐中文字幕| 日本撒尿小便嘘嘘汇集6| 亚洲国产日韩欧美精品在线观看 | 国产综合懂色| 久久精品人妻少妇| 91在线精品国自产拍蜜月 | 波多野结衣高清作品| 一级作爱视频免费观看| 好看av亚洲va欧美ⅴa在| 亚洲成人中文字幕在线播放| 性色avwww在线观看| 国产成人av激情在线播放| 我的老师免费观看完整版| 国产一区二区激情短视频| e午夜精品久久久久久久| 国产精品亚洲美女久久久| 18禁黄网站禁片免费观看直播| 欧美zozozo另类| 在线播放国产精品三级| 12—13女人毛片做爰片一| 欧美一区二区国产精品久久精品| 亚洲欧美精品综合久久99| 精品福利观看| 19禁男女啪啪无遮挡网站| 老司机午夜十八禁免费视频| 国产精品99久久99久久久不卡| 午夜免费观看网址| aaaaa片日本免费| 成人高潮视频无遮挡免费网站| 婷婷六月久久综合丁香| 国产麻豆成人av免费视频| 搡老熟女国产l中国老女人| 成人三级黄色视频| 国产成人影院久久av| 成人一区二区视频在线观看| 亚洲精品日韩av片在线观看 | 国产成+人综合+亚洲专区| 国产一区二区在线观看日韩 | 国产毛片a区久久久久| 国产免费av片在线观看野外av| 日韩亚洲欧美综合| 亚洲欧美日韩东京热| 国产主播在线观看一区二区| 18禁黄网站禁片午夜丰满| 特级一级黄色大片| 中文字幕人妻丝袜一区二区| 国产亚洲欧美98| 国语自产精品视频在线第100页| 国产精品,欧美在线| 在线观看免费午夜福利视频| 国产伦一二天堂av在线观看| 日韩欧美三级三区| 日本黄色片子视频| 身体一侧抽搐| 欧美在线一区亚洲| 亚洲中文日韩欧美视频| 久久这里只有精品中国| 亚洲欧美激情综合另类| 国产亚洲精品久久久久久毛片| 女生性感内裤真人,穿戴方法视频| 桃色一区二区三区在线观看| 日本黄色视频三级网站网址| 性色avwww在线观看| 成人一区二区视频在线观看| 日本 av在线| 麻豆国产av国片精品| 国产亚洲精品av在线| 午夜福利欧美成人| 操出白浆在线播放| 波野结衣二区三区在线 | 精品久久久久久久久久久久久| 麻豆久久精品国产亚洲av| 我要搜黄色片| 可以在线观看毛片的网站| 亚洲精品日韩av片在线观看 | 免费无遮挡裸体视频| 一二三四社区在线视频社区8| 欧美色欧美亚洲另类二区| 成人国产综合亚洲| 丰满乱子伦码专区| 中文字幕人妻熟人妻熟丝袜美 | 老司机午夜福利在线观看视频| 在线观看免费视频日本深夜| 国产精品女同一区二区软件 | 成年女人毛片免费观看观看9| 国产视频一区二区在线看| 琪琪午夜伦伦电影理论片6080| 成年女人毛片免费观看观看9| 亚洲电影在线观看av| 欧美性猛交╳xxx乱大交人| 一卡2卡三卡四卡精品乱码亚洲| 亚洲中文字幕一区二区三区有码在线看| 乱人视频在线观看| 亚洲在线观看片| 最好的美女福利视频网| 久久久国产成人免费| 少妇熟女aⅴ在线视频| 久久久久久久久大av| 午夜福利视频1000在线观看| 十八禁人妻一区二区| 国产精品99久久久久久久久| 国产一区二区三区视频了| 免费电影在线观看免费观看| 真人一进一出gif抽搐免费| 淫妇啪啪啪对白视频| 日韩人妻高清精品专区| 久久久久久大精品| 免费在线观看亚洲国产| 国产熟女xx| 无遮挡黄片免费观看| 女生性感内裤真人,穿戴方法视频| 成人性生交大片免费视频hd| 久久久久久久久中文| 成人av一区二区三区在线看| 嫩草影院精品99| 中文字幕精品亚洲无线码一区| 蜜桃久久精品国产亚洲av| 久久精品国产综合久久久| 国产午夜福利久久久久久| 99久久精品热视频| 91在线精品国自产拍蜜月 | 亚洲电影在线观看av| 久久久久久久午夜电影| x7x7x7水蜜桃| 久久精品国产综合久久久| 日韩欧美 国产精品| 男女床上黄色一级片免费看| 久久九九热精品免费| 真实男女啪啪啪动态图| 精品一区二区三区视频在线观看免费| 啦啦啦免费观看视频1| 一夜夜www| 精品午夜福利视频在线观看一区| 内射极品少妇av片p| 国产91精品成人一区二区三区| 国产日本99.免费观看| 中文亚洲av片在线观看爽| 香蕉丝袜av| 久久久精品大字幕| 国产私拍福利视频在线观看| 欧美另类亚洲清纯唯美| 日韩欧美精品v在线| 桃红色精品国产亚洲av| 亚洲av二区三区四区| 久久久国产精品麻豆| 亚洲精品乱码久久久v下载方式 | 级片在线观看| 91av网一区二区| 在线观看日韩欧美| 在线天堂最新版资源| 免费观看人在逋| 脱女人内裤的视频| 国产91精品成人一区二区三区| 热99re8久久精品国产| 一级黄色大片毛片| 亚洲av第一区精品v没综合| 看免费av毛片| 美女黄网站色视频| 精品久久久久久久久久久久久| 色在线成人网| 国产成人av教育| 久久香蕉精品热| 69人妻影院| 99热这里只有是精品50| 国产精品久久久人人做人人爽| 桃色一区二区三区在线观看| 日韩欧美国产一区二区入口| 久99久视频精品免费| 黄色日韩在线| 亚洲欧美日韩卡通动漫| 99国产精品一区二区三区| 麻豆国产97在线/欧美| 亚洲第一电影网av| 久久亚洲精品不卡| 欧美日韩亚洲国产一区二区在线观看| av中文乱码字幕在线| 99在线视频只有这里精品首页| 亚洲av五月六月丁香网| 精品免费久久久久久久清纯| 国产精品亚洲美女久久久| 久久香蕉国产精品| 日本一本二区三区精品| 久久中文看片网| 亚洲avbb在线观看| 亚洲美女黄片视频| av片东京热男人的天堂| 午夜福利在线在线| 欧美日韩福利视频一区二区| 国产一区二区三区视频了| 久久天躁狠狠躁夜夜2o2o| 99国产精品一区二区三区| 90打野战视频偷拍视频| 丁香六月欧美| 久久香蕉国产精品| 丁香六月欧美| 国产三级黄色录像| 男女那种视频在线观看| 久久精品国产清高在天天线| 国产精品 欧美亚洲| 美女免费视频网站| 桃色一区二区三区在线观看| 日韩精品青青久久久久久| 亚洲av免费高清在线观看| 成年版毛片免费区| 99久久无色码亚洲精品果冻| 欧美不卡视频在线免费观看| 国产高清有码在线观看视频| 精品久久久久久久久久久久久| 女同久久另类99精品国产91| 在线免费观看的www视频| 麻豆国产av国片精品| www.熟女人妻精品国产| 老熟妇乱子伦视频在线观看| 亚洲美女视频黄频| 亚洲av一区综合| 色综合欧美亚洲国产小说| 亚洲专区国产一区二区| 天堂动漫精品| 老司机午夜十八禁免费视频| 搞女人的毛片| 高清日韩中文字幕在线| 亚洲成人久久爱视频| 两性午夜刺激爽爽歪歪视频在线观看| 亚洲真实伦在线观看| 在线播放无遮挡| 精品一区二区三区人妻视频| 欧美性猛交黑人性爽| 午夜精品在线福利| 在线播放国产精品三级| 三级男女做爰猛烈吃奶摸视频| 亚洲熟妇熟女久久| 国产单亲对白刺激| 白带黄色成豆腐渣| 亚洲熟妇中文字幕五十中出| 桃色一区二区三区在线观看| 亚洲av二区三区四区| 99在线人妻在线中文字幕| 欧美黄色淫秽网站| 全区人妻精品视频| 国产av不卡久久| 色视频www国产| 亚洲av二区三区四区| 亚洲精品国产精品久久久不卡| 又爽又黄无遮挡网站| 变态另类成人亚洲欧美熟女| 老汉色av国产亚洲站长工具| 最新在线观看一区二区三区| 九九在线视频观看精品| 90打野战视频偷拍视频| 欧美国产日韩亚洲一区| 波多野结衣高清无吗| 嫩草影院入口| 亚洲成av人片在线播放无| 亚洲第一欧美日韩一区二区三区| 亚洲久久久久久中文字幕| 国产精品久久久久久亚洲av鲁大| 嫩草影院入口| 欧美乱色亚洲激情| 国产主播在线观看一区二区| 可以在线观看的亚洲视频| 波野结衣二区三区在线 | 国产亚洲欧美在线一区二区| 在线看三级毛片| 黄色日韩在线| 国产高清视频在线观看网站| 亚洲一区高清亚洲精品| 网址你懂的国产日韩在线| 有码 亚洲区| 99热6这里只有精品| 在线观看免费视频日本深夜| 亚洲七黄色美女视频| 久久人妻av系列| 欧美日韩黄片免| 丰满乱子伦码专区| 女人被狂操c到高潮| 欧美不卡视频在线免费观看| 天堂√8在线中文| 久久伊人香网站| 欧美bdsm另类| 国产麻豆成人av免费视频| 女同久久另类99精品国产91| 精品久久久久久久毛片微露脸| 精品99又大又爽又粗少妇毛片 | 国产v大片淫在线免费观看| 成人特级黄色片久久久久久久| 淫秽高清视频在线观看| 内地一区二区视频在线| 日韩免费av在线播放| 免费人成视频x8x8入口观看| 国产伦精品一区二区三区四那| 2021天堂中文幕一二区在线观| 午夜激情福利司机影院| 婷婷精品国产亚洲av在线| 桃色一区二区三区在线观看| 国产一区在线观看成人免费| 国产av一区在线观看免费| 91麻豆精品激情在线观看国产| 尤物成人国产欧美一区二区三区| 亚洲,欧美精品.| 欧美大码av| 男女床上黄色一级片免费看| 午夜视频国产福利| 99国产综合亚洲精品| 熟妇人妻久久中文字幕3abv| 日韩av在线大香蕉| 亚洲人成网站在线播放欧美日韩| 亚洲欧美日韩高清专用| 国内少妇人妻偷人精品xxx网站| 三级毛片av免费| 久久精品人妻少妇| 国产单亲对白刺激| 久久精品国产亚洲av香蕉五月| 中文字幕人妻熟人妻熟丝袜美 | 亚洲中文日韩欧美视频| 99国产综合亚洲精品| 亚洲va日本ⅴa欧美va伊人久久| 亚洲国产精品成人综合色| 在线a可以看的网站| 亚洲五月婷婷丁香| 91字幕亚洲| 三级毛片av免费| 欧美又色又爽又黄视频| 桃色一区二区三区在线观看| 午夜a级毛片| 国产综合懂色| 国产国拍精品亚洲av在线观看 | 亚洲18禁久久av| 国产精品野战在线观看| 深爱激情五月婷婷| 国产精品98久久久久久宅男小说| 男人的好看免费观看在线视频| 精品一区二区三区人妻视频| 免费在线观看成人毛片| 中文字幕人成人乱码亚洲影| 午夜久久久久精精品| 亚洲av美国av| 亚洲av中文字字幕乱码综合| 国产精品精品国产色婷婷| 成人欧美大片| 淫秽高清视频在线观看| 又黄又爽又免费观看的视频| 午夜福利视频1000在线观看| 97碰自拍视频| 国产精品久久久久久久久免 | 天堂动漫精品| 人人妻人人看人人澡| 日韩欧美免费精品| 亚洲av五月六月丁香网| 欧美成人一区二区免费高清观看| 久久久久国产精品人妻aⅴ院| 亚洲国产精品sss在线观看| 黄色成人免费大全| 一个人免费在线观看电影| 色综合婷婷激情| 女生性感内裤真人,穿戴方法视频| 国产精品电影一区二区三区| 亚洲熟妇中文字幕五十中出| 欧美一级a爱片免费观看看| 精品国产美女av久久久久小说| 亚洲国产中文字幕在线视频| 最好的美女福利视频网| 日本一二三区视频观看| 婷婷精品国产亚洲av| 日韩大尺度精品在线看网址| 欧美在线黄色| 首页视频小说图片口味搜索| 免费在线观看影片大全网站| 国产精品女同一区二区软件 | 五月伊人婷婷丁香| 成人av在线播放网站| 一级黄色大片毛片| 色播亚洲综合网| 日本熟妇午夜| 乱人视频在线观看| 国产av麻豆久久久久久久| 精品乱码久久久久久99久播| 日韩欧美在线二视频| 91av网一区二区| 男人和女人高潮做爰伦理| 国产精品一区二区三区四区免费观看 | 日韩成人在线观看一区二区三区| 香蕉丝袜av| 最近最新中文字幕大全免费视频| 亚洲av中文字字幕乱码综合| 久久久久久久久久黄片| 亚洲第一电影网av| 香蕉av资源在线| 尤物成人国产欧美一区二区三区| 国产精品久久久久久精品电影| 99热这里只有精品一区| 国产不卡一卡二| 成年免费大片在线观看| 国产成人系列免费观看| 精品日产1卡2卡| 欧美bdsm另类| 国产成人啪精品午夜网站| 久久久成人免费电影| 精品久久久久久久久久久久久| 香蕉av资源在线| 黑人欧美特级aaaaaa片| 免费高清视频大片| 国产色婷婷99| 老汉色av国产亚洲站长工具| 可以在线观看毛片的网站| 国产精品三级大全| 波多野结衣巨乳人妻| 中文字幕熟女人妻在线| 色综合婷婷激情| 超碰av人人做人人爽久久 | ponron亚洲| 在线免费观看不下载黄p国产 | 看黄色毛片网站| 舔av片在线| 内射极品少妇av片p| 岛国在线免费视频观看| www日本在线高清视频| 69人妻影院| 国产精品乱码一区二三区的特点| 亚洲七黄色美女视频| 黄色日韩在线| 91久久精品国产一区二区成人 | 午夜免费成人在线视频| or卡值多少钱| 青草久久国产| 色哟哟哟哟哟哟| 青草久久国产| 亚洲电影在线观看av| 欧美xxxx黑人xx丫x性爽| 精品福利观看| 一个人免费在线观看电影| 少妇高潮的动态图| 久久久久久久精品吃奶| 搞女人的毛片| 亚洲七黄色美女视频| 日本熟妇午夜| 精品久久久久久久末码| 国产精品久久久久久久电影 | 亚洲在线观看片| 国产一区二区激情短视频| 国产伦在线观看视频一区| 我要搜黄色片| 国产乱人伦免费视频| 男插女下体视频免费在线播放| 99久久久亚洲精品蜜臀av| xxxwww97欧美| 久久精品国产自在天天线| www.熟女人妻精品国产| 一进一出好大好爽视频| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 一本综合久久免费| а√天堂www在线а√下载| 国产乱人伦免费视频| www.www免费av| 亚洲一区二区三区色噜噜| 别揉我奶头~嗯~啊~动态视频| 又粗又爽又猛毛片免费看| 欧美色欧美亚洲另类二区| 色噜噜av男人的天堂激情| 九色国产91popny在线| 亚洲熟妇中文字幕五十中出| 亚洲av中文字字幕乱码综合| 极品教师在线免费播放| 久久久久国产精品人妻aⅴ院| 最近最新免费中文字幕在线| 国产视频一区二区在线看| av女优亚洲男人天堂| 日本五十路高清| 特大巨黑吊av在线直播| 久久99热这里只有精品18| 精品久久久久久久久久免费视频| 亚洲国产欧美人成| 久久精品亚洲精品国产色婷小说| 女人十人毛片免费观看3o分钟| 波野结衣二区三区在线 | 国产精品国产高清国产av| 18禁黄网站禁片午夜丰满| 精品国产美女av久久久久小说| 欧美日韩国产亚洲二区| 免费观看的影片在线观看| 搡老岳熟女国产| 国产伦精品一区二区三区四那| 一区二区三区免费毛片| 最好的美女福利视频网| 怎么达到女性高潮| 亚洲黑人精品在线| 午夜福利在线在线| 国产成人av激情在线播放| 色播亚洲综合网| 日本五十路高清| 国内精品久久久久精免费| 啪啪无遮挡十八禁网站| 日韩免费av在线播放| 成年女人毛片免费观看观看9| 男女做爰动态图高潮gif福利片| av在线天堂中文字幕| 夜夜躁狠狠躁天天躁| 麻豆国产97在线/欧美| 午夜视频国产福利| 亚洲无线在线观看| www日本在线高清视频| 俺也久久电影网| av在线蜜桃| 色视频www国产| 黄色女人牲交| 窝窝影院91人妻| 超碰av人人做人人爽久久 | 亚洲精品在线观看二区| 色综合欧美亚洲国产小说| 国产精品,欧美在线| 啦啦啦韩国在线观看视频| 变态另类丝袜制服| 国产激情偷乱视频一区二区| 欧美日韩中文字幕国产精品一区二区三区| 国产精品亚洲美女久久久| 久久亚洲真实| 身体一侧抽搐| 国产精品亚洲av一区麻豆|