• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    信息源與風(fēng)險(xiǎn)源:大數(shù)據(jù)時(shí)代個(gè)人信息安全困境及應(yīng)對(duì)*

    2019-12-09 05:47:24魯佑文馬亞鑫
    關(guān)鍵詞:個(gè)人信息信息安全用戶

    ■ 魯佑文 馬亞鑫

    大數(shù)據(jù)是指沒有辦法在容許的時(shí)間內(nèi)用常規(guī)軟件工具對(duì)其內(nèi)容進(jìn)行抓取、處理、管理的數(shù)據(jù)集合。①常規(guī)辦法想要把它分析出來(lái)是很難的。技術(shù)界普遍認(rèn)為大數(shù)據(jù)起源于谷歌,谷歌工程師在 2003 —2006 年先后公開發(fā)表了幾篇有關(guān)“大數(shù)據(jù)”的論文,引發(fā)臉書(Facebook)等互聯(lián)網(wǎng)公司的注意,直接導(dǎo)致目前應(yīng)用最為廣泛的開源大數(shù)據(jù)框架 Apache Ha-doop 的誕生。②中國(guó)國(guó)內(nèi)大數(shù)據(jù)開發(fā)也緊隨其后,互聯(lián)網(wǎng)巨頭如百度、騰訊、阿里巴巴等紛紛加入到大數(shù)據(jù)技術(shù)開發(fā)與應(yīng)用的行列中去。

    雖然大數(shù)據(jù)從誕生至今只有十余年時(shí)間,但它作為本世紀(jì)最為智能的技術(shù)之一,已經(jīng)深深滲透到各行各業(yè),影響著社會(huì)的方方面面。當(dāng)人們行駛在路上,導(dǎo)航通過(guò)衛(wèi)星定位及數(shù)據(jù)庫(kù)的推算為人們推薦最佳行駛路線,當(dāng)去醫(yī)院就診時(shí),各大醫(yī)院建立的病例數(shù)據(jù)庫(kù)及智能分析,增強(qiáng)了確診病因的準(zhǔn)確率??梢哉f(shuō),大數(shù)據(jù)通過(guò)匯聚各類信息,成為一個(gè)巨大的信息源,為人們的日常生活帶來(lái)諸多便利。但同時(shí),個(gè)人信息作為大數(shù)據(jù)技術(shù)信息源中的一種,在個(gè)人信息獲取、使用等方面也引發(fā)諸多爭(zhēng)議。

    本文首先闡釋大數(shù)據(jù)時(shí)代個(gè)人信息的新內(nèi)涵,通過(guò)理論思辨的方式分析大數(shù)據(jù)技術(shù)和個(gè)人信息作為信息源和風(fēng)險(xiǎn)源的兩面性,否定單純唱衰或者肯定“大數(shù)據(jù)”和“個(gè)人信息”的一元視角。針對(duì)目前真實(shí)存在的個(gè)人信息安全風(fēng)險(xiǎn),從市場(chǎng)、法律、技術(shù)三重邏輯出發(fā),分別討論在維護(hù)個(gè)人信息安全方面遭遇的困境,并在此基礎(chǔ)上提出可行性應(yīng)對(duì)措施。

    一、大數(shù)據(jù)時(shí)代個(gè)人信息內(nèi)涵

    個(gè)人信息在傳統(tǒng)媒體時(shí)代主要指?jìng)€(gè)人的姓名、年齡等基本信息。由于技術(shù)環(huán)境的變化,個(gè)人信息的內(nèi)涵在大數(shù)據(jù)時(shí)代有了新的拓展,故有必要先對(duì)此概念本身進(jìn)行重新界定。

    大數(shù)據(jù)時(shí)代,個(gè)人信息可分為表層個(gè)人信息和深層個(gè)人信息兩大類。表層個(gè)人信息主要指直接獲取、未經(jīng)大數(shù)據(jù)算法處理的部分,具有低價(jià)值密度特點(diǎn)。個(gè)人信息按信息來(lái)源類型劃分,主要包含四個(gè)方面:第一是社會(huì)性信息,包括姓名、年齡、身份證號(hào)碼等個(gè)人基本信息以及社會(huì)關(guān)系信息如家庭成員信息、工作信息等;第二是設(shè)備性信息,主要是指?jìng)€(gè)人使用的計(jì)算機(jī)終端設(shè)備及移動(dòng)終端內(nèi)儲(chǔ)存的各類信息,既包含CPU信息、操作系統(tǒng)版本等基本設(shè)備信息,也包含設(shè)備內(nèi)儲(chǔ)存的通訊錄、通話記錄、聊天記錄、賬號(hào)密碼等隱私信息;第三是用戶行為信息,如各種網(wǎng)站瀏覽記錄、網(wǎng)頁(yè)搜索記錄、商品購(gòu)買記錄等;第四是深層個(gè)人信息,指經(jīng)大數(shù)據(jù)算法技術(shù)處理過(guò)后對(duì)具有較高信息價(jià)值密度的用戶畫像,這些信息能夠?qū)σ院蟮挠脩粜袨檫M(jìn)行較為準(zhǔn)確的分析預(yù)測(cè)。

    為不產(chǎn)生概念上的爭(zhēng)議,對(duì)與“個(gè)人信息”相關(guān)的兩個(gè)概念,也做簡(jiǎn)要說(shuō)明。首先,個(gè)人信息不等于個(gè)人隱私,個(gè)人信息中包含隱私性和非隱私性個(gè)人信息;其次,個(gè)人信息等同于個(gè)人數(shù)據(jù)。個(gè)人信息是在法律層面的習(xí)慣用語(yǔ),而在技術(shù)層面經(jīng)常被稱為個(gè)人數(shù)據(jù),二者本質(zhì)上指的是同一種事物。本文在論述時(shí),對(duì)“個(gè)人信息”和“個(gè)人數(shù)據(jù)”的說(shuō)法都會(huì)予以運(yùn)用。

    二、大數(shù)據(jù)和個(gè)人信息:信息源與風(fēng)險(xiǎn)源

    觀點(diǎn)決定態(tài)度,態(tài)度決定行為,如何看待“大數(shù)據(jù)”和“個(gè)人信息”對(duì)于人們?cè)趯?shí)際生活中的運(yùn)用有著直接影響?實(shí)際上應(yīng)該辯證地看待“大數(shù)據(jù)”和“個(gè)人信息”,認(rèn)識(shí)到它們可作為“信息源”又可演變?yōu)椤帮L(fēng)險(xiǎn)源”的兩面性。

    (一)媒介環(huán)境視閾:技術(shù)造福人類的過(guò)程也是引發(fā)風(fēng)險(xiǎn)的過(guò)程

    媒介環(huán)境學(xué)派強(qiáng)調(diào)傳播技術(shù)對(duì)社會(huì)生活的重要性,代表人物有哈德羅·英尼斯、馬歇爾·麥克盧漢等。他們認(rèn)為,雖然技術(shù)的發(fā)展最早始于人類的相關(guān)需求,但是隨著技術(shù)的不斷深入,技術(shù)會(huì)逐漸超出人們的控制以及預(yù)設(shè)范圍,轉(zhuǎn)而遵從其本身的內(nèi)在邏輯,從而呈現(xiàn)出一種失控的狀態(tài)。技術(shù)變更逐漸輻射到其他社會(huì)因素,最終社會(huì)的方方面面都會(huì)臣服于技術(shù)的統(tǒng)治,以技術(shù)為“重要意志”發(fā)生改變。他們的這些觀點(diǎn),被后來(lái)的研究學(xué)者稱為“技術(shù)決定論”。這一學(xué)派過(guò)度放大了技術(shù)變量,忽視了在現(xiàn)實(shí)世界中同時(shí)發(fā)生作用的其他因素力量,具有一定局限性,但是也勾勒出技術(shù)在造福于人類的同時(shí)也會(huì)帶來(lái)許多始料未及的問(wèn)題的真實(shí)情景。

    1.個(gè)人信息安全風(fēng)險(xiǎn)表征貫穿于大數(shù)據(jù)操作過(guò)程

    大數(shù)據(jù)技術(shù)的初衷是大量搜集虛擬世界的低價(jià)值信息,通過(guò)算法程序的過(guò)濾處理,將其轉(zhuǎn)化為可利用的高價(jià)值信息,這在提升整個(gè)社會(huì)的信息處理效率方面具有重要作用。但正是在這一過(guò)程中,個(gè)人信息安全風(fēng)險(xiǎn)也如影隨形,貫穿始終。在收集信息時(shí),企業(yè)會(huì)利用其強(qiáng)勢(shì)地位,獲取用戶設(shè)備中的大量個(gè)人信息,侵犯用戶隱私;在信息生產(chǎn)時(shí),用戶會(huì)大量上傳個(gè)人信息,成為個(gè)人信息泄露的源頭;在信息儲(chǔ)存時(shí),各種企業(yè)建立的大數(shù)據(jù)庫(kù),由于匯集了諸多信息,也成為遭受黑客攻擊的重點(diǎn)對(duì)象;在信息傳播時(shí),易獲取的個(gè)人信息成為不法分子實(shí)施網(wǎng)絡(luò)犯罪的工具,使人們蒙受巨大的人身與經(jīng)濟(jì)損失;在信息分析、預(yù)測(cè)時(shí),大數(shù)據(jù)庫(kù)生成的用戶畫像使得用戶再也逃離不開精準(zhǔn)的營(yíng)銷大網(wǎng),受到電話騷擾、郵件騷擾的幾率大大增加。

    2.以技術(shù)為中心的生活方式:大數(shù)據(jù)正常運(yùn)轉(zhuǎn)是信息源,遭遇故障是風(fēng)險(xiǎn)源

    大數(shù)據(jù)時(shí)代,人們?cè)絹?lái)越仰仗技術(shù)提供給人們便利的生活,逐漸形成了以“技術(shù)”為中心的生活方式。在這種生活方式中,人們把許多本屬于人的決策權(quán)交給技術(shù),這就使得大數(shù)據(jù)正常運(yùn)轉(zhuǎn)時(shí)可以為社會(huì)提供便利,而一旦遭遇故障,整個(gè)社會(huì)都會(huì)成為風(fēng)險(xiǎn)的承擔(dān)者。

    以交通為例,人們出行越來(lái)越仰仗各類導(dǎo)航產(chǎn)品推薦的最佳行駛路線。不可否認(rèn),各類導(dǎo)航產(chǎn)品通過(guò)衛(wèi)星定位,獲取用戶設(shè)備上的個(gè)人位置信息,算法智能推算最優(yōu)行駛路線,這的確方便了人們的出行生活。但是,一旦中間的技術(shù)環(huán)節(jié)出現(xiàn)故障,就會(huì)給個(gè)體乃至社會(huì)帶來(lái)風(fēng)險(xiǎn)。如個(gè)人地理位置信息獲取錯(cuò)誤,就會(huì)導(dǎo)致推薦路線出錯(cuò)——媒體新聞中就報(bào)道了很多司機(jī)根據(jù)導(dǎo)航規(guī)劃路線行駛反而到達(dá)錯(cuò)誤目的地的事件。放大來(lái)說(shuō),如果導(dǎo)航發(fā)生大規(guī)模的技術(shù)故障,在嚴(yán)重依賴科技的當(dāng)下,整個(gè)社會(huì)的交通秩序都會(huì)遭受重大影響。

    (二)傳播邊界視閾:傳播界限難以確定,個(gè)人信息作為信息源隨時(shí)可轉(zhuǎn)化為風(fēng)險(xiǎn)源

    大數(shù)據(jù)依托扁平化的互聯(lián)網(wǎng),使得信息更加自由流通。通過(guò)網(wǎng)線的連接以及簡(jiǎn)單的復(fù)制粘貼,信息幾乎可以零成本傳播到世界的任何角落、任何地方。但是很多情況下,傳播是需要邊界的,信息只在一定范圍內(nèi)流通才能確保安全。學(xué)者桑德拉·佩特羅尼奧就對(duì)此提出傳播邊界管理理論,其認(rèn)為公共領(lǐng)域和私人領(lǐng)域之間存在著界限,在邊界的一邊,人們不披露私人性信息;而在邊界的另一邊,人們?cè)敢庠谂c他人的社會(huì)關(guān)系中披露某些私人性信息。③桑德拉著力強(qiáng)調(diào)了個(gè)人信息需要在傳播空間上劃分邊界,因?yàn)樵谶吔绲囊环?個(gè)人信息處于安全且易受保障的境地,而在邊界的另一方則容易遭受危險(xiǎn)。據(jù)此,在大數(shù)據(jù)時(shí)代,個(gè)人信息安全不僅僅是傳播空間上,還在傳播目的等邊界難以劃分,這使得個(gè)人信息在充當(dāng)信息源的同時(shí)也變成風(fēng)險(xiǎn)源。

    1.傳播空間:私人空間是信息源,公共空間是風(fēng)險(xiǎn)源

    隨著互聯(lián)網(wǎng)的不斷發(fā)展,網(wǎng)絡(luò)空間中的私人空間和公共空間邊界日益交融,很難再找到絕對(duì)意義上的公共空間或是私人空間。以微信朋友圈為例,用戶大都把朋友圈當(dāng)作私人性空間使用,經(jīng)常會(huì)在其中發(fā)表含有個(gè)人信息的相關(guān)內(nèi)容。誠(chéng)然,這些個(gè)人信息在用戶的絕對(duì)性私人空間傳播時(shí),充當(dāng)了信息源的作用,有利于維護(hù)用戶在現(xiàn)實(shí)或虛擬空間中發(fā)展的社會(huì)關(guān)系。然而,一旦用戶的朋友又把含有該用戶個(gè)人信息的有關(guān)內(nèi)容轉(zhuǎn)發(fā)到自己的朋友圈時(shí),那么,朋友的朋友圈相對(duì)于該用戶來(lái)說(shuō),又成了一個(gè)相對(duì)意義上的公共空間。此時(shí),這些個(gè)人信息就容易被陌生人窺探或利用,演變成風(fēng)險(xiǎn)源。

    2.傳播意圖:正向用途是信息源,負(fù)向用途是風(fēng)險(xiǎn)源

    大數(shù)據(jù)時(shí)代,在使用個(gè)人信息方面,個(gè)人信息既可以造福整個(gè)社會(huì),也可以對(duì)社會(huì)中的每個(gè)個(gè)體產(chǎn)生威脅。以醫(yī)療產(chǎn)業(yè)為例,各國(guó)現(xiàn)在都在拓展“大數(shù)據(jù)+醫(yī)療”的模式,以提高確診率及治愈率,緩解當(dāng)今醫(yī)療資源稀缺、不平衡的現(xiàn)狀。但需要指出的是,病例中含有大量基本性個(gè)人信息及隱私性個(gè)人信息。一旦這些病例信息被使用在最初意圖之外的其他領(lǐng)域,就會(huì)對(duì)病人的正常生活產(chǎn)生風(fēng)險(xiǎn),如病人不斷遭受醫(yī)藥公司的騷擾,一些患有傳染性疾病的患者遭受社會(huì)歧視、排斥等。

    總的來(lái)說(shuō),大數(shù)據(jù)技術(shù)和個(gè)人信息作為客觀事物,本身不具有積極或消極屬性,而決定其發(fā)揮效果的還是使用它們的人類。

    三、大數(shù)據(jù)時(shí)代維護(hù)個(gè)人信息安全的困境

    針對(duì)大數(shù)據(jù)和個(gè)人信息具有“信息源”和“風(fēng)險(xiǎn)源”的兩面性特點(diǎn),有必要發(fā)揮人的主觀能動(dòng)性,對(duì)大數(shù)據(jù)下的個(gè)人信息安全加以維護(hù),引導(dǎo)其發(fā)揮正向作用。但在實(shí)際行動(dòng)中,人們卻遭遇了諸多困境,這可從市場(chǎng)層面、法律層面和技術(shù)層面分析維護(hù)信息安全的具體困境。

    (一)市場(chǎng)邏輯中的用戶與企業(yè):用戶免費(fèi)使用的背后,個(gè)人信息成為企業(yè)的盈利籌碼

    隨著大數(shù)據(jù)的不斷普及,大數(shù)據(jù)技術(shù)已經(jīng)深入到了社會(huì)的各個(gè)層面,遍及教育、交通、醫(yī)療、金融、IT等各個(gè)重要行業(yè)或領(lǐng)域。各類企業(yè)通過(guò)搭建互聯(lián)網(wǎng)平臺(tái),并在其中嵌入大數(shù)據(jù)技術(shù),為用戶提供免費(fèi)產(chǎn)品或服務(wù)。

    企業(yè)作為市場(chǎng)中的生產(chǎn)者,提供免費(fèi)服務(wù)對(duì)企業(yè)健康發(fā)展而言不是長(zhǎng)久之計(jì),其最終目的仍是獲取經(jīng)濟(jì)利益。美國(guó)著名未來(lái)學(xué)家阿爾文·托夫勒在《第三次浪潮》一書中曾預(yù)測(cè),21 世紀(jì)是信息的時(shí)代,信息要素的作用將極大凸顯。大數(shù)據(jù)時(shí)代,信息的商業(yè)價(jià)值越發(fā)凸顯,企業(yè)既可以通過(guò)個(gè)人信息尋找到潛在消費(fèi)者,進(jìn)行精準(zhǔn)營(yíng)銷,也可以將所掌握的信息作為“商品”轉(zhuǎn)賣給其他有需要的企業(yè)。哪些企業(yè)掌握了更多的信息,就意味著有更多資源、財(cái)富。因此,受市場(chǎng)思想支配的企業(yè)認(rèn)定,大數(shù)據(jù)時(shí)代用戶個(gè)人信息是一種有價(jià)值的“生產(chǎn)原料”或“商品”,通過(guò)為用戶提供較等值的產(chǎn)品或服務(wù)以換取用戶信息是有利可圖的,從而大量收集用戶個(gè)人信息,毫不考慮個(gè)人信息作為商品流通對(duì)個(gè)人帶來(lái)的不利影響及其中的倫理問(wèn)題。

    用戶作為市場(chǎng)的消費(fèi)者,卻一直沉浸在企業(yè)編織的“免費(fèi)”美夢(mèng)中,既希望企業(yè)能持續(xù)提供免費(fèi)服務(wù)又選擇性忽略企業(yè)的盈利問(wèn)題,在對(duì)個(gè)人信息的認(rèn)知方面,更具有“雙標(biāo)”行為。德國(guó)消費(fèi)調(diào)研公司(GFK)的多國(guó)在線調(diào)查問(wèn)卷結(jié)果顯示,與其他國(guó)家相比,中國(guó)的網(wǎng)絡(luò)用戶更愿意為獲得折扣等優(yōu)惠透露個(gè)人信息。④在今年的中國(guó)發(fā)展高層論壇上,百度董事長(zhǎng)兼CEO李彥宏也表示:“中國(guó)人對(duì)隱私問(wèn)題的態(tài)度更開放,也相對(duì)來(lái)說(shuō)沒那么敏感。如果可以,他們?cè)敢庥秒[私換取便利、安全或者效率?!雹莓?dāng)個(gè)人信息的處置權(quán)把握在自己手里時(shí),用戶愿意將部分個(gè)人信息當(dāng)作一種“商品”去交換短期利益。而當(dāng)企業(yè)捕捉這些遺留在平臺(tái)上的個(gè)人信息時(shí),用戶又會(huì)否認(rèn)個(gè)人信息的“商品”特性,將個(gè)人信息完全等同于個(gè)人隱私加以保護(hù),不愿意看到企業(yè)任何的個(gè)人信息獲取行為。對(duì)個(gè)人信息本質(zhì)理解的差異性,形成了市場(chǎng)邏輯下企業(yè)和用戶“同床異夢(mèng)”,最終從市場(chǎng)層面為維護(hù)個(gè)人信息安全制造障礙。

    (二)法律邏輯下的政府與公民:強(qiáng)調(diào)個(gè)人信息控制力的政府與個(gè)人信息控制力較差的公民

    中國(guó)關(guān)于個(gè)人信息保護(hù)的相關(guān)法律,主要采取的是“隱私的自我管理模式”(Privacy Self-management),該模式注重個(gè)人對(duì)其數(shù)據(jù)信息的控制和管理能力,并賦予個(gè)人一系列相應(yīng)的權(quán)利。⑥以2017年6月1日出臺(tái)的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》為例,其第40至42條詳細(xì)規(guī)定了網(wǎng)絡(luò)服務(wù)提供者在業(yè)務(wù)活動(dòng)中收集、使用信息的一系列法律要求,主要包括明示、同意、目的明確、安全保障等原則,概括來(lái)說(shuō)就是,企業(yè)對(duì)個(gè)人信息的任何操作都要首先告知個(gè)人信息主體,取得同意。

    雖然,這種“隱私的自我管理模式”通過(guò)法律賦權(quán)的形式增強(qiáng)了個(gè)體力量,有利于公民控制信息流通來(lái)保護(hù)個(gè)人信息安全。但是,受制于主客觀因素的影響,中國(guó)公民的個(gè)人信息控制能力總體較弱,造成現(xiàn)有法律無(wú)法起到預(yù)期效果。

    從客觀層面來(lái)講,信息不平衡造成中國(guó)公民無(wú)法準(zhǔn)確判斷企業(yè)實(shí)際將會(huì)獲取哪些個(gè)人信息、如何運(yùn)用個(gè)人信息。一方面,在確定是否“同意”企業(yè)獲取信息時(shí),公民只能通過(guò)掌握到的有限信息,如企業(yè)信譽(yù)度等做主觀判斷,并不利于發(fā)揮法律條款的實(shí)際制約作用。另一方面,企業(yè)也會(huì)采取許多措施,削弱公民的個(gè)人信息控制能力。如《中華人民共和國(guó)網(wǎng)絡(luò)安全法》中明確規(guī)定了網(wǎng)絡(luò)運(yùn)營(yíng)商應(yīng)提供《隱私政策聲明》,以增加公民在企業(yè)獲取、使用個(gè)人信息方面的了解程度。但是,根據(jù)2019年上海交通大學(xué)對(duì)于500家網(wǎng)站的實(shí)證分析結(jié)果來(lái)看,“在主頁(yè)有隱私政策聲明的四類網(wǎng)站中,絕大部分的隱私聲明發(fā)布于網(wǎng)頁(yè)底部。僅有 3% 的隱私聲明出現(xiàn)在商業(yè)類網(wǎng)站主頁(yè)頂端,9%的隱私聲明出現(xiàn)在主頁(yè)中部”⑦,企業(yè)就以降低隱私政策聲明可見度的方式,削弱了公民信息控制能力,其他類似手段還有很多。

    從主觀層面來(lái)說(shuō),中國(guó)公民整體法律素質(zhì)較低,總體個(gè)人信息控制能力較差。具體表現(xiàn)為以下兩方面:首先,公民不知道如何確保個(gè)人信息免遭侵害。2016年封面智庫(kù)發(fā)布的《中國(guó)個(gè)人信息安全和隱私報(bào)告》顯示:“由于對(duì)個(gè)人信息泄露渠道的不了解,雖然大多數(shù)人意識(shí)到個(gè)人信息泄露的嚴(yán)重程度,但相當(dāng)高比例的人群并不知道如何防范個(gè)人信息侵害,在使用個(gè)人信息的載體時(shí)疏忽大意或不知如何采取防范行動(dòng)?!雹嗥浯?個(gè)人因隱私意識(shí)薄弱成為信息泄露的源頭。人們?cè)谏缃黄脚_(tái)上傳的內(nèi)容中含有個(gè)人信息的現(xiàn)象屢見不鮮,“曬幸?!薄靶愣鲪邸鄙踔脸蔀榱艘环N文化現(xiàn)象。

    總體來(lái)說(shuō),個(gè)人信息保護(hù)意識(shí)薄弱、反個(gè)人信息侵害能力低下以及企業(yè)的干擾使得中國(guó)公民個(gè)人信息控制能力總體較低,這無(wú)形中制約了法律在維護(hù)公民個(gè)人信息安全方面發(fā)揮重要效用。

    (三)技術(shù)邏輯下的人類與大數(shù)據(jù):人類一時(shí)難以適應(yīng)大數(shù)據(jù)技術(shù)所創(chuàng)造的新時(shí)空觀念

    大數(shù)據(jù)的內(nèi)涵,絕不僅僅是單純的海量數(shù)據(jù)規(guī)模,更為重要的是它分析處理數(shù)據(jù)的能力。大數(shù)據(jù)通過(guò)捕捉散落在網(wǎng)絡(luò)平臺(tái)中的數(shù)據(jù)碎片,將規(guī)模巨大但價(jià)值密度較低的普通數(shù)據(jù),以智能化過(guò)濾等方式,最終生成量少且具有較高價(jià)值的優(yōu)質(zhì)數(shù)據(jù)并長(zhǎng)久儲(chǔ)存。而在這個(gè)操作過(guò)程中,技術(shù)創(chuàng)造出一個(gè)新的時(shí)空觀念。

    時(shí)間層面,大數(shù)據(jù)技術(shù)的發(fā)展使得個(gè)人信息的時(shí)間屬性大大削弱。在獲取個(gè)人信息時(shí),無(wú)論多久以前的個(gè)人數(shù)據(jù),只要其元代碼沒有被徹底消除,大數(shù)據(jù)都有辦法獲取捕捉到。而在信息儲(chǔ)存方面,數(shù)字化代碼的存儲(chǔ)方式以及易獲取性,使個(gè)人數(shù)據(jù)獲得了技術(shù)層面的“永生”。但對(duì)個(gè)人數(shù)據(jù)所有者的人類來(lái)說(shuō),卻還停留在傳統(tǒng)的時(shí)間觀念中。人們已經(jīng)習(xí)慣了時(shí)間對(duì)個(gè)人信息帶來(lái)的時(shí)效限制與遺忘功能,人們希望某些個(gè)人信息會(huì)隨著時(shí)間的流逝而被遺忘。維克多·邁爾·舍恩伯格在他的《刪除:大數(shù)據(jù)取舍之道》一書中就談到,信息技術(shù)的發(fā)展帶來(lái)一種數(shù)字化記憶。“可訪問(wèn)性和持久性這兩者的結(jié)合,使得人類再也不能成功逃離他們的過(guò)去。”⑨無(wú)法消除以前發(fā)布的信息,讓人們面對(duì)人肉搜索等網(wǎng)絡(luò)暴力事件時(shí)感到束手無(wú)策。

    空間層面,大數(shù)據(jù)技術(shù)則突破了虛擬空間與現(xiàn)實(shí)空間的壁壘。在大數(shù)據(jù)技術(shù)出現(xiàn)以前,人們往往把虛擬空間與現(xiàn)實(shí)空間當(dāng)作兩個(gè)相對(duì)獨(dú)立的空間對(duì)待。個(gè)人雖然也會(huì)在虛擬空間留下一些指向現(xiàn)實(shí)空間的個(gè)人信息,但這些信息往往是碎片化的、無(wú)序的。對(duì)于人類傳統(tǒng)的信息處理能力而言,并不能把這些沉淀在海量信息中的信息碎片挑選出來(lái),整合為一個(gè)完整的、指向現(xiàn)實(shí)空間的個(gè)人信息導(dǎo)圖。而大數(shù)據(jù)技術(shù)卻具有這種能力——通過(guò)整理個(gè)人在虛擬空間遺留下的信息碎片,分析出個(gè)人信息所有者的現(xiàn)實(shí)情況,并且把虛擬世界和現(xiàn)實(shí)世界中的個(gè)人完美融合。因此,虛擬空間和現(xiàn)實(shí)空間的壁壘正逐漸消亡,人類多年來(lái)形成的既有空間觀念正在被打破。而與此對(duì)應(yīng)的是,人們并不能清楚自己在虛擬空間發(fā)布了哪些信息,可能成為幫助大數(shù)據(jù)技術(shù)窺探現(xiàn)實(shí)情況的“幫兇”。

    大數(shù)據(jù)技術(shù)所創(chuàng)造出的新時(shí)空觀念,使得人類在傳統(tǒng)時(shí)空觀下創(chuàng)造出的有關(guān)個(gè)人信息保護(hù)的行為規(guī)范不再具有指導(dǎo)作用,但是新的行為規(guī)范至今卻仍未建立,這也是造成個(gè)人信息維護(hù)出現(xiàn)困境的重要原因之一。

    四、應(yīng)對(duì)措施

    (一)政府發(fā)揮主導(dǎo)作用,調(diào)和市場(chǎng)矛盾

    市場(chǎng)邏輯下,由于企業(yè)和用戶對(duì)于“個(gè)人信息”本質(zhì)屬性的不同認(rèn)識(shí)以及企業(yè)盈利需求和用戶免費(fèi)使用需求之間的矛盾,導(dǎo)致雙方在市場(chǎng)邏輯下無(wú)法對(duì)話,不利于維護(hù)個(gè)人信息安全。政府作為市場(chǎng)中的最高管理者,可以利用宏觀調(diào)控的手段,有效化解兩者矛盾。

    1.政府給予行政補(bǔ)貼,鼓勵(lì)企業(yè)發(fā)揮正外部性功能

    政府可以利用行政手段,通過(guò)給予企業(yè)補(bǔ)貼的方式,激發(fā)企業(yè)維護(hù)個(gè)人信息安全的積極性?!巴獠啃浴笔且粋€(gè)經(jīng)濟(jì)學(xué)概念,由馬歇爾和庇古在20世紀(jì)初提出,其意為“那些生產(chǎn)或消費(fèi)對(duì)其他團(tuán)體強(qiáng)征了不可補(bǔ)償?shù)某杀净蚪o予了無(wú)需補(bǔ)償?shù)氖找娴那樾巍雹狻M獠啃苑譃椤罢獠啃浴焙汀柏?fù)外部性”,當(dāng)企業(yè)發(fā)揮正外部性時(shí),有益社會(huì)共享經(jīng)濟(jì)發(fā)展成果。

    大數(shù)據(jù)時(shí)代,企業(yè)紛紛建立數(shù)據(jù)庫(kù)。在此過(guò)程中雖然產(chǎn)生了一些泄露用戶信息、倒賣用戶個(gè)人信息等不良行為,但對(duì)于改善用戶體驗(yàn),提升全社會(huì)的信息處理效率,促進(jìn)人類生活智能化等方面也做出了巨大貢獻(xiàn)。企業(yè)作為經(jīng)濟(jì)實(shí)體,在建立大數(shù)據(jù)庫(kù)、維護(hù)大數(shù)據(jù)庫(kù)的安全運(yùn)行方面的確付出了大量人力、物力和財(cái)力,給企業(yè)正常運(yùn)營(yíng)帶來(lái)一些經(jīng)濟(jì)壓力。而這些經(jīng)濟(jì)壓力只有找到有效的緩解方式,才能使企業(yè)自覺放棄將個(gè)人信息當(dāng)作無(wú)差別的商品在市場(chǎng)流通時(shí)所帶來(lái)的好處。

    考慮到企業(yè)建立大數(shù)據(jù)庫(kù)的成果,最終可以被全社會(huì)共享,政府可以給予企業(yè)一些行政補(bǔ)貼,以鼓勵(lì)企業(yè)自覺維護(hù)用戶個(gè)人信息安全,補(bǔ)償企業(yè)由維護(hù)個(gè)人信息安全所產(chǎn)生的費(fèi)用或損失的經(jīng)濟(jì)耗損。如此,不僅可以充分調(diào)動(dòng)企業(yè)作為市場(chǎng)生產(chǎn)者維護(hù)用戶個(gè)人信息的積極性,規(guī)避生產(chǎn)者和消費(fèi)者之間產(chǎn)生矛盾,同時(shí)也利于引導(dǎo)企業(yè)發(fā)揮正外部性功能,促成全社會(huì)共享大數(shù)據(jù)技術(shù)發(fā)展帶來(lái)的好處。

    2.政府利用法律手段,建立用戶和企業(yè)對(duì)于個(gè)人信息的新觀念

    對(duì)個(gè)人信息本質(zhì)認(rèn)識(shí)的不同,使得企業(yè)和用戶在維護(hù)個(gè)人信息安全方面無(wú)法同向發(fā)力。

    縱觀國(guó)外,對(duì)個(gè)人信息本質(zhì)認(rèn)識(shí)及其使用方面的法理觀念,總體有兩種傾向。一種是以歐盟為代表,將個(gè)人信息當(dāng)作隱私權(quán)加以保護(hù),呈現(xiàn)出限制使用個(gè)人信息的態(tài)勢(shì);一種是以美國(guó)為代表,將個(gè)人信息置于財(cái)產(chǎn)權(quán)理念之下,認(rèn)為個(gè)人信息是個(gè)人財(cái)產(chǎn)的一種,個(gè)人作為財(cái)產(chǎn)所有人有權(quán)決定個(gè)人信息如何使用。因此在歐盟,未經(jīng)本人同意,企業(yè)將獲取的個(gè)人信息提供給第三方是違法的;而在美國(guó),企業(yè)則可以將獲取的用戶個(gè)人信息進(jìn)行公開或出售給其他方。

    在中國(guó),個(gè)人信息的認(rèn)定偏向于“隱私權(quán)”的范圍,但這種法理觀念已經(jīng)不能有效調(diào)節(jié)大數(shù)據(jù)時(shí)代的現(xiàn)實(shí)問(wèn)題——大數(shù)據(jù)企業(yè)將個(gè)人信息作為生產(chǎn)原料的現(xiàn)實(shí)需求及用戶保護(hù)個(gè)人信息中涉及個(gè)人隱私的迫切需要。因此,政府有必要利用法律手段,建立個(gè)人信息的新法理觀念,引導(dǎo)用戶和企業(yè)在對(duì)“個(gè)人信息”的認(rèn)識(shí)上達(dá)成共識(shí)。

    法學(xué)學(xué)者吳偉光提出了將“個(gè)人信息”作為“公共產(chǎn)品”的新觀念。吳偉光認(rèn)為,將“個(gè)人信息”視為“公共物品”既可以從公共利益角度出發(fā),為用戶共享個(gè)人信息以及企業(yè)使用個(gè)人信息找到合理的出發(fā)點(diǎn),也可充分調(diào)動(dòng)作為公權(quán)力代表的政府在保護(hù)個(gè)人信息安全方面發(fā)揮作用,有效緩解處于弱勢(shì)地位的用戶背負(fù)的沉重安全負(fù)擔(dān)。政府可以從這一角度,構(gòu)建關(guān)于個(gè)人信息保護(hù)的法律體系,避免企業(yè)和用戶之間因維護(hù)各自利益所引發(fā)的互損行為。

    (二)公民自我賦能,發(fā)揮現(xiàn)有法律框架的應(yīng)有效果

    中國(guó)關(guān)于個(gè)人信息保護(hù)的現(xiàn)有法律和草案如《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《個(gè)人信息保護(hù)法(草案)》等,都十分強(qiáng)調(diào)公民個(gè)人的數(shù)據(jù)信息保護(hù)。所以,公民應(yīng)從加強(qiáng)個(gè)人信息保護(hù)意識(shí)、了解個(gè)人信息泄露渠道等角度出發(fā),加強(qiáng)個(gè)人對(duì)數(shù)據(jù)信息的掌控能力,以發(fā)揮現(xiàn)有法律在保障個(gè)人信息安全方面的應(yīng)有作用。

    1.公民加強(qiáng)個(gè)人信息保護(hù)意識(shí),掌握保護(hù)信息安全的主動(dòng)權(quán)

    大數(shù)據(jù)時(shí)代,公民應(yīng)加強(qiáng)個(gè)人信息保護(hù)意識(shí),增強(qiáng)自身的信息掌控能力。公民應(yīng)深刻了解“個(gè)人信息”在信息時(shí)代所具有的價(jià)值,在維護(hù)信息安全方面,不應(yīng)完全依賴于技術(shù)、企業(yè)和政府等外部因素,而應(yīng)更多地從自身出發(fā),建立大數(shù)據(jù)時(shí)代下的個(gè)人信息保護(hù)觀念。公民要減少在網(wǎng)絡(luò)空間發(fā)布隱私性個(gè)人信息,從源頭防范重要個(gè)人信息被不法獲取和利用,成為保護(hù)個(gè)人信息安全的第一道防線。

    2.公民了解個(gè)人信息泄露渠道,增強(qiáng)反侵害能力

    大數(shù)據(jù)時(shí)代,涌現(xiàn)了諸多獲取個(gè)人信息的新形式,這些信息獲取方式往往打著“趣味”等幌子,具有隱蔽性,不易被人們察覺。因此,公民應(yīng)廣泛了解個(gè)人信息泄露渠道,增強(qiáng)反信息侵害能力。

    以企業(yè)推出的年度總結(jié)系列為例。2017年,支付寶率先推出“支付寶年度賬單”,賬單中除了網(wǎng)購(gòu)總支出、商品購(gòu)買類型等數(shù)據(jù)信息外,還會(huì)給用戶趣味化的關(guān)鍵詞總結(jié),如“顏值正義”“小確幸”“才華”等。人們出于對(duì)自己關(guān)鍵詞的好奇心,紛紛加入賬單生成隊(duì)伍,并將自己的賬單結(jié)果分享于社交平臺(tái)之中。而這一簡(jiǎn)單的生成賬單、分享賬單過(guò)程,就存在兩次個(gè)人信息泄露行為。首先,在制作賬單時(shí),用戶需要勾選《芝麻服務(wù)協(xié)定》,同意第三方獲取自己的個(gè)人信息。但此協(xié)定字體很小、位于頁(yè)面最下方,并且已經(jīng)呈現(xiàn)出“勾選”狀態(tài),用戶一般不會(huì)注意到。隨著點(diǎn)擊確定生成賬單,第三方“芝麻”就獲取了用戶的個(gè)人信息。其次,賬單里含有大量消費(fèi)行為方面的個(gè)人信息,用戶在各大平臺(tái)分享賬單時(shí),無(wú)疑給陌生人和平臺(tái)的數(shù)據(jù)庫(kù)捕捉個(gè)人信息提供機(jī)會(huì)。其他較為隱蔽的信息泄露渠道還有使用“Wi-Fi萬(wàn)能鑰匙”,參與各種網(wǎng)絡(luò)投票、測(cè)試等。

    (三)企業(yè)對(duì)大數(shù)據(jù)技術(shù)做出調(diào)整

    企業(yè)作為大數(shù)據(jù)技術(shù)的直接掌控者,應(yīng)對(duì)現(xiàn)有技術(shù)框架做出改善,以化解人類在大數(shù)據(jù)技術(shù)開創(chuàng)的新時(shí)空觀下沒有有效方式維護(hù)個(gè)人信息安全的尷尬處境。

    1.企業(yè)通過(guò)技術(shù)路徑,建立可遺忘的“數(shù)字化記憶”

    IBM架構(gòu)師史蒂芬·沃特(Stephen Watt)曾提出,在大數(shù)據(jù)生態(tài)系統(tǒng)模型中,將大數(shù)據(jù)技術(shù)劃分為數(shù)據(jù)生成、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)處理、數(shù)據(jù)分享、數(shù)據(jù)檢索、數(shù)據(jù)分析和數(shù)據(jù)可視化等 7 個(gè)部分(如圖)。為了有效緩解大數(shù)據(jù)時(shí)代由于個(gè)人信息時(shí)間屬性削弱而引發(fā)的一系列問(wèn)題,可從大數(shù)據(jù)生態(tài)模型的具體環(huán)節(jié)入手,建立可遺忘的“數(shù)字化記憶”。

    在數(shù)據(jù)儲(chǔ)存環(huán)節(jié),建立個(gè)人數(shù)據(jù)選擇性銷毀機(jī)制。大數(shù)據(jù)技術(shù)的基礎(chǔ)就在于儲(chǔ)存大量的信息。人們雖然可以在個(gè)人終端上刪除、撤回已發(fā)布的個(gè)人信息,但是元數(shù)據(jù)卻仍然儲(chǔ)存在數(shù)據(jù)庫(kù)之中,無(wú)法消除。不僅僅是發(fā)布的信息,用戶曾經(jīng)遺留下的種種數(shù)據(jù)化足跡,如搜索記錄、網(wǎng)購(gòu)記錄等也都被數(shù)據(jù)庫(kù)完整地保存下來(lái)。為此,企業(yè)在數(shù)據(jù)儲(chǔ)存時(shí),應(yīng)建立相應(yīng)的選擇性銷毀機(jī)制,并將銷毀的決定權(quán)交給信息所有者。信息所有者可通過(guò)銷毀元數(shù)據(jù)的方式,使個(gè)人信息不再出現(xiàn)在他人的視野中。

    無(wú)限制的檢索和分享也使得個(gè)人信息一次次回歸于人們的記憶中。在數(shù)據(jù)分享和數(shù)據(jù)檢索環(huán)節(jié),則可采取限制個(gè)人信息訪問(wèn)次數(shù)或時(shí)間的方式,增加個(gè)人信息的時(shí)效性。企業(yè)可以將所掌握的個(gè)人信息分為三級(jí):一級(jí)是基本性個(gè)人信息,對(duì)此類信息可允許所有人接觸訪問(wèn),訪問(wèn)時(shí)間也可不加以限制;二級(jí)是隱私性個(gè)人信息,其他人要想訪問(wèn)需取得信息所有者的授權(quán),訪問(wèn)時(shí)間方面也要相應(yīng)限制;三級(jí)是涉密性個(gè)人信息,如銀行、賬號(hào)密碼等,這類信息要杜絕任何人進(jìn)行訪問(wèn)。

    通過(guò)對(duì)數(shù)據(jù)儲(chǔ)存、數(shù)據(jù)檢索和數(shù)據(jù)分享等環(huán)節(jié)的具體調(diào)整,最終建立一個(gè)可遺忘的大數(shù)據(jù)生態(tài)系統(tǒng)。

    2.在技術(shù)框架中嵌入實(shí)時(shí)反饋機(jī)制,將個(gè)人信息決定權(quán)交還給個(gè)人

    大數(shù)據(jù)技術(shù)下,個(gè)人無(wú)法預(yù)知在虛擬空間發(fā)布的哪些信息會(huì)成為指向現(xiàn)實(shí)自我的“證據(jù)”,有效維護(hù)個(gè)人信息安全淪為一句空談。據(jù)此,人們可從整個(gè)大數(shù)據(jù)生態(tài)系統(tǒng)模型出發(fā)(如圖),通過(guò)嵌入實(shí)時(shí)反饋機(jī)制的方式,讓個(gè)人重新掌握個(gè)人信息的主導(dǎo)權(quán)。

    大數(shù)據(jù)生態(tài)系統(tǒng)模型

    目前,受法規(guī)要求,企業(yè)雖然已經(jīng)開始設(shè)置反饋渠道,對(duì)獲取、使用個(gè)人信息的情況向信息所有者給予說(shuō)明,但是這種反饋機(jī)制只存在數(shù)據(jù)生成前,個(gè)人對(duì)于大數(shù)據(jù)生態(tài)中的每個(gè)環(huán)節(jié)企業(yè)究竟如何處理、運(yùn)營(yíng)個(gè)人數(shù)據(jù)仍一無(wú)所知。所以,為確保個(gè)人能真正掌控個(gè)人數(shù)據(jù),企業(yè)應(yīng)在大數(shù)據(jù)生態(tài)系統(tǒng)中的每個(gè)環(huán)節(jié)設(shè)立實(shí)時(shí)反饋機(jī)制。

    在數(shù)據(jù)生成前,要對(duì)獲取的個(gè)人數(shù)據(jù)給予說(shuō)明,并取得用戶同意;在數(shù)據(jù)儲(chǔ)存時(shí),要對(duì)數(shù)據(jù)儲(chǔ)存的位置、時(shí)間、保護(hù)方式等給予說(shuō)明,讓信息所有者決定是否儲(chǔ)存;在數(shù)據(jù)處理結(jié)果生成后,要及時(shí)向所有者進(jìn)行信息反饋,讓其決定數(shù)據(jù)是否要被分享、檢索和利用等。只有將這種反饋機(jī)制細(xì)化到大數(shù)據(jù)中的每一個(gè)環(huán)節(jié),才有可能真正確保個(gè)人有效維護(hù)其信息安全。

    注釋:

    ① 鄔賀銓:《大數(shù)據(jù)時(shí)代的機(jī)遇與挑戰(zhàn)》,《求是》,2013年第4期。

    ③ [美]理查德·韋斯特、林恩·H·特納:《傳播理論導(dǎo)引:分析與應(yīng)用》,劉海龍譯,中國(guó)人民大學(xué)出版社2007年版,第132-154頁(yè)。

    ④ 新浪財(cái)經(jīng),http://mini.eastday.com/mobile/170131072640526.html#,2017年1月31日。

    ⑤ 包雨朦:《百度李彥宏:多數(shù)情況下,中國(guó)人愿意用隱私交換便捷性,他們沒那么敏感》,澎湃新聞,http://www.sohu.com/a/226406966_617374,2018年3月26日。

    ⑦ 邵國(guó)松、薛凡偉、鄭一媛、鄭悅:《我國(guó)網(wǎng)站個(gè)人信息保護(hù)水平研究——基于〈網(wǎng)絡(luò)安全法〉對(duì)我國(guó)500家網(wǎng)站的實(shí)證分析》,《新聞?dòng)浾摺?2018年第3期。

    ⑧ 中國(guó)青年政治學(xué)院互聯(lián)網(wǎng)法治研究中心、封面智庫(kù):《個(gè)人信息安全和隱私現(xiàn)狀白皮書發(fā)布》,《中國(guó)信息安全》,2016年第12期。

    ⑨ [英]維克托·舍恩伯格:《刪除:大數(shù)據(jù)取舍之道》,袁杰譯,浙江人民出版社2013年版,第98頁(yè)。

    ⑩ [美]薩繆爾森、諾德豪斯:《經(jīng)濟(jì)學(xué)》,于健譯,人民郵電出版社2013年版,第245頁(yè)。

    猜你喜歡
    個(gè)人信息信息安全用戶
    如何保護(hù)勞動(dòng)者的個(gè)人信息?
    個(gè)人信息保護(hù)進(jìn)入“法時(shí)代”
    警惕個(gè)人信息泄露
    保護(hù)信息安全要滴水不漏
    高校信息安全防護(hù)
    關(guān)注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    關(guān)注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    保護(hù)個(gè)人信息安全刻不容緩
    關(guān)注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    如何獲取一億海外用戶
    琪琪午夜伦伦电影理论片6080| 天美传媒精品一区二区| 免费人成在线观看视频色| 亚洲人成伊人成综合网2020| 99riav亚洲国产免费| 九九热线精品视视频播放| 男人舔女人下体高潮全视频| 国内少妇人妻偷人精品xxx网站| 一个人看的www免费观看视频| 搡老熟女国产l中国老女人| 国产激情偷乱视频一区二区| 女的被弄到高潮叫床怎么办 | av女优亚洲男人天堂| 嫩草影院精品99| www.色视频.com| 国产一区二区在线观看日韩| 日日啪夜夜撸| av在线蜜桃| 国产亚洲精品久久久久久毛片| 亚洲性久久影院| netflix在线观看网站| 日韩大尺度精品在线看网址| 在线看三级毛片| 国产美女午夜福利| 99精品久久久久人妻精品| 给我免费播放毛片高清在线观看| 热99在线观看视频| 久久精品人妻少妇| 国产毛片a区久久久久| 干丝袜人妻中文字幕| а√天堂www在线а√下载| 丰满人妻一区二区三区视频av| 日本五十路高清| 91午夜精品亚洲一区二区三区 | 亚洲最大成人av| 国产亚洲91精品色在线| 国产高清视频在线观看网站| avwww免费| 美女免费视频网站| 国产一级毛片七仙女欲春2| 动漫黄色视频在线观看| 变态另类成人亚洲欧美熟女| 日韩,欧美,国产一区二区三区 | 欧美xxxx性猛交bbbb| 男人和女人高潮做爰伦理| 欧美性猛交黑人性爽| 国产精品一区二区三区四区久久| 99久久精品热视频| 国产真实伦视频高清在线观看 | 99久久精品国产国产毛片| 97热精品久久久久久| 不卡视频在线观看欧美| 亚洲av中文字字幕乱码综合| 欧美一级a爱片免费观看看| 国产在视频线在精品| 尤物成人国产欧美一区二区三区| 日本欧美国产在线视频| 国产精品嫩草影院av在线观看 | 欧美极品一区二区三区四区| 午夜激情福利司机影院| 亚洲人与动物交配视频| 成人av在线播放网站| 性插视频无遮挡在线免费观看| 国国产精品蜜臀av免费| 少妇的逼好多水| 久久久久久大精品| 国产一区二区三区在线臀色熟女| 精品久久国产蜜桃| 色哟哟·www| 亚洲无线在线观看| 88av欧美| 97超视频在线观看视频| 亚州av有码| 床上黄色一级片| 亚洲自偷自拍三级| 久久久久久伊人网av| 国产乱人伦免费视频| 中文字幕高清在线视频| 真实男女啪啪啪动态图| 亚洲av免费高清在线观看| av视频在线观看入口| 免费av毛片视频| 亚洲美女视频黄频| 最新中文字幕久久久久| 久久精品久久久久久噜噜老黄 | 无遮挡黄片免费观看| 97人妻精品一区二区三区麻豆| av中文乱码字幕在线| 波多野结衣高清无吗| 2021天堂中文幕一二区在线观| 午夜免费成人在线视频| 国产精品久久久久久亚洲av鲁大| 在线观看av片永久免费下载| 欧美日韩黄片免| 午夜福利在线观看免费完整高清在 | 91麻豆精品激情在线观看国产| 亚洲自拍偷在线| 精华霜和精华液先用哪个| 精品久久久久久久久亚洲 | 99精品久久久久人妻精品| 熟女人妻精品中文字幕| 蜜桃久久精品国产亚洲av| 成人美女网站在线观看视频| 久久久久久久久久成人| 久久精品91蜜桃| 日本黄色视频三级网站网址| 国内精品美女久久久久久| 99国产极品粉嫩在线观看| 日本与韩国留学比较| 波多野结衣高清无吗| 日韩欧美精品v在线| 少妇被粗大猛烈的视频| 草草在线视频免费看| 国产精品国产三级国产av玫瑰| 精品午夜福利在线看| 综合色av麻豆| 99国产精品一区二区蜜桃av| 一边摸一边抽搐一进一小说| 精品欧美国产一区二区三| 国产中年淑女户外野战色| 99热这里只有是精品在线观看| 夜夜夜夜夜久久久久| 精品久久久久久成人av| 欧美国产日韩亚洲一区| 日韩欧美国产在线观看| 国产综合懂色| 国产aⅴ精品一区二区三区波| av在线老鸭窝| 国产色爽女视频免费观看| 大又大粗又爽又黄少妇毛片口| 中文字幕高清在线视频| 亚洲va日本ⅴa欧美va伊人久久| 色综合色国产| 久久精品91蜜桃| 悠悠久久av| 欧美日韩黄片免| 国产精品久久久久久亚洲av鲁大| 搡老岳熟女国产| 久久中文看片网| 观看美女的网站| 99riav亚洲国产免费| 日韩亚洲欧美综合| 在线免费十八禁| 一本久久中文字幕| 九九爱精品视频在线观看| 欧美日韩乱码在线| 国产午夜精品久久久久久一区二区三区 | 国产男靠女视频免费网站| 色综合色国产| 久久久久久久久久久丰满 | 高清日韩中文字幕在线| 别揉我奶头 嗯啊视频| 噜噜噜噜噜久久久久久91| 日韩欧美国产一区二区入口| 欧美日韩国产亚洲二区| 女人被狂操c到高潮| 国产精品久久久久久av不卡| 久久久久久久久久黄片| 久久久久久国产a免费观看| 91久久精品国产一区二区三区| a级毛片免费高清观看在线播放| 天堂√8在线中文| 亚洲av一区综合| 日日干狠狠操夜夜爽| 成人性生交大片免费视频hd| 国产中年淑女户外野战色| 欧美高清性xxxxhd video| 成人综合一区亚洲| 尾随美女入室| 又紧又爽又黄一区二区| 亚洲专区中文字幕在线| 精品久久久久久,| 欧美黑人欧美精品刺激| 国产伦人伦偷精品视频| 一本一本综合久久| 99热6这里只有精品| 国产久久久一区二区三区| 天堂网av新在线| 精品福利观看| 国内少妇人妻偷人精品xxx网站| 美女免费视频网站| 变态另类丝袜制服| 我要搜黄色片| 中国美女看黄片| 国产成人av教育| 在线播放国产精品三级| 99久久精品一区二区三区| 欧美三级亚洲精品| 22中文网久久字幕| 日韩人妻高清精品专区| 成人国产一区最新在线观看| 在线观看av片永久免费下载| 免费看a级黄色片| 欧美日本亚洲视频在线播放| 99热网站在线观看| 国产av不卡久久| 少妇的逼好多水| 一个人免费在线观看电影| 亚洲狠狠婷婷综合久久图片| 禁无遮挡网站| 国产成人av教育| 精品久久久久久成人av| 国产在视频线在精品| 亚洲性久久影院| 在线a可以看的网站| 22中文网久久字幕| 日本与韩国留学比较| 男人舔女人下体高潮全视频| 深夜精品福利| 亚洲狠狠婷婷综合久久图片| 夜夜爽天天搞| 成人无遮挡网站| 一本一本综合久久| 成人亚洲精品av一区二区| 联通29元200g的流量卡| 色5月婷婷丁香| 中文亚洲av片在线观看爽| av.在线天堂| 成人国产一区最新在线观看| www日本黄色视频网| 高清日韩中文字幕在线| 噜噜噜噜噜久久久久久91| 久久久色成人| 18禁黄网站禁片午夜丰满| 中文字幕精品亚洲无线码一区| 欧美丝袜亚洲另类 | 亚洲国产精品合色在线| 亚洲第一区二区三区不卡| 国产主播在线观看一区二区| 综合色av麻豆| 色精品久久人妻99蜜桃| 韩国av在线不卡| 日韩欧美在线二视频| 国产av麻豆久久久久久久| 午夜精品一区二区三区免费看| x7x7x7水蜜桃| 久久精品国产鲁丝片午夜精品 | 国产精品综合久久久久久久免费| 亚洲成人久久性| 亚洲精品成人久久久久久| 精品人妻1区二区| 国产高清视频在线观看网站| 成年人黄色毛片网站| 在线播放国产精品三级| 亚洲最大成人中文| 日本免费一区二区三区高清不卡| 国产国拍精品亚洲av在线观看| 一个人观看的视频www高清免费观看| 97超级碰碰碰精品色视频在线观看| 国产伦精品一区二区三区四那| 999久久久精品免费观看国产| 婷婷六月久久综合丁香| 午夜老司机福利剧场| 欧美中文日本在线观看视频| av在线老鸭窝| 欧美高清成人免费视频www| 久久精品91蜜桃| 婷婷精品国产亚洲av在线| 亚洲国产精品sss在线观看| 国产精品免费一区二区三区在线| 琪琪午夜伦伦电影理论片6080| 亚洲av第一区精品v没综合| 毛片女人毛片| 啦啦啦啦在线视频资源| 黄色丝袜av网址大全| 亚洲第一电影网av| 精品久久久久久久人妻蜜臀av| 国内精品一区二区在线观看| 国内精品美女久久久久久| 亚洲乱码一区二区免费版| 国产精品免费一区二区三区在线| 久久久久久大精品| 久久久色成人| 在线免费观看不下载黄p国产 | 亚洲中文字幕一区二区三区有码在线看| 我的老师免费观看完整版| 久久久成人免费电影| 嫩草影院精品99| videossex国产| 非洲黑人性xxxx精品又粗又长| 人妻久久中文字幕网| 可以在线观看毛片的网站| 欧美区成人在线视频| 亚洲成人精品中文字幕电影| 国产私拍福利视频在线观看| 午夜亚洲福利在线播放| 午夜免费激情av| 亚洲久久久久久中文字幕| 免费一级毛片在线播放高清视频| 色综合色国产| 午夜影院日韩av| 亚洲av美国av| 春色校园在线视频观看| 97超级碰碰碰精品色视频在线观看| 免费一级毛片在线播放高清视频| 欧美激情久久久久久爽电影| 亚洲成人久久性| 琪琪午夜伦伦电影理论片6080| 露出奶头的视频| 日韩av在线大香蕉| 熟女人妻精品中文字幕| 国内久久婷婷六月综合欲色啪| 直男gayav资源| a级一级毛片免费在线观看| av天堂中文字幕网| 日韩人妻高清精品专区| 久久久久久伊人网av| 免费搜索国产男女视频| 麻豆精品久久久久久蜜桃| 国产在视频线在精品| 久久精品国产亚洲av涩爱 | 一区福利在线观看| 精品久久国产蜜桃| 嫁个100分男人电影在线观看| 久久精品国产亚洲网站| av在线老鸭窝| 三级男女做爰猛烈吃奶摸视频| 在线观看av片永久免费下载| 国国产精品蜜臀av免费| 最后的刺客免费高清国语| 成年女人毛片免费观看观看9| 99久国产av精品| 国内精品一区二区在线观看| 欧美又色又爽又黄视频| 亚洲av成人av| 一边摸一边抽搐一进一小说| 亚洲天堂国产精品一区在线| 又黄又爽又免费观看的视频| 大型黄色视频在线免费观看| 亚洲熟妇中文字幕五十中出| 国产精品久久久久久av不卡| 高清在线国产一区| 日本熟妇午夜| 亚洲精品在线观看二区| 国产一区二区亚洲精品在线观看| av视频在线观看入口| 午夜爱爱视频在线播放| 亚洲av成人精品一区久久| 熟女电影av网| 精品一区二区免费观看| 丝袜美腿在线中文| 免费看av在线观看网站| 少妇的逼水好多| 999久久久精品免费观看国产| 日韩中字成人| 国产精品久久视频播放| 如何舔出高潮| 老司机深夜福利视频在线观看| 亚洲 国产 在线| 男女边吃奶边做爰视频| 嫩草影院入口| 特大巨黑吊av在线直播| 欧美日韩国产亚洲二区| 91久久精品电影网| 嫩草影院精品99| 久99久视频精品免费| 精品午夜福利视频在线观看一区| 欧美精品啪啪一区二区三区| 欧美+亚洲+日韩+国产| 国产精品三级大全| 亚洲av一区综合| 人妻久久中文字幕网| 特级一级黄色大片| 亚洲国产精品sss在线观看| АⅤ资源中文在线天堂| 非洲黑人性xxxx精品又粗又长| 成人欧美大片| 成人毛片a级毛片在线播放| 亚洲av美国av| 别揉我奶头~嗯~啊~动态视频| 乱码一卡2卡4卡精品| 99视频精品全部免费 在线| 最新中文字幕久久久久| 床上黄色一级片| 性插视频无遮挡在线免费观看| 免费看av在线观看网站| 国产成人一区二区在线| 亚洲成人久久性| 午夜a级毛片| 亚洲国产欧洲综合997久久,| 乱人视频在线观看| 精品一区二区三区视频在线| 久久午夜亚洲精品久久| 俺也久久电影网| 1000部很黄的大片| 在现免费观看毛片| 一个人看的www免费观看视频| 在线看三级毛片| 99精品在免费线老司机午夜| 日韩中文字幕欧美一区二区| 九九久久精品国产亚洲av麻豆| 99riav亚洲国产免费| 九色国产91popny在线| 亚洲天堂国产精品一区在线| 国产高潮美女av| 淫秽高清视频在线观看| 无人区码免费观看不卡| 精品久久久久久久人妻蜜臀av| 精品一区二区三区视频在线观看免费| 久久精品国产亚洲av香蕉五月| 成人无遮挡网站| 别揉我奶头 嗯啊视频| 欧美+日韩+精品| 免费av毛片视频| a在线观看视频网站| 亚洲在线自拍视频| 午夜免费成人在线视频| 少妇裸体淫交视频免费看高清| 国产亚洲欧美98| 亚洲,欧美,日韩| 少妇人妻一区二区三区视频| 亚洲五月天丁香| 国产在视频线在精品| 身体一侧抽搐| 国产精品自产拍在线观看55亚洲| 国产69精品久久久久777片| 久久久久久久亚洲中文字幕| 精品一区二区三区人妻视频| 俄罗斯特黄特色一大片| 婷婷丁香在线五月| 免费人成在线观看视频色| 亚洲经典国产精华液单| 国产一区二区激情短视频| 乱系列少妇在线播放| 日韩欧美在线乱码| av在线观看视频网站免费| 国产精品久久视频播放| 99久久成人亚洲精品观看| 国产三级中文精品| 一个人观看的视频www高清免费观看| 国产精品一区二区免费欧美| 欧美日本亚洲视频在线播放| 嫩草影院入口| 啦啦啦观看免费观看视频高清| 18禁黄网站禁片免费观看直播| 69av精品久久久久久| 亚洲人成网站在线播| 亚洲中文字幕一区二区三区有码在线看| 国产国拍精品亚洲av在线观看| 美女 人体艺术 gogo| 两性午夜刺激爽爽歪歪视频在线观看| 99久久中文字幕三级久久日本| 成人鲁丝片一二三区免费| 免费在线观看成人毛片| 国产精品99久久久久久久久| 人人妻人人澡欧美一区二区| 综合色av麻豆| 国产 一区 欧美 日韩| 国产一区二区三区视频了| 日韩欧美三级三区| 在现免费观看毛片| 国产精品亚洲美女久久久| av国产免费在线观看| 一个人观看的视频www高清免费观看| 99热这里只有是精品在线观看| 国产高清不卡午夜福利| 高清日韩中文字幕在线| 1024手机看黄色片| 欧美日本视频| 99热网站在线观看| 国产成人影院久久av| a级一级毛片免费在线观看| 亚洲,欧美,日韩| 欧美bdsm另类| 嫁个100分男人电影在线观看| 免费黄网站久久成人精品| 欧美日韩综合久久久久久 | 欧美不卡视频在线免费观看| 婷婷色综合大香蕉| videossex国产| 免费一级毛片在线播放高清视频| 看免费成人av毛片| 搡女人真爽免费视频火全软件 | 成人av一区二区三区在线看| 九色成人免费人妻av| 精品99又大又爽又粗少妇毛片 | 变态另类丝袜制服| 美女 人体艺术 gogo| 亚洲精品一卡2卡三卡4卡5卡| 国产精品一区二区三区四区久久| 亚洲人成伊人成综合网2020| 91狼人影院| 最新中文字幕久久久久| 中亚洲国语对白在线视频| 欧美最黄视频在线播放免费| 欧美日韩精品成人综合77777| 高清毛片免费观看视频网站| 啦啦啦韩国在线观看视频| 午夜福利在线观看免费完整高清在 | 少妇人妻一区二区三区视频| 国模一区二区三区四区视频| 久久久久免费精品人妻一区二区| 国产主播在线观看一区二区| 午夜精品在线福利| 国产精品人妻久久久久久| 他把我摸到了高潮在线观看| 午夜激情欧美在线| 国产乱人伦免费视频| 舔av片在线| 在线播放国产精品三级| 免费在线观看影片大全网站| a级毛片免费高清观看在线播放| 亚洲欧美日韩高清在线视频| 色在线成人网| 俺也久久电影网| 九色国产91popny在线| 日韩精品青青久久久久久| 欧美成人a在线观看| 成人精品一区二区免费| 亚洲18禁久久av| 免费看日本二区| 两个人的视频大全免费| 日韩高清综合在线| 少妇的逼水好多| 日韩精品有码人妻一区| 国产成人aa在线观看| 国产一级毛片七仙女欲春2| 午夜亚洲福利在线播放| av在线老鸭窝| 麻豆成人av在线观看| 成人午夜高清在线视频| 欧美潮喷喷水| 日本色播在线视频| 午夜老司机福利剧场| 国产乱人伦免费视频| 我要看日韩黄色一级片| 日本三级黄在线观看| 搡老岳熟女国产| 一本久久中文字幕| 国产午夜精品论理片| 免费高清视频大片| 啦啦啦啦在线视频资源| 动漫黄色视频在线观看| 两个人视频免费观看高清| 久久久久精品国产欧美久久久| 久久精品人妻少妇| 中国美女看黄片| 亚洲va日本ⅴa欧美va伊人久久| 舔av片在线| 久久久久久久亚洲中文字幕| 日韩中字成人| 欧美3d第一页| 精品一区二区三区视频在线观看免费| 一级毛片久久久久久久久女| 又爽又黄无遮挡网站| 国产高清视频在线播放一区| 国产高清有码在线观看视频| 日日夜夜操网爽| 亚洲精品在线观看二区| 久久久久九九精品影院| 久久久久久久久中文| 亚洲真实伦在线观看| 精品人妻熟女av久视频| 伦理电影大哥的女人| 乱人视频在线观看| 国产在线男女| 黄色女人牲交| 欧美成人免费av一区二区三区| 搡老岳熟女国产| 简卡轻食公司| 免费av不卡在线播放| 美女xxoo啪啪120秒动态图| a级一级毛片免费在线观看| 99热网站在线观看| 99热这里只有是精品在线观看| av在线观看视频网站免费| 久久久国产成人免费| 国产熟女欧美一区二区| 日韩av在线大香蕉| 淫妇啪啪啪对白视频| 精品国产三级普通话版| 亚洲不卡免费看| 精品人妻1区二区| 99久久精品国产国产毛片| 99热精品在线国产| 少妇的逼好多水| 精品久久久久久久久久久久久| 久久欧美精品欧美久久欧美| 麻豆成人午夜福利视频| 色综合色国产| 一个人免费在线观看电影| 午夜免费男女啪啪视频观看 | 欧美三级亚洲精品| 欧美在线一区亚洲| 国产黄片美女视频| 嫩草影院精品99| 日韩一区二区视频免费看| 成人特级av手机在线观看| 成人一区二区视频在线观看| 日韩精品青青久久久久久| 别揉我奶头~嗯~啊~动态视频| 麻豆成人av在线观看| 亚洲七黄色美女视频| 成人高潮视频无遮挡免费网站| 久久精品综合一区二区三区| 99热这里只有是精品50| 免费电影在线观看免费观看| 亚洲av不卡在线观看| 国产精品综合久久久久久久免费| 日韩 亚洲 欧美在线| 22中文网久久字幕| 国内精品久久久久久久电影| 国产精品一区二区性色av| 亚洲黑人精品在线| 赤兔流量卡办理| 欧美一区二区国产精品久久精品| 十八禁国产超污无遮挡网站| 久久精品夜夜夜夜夜久久蜜豆| 久久久久久久久久久丰满 | 男女下面进入的视频免费午夜| 国产日本99.免费观看| 深夜a级毛片| 无人区码免费观看不卡| 麻豆av噜噜一区二区三区| 久久国产乱子免费精品|