• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    信息源與風(fēng)險(xiǎn)源:大數(shù)據(jù)時(shí)代個(gè)人信息安全困境及應(yīng)對(duì)*

    2019-12-09 05:47:24魯佑文馬亞鑫
    關(guān)鍵詞:個(gè)人信息信息安全用戶

    ■ 魯佑文 馬亞鑫

    大數(shù)據(jù)是指沒有辦法在容許的時(shí)間內(nèi)用常規(guī)軟件工具對(duì)其內(nèi)容進(jìn)行抓取、處理、管理的數(shù)據(jù)集合。①常規(guī)辦法想要把它分析出來(lái)是很難的。技術(shù)界普遍認(rèn)為大數(shù)據(jù)起源于谷歌,谷歌工程師在 2003 —2006 年先后公開發(fā)表了幾篇有關(guān)“大數(shù)據(jù)”的論文,引發(fā)臉書(Facebook)等互聯(lián)網(wǎng)公司的注意,直接導(dǎo)致目前應(yīng)用最為廣泛的開源大數(shù)據(jù)框架 Apache Ha-doop 的誕生。②中國(guó)國(guó)內(nèi)大數(shù)據(jù)開發(fā)也緊隨其后,互聯(lián)網(wǎng)巨頭如百度、騰訊、阿里巴巴等紛紛加入到大數(shù)據(jù)技術(shù)開發(fā)與應(yīng)用的行列中去。

    雖然大數(shù)據(jù)從誕生至今只有十余年時(shí)間,但它作為本世紀(jì)最為智能的技術(shù)之一,已經(jīng)深深滲透到各行各業(yè),影響著社會(huì)的方方面面。當(dāng)人們行駛在路上,導(dǎo)航通過(guò)衛(wèi)星定位及數(shù)據(jù)庫(kù)的推算為人們推薦最佳行駛路線,當(dāng)去醫(yī)院就診時(shí),各大醫(yī)院建立的病例數(shù)據(jù)庫(kù)及智能分析,增強(qiáng)了確診病因的準(zhǔn)確率??梢哉f(shuō),大數(shù)據(jù)通過(guò)匯聚各類信息,成為一個(gè)巨大的信息源,為人們的日常生活帶來(lái)諸多便利。但同時(shí),個(gè)人信息作為大數(shù)據(jù)技術(shù)信息源中的一種,在個(gè)人信息獲取、使用等方面也引發(fā)諸多爭(zhēng)議。

    本文首先闡釋大數(shù)據(jù)時(shí)代個(gè)人信息的新內(nèi)涵,通過(guò)理論思辨的方式分析大數(shù)據(jù)技術(shù)和個(gè)人信息作為信息源和風(fēng)險(xiǎn)源的兩面性,否定單純唱衰或者肯定“大數(shù)據(jù)”和“個(gè)人信息”的一元視角。針對(duì)目前真實(shí)存在的個(gè)人信息安全風(fēng)險(xiǎn),從市場(chǎng)、法律、技術(shù)三重邏輯出發(fā),分別討論在維護(hù)個(gè)人信息安全方面遭遇的困境,并在此基礎(chǔ)上提出可行性應(yīng)對(duì)措施。

    一、大數(shù)據(jù)時(shí)代個(gè)人信息內(nèi)涵

    個(gè)人信息在傳統(tǒng)媒體時(shí)代主要指?jìng)€(gè)人的姓名、年齡等基本信息。由于技術(shù)環(huán)境的變化,個(gè)人信息的內(nèi)涵在大數(shù)據(jù)時(shí)代有了新的拓展,故有必要先對(duì)此概念本身進(jìn)行重新界定。

    大數(shù)據(jù)時(shí)代,個(gè)人信息可分為表層個(gè)人信息和深層個(gè)人信息兩大類。表層個(gè)人信息主要指直接獲取、未經(jīng)大數(shù)據(jù)算法處理的部分,具有低價(jià)值密度特點(diǎn)。個(gè)人信息按信息來(lái)源類型劃分,主要包含四個(gè)方面:第一是社會(huì)性信息,包括姓名、年齡、身份證號(hào)碼等個(gè)人基本信息以及社會(huì)關(guān)系信息如家庭成員信息、工作信息等;第二是設(shè)備性信息,主要是指?jìng)€(gè)人使用的計(jì)算機(jī)終端設(shè)備及移動(dòng)終端內(nèi)儲(chǔ)存的各類信息,既包含CPU信息、操作系統(tǒng)版本等基本設(shè)備信息,也包含設(shè)備內(nèi)儲(chǔ)存的通訊錄、通話記錄、聊天記錄、賬號(hào)密碼等隱私信息;第三是用戶行為信息,如各種網(wǎng)站瀏覽記錄、網(wǎng)頁(yè)搜索記錄、商品購(gòu)買記錄等;第四是深層個(gè)人信息,指經(jīng)大數(shù)據(jù)算法技術(shù)處理過(guò)后對(duì)具有較高信息價(jià)值密度的用戶畫像,這些信息能夠?qū)σ院蟮挠脩粜袨檫M(jìn)行較為準(zhǔn)確的分析預(yù)測(cè)。

    為不產(chǎn)生概念上的爭(zhēng)議,對(duì)與“個(gè)人信息”相關(guān)的兩個(gè)概念,也做簡(jiǎn)要說(shuō)明。首先,個(gè)人信息不等于個(gè)人隱私,個(gè)人信息中包含隱私性和非隱私性個(gè)人信息;其次,個(gè)人信息等同于個(gè)人數(shù)據(jù)。個(gè)人信息是在法律層面的習(xí)慣用語(yǔ),而在技術(shù)層面經(jīng)常被稱為個(gè)人數(shù)據(jù),二者本質(zhì)上指的是同一種事物。本文在論述時(shí),對(duì)“個(gè)人信息”和“個(gè)人數(shù)據(jù)”的說(shuō)法都會(huì)予以運(yùn)用。

    二、大數(shù)據(jù)和個(gè)人信息:信息源與風(fēng)險(xiǎn)源

    觀點(diǎn)決定態(tài)度,態(tài)度決定行為,如何看待“大數(shù)據(jù)”和“個(gè)人信息”對(duì)于人們?cè)趯?shí)際生活中的運(yùn)用有著直接影響?實(shí)際上應(yīng)該辯證地看待“大數(shù)據(jù)”和“個(gè)人信息”,認(rèn)識(shí)到它們可作為“信息源”又可演變?yōu)椤帮L(fēng)險(xiǎn)源”的兩面性。

    (一)媒介環(huán)境視閾:技術(shù)造福人類的過(guò)程也是引發(fā)風(fēng)險(xiǎn)的過(guò)程

    媒介環(huán)境學(xué)派強(qiáng)調(diào)傳播技術(shù)對(duì)社會(huì)生活的重要性,代表人物有哈德羅·英尼斯、馬歇爾·麥克盧漢等。他們認(rèn)為,雖然技術(shù)的發(fā)展最早始于人類的相關(guān)需求,但是隨著技術(shù)的不斷深入,技術(shù)會(huì)逐漸超出人們的控制以及預(yù)設(shè)范圍,轉(zhuǎn)而遵從其本身的內(nèi)在邏輯,從而呈現(xiàn)出一種失控的狀態(tài)。技術(shù)變更逐漸輻射到其他社會(huì)因素,最終社會(huì)的方方面面都會(huì)臣服于技術(shù)的統(tǒng)治,以技術(shù)為“重要意志”發(fā)生改變。他們的這些觀點(diǎn),被后來(lái)的研究學(xué)者稱為“技術(shù)決定論”。這一學(xué)派過(guò)度放大了技術(shù)變量,忽視了在現(xiàn)實(shí)世界中同時(shí)發(fā)生作用的其他因素力量,具有一定局限性,但是也勾勒出技術(shù)在造福于人類的同時(shí)也會(huì)帶來(lái)許多始料未及的問(wèn)題的真實(shí)情景。

    1.個(gè)人信息安全風(fēng)險(xiǎn)表征貫穿于大數(shù)據(jù)操作過(guò)程

    大數(shù)據(jù)技術(shù)的初衷是大量搜集虛擬世界的低價(jià)值信息,通過(guò)算法程序的過(guò)濾處理,將其轉(zhuǎn)化為可利用的高價(jià)值信息,這在提升整個(gè)社會(huì)的信息處理效率方面具有重要作用。但正是在這一過(guò)程中,個(gè)人信息安全風(fēng)險(xiǎn)也如影隨形,貫穿始終。在收集信息時(shí),企業(yè)會(huì)利用其強(qiáng)勢(shì)地位,獲取用戶設(shè)備中的大量個(gè)人信息,侵犯用戶隱私;在信息生產(chǎn)時(shí),用戶會(huì)大量上傳個(gè)人信息,成為個(gè)人信息泄露的源頭;在信息儲(chǔ)存時(shí),各種企業(yè)建立的大數(shù)據(jù)庫(kù),由于匯集了諸多信息,也成為遭受黑客攻擊的重點(diǎn)對(duì)象;在信息傳播時(shí),易獲取的個(gè)人信息成為不法分子實(shí)施網(wǎng)絡(luò)犯罪的工具,使人們蒙受巨大的人身與經(jīng)濟(jì)損失;在信息分析、預(yù)測(cè)時(shí),大數(shù)據(jù)庫(kù)生成的用戶畫像使得用戶再也逃離不開精準(zhǔn)的營(yíng)銷大網(wǎng),受到電話騷擾、郵件騷擾的幾率大大增加。

    2.以技術(shù)為中心的生活方式:大數(shù)據(jù)正常運(yùn)轉(zhuǎn)是信息源,遭遇故障是風(fēng)險(xiǎn)源

    大數(shù)據(jù)時(shí)代,人們?cè)絹?lái)越仰仗技術(shù)提供給人們便利的生活,逐漸形成了以“技術(shù)”為中心的生活方式。在這種生活方式中,人們把許多本屬于人的決策權(quán)交給技術(shù),這就使得大數(shù)據(jù)正常運(yùn)轉(zhuǎn)時(shí)可以為社會(huì)提供便利,而一旦遭遇故障,整個(gè)社會(huì)都會(huì)成為風(fēng)險(xiǎn)的承擔(dān)者。

    以交通為例,人們出行越來(lái)越仰仗各類導(dǎo)航產(chǎn)品推薦的最佳行駛路線。不可否認(rèn),各類導(dǎo)航產(chǎn)品通過(guò)衛(wèi)星定位,獲取用戶設(shè)備上的個(gè)人位置信息,算法智能推算最優(yōu)行駛路線,這的確方便了人們的出行生活。但是,一旦中間的技術(shù)環(huán)節(jié)出現(xiàn)故障,就會(huì)給個(gè)體乃至社會(huì)帶來(lái)風(fēng)險(xiǎn)。如個(gè)人地理位置信息獲取錯(cuò)誤,就會(huì)導(dǎo)致推薦路線出錯(cuò)——媒體新聞中就報(bào)道了很多司機(jī)根據(jù)導(dǎo)航規(guī)劃路線行駛反而到達(dá)錯(cuò)誤目的地的事件。放大來(lái)說(shuō),如果導(dǎo)航發(fā)生大規(guī)模的技術(shù)故障,在嚴(yán)重依賴科技的當(dāng)下,整個(gè)社會(huì)的交通秩序都會(huì)遭受重大影響。

    (二)傳播邊界視閾:傳播界限難以確定,個(gè)人信息作為信息源隨時(shí)可轉(zhuǎn)化為風(fēng)險(xiǎn)源

    大數(shù)據(jù)依托扁平化的互聯(lián)網(wǎng),使得信息更加自由流通。通過(guò)網(wǎng)線的連接以及簡(jiǎn)單的復(fù)制粘貼,信息幾乎可以零成本傳播到世界的任何角落、任何地方。但是很多情況下,傳播是需要邊界的,信息只在一定范圍內(nèi)流通才能確保安全。學(xué)者桑德拉·佩特羅尼奧就對(duì)此提出傳播邊界管理理論,其認(rèn)為公共領(lǐng)域和私人領(lǐng)域之間存在著界限,在邊界的一邊,人們不披露私人性信息;而在邊界的另一邊,人們?cè)敢庠谂c他人的社會(huì)關(guān)系中披露某些私人性信息。③桑德拉著力強(qiáng)調(diào)了個(gè)人信息需要在傳播空間上劃分邊界,因?yàn)樵谶吔绲囊环?個(gè)人信息處于安全且易受保障的境地,而在邊界的另一方則容易遭受危險(xiǎn)。據(jù)此,在大數(shù)據(jù)時(shí)代,個(gè)人信息安全不僅僅是傳播空間上,還在傳播目的等邊界難以劃分,這使得個(gè)人信息在充當(dāng)信息源的同時(shí)也變成風(fēng)險(xiǎn)源。

    1.傳播空間:私人空間是信息源,公共空間是風(fēng)險(xiǎn)源

    隨著互聯(lián)網(wǎng)的不斷發(fā)展,網(wǎng)絡(luò)空間中的私人空間和公共空間邊界日益交融,很難再找到絕對(duì)意義上的公共空間或是私人空間。以微信朋友圈為例,用戶大都把朋友圈當(dāng)作私人性空間使用,經(jīng)常會(huì)在其中發(fā)表含有個(gè)人信息的相關(guān)內(nèi)容。誠(chéng)然,這些個(gè)人信息在用戶的絕對(duì)性私人空間傳播時(shí),充當(dāng)了信息源的作用,有利于維護(hù)用戶在現(xiàn)實(shí)或虛擬空間中發(fā)展的社會(huì)關(guān)系。然而,一旦用戶的朋友又把含有該用戶個(gè)人信息的有關(guān)內(nèi)容轉(zhuǎn)發(fā)到自己的朋友圈時(shí),那么,朋友的朋友圈相對(duì)于該用戶來(lái)說(shuō),又成了一個(gè)相對(duì)意義上的公共空間。此時(shí),這些個(gè)人信息就容易被陌生人窺探或利用,演變成風(fēng)險(xiǎn)源。

    2.傳播意圖:正向用途是信息源,負(fù)向用途是風(fēng)險(xiǎn)源

    大數(shù)據(jù)時(shí)代,在使用個(gè)人信息方面,個(gè)人信息既可以造福整個(gè)社會(huì),也可以對(duì)社會(huì)中的每個(gè)個(gè)體產(chǎn)生威脅。以醫(yī)療產(chǎn)業(yè)為例,各國(guó)現(xiàn)在都在拓展“大數(shù)據(jù)+醫(yī)療”的模式,以提高確診率及治愈率,緩解當(dāng)今醫(yī)療資源稀缺、不平衡的現(xiàn)狀。但需要指出的是,病例中含有大量基本性個(gè)人信息及隱私性個(gè)人信息。一旦這些病例信息被使用在最初意圖之外的其他領(lǐng)域,就會(huì)對(duì)病人的正常生活產(chǎn)生風(fēng)險(xiǎn),如病人不斷遭受醫(yī)藥公司的騷擾,一些患有傳染性疾病的患者遭受社會(huì)歧視、排斥等。

    總的來(lái)說(shuō),大數(shù)據(jù)技術(shù)和個(gè)人信息作為客觀事物,本身不具有積極或消極屬性,而決定其發(fā)揮效果的還是使用它們的人類。

    三、大數(shù)據(jù)時(shí)代維護(hù)個(gè)人信息安全的困境

    針對(duì)大數(shù)據(jù)和個(gè)人信息具有“信息源”和“風(fēng)險(xiǎn)源”的兩面性特點(diǎn),有必要發(fā)揮人的主觀能動(dòng)性,對(duì)大數(shù)據(jù)下的個(gè)人信息安全加以維護(hù),引導(dǎo)其發(fā)揮正向作用。但在實(shí)際行動(dòng)中,人們卻遭遇了諸多困境,這可從市場(chǎng)層面、法律層面和技術(shù)層面分析維護(hù)信息安全的具體困境。

    (一)市場(chǎng)邏輯中的用戶與企業(yè):用戶免費(fèi)使用的背后,個(gè)人信息成為企業(yè)的盈利籌碼

    隨著大數(shù)據(jù)的不斷普及,大數(shù)據(jù)技術(shù)已經(jīng)深入到了社會(huì)的各個(gè)層面,遍及教育、交通、醫(yī)療、金融、IT等各個(gè)重要行業(yè)或領(lǐng)域。各類企業(yè)通過(guò)搭建互聯(lián)網(wǎng)平臺(tái),并在其中嵌入大數(shù)據(jù)技術(shù),為用戶提供免費(fèi)產(chǎn)品或服務(wù)。

    企業(yè)作為市場(chǎng)中的生產(chǎn)者,提供免費(fèi)服務(wù)對(duì)企業(yè)健康發(fā)展而言不是長(zhǎng)久之計(jì),其最終目的仍是獲取經(jīng)濟(jì)利益。美國(guó)著名未來(lái)學(xué)家阿爾文·托夫勒在《第三次浪潮》一書中曾預(yù)測(cè),21 世紀(jì)是信息的時(shí)代,信息要素的作用將極大凸顯。大數(shù)據(jù)時(shí)代,信息的商業(yè)價(jià)值越發(fā)凸顯,企業(yè)既可以通過(guò)個(gè)人信息尋找到潛在消費(fèi)者,進(jìn)行精準(zhǔn)營(yíng)銷,也可以將所掌握的信息作為“商品”轉(zhuǎn)賣給其他有需要的企業(yè)。哪些企業(yè)掌握了更多的信息,就意味著有更多資源、財(cái)富。因此,受市場(chǎng)思想支配的企業(yè)認(rèn)定,大數(shù)據(jù)時(shí)代用戶個(gè)人信息是一種有價(jià)值的“生產(chǎn)原料”或“商品”,通過(guò)為用戶提供較等值的產(chǎn)品或服務(wù)以換取用戶信息是有利可圖的,從而大量收集用戶個(gè)人信息,毫不考慮個(gè)人信息作為商品流通對(duì)個(gè)人帶來(lái)的不利影響及其中的倫理問(wèn)題。

    用戶作為市場(chǎng)的消費(fèi)者,卻一直沉浸在企業(yè)編織的“免費(fèi)”美夢(mèng)中,既希望企業(yè)能持續(xù)提供免費(fèi)服務(wù)又選擇性忽略企業(yè)的盈利問(wèn)題,在對(duì)個(gè)人信息的認(rèn)知方面,更具有“雙標(biāo)”行為。德國(guó)消費(fèi)調(diào)研公司(GFK)的多國(guó)在線調(diào)查問(wèn)卷結(jié)果顯示,與其他國(guó)家相比,中國(guó)的網(wǎng)絡(luò)用戶更愿意為獲得折扣等優(yōu)惠透露個(gè)人信息。④在今年的中國(guó)發(fā)展高層論壇上,百度董事長(zhǎng)兼CEO李彥宏也表示:“中國(guó)人對(duì)隱私問(wèn)題的態(tài)度更開放,也相對(duì)來(lái)說(shuō)沒那么敏感。如果可以,他們?cè)敢庥秒[私換取便利、安全或者效率?!雹莓?dāng)個(gè)人信息的處置權(quán)把握在自己手里時(shí),用戶愿意將部分個(gè)人信息當(dāng)作一種“商品”去交換短期利益。而當(dāng)企業(yè)捕捉這些遺留在平臺(tái)上的個(gè)人信息時(shí),用戶又會(huì)否認(rèn)個(gè)人信息的“商品”特性,將個(gè)人信息完全等同于個(gè)人隱私加以保護(hù),不愿意看到企業(yè)任何的個(gè)人信息獲取行為。對(duì)個(gè)人信息本質(zhì)理解的差異性,形成了市場(chǎng)邏輯下企業(yè)和用戶“同床異夢(mèng)”,最終從市場(chǎng)層面為維護(hù)個(gè)人信息安全制造障礙。

    (二)法律邏輯下的政府與公民:強(qiáng)調(diào)個(gè)人信息控制力的政府與個(gè)人信息控制力較差的公民

    中國(guó)關(guān)于個(gè)人信息保護(hù)的相關(guān)法律,主要采取的是“隱私的自我管理模式”(Privacy Self-management),該模式注重個(gè)人對(duì)其數(shù)據(jù)信息的控制和管理能力,并賦予個(gè)人一系列相應(yīng)的權(quán)利。⑥以2017年6月1日出臺(tái)的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》為例,其第40至42條詳細(xì)規(guī)定了網(wǎng)絡(luò)服務(wù)提供者在業(yè)務(wù)活動(dòng)中收集、使用信息的一系列法律要求,主要包括明示、同意、目的明確、安全保障等原則,概括來(lái)說(shuō)就是,企業(yè)對(duì)個(gè)人信息的任何操作都要首先告知個(gè)人信息主體,取得同意。

    雖然,這種“隱私的自我管理模式”通過(guò)法律賦權(quán)的形式增強(qiáng)了個(gè)體力量,有利于公民控制信息流通來(lái)保護(hù)個(gè)人信息安全。但是,受制于主客觀因素的影響,中國(guó)公民的個(gè)人信息控制能力總體較弱,造成現(xiàn)有法律無(wú)法起到預(yù)期效果。

    從客觀層面來(lái)講,信息不平衡造成中國(guó)公民無(wú)法準(zhǔn)確判斷企業(yè)實(shí)際將會(huì)獲取哪些個(gè)人信息、如何運(yùn)用個(gè)人信息。一方面,在確定是否“同意”企業(yè)獲取信息時(shí),公民只能通過(guò)掌握到的有限信息,如企業(yè)信譽(yù)度等做主觀判斷,并不利于發(fā)揮法律條款的實(shí)際制約作用。另一方面,企業(yè)也會(huì)采取許多措施,削弱公民的個(gè)人信息控制能力。如《中華人民共和國(guó)網(wǎng)絡(luò)安全法》中明確規(guī)定了網(wǎng)絡(luò)運(yùn)營(yíng)商應(yīng)提供《隱私政策聲明》,以增加公民在企業(yè)獲取、使用個(gè)人信息方面的了解程度。但是,根據(jù)2019年上海交通大學(xué)對(duì)于500家網(wǎng)站的實(shí)證分析結(jié)果來(lái)看,“在主頁(yè)有隱私政策聲明的四類網(wǎng)站中,絕大部分的隱私聲明發(fā)布于網(wǎng)頁(yè)底部。僅有 3% 的隱私聲明出現(xiàn)在商業(yè)類網(wǎng)站主頁(yè)頂端,9%的隱私聲明出現(xiàn)在主頁(yè)中部”⑦,企業(yè)就以降低隱私政策聲明可見度的方式,削弱了公民信息控制能力,其他類似手段還有很多。

    從主觀層面來(lái)說(shuō),中國(guó)公民整體法律素質(zhì)較低,總體個(gè)人信息控制能力較差。具體表現(xiàn)為以下兩方面:首先,公民不知道如何確保個(gè)人信息免遭侵害。2016年封面智庫(kù)發(fā)布的《中國(guó)個(gè)人信息安全和隱私報(bào)告》顯示:“由于對(duì)個(gè)人信息泄露渠道的不了解,雖然大多數(shù)人意識(shí)到個(gè)人信息泄露的嚴(yán)重程度,但相當(dāng)高比例的人群并不知道如何防范個(gè)人信息侵害,在使用個(gè)人信息的載體時(shí)疏忽大意或不知如何采取防范行動(dòng)?!雹嗥浯?個(gè)人因隱私意識(shí)薄弱成為信息泄露的源頭。人們?cè)谏缃黄脚_(tái)上傳的內(nèi)容中含有個(gè)人信息的現(xiàn)象屢見不鮮,“曬幸?!薄靶愣鲪邸鄙踔脸蔀榱艘环N文化現(xiàn)象。

    總體來(lái)說(shuō),個(gè)人信息保護(hù)意識(shí)薄弱、反個(gè)人信息侵害能力低下以及企業(yè)的干擾使得中國(guó)公民個(gè)人信息控制能力總體較低,這無(wú)形中制約了法律在維護(hù)公民個(gè)人信息安全方面發(fā)揮重要效用。

    (三)技術(shù)邏輯下的人類與大數(shù)據(jù):人類一時(shí)難以適應(yīng)大數(shù)據(jù)技術(shù)所創(chuàng)造的新時(shí)空觀念

    大數(shù)據(jù)的內(nèi)涵,絕不僅僅是單純的海量數(shù)據(jù)規(guī)模,更為重要的是它分析處理數(shù)據(jù)的能力。大數(shù)據(jù)通過(guò)捕捉散落在網(wǎng)絡(luò)平臺(tái)中的數(shù)據(jù)碎片,將規(guī)模巨大但價(jià)值密度較低的普通數(shù)據(jù),以智能化過(guò)濾等方式,最終生成量少且具有較高價(jià)值的優(yōu)質(zhì)數(shù)據(jù)并長(zhǎng)久儲(chǔ)存。而在這個(gè)操作過(guò)程中,技術(shù)創(chuàng)造出一個(gè)新的時(shí)空觀念。

    時(shí)間層面,大數(shù)據(jù)技術(shù)的發(fā)展使得個(gè)人信息的時(shí)間屬性大大削弱。在獲取個(gè)人信息時(shí),無(wú)論多久以前的個(gè)人數(shù)據(jù),只要其元代碼沒有被徹底消除,大數(shù)據(jù)都有辦法獲取捕捉到。而在信息儲(chǔ)存方面,數(shù)字化代碼的存儲(chǔ)方式以及易獲取性,使個(gè)人數(shù)據(jù)獲得了技術(shù)層面的“永生”。但對(duì)個(gè)人數(shù)據(jù)所有者的人類來(lái)說(shuō),卻還停留在傳統(tǒng)的時(shí)間觀念中。人們已經(jīng)習(xí)慣了時(shí)間對(duì)個(gè)人信息帶來(lái)的時(shí)效限制與遺忘功能,人們希望某些個(gè)人信息會(huì)隨著時(shí)間的流逝而被遺忘。維克多·邁爾·舍恩伯格在他的《刪除:大數(shù)據(jù)取舍之道》一書中就談到,信息技術(shù)的發(fā)展帶來(lái)一種數(shù)字化記憶。“可訪問(wèn)性和持久性這兩者的結(jié)合,使得人類再也不能成功逃離他們的過(guò)去。”⑨無(wú)法消除以前發(fā)布的信息,讓人們面對(duì)人肉搜索等網(wǎng)絡(luò)暴力事件時(shí)感到束手無(wú)策。

    空間層面,大數(shù)據(jù)技術(shù)則突破了虛擬空間與現(xiàn)實(shí)空間的壁壘。在大數(shù)據(jù)技術(shù)出現(xiàn)以前,人們往往把虛擬空間與現(xiàn)實(shí)空間當(dāng)作兩個(gè)相對(duì)獨(dú)立的空間對(duì)待。個(gè)人雖然也會(huì)在虛擬空間留下一些指向現(xiàn)實(shí)空間的個(gè)人信息,但這些信息往往是碎片化的、無(wú)序的。對(duì)于人類傳統(tǒng)的信息處理能力而言,并不能把這些沉淀在海量信息中的信息碎片挑選出來(lái),整合為一個(gè)完整的、指向現(xiàn)實(shí)空間的個(gè)人信息導(dǎo)圖。而大數(shù)據(jù)技術(shù)卻具有這種能力——通過(guò)整理個(gè)人在虛擬空間遺留下的信息碎片,分析出個(gè)人信息所有者的現(xiàn)實(shí)情況,并且把虛擬世界和現(xiàn)實(shí)世界中的個(gè)人完美融合。因此,虛擬空間和現(xiàn)實(shí)空間的壁壘正逐漸消亡,人類多年來(lái)形成的既有空間觀念正在被打破。而與此對(duì)應(yīng)的是,人們并不能清楚自己在虛擬空間發(fā)布了哪些信息,可能成為幫助大數(shù)據(jù)技術(shù)窺探現(xiàn)實(shí)情況的“幫兇”。

    大數(shù)據(jù)技術(shù)所創(chuàng)造出的新時(shí)空觀念,使得人類在傳統(tǒng)時(shí)空觀下創(chuàng)造出的有關(guān)個(gè)人信息保護(hù)的行為規(guī)范不再具有指導(dǎo)作用,但是新的行為規(guī)范至今卻仍未建立,這也是造成個(gè)人信息維護(hù)出現(xiàn)困境的重要原因之一。

    四、應(yīng)對(duì)措施

    (一)政府發(fā)揮主導(dǎo)作用,調(diào)和市場(chǎng)矛盾

    市場(chǎng)邏輯下,由于企業(yè)和用戶對(duì)于“個(gè)人信息”本質(zhì)屬性的不同認(rèn)識(shí)以及企業(yè)盈利需求和用戶免費(fèi)使用需求之間的矛盾,導(dǎo)致雙方在市場(chǎng)邏輯下無(wú)法對(duì)話,不利于維護(hù)個(gè)人信息安全。政府作為市場(chǎng)中的最高管理者,可以利用宏觀調(diào)控的手段,有效化解兩者矛盾。

    1.政府給予行政補(bǔ)貼,鼓勵(lì)企業(yè)發(fā)揮正外部性功能

    政府可以利用行政手段,通過(guò)給予企業(yè)補(bǔ)貼的方式,激發(fā)企業(yè)維護(hù)個(gè)人信息安全的積極性?!巴獠啃浴笔且粋€(gè)經(jīng)濟(jì)學(xué)概念,由馬歇爾和庇古在20世紀(jì)初提出,其意為“那些生產(chǎn)或消費(fèi)對(duì)其他團(tuán)體強(qiáng)征了不可補(bǔ)償?shù)某杀净蚪o予了無(wú)需補(bǔ)償?shù)氖找娴那樾巍雹狻M獠啃苑譃椤罢獠啃浴焙汀柏?fù)外部性”,當(dāng)企業(yè)發(fā)揮正外部性時(shí),有益社會(huì)共享經(jīng)濟(jì)發(fā)展成果。

    大數(shù)據(jù)時(shí)代,企業(yè)紛紛建立數(shù)據(jù)庫(kù)。在此過(guò)程中雖然產(chǎn)生了一些泄露用戶信息、倒賣用戶個(gè)人信息等不良行為,但對(duì)于改善用戶體驗(yàn),提升全社會(huì)的信息處理效率,促進(jìn)人類生活智能化等方面也做出了巨大貢獻(xiàn)。企業(yè)作為經(jīng)濟(jì)實(shí)體,在建立大數(shù)據(jù)庫(kù)、維護(hù)大數(shù)據(jù)庫(kù)的安全運(yùn)行方面的確付出了大量人力、物力和財(cái)力,給企業(yè)正常運(yùn)營(yíng)帶來(lái)一些經(jīng)濟(jì)壓力。而這些經(jīng)濟(jì)壓力只有找到有效的緩解方式,才能使企業(yè)自覺放棄將個(gè)人信息當(dāng)作無(wú)差別的商品在市場(chǎng)流通時(shí)所帶來(lái)的好處。

    考慮到企業(yè)建立大數(shù)據(jù)庫(kù)的成果,最終可以被全社會(huì)共享,政府可以給予企業(yè)一些行政補(bǔ)貼,以鼓勵(lì)企業(yè)自覺維護(hù)用戶個(gè)人信息安全,補(bǔ)償企業(yè)由維護(hù)個(gè)人信息安全所產(chǎn)生的費(fèi)用或損失的經(jīng)濟(jì)耗損。如此,不僅可以充分調(diào)動(dòng)企業(yè)作為市場(chǎng)生產(chǎn)者維護(hù)用戶個(gè)人信息的積極性,規(guī)避生產(chǎn)者和消費(fèi)者之間產(chǎn)生矛盾,同時(shí)也利于引導(dǎo)企業(yè)發(fā)揮正外部性功能,促成全社會(huì)共享大數(shù)據(jù)技術(shù)發(fā)展帶來(lái)的好處。

    2.政府利用法律手段,建立用戶和企業(yè)對(duì)于個(gè)人信息的新觀念

    對(duì)個(gè)人信息本質(zhì)認(rèn)識(shí)的不同,使得企業(yè)和用戶在維護(hù)個(gè)人信息安全方面無(wú)法同向發(fā)力。

    縱觀國(guó)外,對(duì)個(gè)人信息本質(zhì)認(rèn)識(shí)及其使用方面的法理觀念,總體有兩種傾向。一種是以歐盟為代表,將個(gè)人信息當(dāng)作隱私權(quán)加以保護(hù),呈現(xiàn)出限制使用個(gè)人信息的態(tài)勢(shì);一種是以美國(guó)為代表,將個(gè)人信息置于財(cái)產(chǎn)權(quán)理念之下,認(rèn)為個(gè)人信息是個(gè)人財(cái)產(chǎn)的一種,個(gè)人作為財(cái)產(chǎn)所有人有權(quán)決定個(gè)人信息如何使用。因此在歐盟,未經(jīng)本人同意,企業(yè)將獲取的個(gè)人信息提供給第三方是違法的;而在美國(guó),企業(yè)則可以將獲取的用戶個(gè)人信息進(jìn)行公開或出售給其他方。

    在中國(guó),個(gè)人信息的認(rèn)定偏向于“隱私權(quán)”的范圍,但這種法理觀念已經(jīng)不能有效調(diào)節(jié)大數(shù)據(jù)時(shí)代的現(xiàn)實(shí)問(wèn)題——大數(shù)據(jù)企業(yè)將個(gè)人信息作為生產(chǎn)原料的現(xiàn)實(shí)需求及用戶保護(hù)個(gè)人信息中涉及個(gè)人隱私的迫切需要。因此,政府有必要利用法律手段,建立個(gè)人信息的新法理觀念,引導(dǎo)用戶和企業(yè)在對(duì)“個(gè)人信息”的認(rèn)識(shí)上達(dá)成共識(shí)。

    法學(xué)學(xué)者吳偉光提出了將“個(gè)人信息”作為“公共產(chǎn)品”的新觀念。吳偉光認(rèn)為,將“個(gè)人信息”視為“公共物品”既可以從公共利益角度出發(fā),為用戶共享個(gè)人信息以及企業(yè)使用個(gè)人信息找到合理的出發(fā)點(diǎn),也可充分調(diào)動(dòng)作為公權(quán)力代表的政府在保護(hù)個(gè)人信息安全方面發(fā)揮作用,有效緩解處于弱勢(shì)地位的用戶背負(fù)的沉重安全負(fù)擔(dān)。政府可以從這一角度,構(gòu)建關(guān)于個(gè)人信息保護(hù)的法律體系,避免企業(yè)和用戶之間因維護(hù)各自利益所引發(fā)的互損行為。

    (二)公民自我賦能,發(fā)揮現(xiàn)有法律框架的應(yīng)有效果

    中國(guó)關(guān)于個(gè)人信息保護(hù)的現(xiàn)有法律和草案如《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《個(gè)人信息保護(hù)法(草案)》等,都十分強(qiáng)調(diào)公民個(gè)人的數(shù)據(jù)信息保護(hù)。所以,公民應(yīng)從加強(qiáng)個(gè)人信息保護(hù)意識(shí)、了解個(gè)人信息泄露渠道等角度出發(fā),加強(qiáng)個(gè)人對(duì)數(shù)據(jù)信息的掌控能力,以發(fā)揮現(xiàn)有法律在保障個(gè)人信息安全方面的應(yīng)有作用。

    1.公民加強(qiáng)個(gè)人信息保護(hù)意識(shí),掌握保護(hù)信息安全的主動(dòng)權(quán)

    大數(shù)據(jù)時(shí)代,公民應(yīng)加強(qiáng)個(gè)人信息保護(hù)意識(shí),增強(qiáng)自身的信息掌控能力。公民應(yīng)深刻了解“個(gè)人信息”在信息時(shí)代所具有的價(jià)值,在維護(hù)信息安全方面,不應(yīng)完全依賴于技術(shù)、企業(yè)和政府等外部因素,而應(yīng)更多地從自身出發(fā),建立大數(shù)據(jù)時(shí)代下的個(gè)人信息保護(hù)觀念。公民要減少在網(wǎng)絡(luò)空間發(fā)布隱私性個(gè)人信息,從源頭防范重要個(gè)人信息被不法獲取和利用,成為保護(hù)個(gè)人信息安全的第一道防線。

    2.公民了解個(gè)人信息泄露渠道,增強(qiáng)反侵害能力

    大數(shù)據(jù)時(shí)代,涌現(xiàn)了諸多獲取個(gè)人信息的新形式,這些信息獲取方式往往打著“趣味”等幌子,具有隱蔽性,不易被人們察覺。因此,公民應(yīng)廣泛了解個(gè)人信息泄露渠道,增強(qiáng)反信息侵害能力。

    以企業(yè)推出的年度總結(jié)系列為例。2017年,支付寶率先推出“支付寶年度賬單”,賬單中除了網(wǎng)購(gòu)總支出、商品購(gòu)買類型等數(shù)據(jù)信息外,還會(huì)給用戶趣味化的關(guān)鍵詞總結(jié),如“顏值正義”“小確幸”“才華”等。人們出于對(duì)自己關(guān)鍵詞的好奇心,紛紛加入賬單生成隊(duì)伍,并將自己的賬單結(jié)果分享于社交平臺(tái)之中。而這一簡(jiǎn)單的生成賬單、分享賬單過(guò)程,就存在兩次個(gè)人信息泄露行為。首先,在制作賬單時(shí),用戶需要勾選《芝麻服務(wù)協(xié)定》,同意第三方獲取自己的個(gè)人信息。但此協(xié)定字體很小、位于頁(yè)面最下方,并且已經(jīng)呈現(xiàn)出“勾選”狀態(tài),用戶一般不會(huì)注意到。隨著點(diǎn)擊確定生成賬單,第三方“芝麻”就獲取了用戶的個(gè)人信息。其次,賬單里含有大量消費(fèi)行為方面的個(gè)人信息,用戶在各大平臺(tái)分享賬單時(shí),無(wú)疑給陌生人和平臺(tái)的數(shù)據(jù)庫(kù)捕捉個(gè)人信息提供機(jī)會(huì)。其他較為隱蔽的信息泄露渠道還有使用“Wi-Fi萬(wàn)能鑰匙”,參與各種網(wǎng)絡(luò)投票、測(cè)試等。

    (三)企業(yè)對(duì)大數(shù)據(jù)技術(shù)做出調(diào)整

    企業(yè)作為大數(shù)據(jù)技術(shù)的直接掌控者,應(yīng)對(duì)現(xiàn)有技術(shù)框架做出改善,以化解人類在大數(shù)據(jù)技術(shù)開創(chuàng)的新時(shí)空觀下沒有有效方式維護(hù)個(gè)人信息安全的尷尬處境。

    1.企業(yè)通過(guò)技術(shù)路徑,建立可遺忘的“數(shù)字化記憶”

    IBM架構(gòu)師史蒂芬·沃特(Stephen Watt)曾提出,在大數(shù)據(jù)生態(tài)系統(tǒng)模型中,將大數(shù)據(jù)技術(shù)劃分為數(shù)據(jù)生成、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)處理、數(shù)據(jù)分享、數(shù)據(jù)檢索、數(shù)據(jù)分析和數(shù)據(jù)可視化等 7 個(gè)部分(如圖)。為了有效緩解大數(shù)據(jù)時(shí)代由于個(gè)人信息時(shí)間屬性削弱而引發(fā)的一系列問(wèn)題,可從大數(shù)據(jù)生態(tài)模型的具體環(huán)節(jié)入手,建立可遺忘的“數(shù)字化記憶”。

    在數(shù)據(jù)儲(chǔ)存環(huán)節(jié),建立個(gè)人數(shù)據(jù)選擇性銷毀機(jī)制。大數(shù)據(jù)技術(shù)的基礎(chǔ)就在于儲(chǔ)存大量的信息。人們雖然可以在個(gè)人終端上刪除、撤回已發(fā)布的個(gè)人信息,但是元數(shù)據(jù)卻仍然儲(chǔ)存在數(shù)據(jù)庫(kù)之中,無(wú)法消除。不僅僅是發(fā)布的信息,用戶曾經(jīng)遺留下的種種數(shù)據(jù)化足跡,如搜索記錄、網(wǎng)購(gòu)記錄等也都被數(shù)據(jù)庫(kù)完整地保存下來(lái)。為此,企業(yè)在數(shù)據(jù)儲(chǔ)存時(shí),應(yīng)建立相應(yīng)的選擇性銷毀機(jī)制,并將銷毀的決定權(quán)交給信息所有者。信息所有者可通過(guò)銷毀元數(shù)據(jù)的方式,使個(gè)人信息不再出現(xiàn)在他人的視野中。

    無(wú)限制的檢索和分享也使得個(gè)人信息一次次回歸于人們的記憶中。在數(shù)據(jù)分享和數(shù)據(jù)檢索環(huán)節(jié),則可采取限制個(gè)人信息訪問(wèn)次數(shù)或時(shí)間的方式,增加個(gè)人信息的時(shí)效性。企業(yè)可以將所掌握的個(gè)人信息分為三級(jí):一級(jí)是基本性個(gè)人信息,對(duì)此類信息可允許所有人接觸訪問(wèn),訪問(wèn)時(shí)間也可不加以限制;二級(jí)是隱私性個(gè)人信息,其他人要想訪問(wèn)需取得信息所有者的授權(quán),訪問(wèn)時(shí)間方面也要相應(yīng)限制;三級(jí)是涉密性個(gè)人信息,如銀行、賬號(hào)密碼等,這類信息要杜絕任何人進(jìn)行訪問(wèn)。

    通過(guò)對(duì)數(shù)據(jù)儲(chǔ)存、數(shù)據(jù)檢索和數(shù)據(jù)分享等環(huán)節(jié)的具體調(diào)整,最終建立一個(gè)可遺忘的大數(shù)據(jù)生態(tài)系統(tǒng)。

    2.在技術(shù)框架中嵌入實(shí)時(shí)反饋機(jī)制,將個(gè)人信息決定權(quán)交還給個(gè)人

    大數(shù)據(jù)技術(shù)下,個(gè)人無(wú)法預(yù)知在虛擬空間發(fā)布的哪些信息會(huì)成為指向現(xiàn)實(shí)自我的“證據(jù)”,有效維護(hù)個(gè)人信息安全淪為一句空談。據(jù)此,人們可從整個(gè)大數(shù)據(jù)生態(tài)系統(tǒng)模型出發(fā)(如圖),通過(guò)嵌入實(shí)時(shí)反饋機(jī)制的方式,讓個(gè)人重新掌握個(gè)人信息的主導(dǎo)權(quán)。

    大數(shù)據(jù)生態(tài)系統(tǒng)模型

    目前,受法規(guī)要求,企業(yè)雖然已經(jīng)開始設(shè)置反饋渠道,對(duì)獲取、使用個(gè)人信息的情況向信息所有者給予說(shuō)明,但是這種反饋機(jī)制只存在數(shù)據(jù)生成前,個(gè)人對(duì)于大數(shù)據(jù)生態(tài)中的每個(gè)環(huán)節(jié)企業(yè)究竟如何處理、運(yùn)營(yíng)個(gè)人數(shù)據(jù)仍一無(wú)所知。所以,為確保個(gè)人能真正掌控個(gè)人數(shù)據(jù),企業(yè)應(yīng)在大數(shù)據(jù)生態(tài)系統(tǒng)中的每個(gè)環(huán)節(jié)設(shè)立實(shí)時(shí)反饋機(jī)制。

    在數(shù)據(jù)生成前,要對(duì)獲取的個(gè)人數(shù)據(jù)給予說(shuō)明,并取得用戶同意;在數(shù)據(jù)儲(chǔ)存時(shí),要對(duì)數(shù)據(jù)儲(chǔ)存的位置、時(shí)間、保護(hù)方式等給予說(shuō)明,讓信息所有者決定是否儲(chǔ)存;在數(shù)據(jù)處理結(jié)果生成后,要及時(shí)向所有者進(jìn)行信息反饋,讓其決定數(shù)據(jù)是否要被分享、檢索和利用等。只有將這種反饋機(jī)制細(xì)化到大數(shù)據(jù)中的每一個(gè)環(huán)節(jié),才有可能真正確保個(gè)人有效維護(hù)其信息安全。

    注釋:

    ① 鄔賀銓:《大數(shù)據(jù)時(shí)代的機(jī)遇與挑戰(zhàn)》,《求是》,2013年第4期。

    ③ [美]理查德·韋斯特、林恩·H·特納:《傳播理論導(dǎo)引:分析與應(yīng)用》,劉海龍譯,中國(guó)人民大學(xué)出版社2007年版,第132-154頁(yè)。

    ④ 新浪財(cái)經(jīng),http://mini.eastday.com/mobile/170131072640526.html#,2017年1月31日。

    ⑤ 包雨朦:《百度李彥宏:多數(shù)情況下,中國(guó)人愿意用隱私交換便捷性,他們沒那么敏感》,澎湃新聞,http://www.sohu.com/a/226406966_617374,2018年3月26日。

    ⑦ 邵國(guó)松、薛凡偉、鄭一媛、鄭悅:《我國(guó)網(wǎng)站個(gè)人信息保護(hù)水平研究——基于〈網(wǎng)絡(luò)安全法〉對(duì)我國(guó)500家網(wǎng)站的實(shí)證分析》,《新聞?dòng)浾摺?2018年第3期。

    ⑧ 中國(guó)青年政治學(xué)院互聯(lián)網(wǎng)法治研究中心、封面智庫(kù):《個(gè)人信息安全和隱私現(xiàn)狀白皮書發(fā)布》,《中國(guó)信息安全》,2016年第12期。

    ⑨ [英]維克托·舍恩伯格:《刪除:大數(shù)據(jù)取舍之道》,袁杰譯,浙江人民出版社2013年版,第98頁(yè)。

    ⑩ [美]薩繆爾森、諾德豪斯:《經(jīng)濟(jì)學(xué)》,于健譯,人民郵電出版社2013年版,第245頁(yè)。

    猜你喜歡
    個(gè)人信息信息安全用戶
    如何保護(hù)勞動(dòng)者的個(gè)人信息?
    個(gè)人信息保護(hù)進(jìn)入“法時(shí)代”
    警惕個(gè)人信息泄露
    保護(hù)信息安全要滴水不漏
    高校信息安全防護(hù)
    關(guān)注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    關(guān)注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    保護(hù)個(gè)人信息安全刻不容緩
    關(guān)注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    如何獲取一億海外用戶
    日日啪夜夜撸| 国产亚洲一区二区精品| 国产成人精品婷婷| 色综合亚洲欧美另类图片| 日韩精品有码人妻一区| 91aial.com中文字幕在线观看| 日韩av在线免费看完整版不卡| ponron亚洲| 亚洲成色77777| 国内精品一区二区在线观看| 国产亚洲精品av在线| 美女被艹到高潮喷水动态| 直男gayav资源| 特大巨黑吊av在线直播| 麻豆精品久久久久久蜜桃| 91精品国产九色| 亚洲美女搞黄在线观看| 干丝袜人妻中文字幕| 女人被狂操c到高潮| 99热这里只有精品一区| 久久久久久久久久久丰满| 精品人妻一区二区三区麻豆| 老师上课跳d突然被开到最大视频| 国产在线一区二区三区精 | 极品教师在线视频| 老女人水多毛片| 成人综合一区亚洲| 美女被艹到高潮喷水动态| 黄色欧美视频在线观看| 如何舔出高潮| 国产一区有黄有色的免费视频 | 久久人人爽人人片av| 亚洲精品456在线播放app| 久久精品国产鲁丝片午夜精品| 国产日韩欧美在线精品| 午夜精品一区二区三区免费看| 美女被艹到高潮喷水动态| 国产免费男女视频| 国产黄片美女视频| 美女脱内裤让男人舔精品视频| 寂寞人妻少妇视频99o| 2022亚洲国产成人精品| 日本色播在线视频| 精品国产三级普通话版| 在线免费观看的www视频| 欧美性感艳星| 日日摸夜夜添夜夜爱| 成人无遮挡网站| 成人无遮挡网站| 亚洲成人久久爱视频| 亚洲一区高清亚洲精品| 免费看日本二区| 99久久成人亚洲精品观看| 亚洲欧美成人精品一区二区| 成年版毛片免费区| 精品一区二区三区人妻视频| av免费观看日本| 亚洲av成人av| 久久精品久久精品一区二区三区| 国产精品嫩草影院av在线观看| 日韩 亚洲 欧美在线| 超碰97精品在线观看| 亚洲丝袜综合中文字幕| 国内精品一区二区在线观看| 插逼视频在线观看| 人体艺术视频欧美日本| 日本免费一区二区三区高清不卡| 精品久久久久久久久亚洲| 亚洲av男天堂| 麻豆国产97在线/欧美| 亚洲国产欧美人成| 成人漫画全彩无遮挡| 亚洲高清免费不卡视频| 精品人妻熟女av久视频| 99久国产av精品| 内地一区二区视频在线| 亚洲av不卡在线观看| 国产在视频线精品| 欧美性猛交黑人性爽| 久久99热这里只有精品18| 中文字幕av成人在线电影| 日韩在线高清观看一区二区三区| 天堂影院成人在线观看| 国产亚洲精品久久久com| 村上凉子中文字幕在线| 麻豆成人av视频| 精品人妻一区二区三区麻豆| 99久国产av精品国产电影| 国产国拍精品亚洲av在线观看| 国产免费一级a男人的天堂| 啦啦啦韩国在线观看视频| 三级毛片av免费| 淫秽高清视频在线观看| 精品久久久久久久久亚洲| 欧美最新免费一区二区三区| 大香蕉久久网| 精品国产露脸久久av麻豆 | 午夜爱爱视频在线播放| 国产单亲对白刺激| 精品久久久噜噜| 少妇熟女aⅴ在线视频| 亚洲国产高清在线一区二区三| 你懂的网址亚洲精品在线观看 | 成人鲁丝片一二三区免费| 在线播放国产精品三级| 亚洲av成人精品一区久久| 97超碰精品成人国产| 伦理电影大哥的女人| 国产女主播在线喷水免费视频网站 | 日本wwww免费看| 爱豆传媒免费全集在线观看| 男女边吃奶边做爰视频| 国产高清有码在线观看视频| 嫩草影院入口| 亚洲欧美日韩高清专用| 欧美丝袜亚洲另类| 男人狂女人下面高潮的视频| 日本一本二区三区精品| 日日摸夜夜添夜夜添av毛片| 国语自产精品视频在线第100页| 国产免费福利视频在线观看| 欧美一区二区精品小视频在线| 少妇人妻一区二区三区视频| 亚洲欧洲日产国产| 搡老妇女老女人老熟妇| 一级毛片我不卡| 麻豆av噜噜一区二区三区| 高清毛片免费看| 久久久欧美国产精品| 波野结衣二区三区在线| 又粗又爽又猛毛片免费看| 久久久久精品久久久久真实原创| 九色成人免费人妻av| 69人妻影院| 亚洲四区av| 国产精品伦人一区二区| 老女人水多毛片| 日韩在线高清观看一区二区三区| 少妇高潮的动态图| 天天躁夜夜躁狠狠久久av| 亚洲欧美成人综合另类久久久 | 午夜久久久久精精品| 亚洲成av人片在线播放无| 亚洲国产高清在线一区二区三| av在线观看视频网站免费| 爱豆传媒免费全集在线观看| 嫩草影院新地址| 亚洲va在线va天堂va国产| 在线免费观看不下载黄p国产| 免费看日本二区| 国产淫语在线视频| 色综合色国产| 汤姆久久久久久久影院中文字幕 | 在线a可以看的网站| 成人毛片60女人毛片免费| 成人三级黄色视频| 国产成人免费观看mmmm| 久久99精品国语久久久| 日韩精品青青久久久久久| 欧美三级亚洲精品| 一个人看的www免费观看视频| 国产成人一区二区在线| 日韩视频在线欧美| 久久久久久久国产电影| 久久人人爽人人片av| 亚洲欧美日韩高清专用| 好男人视频免费观看在线| 淫秽高清视频在线观看| 久久久久久国产a免费观看| 久久精品影院6| 爱豆传媒免费全集在线观看| 国产亚洲91精品色在线| 免费av毛片视频| av免费在线看不卡| 亚洲自偷自拍三级| 久久综合国产亚洲精品| 亚洲av免费高清在线观看| 国产综合懂色| 欧美最新免费一区二区三区| 男人舔女人下体高潮全视频| 深爱激情五月婷婷| 久久久久国产网址| 高清毛片免费看| 久久韩国三级中文字幕| 又爽又黄无遮挡网站| 麻豆一二三区av精品| 国产免费福利视频在线观看| 久久久久久久久久黄片| 亚洲国产最新在线播放| 国产v大片淫在线免费观看| 久久久久免费精品人妻一区二区| 纵有疾风起免费观看全集完整版 | 国产精品久久久久久久电影| 亚洲精品成人久久久久久| 18禁在线播放成人免费| 久久精品久久久久久久性| 亚洲欧美中文字幕日韩二区| 色综合亚洲欧美另类图片| 联通29元200g的流量卡| 国产成人免费观看mmmm| 级片在线观看| 一级毛片电影观看 | 国内揄拍国产精品人妻在线| 床上黄色一级片| 一区二区三区乱码不卡18| 蜜桃久久精品国产亚洲av| 久久精品国产亚洲av涩爱| 午夜福利在线在线| 久久精品综合一区二区三区| 在现免费观看毛片| 国产 一区 欧美 日韩| 精品国产露脸久久av麻豆 | 三级国产精品欧美在线观看| 少妇丰满av| 日本爱情动作片www.在线观看| 色视频www国产| 看黄色毛片网站| 国产精品国产三级专区第一集| 日韩三级伦理在线观看| 久久国内精品自在自线图片| 老师上课跳d突然被开到最大视频| 成人亚洲欧美一区二区av| 久久久久久伊人网av| 国产精品久久久久久av不卡| 亚洲欧美精品综合久久99| 国产探花极品一区二区| 国产精品国产三级专区第一集| 九九热线精品视视频播放| 最近的中文字幕免费完整| 美女被艹到高潮喷水动态| 国内少妇人妻偷人精品xxx网站| 亚州av有码| 午夜福利视频1000在线观看| 啦啦啦观看免费观看视频高清| 欧美精品一区二区大全| 97超视频在线观看视频| 亚洲va在线va天堂va国产| 国产又黄又爽又无遮挡在线| 夜夜看夜夜爽夜夜摸| 国产成人91sexporn| 国产在视频线精品| 欧美潮喷喷水| 亚洲激情五月婷婷啪啪| 男女边吃奶边做爰视频| 亚洲成人久久爱视频| 国产亚洲精品av在线| 久久欧美精品欧美久久欧美| 日本午夜av视频| 日韩高清综合在线| 一级爰片在线观看| 久久精品91蜜桃| 99在线人妻在线中文字幕| 国产精品一区www在线观看| 秋霞伦理黄片| 波多野结衣高清无吗| 91久久精品国产一区二区三区| 久久精品国产亚洲网站| 日韩在线高清观看一区二区三区| 午夜日本视频在线| 亚洲av一区综合| 午夜精品国产一区二区电影 | 国产精品女同一区二区软件| 婷婷色av中文字幕| 伊人久久精品亚洲午夜| 亚洲乱码一区二区免费版| 久久这里只有精品中国| 久久韩国三级中文字幕| 尤物成人国产欧美一区二区三区| 日日摸夜夜添夜夜添av毛片| 国产精品一区二区性色av| 美女国产视频在线观看| 最近视频中文字幕2019在线8| 最近的中文字幕免费完整| 中国美白少妇内射xxxbb| 久久99蜜桃精品久久| 嫩草影院新地址| 精品久久久久久久久久久久久| 熟女电影av网| 九色成人免费人妻av| 建设人人有责人人尽责人人享有的 | 偷拍熟女少妇极品色| 亚洲一区高清亚洲精品| 国产毛片a区久久久久| 日日撸夜夜添| 观看美女的网站| 级片在线观看| 三级国产精品欧美在线观看| 亚洲内射少妇av| 三级毛片av免费| 联通29元200g的流量卡| 亚洲欧美日韩无卡精品| 亚洲综合精品二区| 欧美高清成人免费视频www| 天美传媒精品一区二区| 久久精品久久精品一区二区三区| 中文字幕免费在线视频6| 一级黄色大片毛片| 亚州av有码| 久久久国产成人精品二区| 全区人妻精品视频| 日本猛色少妇xxxxx猛交久久| 麻豆av噜噜一区二区三区| av福利片在线观看| 亚洲内射少妇av| 女人被狂操c到高潮| 精品不卡国产一区二区三区| 亚洲av成人av| 午夜激情欧美在线| 网址你懂的国产日韩在线| 乱系列少妇在线播放| 欧美另类亚洲清纯唯美| 人人妻人人澡人人爽人人夜夜 | 午夜av观看不卡| 校园人妻丝袜中文字幕| 99久久人妻综合| 国产精品 国内视频| 伦理电影免费视频| 亚洲精品国产av蜜桃| 天堂中文最新版在线下载| 日本av手机在线免费观看| 一个人免费看片子| 亚洲av国产av综合av卡| 少妇猛男粗大的猛烈进出视频| 午夜影院在线不卡| 两性夫妻黄色片 | 午夜影院在线不卡| 国产精品偷伦视频观看了| 亚洲高清免费不卡视频| 久久久a久久爽久久v久久| 母亲3免费完整高清在线观看 | 波多野结衣一区麻豆| 美女xxoo啪啪120秒动态图| av线在线观看网站| 成人毛片60女人毛片免费| 亚洲欧洲精品一区二区精品久久久 | 精品99又大又爽又粗少妇毛片| 日本-黄色视频高清免费观看| 国产片内射在线| 热re99久久精品国产66热6| 大话2 男鬼变身卡| 成人18禁高潮啪啪吃奶动态图| 亚洲图色成人| 天天操日日干夜夜撸| 亚洲色图综合在线观看| 免费少妇av软件| 制服诱惑二区| 日韩欧美精品免费久久| 国产又色又爽无遮挡免| 日韩不卡一区二区三区视频在线| 五月天丁香电影| www.av在线官网国产| 少妇的丰满在线观看| 麻豆精品久久久久久蜜桃| 九九在线视频观看精品| 视频中文字幕在线观看| 亚洲欧美色中文字幕在线| 香蕉国产在线看| 国产黄色视频一区二区在线观看| 最近中文字幕2019免费版| 免费观看无遮挡的男女| 两个人免费观看高清视频| 精品国产乱码久久久久久小说| 精品国产国语对白av| 少妇被粗大的猛进出69影院 | 中文字幕av电影在线播放| 夜夜爽夜夜爽视频| 男女下面插进去视频免费观看 | 老女人水多毛片| 久久人妻熟女aⅴ| 亚洲精品国产色婷婷电影| 精品99又大又爽又粗少妇毛片| 天天操日日干夜夜撸| 久久99热这里只频精品6学生| 又黄又爽又刺激的免费视频.| av播播在线观看一区| 中文字幕精品免费在线观看视频 | 亚洲欧洲精品一区二区精品久久久 | 精品人妻在线不人妻| 日韩精品有码人妻一区| 国产成人aa在线观看| 在线天堂中文资源库| 午夜激情久久久久久久| 欧美日韩亚洲高清精品| 国产福利在线免费观看视频| 天美传媒精品一区二区| 秋霞伦理黄片| 欧美bdsm另类| 少妇人妻精品综合一区二区| 伦理电影大哥的女人| av一本久久久久| 免费少妇av软件| 这个男人来自地球电影免费观看 | 最近中文字幕2019免费版| 日日爽夜夜爽网站| h视频一区二区三区| 搡女人真爽免费视频火全软件| 国产日韩欧美视频二区| 免费女性裸体啪啪无遮挡网站| 精品少妇内射三级| 日韩成人伦理影院| 国产一区二区在线观看av| 另类精品久久| 大话2 男鬼变身卡| 国产精品久久久久久av不卡| 免费看不卡的av| 日韩中文字幕视频在线看片| 丝袜在线中文字幕| 交换朋友夫妻互换小说| 毛片一级片免费看久久久久| 日韩一区二区视频免费看| 日韩不卡一区二区三区视频在线| 侵犯人妻中文字幕一二三四区| 国产有黄有色有爽视频| 色视频在线一区二区三区| 在线观看免费视频网站a站| 18禁裸乳无遮挡动漫免费视频| 欧美日韩国产mv在线观看视频| 国产精品人妻久久久久久| 色吧在线观看| 国产精品久久久久久久久免| 久久免费观看电影| 最近手机中文字幕大全| 亚洲精品美女久久久久99蜜臀 | 午夜福利视频精品| 久久久欧美国产精品| 亚洲精品色激情综合| 三上悠亚av全集在线观看| 亚洲精品视频女| 老司机亚洲免费影院| 久久久国产精品麻豆| 亚洲精品久久午夜乱码| 午夜免费观看性视频| 桃花免费在线播放| 狠狠精品人妻久久久久久综合| 亚洲精品日韩在线中文字幕| 我要看黄色一级片免费的| www.av在线官网国产| 国国产精品蜜臀av免费| 日本91视频免费播放| 免费观看a级毛片全部| 少妇人妻精品综合一区二区| 狠狠婷婷综合久久久久久88av| 最近中文字幕高清免费大全6| 18+在线观看网站| 精品午夜福利在线看| 22中文网久久字幕| 色94色欧美一区二区| 日韩三级伦理在线观看| 激情视频va一区二区三区| 欧美精品人与动牲交sv欧美| 国产免费一区二区三区四区乱码| 欧美人与善性xxx| 一边亲一边摸免费视频| 日日啪夜夜爽| 男人操女人黄网站| 一二三四在线观看免费中文在 | 亚洲av福利一区| 久久久久久久大尺度免费视频| 母亲3免费完整高清在线观看 | 观看美女的网站| 热99久久久久精品小说推荐| 国产男人的电影天堂91| 日日啪夜夜爽| 亚洲美女视频黄频| 亚洲精品456在线播放app| 免费高清在线观看视频在线观看| 人妻少妇偷人精品九色| 色网站视频免费| 国产免费视频播放在线视频| 久久久久国产网址| 亚洲精品久久午夜乱码| 午夜福利,免费看| 9色porny在线观看| 一区二区日韩欧美中文字幕 | 侵犯人妻中文字幕一二三四区| 国产免费福利视频在线观看| 夜夜骑夜夜射夜夜干| 99精国产麻豆久久婷婷| 精品卡一卡二卡四卡免费| 国产精品.久久久| 精品少妇内射三级| 国产精品.久久久| 久久精品久久精品一区二区三区| 人人妻人人爽人人添夜夜欢视频| 欧美日韩视频高清一区二区三区二| 少妇被粗大的猛进出69影院 | 欧美xxxx性猛交bbbb| 国产成人精品久久久久久| 丝袜美足系列| 宅男免费午夜| 夫妻午夜视频| h视频一区二区三区| 精品午夜福利在线看| 国产一区有黄有色的免费视频| 国产一区二区在线观看av| 欧美丝袜亚洲另类| 一级片免费观看大全| 国产老妇伦熟女老妇高清| 熟女电影av网| 人妻人人澡人人爽人人| 国产免费现黄频在线看| 精品少妇久久久久久888优播| 国产精品人妻久久久久久| 国产高清国产精品国产三级| 国产午夜精品一二区理论片| 多毛熟女@视频| 青春草视频在线免费观看| 自拍欧美九色日韩亚洲蝌蚪91| 在线观看人妻少妇| 少妇人妻久久综合中文| 久久精品国产亚洲av天美| 欧美人与性动交α欧美精品济南到 | 超色免费av| 一级黄片播放器| 亚洲av国产av综合av卡| 51国产日韩欧美| 亚洲精品乱码久久久久久按摩| 在现免费观看毛片| 成人毛片60女人毛片免费| 国产片特级美女逼逼视频| 久久99一区二区三区| 大香蕉97超碰在线| 99国产综合亚洲精品| 高清欧美精品videossex| 香蕉丝袜av| 午夜老司机福利剧场| 性高湖久久久久久久久免费观看| 午夜福利视频精品| 国产免费现黄频在线看| 91精品伊人久久大香线蕉| 黄色配什么色好看| 国产av国产精品国产| 看十八女毛片水多多多| 久久精品国产综合久久久 | 久久99热这里只频精品6学生| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 国产精品无大码| 亚洲成人一二三区av| 国产极品粉嫩免费观看在线| 久久久久久久大尺度免费视频| 精品国产一区二区久久| 精品亚洲成国产av| 自拍欧美九色日韩亚洲蝌蚪91| 精品一区二区三卡| 免费av中文字幕在线| 97超碰精品成人国产| 久久99热这里只频精品6学生| 九草在线视频观看| 美女内射精品一级片tv| 一级毛片黄色毛片免费观看视频| 最近手机中文字幕大全| 亚洲欧美一区二区三区黑人 | 精品99又大又爽又粗少妇毛片| 日本wwww免费看| 久久精品国产鲁丝片午夜精品| 一级毛片 在线播放| 国产乱来视频区| 日本-黄色视频高清免费观看| 亚洲av免费高清在线观看| 满18在线观看网站| 国产 精品1| 成人手机av| 热re99久久精品国产66热6| 久久精品久久久久久噜噜老黄| 精品亚洲成a人片在线观看| 亚洲内射少妇av| 亚洲精品一二三| 日本爱情动作片www.在线观看| 在线天堂中文资源库| 性色avwww在线观看| 最近最新中文字幕大全免费视频 | 免费黄频网站在线观看国产| av又黄又爽大尺度在线免费看| 午夜福利乱码中文字幕| 成人影院久久| 欧美日本中文国产一区发布| 亚洲成人手机| 亚洲国产精品一区二区三区在线| av卡一久久| 久久人妻熟女aⅴ| 水蜜桃什么品种好| 国产黄频视频在线观看| 久久久久久久大尺度免费视频| 亚洲国产精品专区欧美| 国产又爽黄色视频| www.熟女人妻精品国产 | 国产综合精华液| 黄色配什么色好看| 国产免费一区二区三区四区乱码| 少妇高潮的动态图| 99久久精品国产国产毛片| 日韩av在线免费看完整版不卡| 婷婷成人精品国产| 亚洲美女视频黄频| 日本欧美视频一区| 男女高潮啪啪啪动态图| 亚洲,欧美,日韩| 午夜老司机福利剧场| 美女大奶头黄色视频| 在线观看www视频免费| 亚洲国产av新网站| 亚洲国产看品久久| 成人18禁高潮啪啪吃奶动态图| 看十八女毛片水多多多| 老司机亚洲免费影院| 亚洲av国产av综合av卡| 免费黄网站久久成人精品| 777米奇影视久久| 久久av网站| 亚洲国产最新在线播放| 久久久亚洲精品成人影院| 国产精品久久久久久久久免| 菩萨蛮人人尽说江南好唐韦庄| 国产xxxxx性猛交| 在线观看美女被高潮喷水网站|