• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    萬物互聯(lián)網(wǎng)中個(gè)人數(shù)據(jù)云傳播的隱私安全

    2022-05-30 06:08:42李衛(wèi)東
    人民論壇·學(xué)術(shù)前沿 2022年14期

    【摘要】萬物互聯(lián)網(wǎng)時(shí)代的個(gè)人數(shù)據(jù)包括表征個(gè)人自然屬性特征的數(shù)據(jù)和表征個(gè)人行為屬性特征的數(shù)據(jù)。個(gè)人數(shù)據(jù)云傳播過程的每個(gè)環(huán)節(jié)都存在諸多泄露和濫用的安全隱患,主要包括個(gè)人數(shù)據(jù)在萬物互聯(lián)終端的泄露隱患,個(gè)人數(shù)據(jù)在萬物互聯(lián)云端的泄露隱患,以及個(gè)人數(shù)據(jù)在萬物互聯(lián)應(yīng)用中的濫用隱患。個(gè)人數(shù)據(jù)的云傳播過程中,其擁有者幾乎失去了對其個(gè)人數(shù)據(jù)的控制權(quán),也較難掌握其個(gè)人數(shù)據(jù)的流向。因此,保護(hù)個(gè)人數(shù)據(jù)的關(guān)鍵方法之一是盡可能地讓個(gè)人數(shù)據(jù)由個(gè)人掌控,建立基于邊緣計(jì)算的個(gè)人數(shù)據(jù)控制機(jī)制;之二是要盡可能地讓個(gè)人自身管理其數(shù)據(jù)的流向,建立云端個(gè)人數(shù)據(jù)開放和使用的監(jiān)管機(jī)制。

    【關(guān)鍵詞】萬物互聯(lián)網(wǎng)? 個(gè)人數(shù)據(jù)? 云傳播? 隱私安全

    【中圖分類號】TP393.08? ? ? ? ? ? ? ? ? ? ? ?【文獻(xiàn)標(biāo)識碼】A

    【DOI】10.16619/j.cnki.rmltxsqy.2022.14.008

    引言

    隱私的基本要素有兩個(gè):一是將某些事物保密的權(quán)利和能力;二是控制他人擁有并可以訪問有關(guān)自己的信息的權(quán)利。[1]但在萬物互聯(lián)網(wǎng)時(shí)代,圍繞個(gè)人的工作、學(xué)習(xí)、生活、醫(yī)療和娛樂場景,可挖掘出豐富多彩的“萬物對個(gè)人服務(wù)”(Everything-to-Person, E2P),這使得隱私要素的保障機(jī)制較難建立起來。萬物互聯(lián)網(wǎng)是由物體、數(shù)字設(shè)備、數(shù)字個(gè)人、數(shù)字企業(yè)、數(shù)字政府和數(shù)據(jù)資源等要素,借助數(shù)字平臺,通過數(shù)字流程相互連接而成的巨復(fù)雜網(wǎng)絡(luò)生態(tài)系統(tǒng)。[2]與物聯(lián)網(wǎng)相比,萬物互聯(lián)網(wǎng)的連接對象更為廣泛,能與人和社會(huì)環(huán)境進(jìn)行強(qiáng)烈的交互,[3]而物聯(lián)網(wǎng)僅連接事物(傳感器和設(shè)備)。特別是,萬物對個(gè)人服務(wù)(E2P)一般都致力于分析“你到底是誰,你在干什么,你在想什么,你需要什么”,采集和處理大規(guī)模個(gè)人數(shù)據(jù)是其發(fā)展的基石。而“可識別性”是個(gè)人數(shù)據(jù)的本質(zhì)特征,凡是單獨(dú)可以識別出特定自然人的數(shù)據(jù)(直接識別)或者與其他數(shù)據(jù)結(jié)合后能夠識別出自然人的數(shù)據(jù)(間接識別),都是個(gè)人數(shù)據(jù)。[4]這使得人們較難實(shí)現(xiàn)“不被注意”和“匿名”。如用戶借助各類穿戴服務(wù)平臺,將自己的穿戴設(shè)備與智能手機(jī)綁定后,可在穿戴設(shè)備與智能手機(jī)中同步這些個(gè)人身份數(shù)據(jù)(頭像、昵稱、性別、出生日期、身高、體重),個(gè)人運(yùn)動(dòng)數(shù)據(jù)(設(shè)備位置、運(yùn)動(dòng)軌跡、運(yùn)動(dòng)類型、運(yùn)動(dòng)時(shí)長、部數(shù)、距離、熱量、爬高、最大攝氧量、運(yùn)動(dòng)心率),個(gè)人健康數(shù)據(jù)(睡眠、心率),以及個(gè)人的設(shè)備和網(wǎng)絡(luò)數(shù)據(jù)(設(shè)備標(biāo)識、設(shè)備設(shè)置、IP地址和網(wǎng)絡(luò)類型)。再如,陪護(hù)機(jī)器人應(yīng)用于養(yǎng)老院或社區(qū)服務(wù)站環(huán)境,具有生理信號監(jiān)測、語音交互、遠(yuǎn)程醫(yī)療、智能聊天、自主避障漫游等功能,能夠通過語音和觸屏進(jìn)行交互;配合相關(guān)監(jiān)測設(shè)備,機(jī)器人具有血壓、心跳、血氧等生理信號檢測與監(jiān)控功能,可無線連接社區(qū)網(wǎng)絡(luò)并傳輸?shù)缴鐓^(qū)醫(yī)療中心,緊急情況下可及時(shí)報(bào)警或通知親人。[5]以患者為中心的健康數(shù)據(jù)共享平臺可以聚合來自多個(gè)個(gè)人數(shù)字設(shè)備數(shù)據(jù)源的數(shù)據(jù)。[6]無線身體傳感器網(wǎng)絡(luò)已經(jīng)可以連續(xù)地監(jiān)測和記錄人體特定部位的重要生理數(shù)據(jù)。

    特別是,隨著萬物互聯(lián)網(wǎng)與人工智能技術(shù)的融合發(fā)展,個(gè)性化算法和機(jī)器學(xué)習(xí)的應(yīng)用已取得巨大進(jìn)步,能為用戶提供豐富多彩的智能新媒體服務(wù),但也引起了人們對隱私、技術(shù)透明性和人為控制的強(qiáng)烈關(guān)注。[7]一是健康類應(yīng)用程序可能帶來的個(gè)人隱私傷害,[8]醫(yī)療大數(shù)據(jù)中的個(gè)人隱私問題,[9]人類基因數(shù)據(jù)共享可能帶來的隱私風(fēng)險(xiǎn)。[10]二是在萬物互聯(lián)網(wǎng)的智慧城市應(yīng)用場景中,房屋、汽車、公共場所和其他社會(huì)系統(tǒng)正在被不斷地相互連接,人們的位置和活動(dòng)數(shù)據(jù)被收集和利用。[11]這些數(shù)字應(yīng)用有望顯著改善醫(yī)療保健、運(yùn)輸服務(wù)、公用事業(yè)和環(huán)境健康。不過,這些效率和服務(wù)改進(jìn)的代價(jià)是增加了隱私漏洞和風(fēng)險(xiǎn)。[12]三是數(shù)字設(shè)備(機(jī)器)之間通訊和數(shù)據(jù)交換帶來的個(gè)人數(shù)據(jù)安全問題被廣泛關(guān)注。[13]智能手機(jī)是使用最廣泛的電子設(shè)備,具有整合和連接萬物的功能。但當(dāng)前的智能手機(jī)管理用戶敏感數(shù)據(jù)的能力明顯不足,用戶的數(shù)據(jù)常常被過度收集。[14]數(shù)據(jù)過度收集,意味著智能手機(jī)應(yīng)用在許可范圍內(nèi)收集用戶數(shù)據(jù)的能力超過了其原始功能,正在迅速成為萬物互聯(lián)網(wǎng)時(shí)代最嚴(yán)重的潛在安全隱患之一。[15]

    但現(xiàn)有成果暫未開展萬物互聯(lián)網(wǎng)時(shí)代的個(gè)人數(shù)據(jù)安全和隱私問題的系統(tǒng)性研究。本文擬探討和回答三個(gè)問題。一是萬物互聯(lián)網(wǎng)時(shí)代個(gè)人數(shù)據(jù)的內(nèi)容和結(jié)構(gòu)如何?二是個(gè)人數(shù)據(jù)在萬物互聯(lián)網(wǎng)中是如何傳播的,將對個(gè)人的隱私安全帶來哪些威脅?三是我們應(yīng)該如何防范萬物互聯(lián)網(wǎng)環(huán)境下個(gè)人數(shù)據(jù)的泄露和濫用風(fēng)險(xiǎn)?為此,本文的第一部分將建構(gòu)萬物互聯(lián)網(wǎng)環(huán)境下的個(gè)人數(shù)據(jù)內(nèi)容結(jié)構(gòu);第二部分將探討個(gè)人數(shù)據(jù)在萬物互聯(lián)網(wǎng)中的云傳播機(jī)制;第三部分?jǐn)M分析個(gè)人數(shù)據(jù)在云傳播過程中的隱私安全隱患;第四部分?jǐn)M探討萬物互聯(lián)網(wǎng)時(shí)代個(gè)人數(shù)據(jù)的隱私保護(hù)機(jī)制。

    萬物互聯(lián)時(shí)代個(gè)人數(shù)據(jù)的內(nèi)涵和結(jié)構(gòu)

    萬物互聯(lián)網(wǎng)的本質(zhì)是“連接一切”,在此過程中也在向“采集人的一切數(shù)據(jù)”方向發(fā)展。在萬物互聯(lián)網(wǎng)環(huán)境下,個(gè)人數(shù)據(jù)的內(nèi)涵和結(jié)構(gòu)正在被不斷擴(kuò)展。個(gè)人數(shù)據(jù)涵蓋原始的機(jī)器數(shù)據(jù)和元數(shù)據(jù),以及關(guān)于抽象性的個(gè)性特征表征數(shù)據(jù)。[16]根據(jù)安全級別,將個(gè)人數(shù)據(jù)劃分為一般個(gè)人數(shù)據(jù)和敏感個(gè)人數(shù)據(jù)。[17]但關(guān)于個(gè)人數(shù)據(jù)到底包括哪些內(nèi)容,眾說紛紜,特別是萬物互聯(lián)網(wǎng)環(huán)境下,個(gè)人數(shù)據(jù)具有什么樣的結(jié)構(gòu)還未定論。這是進(jìn)一步分析個(gè)人數(shù)據(jù)的安全和隱私問題的重要前提。

    從信息科學(xué)視角看,個(gè)人數(shù)據(jù)可被定義為描述自然人的屬性、運(yùn)動(dòng)狀態(tài)及其變化方式的數(shù)據(jù)。個(gè)人數(shù)據(jù)本身是客觀存在的,隨著技術(shù)的進(jìn)步,越來越多的個(gè)人數(shù)據(jù)被數(shù)字化的采集和存儲(chǔ)。在一定程度上,個(gè)人數(shù)據(jù)的聚集能形成一個(gè)完整意義的“數(shù)字個(gè)人”。我們討論的個(gè)人數(shù)據(jù)常常是指數(shù)字化的個(gè)人特征和行為,也即個(gè)人數(shù)據(jù)的本質(zhì)是“數(shù)字個(gè)人”的數(shù)據(jù)?!皵?shù)字個(gè)人”的數(shù)據(jù)主要由表征個(gè)人自然屬性特征的數(shù)據(jù)和表征個(gè)人行為屬性特征的數(shù)據(jù)構(gòu)成。但人類還不可能感知和采集所有的自然人數(shù)據(jù)。

    表征個(gè)人自然屬性特征的數(shù)據(jù)。自然人屬性數(shù)據(jù)主要用于描述“這個(gè)自然人到底是誰”,主要包括自然屬性數(shù)據(jù)、精神屬性數(shù)據(jù)、社會(huì)屬性數(shù)據(jù)。自然屬性主要描述物質(zhì)世界中的“人”;精神屬性主要描述精神世界中的“人”;社會(huì)屬性主要描述現(xiàn)實(shí)社會(huì)中的“人”。

    1.自然屬性數(shù)據(jù)。自然屬性數(shù)據(jù)主要用戶描述人的生理特征、肉體特征和健康狀況的數(shù)據(jù)。在傳統(tǒng)社會(huì)環(huán)境下,人的自然屬性特征基本屬于隱私范疇,較少被數(shù)字化采集,但在基于人工智能的萬物互聯(lián)時(shí)代,人類的生理特征和肉體特征越來越多地被數(shù)據(jù)化。當(dāng)前已經(jīng)或正在被數(shù)字化的個(gè)人數(shù)據(jù)包括:人臉數(shù)據(jù)、人體數(shù)據(jù)和指紋數(shù)據(jù)。從普遍意義上而言,構(gòu)成“生理人”的全部人體器官都有被數(shù)字化的趨勢。人臉識別技術(shù)和人體識別技術(shù)的發(fā)展使得人類能夠感知和采集越來越多的人臉數(shù)據(jù)和人體數(shù)據(jù)。

    現(xiàn)有的人臉識別系統(tǒng)主要用于對人臉的屬性判別,能識別的人臉數(shù)據(jù)主要包括人臉框、人臉的關(guān)鍵點(diǎn)信息,人臉的姿態(tài)估計(jì)、人臉的自然屬性(性別、年齡、種族、微笑、顏值,是否帶墨鏡,是否帶眼鏡,人臉是否遮擋,是否有胡子),以及人臉的情緒(驚訝、高興、悲傷、生氣、平靜)等屬性的分析。[18]

    現(xiàn)有的人體識別系統(tǒng)主要開展人體關(guān)鍵點(diǎn)檢測,能夠準(zhǔn)確地估計(jì)出圖片或視頻中的人體14個(gè)主要關(guān)鍵點(diǎn),包括:左右手肘、左右手腕、左右肩膀、頭、脖子、左右腳踝、左右膝蓋和左右臀等;能夠在多個(gè)場景形式下,對站立、坐姿、運(yùn)動(dòng)多個(gè)姿態(tài)進(jìn)行估計(jì),從而實(shí)現(xiàn)對動(dòng)作姿態(tài)的檢測識別。[19]

    健康狀況數(shù)據(jù)主要是由各類醫(yī)療健康體穿戴設(shè)備產(chǎn)生的數(shù)據(jù)。醫(yī)療健康體穿戴設(shè)備一般都內(nèi)置用于測量人體健康狀況的傳感器,能自動(dòng)采集人體的血壓、脈搏、心率、體溫和激素量等重要數(shù)據(jù)。目前,智能手環(huán)、智能手表、智能血壓計(jì)、智能眼鏡、智能運(yùn)動(dòng)鞋都具有這方面的功能。如“心潮減壓”應(yīng)用運(yùn)用PPG是利用光電容積描記(PPG)技術(shù)[20]進(jìn)行人體運(yùn)動(dòng)心率的監(jiān)測,能監(jiān)測出心率、呼吸和心率變異性(HRV)等重要參數(shù)的值,能達(dá)到96%以上的監(jiān)測準(zhǔn)確率。

    2.精神屬性數(shù)據(jù)。人的情緒、心理狀況和思想觀念在一定程度上是最難監(jiān)測的,但隨著物聯(lián)網(wǎng)和人工智能技術(shù)的發(fā)展,一些新媒體應(yīng)用平臺正在嘗試科學(xué)監(jiān)測個(gè)人的心理和情緒數(shù)據(jù)。例如,據(jù)“心潮科技”(www.psy-1.com/)官方介紹,“心潮減壓”是一款基于生物反饋和情緒計(jì)算的心理健康平臺,試圖通過手機(jī)攝像頭對面部毛細(xì)血管的細(xì)微顏色變化進(jìn)行捕捉與分析,實(shí)現(xiàn)瞬時(shí)心率與內(nèi)隱呼吸的監(jiān)測,在此基礎(chǔ)上幫助用戶抵抗緊張、焦慮、憤怒、抑郁、低落、疲憊、失眠、注意力不集中、效率低下等心理問題;其能開展科學(xué)的情緒分析:在情緒計(jì)算的基礎(chǔ)上,分析用戶的壓力協(xié)調(diào)系數(shù)、情緒狀態(tài)等;其能為用戶提供貼心的心理調(diào)節(jié)服務(wù):音樂、冥想、腦波、催眠、認(rèn)知療法、腹式呼吸、物理減壓、視覺放松。在此過程中,“心潮減壓”需要在云端多維度記錄和優(yōu)化用戶數(shù)據(jù),才能為用戶輸出最智能的心理調(diào)節(jié)方案。

    3.社會(huì)屬性特征數(shù)據(jù)。借助各類數(shù)字應(yīng)用平臺,個(gè)人的社會(huì)屬性特征正在被大規(guī)模地?cái)?shù)字化采集、存儲(chǔ)和分享。個(gè)人的社會(huì)屬性主要包括個(gè)人的現(xiàn)實(shí)身份數(shù)據(jù)、現(xiàn)實(shí)關(guān)系數(shù)據(jù)、在線身份數(shù)據(jù)和在線關(guān)系數(shù)據(jù)。具體而言,現(xiàn)實(shí)身份數(shù)據(jù)是指可界定和表征現(xiàn)實(shí)社會(huì)環(huán)境中“此人是誰”,數(shù)字化的形式主要體現(xiàn)為國家人口登記和戶籍管理系統(tǒng)中記錄的身份數(shù)據(jù),其數(shù)據(jù)項(xiàng)主要包括姓名、性別、身份證件號碼、工作單位、戶籍地址等。[21]現(xiàn)實(shí)關(guān)系數(shù)據(jù)是指可界定和表征現(xiàn)實(shí)社會(huì)中此人與他人之間的社會(huì)關(guān)系的數(shù)據(jù),主要包括同事關(guān)系、朋友關(guān)系、親戚關(guān)系、同學(xué)關(guān)系,其數(shù)字化的形式主要有手機(jī)通訊錄(根據(jù)手機(jī)通訊錄的分類管理功能,清晰地知曉他們與此人的社會(huì)關(guān)系)、通話記錄(根據(jù)通話記錄,可以獲知哪些人是此人緊密聯(lián)系、頻繁聯(lián)系的人士,也可獲知此人在什么時(shí)間段跟某個(gè)人進(jìn)行了密切的聯(lián)系)和短消息記錄(可分析出此人與其他人之間的具體溝通內(nèi)容)?,F(xiàn)實(shí)關(guān)系數(shù)據(jù)可集中彰顯一個(gè)人所擁有的社會(huì)資本和社會(huì)資源的狀況,在一定程度上是非常重要的個(gè)人隱私;在線身份數(shù)據(jù)主要是指可界定和表征虛擬社會(huì)中個(gè)人身份的數(shù)據(jù),數(shù)字化的形式主要包括各類新媒體應(yīng)用平臺中的登錄賬戶和密碼、在線支付的登錄賬戶和密碼、在線銀行的登錄賬戶和密碼,以及在線身份綁定的設(shè)備信息(設(shè)備標(biāo)識符、機(jī)型)、網(wǎng)絡(luò)信息(IP地址、MAC地址)等;在線關(guān)系數(shù)據(jù)主要是指可界定和表征虛擬社會(huì)中此用戶與其他用戶之間的各類關(guān)系,主要包括好友關(guān)系、社群關(guān)系(同在一個(gè)微信群)、協(xié)作關(guān)系(共同參與一個(gè)在線活動(dòng),如團(tuán)購活動(dòng)等)、傳播關(guān)系(轉(zhuǎn)發(fā)、評論或點(diǎn)贊了某用戶發(fā)布的信息內(nèi)容),數(shù)字化的數(shù)據(jù)形式主要有各類數(shù)字平臺中的好友關(guān)系數(shù)據(jù)、社群成員數(shù)據(jù)等。

    表征個(gè)人行為屬性特征的數(shù)據(jù)。表征個(gè)人行為屬性的數(shù)據(jù)主要包括兩個(gè)方面,一是現(xiàn)實(shí)社會(huì)行為的數(shù)字化記錄;二是個(gè)人作為網(wǎng)絡(luò)用戶的在線社會(huì)行為數(shù)據(jù)。當(dāng)然,隨著萬物互聯(lián)網(wǎng)的發(fā)展,現(xiàn)實(shí)空間和虛擬空間正在相互融合,個(gè)人的現(xiàn)實(shí)行為和在線行為的界限逐步模糊,越來越難以區(qū)分。

    在線社會(huì)行為數(shù)據(jù)包括個(gè)人在各類在線數(shù)字應(yīng)用平臺中的行為數(shù)據(jù)。萬物互聯(lián)時(shí)代,智能新媒體應(yīng)用模式主要包括人工智能+信息獲取應(yīng)用模式、人工智能+電子商務(wù)應(yīng)用模式、人工智能+交流互動(dòng)應(yīng)用模式、智能生活與娛樂應(yīng)用模式和智慧城市與智能政務(wù)應(yīng)用模式,相應(yīng)地個(gè)人的在線社會(huì)行為數(shù)據(jù)類型包括個(gè)人的信息獲取行為數(shù)據(jù)、商務(wù)行為數(shù)據(jù)、交流互動(dòng)行為數(shù)據(jù)、生活與娛樂行為數(shù)據(jù)、政務(wù)數(shù)據(jù)。

    其中,信息獲取行為數(shù)據(jù)主要包括個(gè)人的在線搜索行為記錄,各類在線新聞服務(wù)平臺中的瀏覽、評論、點(diǎn)贊、頂踩、投票數(shù)據(jù);在智慧課堂、慕課等在線學(xué)習(xí)平臺中的在線學(xué)習(xí)行為數(shù)據(jù),主要包括在線收看課程視頻的數(shù)據(jù),在線聽課狀態(tài)數(shù)據(jù),在線測驗(yàn)、在線作業(yè)和在線討論的數(shù)據(jù);在問答應(yīng)用、維客應(yīng)用中的提問記錄和回答問題的記錄;商務(wù)行為數(shù)據(jù)主要包括在C2C(Customer to Customer)電子商務(wù)、B2C(Business to Customer)電子商務(wù)、移動(dòng)定位商務(wù)和Ο2Ο(Online to Offline)電子商務(wù)平臺中的消費(fèi)行為數(shù)據(jù),包括購物記錄、支付記錄、物流記錄和評價(jià)數(shù)據(jù),涵蓋了人們衣食住行領(lǐng)域的行為數(shù)據(jù),詳細(xì)記錄了個(gè)人每天、每月、每年的社會(huì)行為軌跡,什么時(shí)間在什么地點(diǎn)打了什么車,去了哪兒辦了什么事情。

    智能生活與娛樂行為數(shù)據(jù)主要包括智能家居記錄的生活起居數(shù)據(jù)、智能攝像頭記錄的家庭生活場景數(shù)據(jù)、智能音箱記錄的家庭對話記錄,以及各類游戲應(yīng)用平臺中記錄的數(shù)據(jù)。家庭是構(gòu)成社會(huì)的最小單位,也是個(gè)人生活的“隱私空間”,家庭的數(shù)字化和智能化(智能家居)將產(chǎn)生大量的個(gè)人數(shù)據(jù)。如海爾智慧家庭智能體系下分為五大板塊:食聯(lián)生態(tài)、衣聯(lián)生態(tài)、全屋用水、全屋空氣、全屋安防。[22]在此過程中,用戶的飲食起居數(shù)據(jù)和身體數(shù)據(jù)被大量數(shù)字化采集。

    個(gè)人的政務(wù)數(shù)據(jù)主要是指各類政務(wù)應(yīng)用平臺中記錄的生育登記數(shù)據(jù)、婚姻登記數(shù)據(jù)、社會(huì)保障數(shù)據(jù)、不動(dòng)產(chǎn)登記數(shù)據(jù)、納稅登記數(shù)據(jù)、征信數(shù)據(jù)等。

    萬物互聯(lián)時(shí)代個(gè)人數(shù)據(jù)的云傳播機(jī)制

    個(gè)人數(shù)據(jù)在萬物互聯(lián)網(wǎng)中能形成一種云傳播機(jī)制。所謂云傳播是對人們通過“云”進(jìn)行信息傳播活動(dòng)的社會(huì)總過程的總體描述。[23]其中,“云”是可遠(yuǎn)程訪問、可擴(kuò)展和可測量的信息技術(shù)資源,是云傳播的技術(shù)生態(tài)環(huán)境。個(gè)人數(shù)據(jù)的云傳播的本質(zhì)是傳收主體借助“云”,通過遠(yuǎn)程訪問可擴(kuò)展和可測量的信息技術(shù)資源完成個(gè)人數(shù)據(jù)的傳播活動(dòng)。[24]萬物互聯(lián)網(wǎng)中,個(gè)人數(shù)據(jù)的云傳播系統(tǒng)涉及的要素主要包括云端、應(yīng)用端、邊緣端、終端,個(gè)人數(shù)據(jù)的云傳播現(xiàn)象可能發(fā)生在云端與云端之間,也可能發(fā)生在云端與終端之間、云端與應(yīng)用端、終端對終端、應(yīng)用端與應(yīng)用端之間。因此,個(gè)人數(shù)據(jù)的基本類型包括“云端對云端”(Cloud to Cloud, C2C),“云端對終端”(Cloud to Terminal, C2T),“云端對應(yīng)用”(Cloud to Application, C2A),“應(yīng)用對應(yīng)用”(Application to Application, A2A),“終端對終端”(Terminal to Terminal, T2T)的云傳播。[25]

    一是個(gè)人數(shù)據(jù)的C2C云傳播。C2C是不同云服務(wù)平臺之間相互調(diào)用“資源”的傳播現(xiàn)象,能實(shí)現(xiàn)云之間的連接。C2C需要“一對一”、“一對多”和“多對多”的云間通信協(xié)議和互操作標(biāo)準(zhǔn)來支持。[26]在實(shí)踐中,個(gè)人數(shù)據(jù)的C2C云傳播模式主要表現(xiàn)為個(gè)人數(shù)據(jù)在基礎(chǔ)設(shè)施服務(wù)(IaaS)、平臺服務(wù)(PaaS)、軟件服務(wù)(SaaS)、網(wǎng)絡(luò)服務(wù)(NaaS)、數(shù)據(jù)服務(wù)(DaaS)和人工智能服務(wù)(AaaS)等云服務(wù)之間的相互調(diào)用現(xiàn)象。

    二是個(gè)人數(shù)據(jù)的C2T云傳播。C2T主要表現(xiàn)為終端設(shè)備與云端之間的個(gè)人數(shù)據(jù)同步機(jī)制。目前,智能手機(jī)能實(shí)時(shí)存儲(chǔ)用戶當(dāng)前的個(gè)人數(shù)據(jù)。但用戶的智能手機(jī)不可能無限量地永久存儲(chǔ)不斷產(chǎn)生的所有數(shù)據(jù)。因此,多數(shù)智能終端設(shè)備提供商,如小米、OPPO等都為用戶提供了云存儲(chǔ)服務(wù),用戶只要開通了小米“賬戶”(i.mi.com)或OPPO“賬戶”(cloud.oppo.com),就可以將自己保存在智能手機(jī)等終端里的數(shù)據(jù)實(shí)時(shí)同步到云端。如用戶開啟了OPPO的云服務(wù)功能,就可以將相冊、聯(lián)系人、便簽、日歷、瀏覽器書簽與收藏、短信、通話記錄、系統(tǒng)設(shè)置、已安裝應(yīng)用列表、錄音等個(gè)人數(shù)據(jù)同步至云端備份。[27]

    三是個(gè)人數(shù)據(jù)的C2A云傳播。C2A主要表現(xiàn)為應(yīng)用程序與依托云平臺之間的個(gè)人數(shù)據(jù)存儲(chǔ)機(jī)制。在實(shí)際應(yīng)用中,已有海量的應(yīng)用程序基于第三方的云平臺建構(gòu)而成,這些應(yīng)用程序采集和處理的個(gè)人數(shù)據(jù)全部存儲(chǔ)在其依托的云平臺之上;同時(shí)應(yīng)用程序也可以使用云平臺自身積累的基礎(chǔ)個(gè)人數(shù)據(jù)。例如,第三方游戲開發(fā)者只要注冊騰訊服務(wù)平臺的開發(fā)者賬戶,創(chuàng)建其網(wǎng)絡(luò)游戲應(yīng)用,就可分享騰訊海量用戶及關(guān)系鏈。第三方開發(fā)者在微信開放平臺上,申請獲得“AppID”后,就可創(chuàng)建其移動(dòng)應(yīng)用,通過接入“微信分享和收藏功能”的應(yīng)用程序接口(WXMediaMessage)進(jìn)行二次開發(fā),能實(shí)現(xiàn)讓用戶從第三方應(yīng)用系統(tǒng)分享文字、圖片、音樂、視頻、網(wǎng)頁、小程序至微信好友會(huì)話、朋友圈或添加到微信收藏[28];通過接入微信“OAuth2.0”授權(quán)登錄系統(tǒng),可獲取微信用戶的基本開放信息,能實(shí)現(xiàn)讓用戶直接使用微信賬戶登錄其應(yīng)用系統(tǒng)。[29]例如,只有4個(gè)人的小程序團(tuán)隊(duì),從策劃到原型設(shè)計(jì)、前后端開發(fā),只用了一星期就發(fā)布“垃圾分類工具”小程序,能讓用戶實(shí)現(xiàn)“拍圖識別垃圾”,小程序上線僅20余天,訪問量已經(jīng)超過了10萬,用戶量超過了5萬。[30]

    四是個(gè)人數(shù)據(jù)的A2A云傳播。在萬物互聯(lián)網(wǎng)的體系結(jié)構(gòu)中,從各類終端感知和采集的個(gè)人數(shù)據(jù)最終主要匯集在各大應(yīng)用平臺。個(gè)人數(shù)據(jù)的A2A云傳播主要是指各類應(yīng)用平臺之間的個(gè)人數(shù)據(jù)開放、共享和使用。當(dāng)前,各類應(yīng)用平臺在盡可能全面地收集和存儲(chǔ)個(gè)人的自然屬性數(shù)據(jù)、精神屬性數(shù)據(jù)和社會(huì)屬性數(shù)據(jù)。如谷歌、百度等搜索引擎平臺能采集和匯集用戶的信息獲取行為數(shù)據(jù);臉書、微信等社交平臺能記錄和匯集用戶的交流互動(dòng)數(shù)據(jù);淘寶等電子商務(wù)平臺能匯集用戶的購物記錄、支付記錄等商務(wù)行為數(shù)據(jù),YouTube、優(yōu)酷、抖音等應(yīng)用能記錄和匯集用戶的生活與娛樂行為數(shù)據(jù)。具體而言,臉書公司旗下的Instagram和Messenger社交應(yīng)用平臺會(huì)收集用戶在使用該產(chǎn)品時(shí)提供的內(nèi)容、通信和其他信息,人際網(wǎng)絡(luò)和關(guān)系網(wǎng)絡(luò)數(shù)據(jù),使用行為數(shù)據(jù)(使用的功能;執(zhí)行的操作),用戶終端設(shè)備數(shù)據(jù)(設(shè)備屬性、設(shè)備操作、身份識別信息、Cookie數(shù)據(jù)),以及來自合作伙伴收集的用戶數(shù)據(jù)(包括用戶訪問的網(wǎng)站、所做的購買、觀看的廣告以及如何使用其服務(wù)有關(guān)的信息)。[31]為了進(jìn)一步挖掘和釋放海量個(gè)人數(shù)據(jù)的價(jià)值,這些平臺常常建立開放平臺,面向第三方應(yīng)用開發(fā)者開放部分個(gè)人數(shù)據(jù)的使用權(quán)限。例如,當(dāng)用戶選擇下載和使用接入臉書開放平臺的第三方應(yīng)用時(shí),該應(yīng)用就能訪問和使用用戶的部分個(gè)人數(shù)據(jù);臉書也會(huì)將用戶個(gè)人數(shù)據(jù)分享給使用臉書數(shù)據(jù)分析服務(wù)的企業(yè)用戶、廣告主、臉書平臺的供應(yīng)商等第三方合作伙伴。[32]

    五是個(gè)人數(shù)據(jù)的T2T云傳播。個(gè)人數(shù)據(jù)的T2T云傳播主要是指個(gè)人數(shù)據(jù)在智能手機(jī)、穿戴設(shè)備、傳感器等各類萬物互聯(lián)網(wǎng)終端之間的同步或互操作機(jī)制。如用戶一般通過調(diào)用位置、藍(lán)牙、通訊錄、短信、麥克風(fēng)和通話記錄等權(quán)限來管理穿戴設(shè)備。如用戶通過智能手機(jī)的“無線投屏”功能,能實(shí)現(xiàn)通過智能電視或筆記本電腦等“大屏”欣賞智能手機(jī)中存儲(chǔ)的照片或視頻。

    萬物互聯(lián)時(shí)代個(gè)人數(shù)據(jù)云傳播的安全隱患分析

    如前所述,在萬物互聯(lián)網(wǎng)中,智能終端平臺、云服務(wù)平臺和應(yīng)用平臺控制著個(gè)人數(shù)據(jù)的采集、存儲(chǔ)、共享和開放過程。智能終端是感知和采集個(gè)人數(shù)據(jù)的基本工具;云服務(wù)平臺是個(gè)人數(shù)據(jù)的存儲(chǔ)和管理平臺;應(yīng)用平臺是個(gè)人數(shù)據(jù)加工、處理、再生和使用平臺。如,用戶首先登陸某社交平臺提交了個(gè)人數(shù)據(jù),社交平臺開放接口給第三方企業(yè),如第三方游戲、音樂等應(yīng)用提供商,從而用戶個(gè)人數(shù)據(jù)流向各個(gè)第三方企業(yè),第三方企業(yè)的廣告商將獲得用戶數(shù)據(jù),并向用戶推送廣告。上述過程中,個(gè)人數(shù)據(jù)的擁有者幾乎失去了對其個(gè)人數(shù)據(jù)的控制權(quán),個(gè)人數(shù)據(jù)傳播的每個(gè)環(huán)節(jié)都存在諸多泄露和濫用的安全隱患,主要包括個(gè)人數(shù)據(jù)在萬物互聯(lián)終端的泄露隱患,個(gè)人數(shù)據(jù)在萬物互聯(lián)云端的泄露隱患,個(gè)人數(shù)據(jù)在萬物互聯(lián)應(yīng)用中的濫用隱患。

    個(gè)人數(shù)據(jù)在萬物互聯(lián)終端的泄露隱患。萬物互聯(lián)網(wǎng)絡(luò)的終端設(shè)備處于萬物互聯(lián)網(wǎng)絡(luò)的感知層,既包括各類計(jì)算機(jī)、服務(wù)器和智能手機(jī)等具有豐富資源的互聯(lián)網(wǎng)和移動(dòng)互聯(lián)網(wǎng)終端,也包括僅具有限資源的監(jiān)控?cái)z像機(jī)、傳感器(或無線傳感器網(wǎng)絡(luò)節(jié)點(diǎn))、射頻卡(RFID)等物聯(lián)網(wǎng)終端?;ヂ?lián)網(wǎng)和移動(dòng)互聯(lián)網(wǎng)終端也有明顯的安全隱患。但相對來說,萬物互聯(lián)環(huán)境下,僅具有有限資源(計(jì)算資源和存儲(chǔ)資源)的事物將成為個(gè)人數(shù)據(jù)泄露的更大風(fēng)險(xiǎn)源,物聯(lián)網(wǎng)設(shè)備可能具有非物聯(lián)網(wǎng)設(shè)備中不存在的漏洞。[33]一是這些僅具有有限資源的事物,難以部署較為高級的安全保障機(jī)制(如復(fù)雜的加密算法)[34],不僅可以被所有者連接,還可能被攻擊者攔截。[35]在這種情況下,這些事物極易被入侵者進(jìn)行“重新編程”,以便讓它將數(shù)據(jù)發(fā)送到入侵者的數(shù)據(jù)庫服務(wù)器。[36]攻擊者可獲得對計(jì)算設(shè)備的訪問和控制,可能會(huì)操縱或提取數(shù)據(jù)、控制或中斷服務(wù)。[37]二是這些事物一般都存在于開放的、不可信的、不受監(jiān)控的物理環(huán)境中,如交通控制攝像頭、環(huán)境傳感器等都是暴露在外面的,這種情況下,事物本身可能被人為損毀。[38]如人們常??吹健肮蚕韱诬嚒北浑S意丟棄到路邊,并沒有放置到指定的停放位置。三是物聯(lián)網(wǎng)終端設(shè)備的所有者一般主要依靠無線網(wǎng)絡(luò)對其進(jìn)行遠(yuǎn)程控制,一旦信號受到干擾,將會(huì)“失聯(lián)”或“失控”。

    在萬物互聯(lián)時(shí)代,與個(gè)人緊密相關(guān)的家庭數(shù)據(jù)被全面采集,如海爾的智能家居系統(tǒng)中,智能用水、智能空調(diào)和智慧安防服務(wù),能借助智能終端實(shí)現(xiàn)對家庭中水、電、氣的遠(yuǎn)程控制;其他一些智能家居產(chǎn)品,如“Belkin”和“WeMo”能使得用戶遠(yuǎn)程控制電燈,開關(guān)門窗和百葉窗等設(shè)施。[39]個(gè)人數(shù)據(jù)在終端與終端之間,終端與云端之間傳遞的過程中,也常常受到攻擊。例如,目前在市場上的許多傳感器都可以跟蹤患者的重要信息,然后將數(shù)據(jù)直接傳送到云端(網(wǎng)絡(luò))或某移動(dòng)設(shè)備,這樣醫(yī)療保健專業(yè)人員可以實(shí)時(shí)觀察患者的健康狀況并提供適當(dāng)?shù)闹委?。但在此傳送過程中,攻擊者可以進(jìn)行攔截、捕獲和修改個(gè)人數(shù)據(jù)。[40]

    個(gè)人數(shù)據(jù)在萬物互聯(lián)云端的泄露隱患。個(gè)人數(shù)據(jù)經(jīng)過終端設(shè)備中傳感器等系統(tǒng)的采集,再經(jīng)過復(fù)雜的網(wǎng)絡(luò)傳送,最終會(huì)集中存放到物聯(lián)網(wǎng)服務(wù)提供商的服務(wù)器或?qū)I(yè)云服務(wù)提供商的服務(wù)器中。雖然,云端的安全基礎(chǔ)設(shè)施一般較為完備,但云平臺泄露個(gè)人數(shù)據(jù)的事件也常有發(fā)生。一是云平臺被攻擊導(dǎo)致個(gè)人數(shù)據(jù)泄露。例如,用于評估健康狀況(如睡眠障礙、異常心律等)的可穿戴設(shè)備服務(wù)提供商“Fitbit”的數(shù)據(jù)庫在2018年1月遭到黑客入侵,超過2500萬用戶的個(gè)人隱私被暴露無遺;2018年1月,專注于自行車運(yùn)動(dòng)的美國健身追蹤軟件“Strava”意外泄露美國軍方機(jī)密,包括遍布世界各地的美國軍事基地以及間諜前哨的位置及人員配置信息。[41]二是云平臺將個(gè)人數(shù)據(jù)向第三方開放,也易導(dǎo)致個(gè)人數(shù)據(jù)泄露。例如“CloudPets”是一家生產(chǎn)智能玩具的企業(yè),其借助智能終端收集了用戶的大量個(gè)人數(shù)據(jù),又在沒有采取任何安全措施的情況下將個(gè)人數(shù)據(jù)外包給了另外一家公司,最終導(dǎo)致了超過200萬名兒童的語音信息,以及超過80萬電子郵件的賬號和密碼遭泄露。[42]

    個(gè)人數(shù)據(jù)在萬物互聯(lián)應(yīng)用中的濫用隱患。依據(jù)上述分析,各類感應(yīng)器獲得的個(gè)人數(shù)據(jù),能詳細(xì)描述用戶的私人生活。目前,基于這些海量的個(gè)人數(shù)據(jù),已經(jīng)涌現(xiàn)出了各式各樣的智能新媒體應(yīng)用,正在進(jìn)一步共享、使用和挖掘這些個(gè)人數(shù)據(jù)。智能新媒體應(yīng)用根據(jù)這些個(gè)人數(shù)據(jù),可以全面了解一個(gè)人的健康狀況和財(cái)務(wù)狀況,可以挖掘用戶的行為習(xí)慣;還可以檢測和揭示人們例行程序的變化以及異常行為的顯示。[43]如臉書會(huì)根據(jù)從用戶和第三方收集的數(shù)據(jù),用戶在其平臺中的互動(dòng)情況,以及與用戶建立聯(lián)系的其他用戶、地點(diǎn)和事物,來分析和建立用戶的關(guān)系網(wǎng)絡(luò)、偏好、興趣和活動(dòng),以此為用戶定制其在“Facebook”和“Instagram”中的使用體驗(yàn)。一旦用戶的身份被盜用,侵入者可能會(huì)控制與個(gè)人身份關(guān)聯(lián)的各類終端設(shè)備,將對個(gè)人帶來難以預(yù)測的嚴(yán)重后果。具體而言,個(gè)人數(shù)據(jù)在萬物互聯(lián)應(yīng)用中的濫用隱患主要有三個(gè)方面。

    一是應(yīng)用平臺濫用其采集的個(gè)人數(shù)據(jù)。超級應(yīng)用平臺能聚集海量個(gè)人數(shù)據(jù)。特別是在萬物互聯(lián)網(wǎng)時(shí)代,超級應(yīng)用平臺也常常違背承諾,未能嚴(yán)格按照個(gè)人用戶的許可和授權(quán)使用其獲取的個(gè)人數(shù)據(jù),濫用個(gè)人數(shù)據(jù)的事件時(shí)有發(fā)生,已經(jīng)對個(gè)人數(shù)據(jù)的安全產(chǎn)生直接威脅。盡管多數(shù)應(yīng)用平臺聲稱其不會(huì)在未經(jīng)用戶同意的情況下,將平臺收集的個(gè)人數(shù)據(jù)用于商業(yè)目的。例如,基于面部識別的身份認(rèn)證服務(wù)平臺(Facefirst)能為用戶提供面部表情服務(wù)(通過使客戶能夠使用其面部身份為商品或服務(wù)付款來縮短排隊(duì)時(shí)間)、年齡和身份證明服務(wù)(告知客戶每次進(jìn)入場館或購買有年齡限制的產(chǎn)品時(shí)都顯示其ID)和店內(nèi)取貨服務(wù)(通過將面部識別添加為身份驗(yàn)證的主要形式或次要形式來防止身份欺詐),能實(shí)現(xiàn)在信息亭、自動(dòng)取款機(jī)、在線應(yīng)用程序中更快、更安全的交易。[44]但這一過程極其復(fù)雜,用戶個(gè)人本身難以知曉應(yīng)用平臺將如何使用其采集的個(gè)人數(shù)據(jù)。目前,基于大數(shù)據(jù)分析的商業(yè)廣告推送模式被證明是最有效的方式,也在實(shí)踐中被大量使用,如臉書允許十幾家公司在未經(jīng)同意的情況下廣泛訪問其22億用戶的個(gè)人數(shù)據(jù),包括私人信息、姓名和朋友的聯(lián)系信息。[45]

    二是應(yīng)用平臺向第三方開放的個(gè)人數(shù)據(jù)被濫用。在萬物互聯(lián)網(wǎng)中,應(yīng)用平臺服務(wù)商借助開放平臺向第三方開放個(gè)人數(shù)據(jù)已經(jīng)成為應(yīng)用平臺保持發(fā)展優(yōu)勢和盈利的重要模式。應(yīng)用平臺服務(wù)商能為第三方提供豐富的接口,任何注冊、申請并通過審核的第三方開發(fā)者都能通過開放平臺實(shí)現(xiàn)自身產(chǎn)品或服務(wù)的相關(guān)功能,而在此過程中,第三方也能在用戶授權(quán)基礎(chǔ)上獲得用戶的部分個(gè)人數(shù)據(jù),比如獲得公開信息(昵稱、性別、頭像、國家、省份、城市等)、地理位置、尋找共同使用該應(yīng)用的好友等,而這些個(gè)人數(shù)據(jù)將如何被第三方使用甚至繼續(xù)流動(dòng),除了明示的規(guī)范要求,平臺服務(wù)商并沒有實(shí)施有力的監(jiān)管措施。一方面,開放平臺將許多應(yīng)用連接在了一起,任何一級的傳播都可能導(dǎo)致用戶個(gè)人數(shù)據(jù)泄露;另一方面,開放平臺為平臺服務(wù)商聚合了更多的用戶個(gè)人數(shù)據(jù),從而形成幾大平臺寡頭數(shù)據(jù)壟斷、割據(jù)的格局,任何一個(gè)平臺寡頭的個(gè)人數(shù)據(jù)被竊取或泄露,都將帶來巨大的災(zāi)難。目前,大型平臺如臉書、微信等聚集了大量用戶數(shù)據(jù),而用戶根本不知道他們的數(shù)據(jù)被平臺開放給了誰、被用來做什么,這種極其不平等的數(shù)據(jù)權(quán)力地位造成了結(jié)構(gòu)性風(fēng)險(xiǎn)。如劍橋大學(xué)的一位講師創(chuàng)造了一個(gè)名為“這就是你的數(shù)字生活”的應(yīng)用,該應(yīng)用表面上能為用戶提供個(gè)性預(yù)測,也能為心理學(xué)家提供研究工具:該應(yīng)用要求用戶使用其臉書帳戶登錄;作為登錄過程的一部分,它要求訪問用戶的臉書個(gè)人資料、位置,他們在該服務(wù)上喜歡的東西,尤其是他們朋友的數(shù)據(jù);這款應(yīng)用未經(jīng)用戶許可,將用戶數(shù)據(jù)發(fā)送給了劍橋分析公司,該公司利用這些資料構(gòu)建了一個(gè)強(qiáng)大的軟件程序,來預(yù)測和影響選民的投票。[46]

    三是個(gè)人數(shù)據(jù)流向非法的“黑色”交易市場。無論從何種途徑泄露的個(gè)人數(shù)據(jù),最終都會(huì)匯集到非法的“黑色”交易市場,可能會(huì)對個(gè)人的隱私安全形成極大的威脅。目前,非法的“黑色”交易市場主要包括“暗網(wǎng)”平臺和“社工庫”平臺。當(dāng)前,致力于保護(hù)身份信息使其免遭破壞的人員和組織的“4iQ”平臺,在2018年發(fā)現(xiàn)了12499條真實(shí)的違規(guī)行為,在地下社區(qū)平臺上散布了149億條原始身份記錄;平臺團(tuán)隊(duì)在對數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化和清理之后,發(fā)現(xiàn)其中36億條身份記錄是新的和真實(shí)的。[47]

    萬物互聯(lián)時(shí)代個(gè)人數(shù)據(jù)的隱私保護(hù)機(jī)制

    在萬物互聯(lián)網(wǎng)時(shí)代,個(gè)人數(shù)據(jù)被各類設(shè)備提供商、平臺提供商和應(yīng)用服務(wù)商大規(guī)模地進(jìn)行存儲(chǔ)、共享、開放和使用,存在較大的泄露隱患和濫用隱患。但用戶自身卻失去了對其個(gè)人數(shù)據(jù)的控制權(quán),難以自主控制其傳播過程:哪些個(gè)人數(shù)據(jù)可以被收集,誰可以共享和開放其個(gè)人數(shù)據(jù),誰可以使用其個(gè)人數(shù)據(jù)。在一定程度上,這將嚴(yán)重威脅個(gè)人的隱私安全。

    另外,已經(jīng)擁有部分個(gè)人數(shù)據(jù)的主體可能將這些數(shù)據(jù)再次共享或開放給第三方,第三方將如何利用這些個(gè)人數(shù)據(jù),個(gè)人數(shù)據(jù)的擁有者更加難以知曉。因此,我們認(rèn)為在萬物互聯(lián)網(wǎng)時(shí)代,個(gè)人數(shù)據(jù)的隱私保護(hù)機(jī)制需要兩方面著手。一方面,要盡可能地讓個(gè)人數(shù)據(jù)的控制權(quán)由個(gè)人掌控,需要建立基于邊緣計(jì)算的個(gè)人數(shù)據(jù)控制機(jī)制;另一方面,要盡可能地讓個(gè)人自身管理其數(shù)據(jù)的流向,建立云端個(gè)人數(shù)據(jù)開放和使用的監(jiān)管機(jī)制。

    基于邊緣計(jì)算的個(gè)人數(shù)據(jù)的所有者控制機(jī)制?;谠朴?jì)算的萬物互聯(lián)架構(gòu),將萬事萬物生成的海量數(shù)據(jù)上傳到云端,形成了若干超級的數(shù)據(jù)平臺。云計(jì)算中心一般都具有強(qiáng)大的安全基礎(chǔ)設(shè)施和可靠的安全防護(hù)機(jī)制。但這種模式能讓各類數(shù)字平臺完全掌握個(gè)人數(shù)據(jù),使得用戶失去了其個(gè)人數(shù)據(jù)的控制權(quán)。因此,如何將控制權(quán)還給用戶是建立隱私保護(hù)機(jī)制的關(guān)鍵。邊緣計(jì)算是建立隱私保護(hù)機(jī)制的重要方法之一。邊緣計(jì)算是指在網(wǎng)絡(luò)邊緣執(zhí)行計(jì)算的一種新型計(jì)算模型:邊緣計(jì)算中邊緣的下行數(shù)據(jù)表示云服務(wù),上行數(shù)據(jù)表示萬物互聯(lián)服務(wù);邊緣計(jì)算的邊緣是指從數(shù)據(jù)源到云計(jì)算中心路徑之間的任意計(jì)算和網(wǎng)絡(luò)資源。[48]這種情況下,終端數(shù)字設(shè)備不僅負(fù)責(zé)與云端的雙向數(shù)據(jù)傳輸,還可以完成部分緊急的計(jì)算任務(wù)。

    未來,“數(shù)字個(gè)人”的邊緣計(jì)算或霧計(jì)算架構(gòu)是萬物互聯(lián)時(shí)代個(gè)人數(shù)據(jù)保護(hù)的有效機(jī)制?!皵?shù)字個(gè)人”的霧計(jì)算主要包括設(shè)備層、霧層和云層:設(shè)備層是由包括傳感器和智能設(shè)備在內(nèi)的多種設(shè)備組成,負(fù)責(zé)感知物理對象并將個(gè)人數(shù)據(jù)發(fā)送到上層進(jìn)行處理和存儲(chǔ);霧層位于網(wǎng)絡(luò)邊緣,包含路由器、網(wǎng)關(guān)、接入點(diǎn)和基站等霧節(jié)點(diǎn),負(fù)責(zé)執(zhí)行諸如調(diào)度,存儲(chǔ)和管理分布式計(jì)算之類的任務(wù);云層負(fù)責(zé)數(shù)據(jù)的永久存儲(chǔ)和廣泛的計(jì)算分析。[49]在這種架構(gòu)中,無須將全部個(gè)人數(shù)據(jù)實(shí)時(shí)上傳至云端,這在一定程度上能讓用戶自主掌控自己的個(gè)人數(shù)據(jù),在源頭上減少個(gè)人數(shù)據(jù)泄露和濫用的風(fēng)險(xiǎn)。

    建立云端個(gè)人數(shù)據(jù)開放和使用的監(jiān)管機(jī)制。盡管我們倡導(dǎo)將個(gè)人數(shù)據(jù)盡可能地在本地或邊緣端存儲(chǔ),但在實(shí)際中各類數(shù)字平臺在經(jīng)個(gè)人用戶許可或未經(jīng)個(gè)人用戶許可的情況下,都會(huì)爭相采集、存儲(chǔ)和使用大規(guī)模的個(gè)人數(shù)據(jù)。若完全禁止數(shù)字平臺將個(gè)人數(shù)據(jù)上傳到云端,也會(huì)使得數(shù)字平臺難以為用戶提供更好的個(gè)性化、智能化的服務(wù)。因此,最關(guān)鍵的是建構(gòu)云端個(gè)人數(shù)據(jù)開放和使用的監(jiān)管機(jī)制。這個(gè)監(jiān)管機(jī)制主要包括個(gè)人、第三方和政府三個(gè)層面。

    首先,需要建立面向個(gè)人的數(shù)據(jù)開放和使用的授權(quán)和透明機(jī)制。在實(shí)際應(yīng)用中,個(gè)人用戶較難掌握其個(gè)人數(shù)據(jù)被采集、共享、開放和使用的真實(shí)情況。因此,我們必須建立面向個(gè)人的數(shù)據(jù)開放和使用的授權(quán)和透明機(jī)制,其具體內(nèi)容包括兩個(gè)方面。一方面,數(shù)字平臺采集個(gè)人數(shù)據(jù)的授權(quán)機(jī)制:數(shù)字平臺只能根據(jù)用戶使用其服務(wù)的實(shí)際需求,逐項(xiàng)獲得單一數(shù)據(jù)項(xiàng)的授權(quán),不能強(qiáng)制用戶一次性整體授權(quán)。另一方面,個(gè)人數(shù)據(jù)開放和使用的透明機(jī)制:數(shù)字平臺在用戶授權(quán)之前,清楚告知用戶其數(shù)字平臺內(nèi)部如何使用個(gè)人數(shù)據(jù),向外部開放了哪些數(shù)據(jù),哪些第三方平臺獲得了這些數(shù)據(jù);這些第三方平臺使用這些數(shù)據(jù)干了什么。如我們可開發(fā)一個(gè)個(gè)人數(shù)據(jù)存儲(chǔ)的框架,使用戶能夠完全透明地控制其數(shù)據(jù)的利用。[50]

    其次,需要建立云端個(gè)人數(shù)據(jù)開放和使用的第三方監(jiān)管機(jī)制。云端個(gè)人數(shù)據(jù)開放和使用過程最終會(huì)形成巨復(fù)雜的生態(tài),專業(yè)的第三方機(jī)構(gòu)能夠跟蹤和識別“個(gè)人數(shù)據(jù)開放給了誰,被用來做什么”,對各類數(shù)據(jù)平臺存儲(chǔ)、開放和使用個(gè)人數(shù)據(jù)的真實(shí)情況進(jìn)行監(jiān)督。根據(jù)《歐洲通用數(shù)據(jù)保護(hù)條例(GDPR)》等隱私保護(hù)法,第三方專業(yè)機(jī)構(gòu)可以可驗(yàn)證數(shù)字平臺的技術(shù)設(shè)計(jì)是否符合條例的具體規(guī)定。[51]

    最后,需要建立云端個(gè)人數(shù)據(jù)開放和使用的政府監(jiān)管機(jī)制。除了個(gè)人和第三方專業(yè)機(jī)構(gòu)的監(jiān)督,云端個(gè)人數(shù)據(jù)開放和使用還需要建立政府監(jiān)管機(jī)制,確保各類數(shù)字平臺提供商按照隱私保護(hù)法進(jìn)行運(yùn)營管理。政府公共部門可以采納第三方專業(yè)機(jī)構(gòu)的評估和檢驗(yàn)結(jié)果,對違規(guī)開放和使用個(gè)人數(shù)據(jù)的行為依法進(jìn)行懲治。

    (本文系國家自然科學(xué)基金面上項(xiàng)目和華中科技大學(xué)學(xué)術(shù)前沿青年團(tuán)隊(duì)資助項(xiàng)目的研究成果,項(xiàng)目編號分別為:71974060,2018QYTD09)

    注釋

    [1]Maras, M.-H., "Internet of Things: Security and Privacy Implications", International Data Privacy Law, 2015, 5(2), pp. 99-104.

    [2]李衛(wèi)東:《萬物互聯(lián)網(wǎng)的內(nèi)涵、要素和構(gòu)成》,《人民論壇·學(xué)術(shù)前沿》,2020年第6期,第40~45頁。

    [3]Martino, B. D. et al., Internet of Everything: Algorithms, Methodologies, Technologies and Perspectives (Internet of Things), 2017, pp. 1-3.

    [4]程嘯:《論大數(shù)據(jù)時(shí)代的個(gè)人數(shù)據(jù)權(quán)利》,《中國社會(huì)科學(xué)》,2018年第3期。

    [5]《智能機(jī)器人三大關(guān)鍵技術(shù)詳解》,搜狐網(wǎng),2019年5月29日,http://www.sohu.com/a/118294423_468626。

    [6]Dhruva, S. et al., "Aggregating Multiple Real-World Data Sources Using a Patient-Centered Health-Data-Sharing Platform", NPJ Digital Medicine, 2020, 3, https://doi.org/10.1038/s41746-020-0265-z.

    [7]Sundar, S., "Rise of Machine Agency: A Framework for Studying the Psychology of Human–AI Interaction (HAII)", Journal of Computer-Mediated Communication, 2020, 25, pp. 74–88.

    [8]Levine, D. M., "Design and Testing of a Mobile Health Application Rating Tool", NPJ Digital Medicine, 2020, 3, https://doi.org/10.1038/s41746-020-0268-9.

    [9]W. Nicholson Price II; I. Glenn Cohen, "Privacy in the Age of Medical Big Data", Nature Medicine, 2019, 25, pp. 37–43.

    [10]Bonomi, L.; Huang, Y. X.; Ohno-Machado, L., "Privacy Challenges and Research Opportunities for Genomic Data Sharing", Nature Genetics, 2020, 52, pp. 646–654.

    [11]Elmaghraby, A. S.; Losavio, M., "Cyber Security Challenges in Smart Cities: Safety, Security and Privacy", Journal of Advanced Research, 2014, 5, 4, pp. 491–497.

    [12]Habibzadeh, H. et al., A Survey on Cybersecurity, Data Privacy, and Policy Issues in Cyber-Physical System Deployments in Smart Cities, Sustainable Cities and Society, 2019, p. 101660, https://doi.org/10.1016/j.scs.

    [13]Maras, M. -H., "Internet of Things: Security and Privacy Implications", International Data Privacy Law, 2015, 5(2), pp. 99–104.

    [14][15][17]Li, Y. B.; Dai, W. Y.; Ming, Z. et al., "Privacy Protection for Preventing Data Over-Collection in Smart City", IEEE Transactions on Computers, 2016, 65(5), pp. 1339–1350.

    [16]Wiese, J.; Das, S.; Hong, J. I. et al., "Evolving the Ecosystem of Personal Behavioral Data", Human–Computer Interaction, 2017, 32(5–6), pp. 447–510.

    [18][19]NeuHub京東人工智能開放平臺,https://aidoc.jd.com。

    [20]光電容積描記(PPG)技術(shù)是一種紅外無損檢測技術(shù),它利用光電傳感器,能檢測經(jīng)過人體血液和組織吸收后的反射光強(qiáng)度的不同,描記出血管容積在心動(dòng)周期內(nèi)的變化,從得到的脈搏波形中計(jì)算出心率。

    [21]李衛(wèi)東:《政府信息資源傳播》,北京:科學(xué)出版社,2015年。

    [22]海爾智慧家庭官網(wǎng):《海爾U–home智慧家庭整體解決方案》,https://www.haier.com/smarthome/。

    [23][24]李衛(wèi)東:《云傳播時(shí)代:人類傳播與治理的云端化、平臺化、泛在化、社交化和智慧化變革》,北京:科學(xué)出版社,2018。

    [25]李衛(wèi)東:《云傳播的發(fā)展趨勢與時(shí)代機(jī)遇》,《新聞與寫作》,2020年第6期,第5~13頁。

    [26]Aazam, M.; Huh, E.–N., "Inter-Cloud Architecture and Media Cloud Storage Design Considerations", 2014 IEEE International Conference on Cloud Computing, 2014, 6, pp. 982–985.

    [27]《OPPO賬戶隱私申明》,https://muc.oppomobile.com/document/privacyPolicy/privacy_policy_zh-CN.html。

    [28]微信官網(wǎng):《微信分享及收藏功能》,https://developers.weixin.qq.com/doc/oplatform/Mobile_App/Access_Guide/Android.html。

    [29]微信官網(wǎng):《微信登錄功能》,https://developers.weixin.qq.com/doc/oplatform/Mobile_App/WeChat_Login/Development_Guide.html。

    [30]維新派:《是誰,在“死磕”垃圾分類?》,2019年7月1日,https://mp.weixin.qq.com/s?__biz=MjM5NjM4MDAxMg==&mid=2655082108&idx=1&sn=4d094bf6452ace26831709fd65e50dc2&scene=21#wechat_redirect。

    [31][32]Facebook, "Data Usage Policy", https://www.facebook.com/policy.php.

    [33]"Managing Risk for the Internet of Things: Executive Summary (A Report of the CSIS Strategic technologies Program)", Feb.17, 2016, https://www.csis.org/analysis/managing-risk-internet-things.

    [34]Iqbal, M. A.; Olaleye, O. G. and Bayoumi, M. A., "A Review on Internet of Things (IoT): Security and Privacy Requirements and the Solution Approaches", Global Journal of Computer Science and Technology: E Network, Web & Security, 2016, 16(7).

    [35]Mahmoud, R. et al., "Internet of Things (IoT) Security: Current Status, Challenges and Prospective Measures", The 10th International Conference for Internet Technology and Secured Transactions (ICITST–2015), pp. 336–341.

    [36]Kumar, J. S.; Patel, D. R., "A Survey on Internet of Things: Security and Privacy Issues", International Journal of Computer Applications (0975 –8887), 2014, 90(11), pp. 20–27.

    [37]"Managing Risk for the Internet of Things: Executive Summary (A Report of the CSIS Strategic technologies Program)", Feb.17, 2016, https://www.csis.org/analysis/managing-risk-internet-things.

    [38]Iqbal, M. A.; Olaleye, O. G. and Bayoumi, M. A., "A Review on Internet of Things (IoT): Security and Privacy Requirements and the Solution Approaches", Global Journal of Computer Science and Technology: E Network, Web & Security, 2016, 16(7).

    [39]Maras, M.-H., "Internet of Things: Security and Privacy Implications", International Data Privacy Law, 2015, 5(2), pp. 99–104.

    [40]Dang, L. M., "A Survey on Internet of Things and Cloud Computing for Healthcare", Electronics, 2019, 8, 768, pp. 1–49

    [41]《全球200多處機(jī)密區(qū)域遭泄露,美英俄法荷被一款手表坑了》,觀察網(wǎng),2018年7月11日,https://www.guancha.cn/internation/2018_07_11_463658_2.shtml。

    [42]《高科技人販子?智能玩具或有漏洞,當(dāng)心兒童隱私泄露,甚至被拐賣》,網(wǎng)易,http://dy.163.com/v2/article/detail/DOMM2SMS0526TKGE.html。

    [43]Maras, M.-H., "Internet of Things: Security and Privacy Implications", International Data Privacy Law, 2015, 5(2), pp. 99–104.

    [44]Facefirst, https://www.facefirst.com/solutions/surveillance-face-recognition/.

    [45]Youn, S., "Facebook Gave Netflix, Spotify, Amazon Access to User Messages, Friends' Data: Report", https://abcnews.go.com/Technology/facebook-gave-netflix-spotify-amazon-access-user-messages/story?id=59907238(2018).

    [46]Sherr, I., "The World's Biggest Social Network Is at the Center of an International Scandal Involving Voter Data, the 2016 US Presidential Election and Brexit",? Apr.18, 2018 https://www.cnet.com/news/facebook-cambridge-analytica-data-mining-and-trump-what-you-need-to-know.

    [47]4iQ, 4iQ Identity Breach Report 2019 "Identities in the Wild: The Long Tail of Small Breaches", https://4iq.com/2019-identity-breach-report/.

    [48]施巍松等:《邊緣計(jì)算:萬物互聯(lián)時(shí)代新型計(jì)算模型》,《計(jì)算機(jī)研究與發(fā)展》,2017年第5期。

    [49]Dang, L. M. et al., "A Survey on Internet of Things and Cloud Computing for Healthcare", Electronics, 2019, 8(7), 768, https://doi.org/10.3390/electronics8070768.

    [50]Vescovi, M.; Perentis, C. et al., My Data Store: Toward User Awareness and Control on Personal Data, Proceedings of the 2014 ACM International Joint Conference on Pervasive and Ubiquitous Computing: Adjunct Publication, pp. 179–182.

    [51]Antignac, T.; Scandariato, R. and Schneider, G., "A Privacy–Aware Conceptual Model for Handling Personal Data", International Symposium on Leveraging Applications of Formal Methods, 2016, Vol.9952, pp. 942–957.

    責(zé) 編/張 曉

    日本一本二区三区精品| 国产亚洲av片在线观看秒播厂 | 悠悠久久av| 精品熟女少妇av免费看| 欧美不卡视频在线免费观看| 亚洲精品自拍成人| av又黄又爽大尺度在线免费看 | 麻豆国产97在线/欧美| 国产成年人精品一区二区| 免费大片18禁| 成人无遮挡网站| 精品人妻熟女av久视频| 中文字幕精品亚洲无线码一区| 亚洲国产精品国产精品| 亚洲经典国产精华液单| 欧美日韩一区二区视频在线观看视频在线 | 久久草成人影院| 可以在线观看毛片的网站| 三级经典国产精品| 婷婷色综合大香蕉| 一夜夜www| 美女xxoo啪啪120秒动态图| www日本黄色视频网| 九九爱精品视频在线观看| 欧美色欧美亚洲另类二区| 晚上一个人看的免费电影| 久久久欧美国产精品| 插逼视频在线观看| 国产精品免费一区二区三区在线| 性插视频无遮挡在线免费观看| 麻豆乱淫一区二区| 国产伦精品一区二区三区四那| 亚洲成人av在线免费| 成人三级黄色视频| 我要搜黄色片| 麻豆av噜噜一区二区三区| 99热精品在线国产| 成人毛片60女人毛片免费| 日日撸夜夜添| 亚洲va在线va天堂va国产| 国产精品久久久久久久久免| www.av在线官网国产| 亚洲乱码一区二区免费版| 97超视频在线观看视频| 麻豆国产av国片精品| 亚洲天堂国产精品一区在线| 亚洲经典国产精华液单| 精品一区二区免费观看| 插阴视频在线观看视频| 国产精品麻豆人妻色哟哟久久 | 亚洲图色成人| 久久久久久久久久久免费av| 午夜a级毛片| 亚洲av第一区精品v没综合| 欧美丝袜亚洲另类| 91精品一卡2卡3卡4卡| 成人毛片60女人毛片免费| 亚洲av免费在线观看| 卡戴珊不雅视频在线播放| 成年免费大片在线观看| 欧美+日韩+精品| 91午夜精品亚洲一区二区三区| 久久中文看片网| av视频在线观看入口| 99热全是精品| 久久久久久久久久久丰满| 中文资源天堂在线| 深夜a级毛片| 黄色视频,在线免费观看| 欧美xxxx性猛交bbbb| 美女被艹到高潮喷水动态| 我的老师免费观看完整版| 久久久久久久久久黄片| 国产精品久久视频播放| 级片在线观看| 国内精品美女久久久久久| 久久久久久久久久黄片| 免费看美女性在线毛片视频| 99久国产av精品国产电影| 国产 一区 欧美 日韩| 国产老妇女一区| 色噜噜av男人的天堂激情| 国产高清有码在线观看视频| 精品久久久久久久久久久久久| 免费av不卡在线播放| 午夜a级毛片| 日韩av在线大香蕉| 乱码一卡2卡4卡精品| 在线观看免费视频日本深夜| 久久精品影院6| 国产精品一区www在线观看| av专区在线播放| 久久热精品热| 观看美女的网站| 99久国产av精品| 国产精品国产高清国产av| 色噜噜av男人的天堂激情| 99久久无色码亚洲精品果冻| 国产在线精品亚洲第一网站| 国产精品一区二区性色av| 国产国拍精品亚洲av在线观看| 精品一区二区三区视频在线| 国产午夜精品论理片| 亚洲国产精品sss在线观看| 一个人免费在线观看电影| 国产精品久久久久久久久免| 高清午夜精品一区二区三区 | 亚洲丝袜综合中文字幕| 中文欧美无线码| 综合色丁香网| 色尼玛亚洲综合影院| 国产黄片美女视频| 美女黄网站色视频| 久久人人爽人人片av| 国产成人一区二区在线| 久久精品久久久久久噜噜老黄 | 国内久久婷婷六月综合欲色啪| 国产老妇女一区| 亚洲国产欧美在线一区| 国产精品一二三区在线看| 久久久久免费精品人妻一区二区| www日本黄色视频网| 亚洲婷婷狠狠爱综合网| 观看免费一级毛片| 欧美又色又爽又黄视频| 男女视频在线观看网站免费| av在线老鸭窝| av在线观看视频网站免费| 日本爱情动作片www.在线观看| 男女视频在线观看网站免费| 99久久成人亚洲精品观看| 人体艺术视频欧美日本| 久久久久久久午夜电影| 国产v大片淫在线免费观看| 日本熟妇午夜| 热99在线观看视频| 最近手机中文字幕大全| 啦啦啦韩国在线观看视频| 一级黄色大片毛片| 国产真实伦视频高清在线观看| 久久精品久久久久久噜噜老黄 | 91久久精品国产一区二区三区| 一个人免费在线观看电影| 男人的好看免费观看在线视频| 国产精品久久视频播放| 嫩草影院新地址| 久久久久久伊人网av| 国产老妇女一区| 亚洲精品乱码久久久久久按摩| 欧美bdsm另类| 一夜夜www| 国产精品嫩草影院av在线观看| 亚洲成a人片在线一区二区| 天堂影院成人在线观看| 97人妻精品一区二区三区麻豆| 亚洲欧洲国产日韩| 国产黄色小视频在线观看| 一级毛片我不卡| 成年免费大片在线观看| 成人欧美大片| 身体一侧抽搐| 精品久久国产蜜桃| 亚洲av不卡在线观看| 三级经典国产精品| 高清日韩中文字幕在线| 亚洲精品色激情综合| 在线观看66精品国产| 欧美又色又爽又黄视频| 欧美日韩精品成人综合77777| 我要看日韩黄色一级片| 国产麻豆成人av免费视频| 国产视频内射| 精品久久久久久成人av| 91精品一卡2卡3卡4卡| 成人毛片a级毛片在线播放| 国产精品免费一区二区三区在线| 女人十人毛片免费观看3o分钟| 午夜激情欧美在线| 丝袜喷水一区| 日韩,欧美,国产一区二区三区 | 麻豆成人av视频| 国产成人精品久久久久久| 婷婷六月久久综合丁香| 丝袜美腿在线中文| 国产美女午夜福利| 国产高清三级在线| 在线观看66精品国产| 爱豆传媒免费全集在线观看| 欧美xxxx性猛交bbbb| 国产探花极品一区二区| 亚洲熟妇中文字幕五十中出| 久久人人爽人人片av| 91狼人影院| 男人舔女人下体高潮全视频| 乱系列少妇在线播放| 看片在线看免费视频| av天堂在线播放| 天美传媒精品一区二区| 亚洲人成网站高清观看| 成人三级黄色视频| 国产老妇伦熟女老妇高清| 午夜视频国产福利| 男人舔女人下体高潮全视频| 亚洲av免费高清在线观看| av专区在线播放| 村上凉子中文字幕在线| 一本久久精品| 亚洲国产日韩欧美精品在线观看| avwww免费| 日本一二三区视频观看| 国产午夜精品论理片| 久久精品夜夜夜夜夜久久蜜豆| 久久久久九九精品影院| 天堂av国产一区二区熟女人妻| 久久人人精品亚洲av| 成人午夜高清在线视频| 一本精品99久久精品77| 欧美日本亚洲视频在线播放| 99riav亚洲国产免费| 一级毛片aaaaaa免费看小| 欧美+亚洲+日韩+国产| 欧美性猛交╳xxx乱大交人| 校园春色视频在线观看| 亚洲成人久久性| 久久久精品94久久精品| 九九爱精品视频在线观看| 美女脱内裤让男人舔精品视频 | 国产中年淑女户外野战色| 熟妇人妻久久中文字幕3abv| 国产一区亚洲一区在线观看| 一本久久精品| 国产高清三级在线| 日本黄色视频三级网站网址| 久久久久久久久久黄片| 午夜福利在线观看吧| 老司机福利观看| 黄色配什么色好看| 欧美日韩在线观看h| 欧美性感艳星| 久久精品国产亚洲网站| 中文字幕av在线有码专区| 午夜福利高清视频| 又粗又硬又长又爽又黄的视频 | 欧美一级a爱片免费观看看| 女同久久另类99精品国产91| 日韩精品有码人妻一区| 亚洲欧美日韩卡通动漫| 亚洲美女搞黄在线观看| 欧美最新免费一区二区三区| 精品一区二区免费观看| 国产精品一区www在线观看| 大香蕉久久网| 欧美性猛交╳xxx乱大交人| 中文字幕人妻熟人妻熟丝袜美| 国语自产精品视频在线第100页| 国产精品一区二区三区四区久久| 桃色一区二区三区在线观看| 日韩一本色道免费dvd| 欧美成人a在线观看| 可以在线观看毛片的网站| 草草在线视频免费看| 三级毛片av免费| 国产亚洲精品久久久久久毛片| 一级二级三级毛片免费看| 精品久久久久久久久久免费视频| 国产 一区精品| 亚洲精品国产av成人精品| 欧美+日韩+精品| 亚洲精品粉嫩美女一区| 内地一区二区视频在线| 午夜福利在线观看免费完整高清在 | 久久久久久大精品| 桃色一区二区三区在线观看| 黄色配什么色好看| 欧美bdsm另类| 99九九线精品视频在线观看视频| 能在线免费观看的黄片| 日韩在线高清观看一区二区三区| 欧美日韩在线观看h| 免费搜索国产男女视频| 国产av一区在线观看免费| 精品一区二区三区人妻视频| 精品久久国产蜜桃| 麻豆av噜噜一区二区三区| 黄色一级大片看看| 精品一区二区免费观看| 一本一本综合久久| 亚洲人成网站在线观看播放| 日韩亚洲欧美综合| 久久人妻av系列| av.在线天堂| 亚洲内射少妇av| 中文字幕精品亚洲无线码一区| 日韩国内少妇激情av| 村上凉子中文字幕在线| 69av精品久久久久久| 99久久人妻综合| 色哟哟哟哟哟哟| 淫秽高清视频在线观看| 女的被弄到高潮叫床怎么办| 亚洲av二区三区四区| 中文精品一卡2卡3卡4更新| 午夜激情欧美在线| 亚洲在久久综合| 男人舔女人下体高潮全视频| 最后的刺客免费高清国语| 国产色婷婷99| 色5月婷婷丁香| 精品熟女少妇av免费看| 高清日韩中文字幕在线| 久久久久网色| 赤兔流量卡办理| 少妇人妻一区二区三区视频| 99久久无色码亚洲精品果冻| 一卡2卡三卡四卡精品乱码亚洲| 日韩精品青青久久久久久| 久久久色成人| 国产又黄又爽又无遮挡在线| 精品一区二区免费观看| 国内久久婷婷六月综合欲色啪| 3wmmmm亚洲av在线观看| 午夜福利成人在线免费观看| 少妇人妻一区二区三区视频| 国产单亲对白刺激| 日韩欧美精品v在线| 三级毛片av免费| 边亲边吃奶的免费视频| 国产老妇伦熟女老妇高清| 国产熟女欧美一区二区| 日本一二三区视频观看| 亚洲第一区二区三区不卡| 精品久久久久久久末码| 波野结衣二区三区在线| 亚洲五月天丁香| 天天一区二区日本电影三级| 日本av手机在线免费观看| 国产精品不卡视频一区二区| 听说在线观看完整版免费高清| 国产激情偷乱视频一区二区| 九色成人免费人妻av| 国产在线精品亚洲第一网站| 国产精品一及| 久久久久久久亚洲中文字幕| 亚州av有码| 老师上课跳d突然被开到最大视频| 欧美bdsm另类| 亚洲图色成人| 久久久久久伊人网av| 日本三级黄在线观看| 国产一区二区在线观看日韩| 欧美高清性xxxxhd video| 少妇被粗大猛烈的视频| 成年av动漫网址| av免费观看日本| 女人被狂操c到高潮| 国产亚洲5aaaaa淫片| 久久精品夜色国产| 此物有八面人人有两片| 日韩一区二区三区影片| 黄片无遮挡物在线观看| 晚上一个人看的免费电影| 亚洲精品日韩av片在线观看| 99久国产av精品| 哪个播放器可以免费观看大片| 少妇熟女欧美另类| 亚洲成人精品中文字幕电影| 久久草成人影院| 91av网一区二区| 久久草成人影院| 免费观看a级毛片全部| 91精品国产九色| 亚洲精品日韩av片在线观看| 欧美另类亚洲清纯唯美| www.色视频.com| 国产久久久一区二区三区| 国内揄拍国产精品人妻在线| av黄色大香蕉| 亚洲国产欧美在线一区| 成人午夜精彩视频在线观看| 亚洲精品国产成人久久av| 中文字幕av在线有码专区| a级毛片a级免费在线| 天堂av国产一区二区熟女人妻| 色哟哟·www| 国产伦精品一区二区三区四那| 国产一区二区在线av高清观看| 国产av麻豆久久久久久久| 国产精品国产三级国产av玫瑰| 老女人水多毛片| 日韩欧美三级三区| 可以在线观看毛片的网站| 亚洲国产欧美人成| 日韩成人伦理影院| 嫩草影院新地址| www.av在线官网国产| 免费人成视频x8x8入口观看| 免费av不卡在线播放| 日韩欧美精品免费久久| 亚洲欧美精品自产自拍| 在现免费观看毛片| 亚洲精品自拍成人| 久久精品国产99精品国产亚洲性色| 日本色播在线视频| 久久久久久久久久久丰满| 99热网站在线观看| 成人美女网站在线观看视频| 丰满乱子伦码专区| 搞女人的毛片| 日韩av在线大香蕉| 全区人妻精品视频| 麻豆成人午夜福利视频| 久久久午夜欧美精品| 美女高潮的动态| 美女大奶头视频| 国产v大片淫在线免费观看| 少妇丰满av| 亚洲国产精品国产精品| 国产成人精品婷婷| 久久亚洲国产成人精品v| 欧美性猛交╳xxx乱大交人| 内射极品少妇av片p| 嫩草影院新地址| 白带黄色成豆腐渣| 六月丁香七月| 日本熟妇午夜| 午夜亚洲福利在线播放| av天堂中文字幕网| 国产淫片久久久久久久久| 男女啪啪激烈高潮av片| 婷婷色av中文字幕| 九九久久精品国产亚洲av麻豆| 久久人妻av系列| 精品久久久久久久久av| 亚洲,欧美,日韩| av视频在线观看入口| 波野结衣二区三区在线| 久久久国产成人免费| 久久久午夜欧美精品| 中出人妻视频一区二区| 91麻豆精品激情在线观看国产| 国产色婷婷99| 18禁在线播放成人免费| 伦理电影大哥的女人| 99riav亚洲国产免费| 99久久久亚洲精品蜜臀av| 午夜激情欧美在线| 久久精品国产自在天天线| 日韩欧美国产在线观看| 九色成人免费人妻av| 亚洲成av人片在线播放无| 国产黄片视频在线免费观看| 精品不卡国产一区二区三区| 人妻少妇偷人精品九色| 精品人妻视频免费看| 成人亚洲精品av一区二区| 亚洲综合色惰| 午夜视频国产福利| 久久6这里有精品| 高清午夜精品一区二区三区 | 特级一级黄色大片| 久久精品综合一区二区三区| 久久精品综合一区二区三区| or卡值多少钱| 国产探花在线观看一区二区| 日韩三级伦理在线观看| 国产乱人偷精品视频| 一区福利在线观看| 一级av片app| 2021天堂中文幕一二区在线观| 久99久视频精品免费| 永久网站在线| 99久久精品国产国产毛片| 亚洲中文字幕日韩| 97热精品久久久久久| 一个人看的www免费观看视频| 欧美zozozo另类| 婷婷精品国产亚洲av| 97热精品久久久久久| 国产精品一区二区在线观看99 | 一进一出抽搐gif免费好疼| 久久精品久久久久久久性| 婷婷六月久久综合丁香| 久久这里有精品视频免费| 搡老妇女老女人老熟妇| 久久精品91蜜桃| 麻豆乱淫一区二区| 菩萨蛮人人尽说江南好唐韦庄 | 国产精品乱码一区二三区的特点| 日韩高清综合在线| 亚洲精品日韩在线中文字幕 | 长腿黑丝高跟| 内射极品少妇av片p| 国产成人影院久久av| 亚洲精品乱码久久久久久按摩| 成熟少妇高潮喷水视频| 久久人人爽人人爽人人片va| 精品少妇黑人巨大在线播放 | 国产大屁股一区二区在线视频| 国国产精品蜜臀av免费| 国内精品一区二区在线观看| 午夜福利视频1000在线观看| 久久久午夜欧美精品| 亚洲精品乱码久久久v下载方式| 波多野结衣高清作品| 成人永久免费在线观看视频| 久久久久九九精品影院| 久久99精品国语久久久| 久久久久久久久久久丰满| 国产一区二区亚洲精品在线观看| 天堂影院成人在线观看| 有码 亚洲区| 久久久久国产网址| 亚洲国产色片| 精品人妻视频免费看| 国产色爽女视频免费观看| 嫩草影院精品99| 一级黄色大片毛片| 免费在线观看成人毛片| 国产一区二区在线观看日韩| 青春草视频在线免费观看| 国产黄片视频在线免费观看| 三级国产精品欧美在线观看| 免费看日本二区| 黑人高潮一二区| 欧美人与善性xxx| 国产亚洲av嫩草精品影院| 国产三级在线视频| 日本一本二区三区精品| 国产黄色小视频在线观看| 天堂中文最新版在线下载 | 22中文网久久字幕| 蜜桃久久精品国产亚洲av| 国产精品三级大全| 黄色日韩在线| 少妇熟女欧美另类| 国产私拍福利视频在线观看| 国产成人一区二区在线| 国内精品宾馆在线| www日本黄色视频网| 免费观看精品视频网站| 丝袜美腿在线中文| 日韩一本色道免费dvd| 久久精品国产亚洲av天美| 一级毛片电影观看 | 在线观看av片永久免费下载| 国产91av在线免费观看| 久久久精品94久久精品| 欧美日韩综合久久久久久| 中文字幕精品亚洲无线码一区| 日韩制服骚丝袜av| 中国美白少妇内射xxxbb| 最近手机中文字幕大全| 亚洲国产精品sss在线观看| 午夜精品一区二区三区免费看| 日日干狠狠操夜夜爽| 男的添女的下面高潮视频| 九九爱精品视频在线观看| a级毛片免费高清观看在线播放| 国产黄片美女视频| 久久精品国产亚洲网站| 在线免费观看的www视频| 国产免费男女视频| 成人av在线播放网站| 久久这里只有精品中国| 亚洲人成网站在线观看播放| 性色avwww在线观看| 午夜福利在线在线| 男女那种视频在线观看| 亚洲七黄色美女视频| 日本免费一区二区三区高清不卡| 九九爱精品视频在线观看| 国产一区二区三区在线臀色熟女| 国产老妇女一区| 免费看av在线观看网站| 国产av不卡久久| 一个人看的www免费观看视频| 国产中年淑女户外野战色| 国产精品,欧美在线| 精品少妇黑人巨大在线播放 | 国产在线男女| 高清毛片免费观看视频网站| 97人妻精品一区二区三区麻豆| 成人欧美大片| 97热精品久久久久久| 日韩欧美精品v在线| 99精品在免费线老司机午夜| 亚洲婷婷狠狠爱综合网| 村上凉子中文字幕在线| 欧美潮喷喷水| 最后的刺客免费高清国语| 国产一区二区三区av在线 | 两个人视频免费观看高清| 精品人妻偷拍中文字幕| 中文字幕人妻熟人妻熟丝袜美| 一个人免费在线观看电影| ponron亚洲| 午夜久久久久精精品| 国产黄片视频在线免费观看| 亚洲激情五月婷婷啪啪| 久久久a久久爽久久v久久| 亚洲av熟女| 亚洲精品自拍成人| 久久久久久久亚洲中文字幕| 卡戴珊不雅视频在线播放| av在线观看视频网站免费| 免费观看精品视频网站| 中国美女看黄片| 国产 一区精品| 赤兔流量卡办理| 给我免费播放毛片高清在线观看| 久久精品久久久久久噜噜老黄 | 国产精品无大码| 免费一级毛片在线播放高清视频| 中国美女看黄片| 亚洲精品成人久久久久久|