• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于WoS的網(wǎng)絡(luò)隱私計(jì)量分析

    2017-11-09 10:14:34黃麗佳袁勤儉
    現(xiàn)代情報(bào) 2017年10期
    關(guān)鍵詞:共詞分析聚類分析

    黃麗佳+袁勤儉

    〔摘要〕通過(guò)對(duì)相關(guān)文獻(xiàn)的回顧,本文對(duì)國(guó)際網(wǎng)絡(luò)隱私研究進(jìn)行了計(jì)量分析,發(fā)現(xiàn)現(xiàn)有的研究主題集中在“基于移動(dòng)位置服務(wù)的隱私問(wèn)題研究”、“隱私保護(hù)算法研究”、“隱私保護(hù)技術(shù)研究”、“云計(jì)算的隱私安全研究”、“網(wǎng)絡(luò)隱私權(quán)限控制研究”、“社交網(wǎng)站和電子商務(wù)中的用戶隱私態(tài)度與行為研究”、“青少年敏感信息的隱私與安全保護(hù)研究”、“數(shù)據(jù)公開(kāi)共享策略與國(guó)家治理研究”8個(gè)方面。研究發(fā)現(xiàn)當(dāng)前研究中存在“利用數(shù)據(jù)縱向分析網(wǎng)絡(luò)隱私主題隨時(shí)間發(fā)展變化的研究較少”、“對(duì)于一些發(fā)展中國(guó)家的隱私問(wèn)題關(guān)注度較低”、“國(guó)家的治理與業(yè)界的隱私政策相對(duì)獨(dú)立缺乏聯(lián)系”等問(wèn)題,“大數(shù)據(jù)時(shí)代移動(dòng)信息和社交信息挖掘過(guò)程中的隱私問(wèn)題”、“在線醫(yī)療的隱私問(wèn)題”等是未來(lái)研究值得關(guān)注的領(lǐng)域。

    〔關(guān)鍵詞〕網(wǎng)絡(luò)隱私;隱私問(wèn)題研究;共詞分析;聚類分析

    DOI:10.3969j.issn.1008-0821.2017.10.020

    〔中圖分類號(hào)〕G203;G250252〔文獻(xiàn)標(biāo)識(shí)碼〕A〔文章編號(hào)〕1008-0821(2017)10-0114-08

    〔Abstract〕Through literature review,this paper quantitatively analyzed the domestic and foreign researches on Internet privacy,finding that the researches mainly focus on‘research on privacy of mobile location based services,‘research on privacy preserving algorithms,‘research on privacy preserving technologies,‘research on privacy of cloud computing,‘research on right control of Internet privacy,‘research on user privacy attitude and behaviors in social networks and e-commerce,‘research on the privacy and security of teenagerssensitive information,‘research on data sharing strategy and national governance.There were some problems in existing researches,such as‘researches using longitudinal data to analyze the dynamic evolution of the Internet privacy are limited,‘concerns about privacy issues in some developing countries are low,‘national governance is relatively independent of the industrys privacy policy and so on.‘privacy issues in the process of mobile information and social information mining in the era of big data,‘online medical privacy issues etc.were the important areas of future research.

    〔Key words〕internet privacy;research on privacy issues;co-word analysis;cluster analysis

    網(wǎng)絡(luò)的快速發(fā)展為人們提供了免費(fèi)的個(gè)性化服務(wù),方便信息的搜索查詢、在線購(gòu)物和社交等活動(dòng),大大提高了人們的生活水平與工作效率。同時(shí),個(gè)人在享受各種網(wǎng)絡(luò)服務(wù)時(shí)產(chǎn)生了大量的個(gè)人隱私數(shù)據(jù)并存儲(chǔ)在許多政府機(jī)關(guān)及商業(yè)性公司等網(wǎng)站的數(shù)據(jù)庫(kù)中,網(wǎng)絡(luò)傳播的廣泛快捷以及數(shù)據(jù)的易獲取性、易修改性、易破壞性,使得個(gè)人隱私數(shù)據(jù)被非法傳播、修改和濫用的危險(xiǎn)性大大提高[1]。為了保護(hù)用戶的隱私安全,互聯(lián)網(wǎng)公司紛紛出臺(tái)隱私保護(hù)政策,如Facebook在官網(wǎng)上明確的展示了“哪些信息將被收集、如何使用和分享這些信息以及如何應(yīng)對(duì)法律要求或預(yù)防傷害”等政策;致力于旅游服務(wù)的Airbnb也明確提出“不允許提供能識(shí)別房源地點(diǎn)的內(nèi)容,或任何可能為Airbnb社區(qū)成員的個(gè)人安全造成風(fēng)險(xiǎn)的其他內(nèi)容”。

    在業(yè)界加強(qiáng)個(gè)人網(wǎng)絡(luò)隱私保護(hù)的同時(shí),網(wǎng)絡(luò)隱私問(wèn)題也引起了學(xué)界的關(guān)注,發(fā)表了不少有關(guān)網(wǎng)絡(luò)隱私的研究論文。為了了解國(guó)際網(wǎng)絡(luò)隱私研究動(dòng)態(tài),國(guó)內(nèi)已有學(xué)者對(duì)網(wǎng)絡(luò)隱私的部分問(wèn)題進(jìn)行評(píng)述,有的學(xué)者從密碼學(xué)的角度綜述了隱私保護(hù)技術(shù)的研究進(jìn)展,針對(duì)大數(shù)據(jù)的存儲(chǔ)、搜索、計(jì)算分別闡述了研究背景與主要研究方向[2];還有學(xué)者基于內(nèi)容分析法從隱私關(guān)注和隱私行為兩個(gè)方面對(duì)已有研究成果進(jìn)行梳理,結(jié)果發(fā)現(xiàn)國(guó)外研究主要從信息差異、信任差異、個(gè)體差異和文化差異等方面探索影響隱私關(guān)注的相關(guān)因素,并且隱私披露行為、隱私計(jì)算行為和隱私悖論行為是國(guó)外學(xué)者研究最多的三類隱私行為[3];也有些學(xué)者梳理了電子商務(wù)領(lǐng)域中隱私關(guān)注的概念、量表、影響因素以及隱私關(guān)注對(duì)消費(fèi)者行為意向的影響等問(wèn)題[4]。

    由前述可知,目前國(guó)內(nèi)學(xué)者有關(guān)國(guó)際網(wǎng)絡(luò)隱私研究進(jìn)展的文獻(xiàn)主要存在2個(gè)問(wèn)題:一是國(guó)內(nèi)學(xué)者主要就隱私保護(hù)技術(shù)、隱私關(guān)注等方面的國(guó)際研究進(jìn)展進(jìn)行了評(píng)述,但是國(guó)際網(wǎng)絡(luò)隱私研究的范圍要更為廣泛。二是現(xiàn)有研究進(jìn)展文獻(xiàn)主要依據(jù)學(xué)者學(xué)術(shù)經(jīng)驗(yàn),依據(jù)學(xué)者自身對(duì)國(guó)際網(wǎng)絡(luò)隱私文獻(xiàn)的了解和掌握情況,先建立述評(píng)框架,然后再進(jìn)行評(píng)述;其特點(diǎn)是研究進(jìn)展文獻(xiàn)質(zhì)量高低完全取決于學(xué)者學(xué)術(shù)經(jīng)驗(yàn),主觀性較強(qiáng),且往往難以依據(jù)大量文獻(xiàn)進(jìn)行評(píng)述。采取信息計(jì)量方法,可以依據(jù)對(duì)大量文獻(xiàn)的客觀數(shù)據(jù)分析,從宏觀上把握某一領(lǐng)域的研究進(jìn)展。然而,在文獻(xiàn)調(diào)研中,我們未發(fā)現(xiàn)基于客觀數(shù)據(jù)的計(jì)量分析研究國(guó)際網(wǎng)絡(luò)隱私研究現(xiàn)狀的文獻(xiàn)。因此,為了幫助國(guó)內(nèi)學(xué)界從宏觀上把握國(guó)際上有關(guān)網(wǎng)絡(luò)隱私研究的現(xiàn)狀,本文擬選擇WoS包含的SCI、SSCI、A&HCI 3個(gè)數(shù)據(jù)庫(kù)所收錄的國(guó)際頂級(jí)期刊上有關(guān)網(wǎng)絡(luò)隱私的論文為研究對(duì)象,采用可視化計(jì)量分析方法,客觀地分析現(xiàn)有研究取得的成果、存在的不足以及未來(lái)值得關(guān)注的研究方向。endprint

    1數(shù)據(jù)來(lái)源與研究方法

    11數(shù)據(jù)來(lái)源

    本文選取的數(shù)據(jù)庫(kù)為Web of Science核心數(shù)據(jù)庫(kù)中的SCI、SSCI和A&HCI,以保證研究數(shù)據(jù)的質(zhì)量和權(quán)威性,檢索時(shí)間為2016年12月。為了盡可能獲取所有有關(guān)網(wǎng)絡(luò)隱私的文獻(xiàn),本文在“題名”中采用“(Internet priva*) OR (online priva*) OR (network* priva*) OR (comput* priva*) OR (website* priva*) OR (e-commerce priva*) OR (twitter priva*) OR (Facebook priva*)”作為檢索式。但是,在閱讀所抓取文獻(xiàn)的過(guò)程中,我們發(fā)現(xiàn)把少量的物聯(lián)網(wǎng)(internet of things)隱私方面的文獻(xiàn)也包括了進(jìn)來(lái),在閱讀這些文獻(xiàn)后發(fā)現(xiàn)它們主要涉及傳感設(shè)備等相關(guān)的隱私問(wèn)題,不屬于本文擬主要研究的互聯(lián)網(wǎng)移動(dòng)互聯(lián)網(wǎng)隱私問(wèn)題,因此剔除了物聯(lián)網(wǎng)隱私相關(guān)文獻(xiàn),剩余擬分析文獻(xiàn)為2 074篇。

    12研究方法

    本文采用計(jì)量分析方法,首先,將從WoS中獲取的2 074篇文獻(xiàn)通過(guò)TDA提取文章關(guān)鍵詞,在此基礎(chǔ)上進(jìn)行清洗,并選取詞頻在5及5以上的關(guān)鍵詞;其次,將共詞矩陣導(dǎo)入到NetDraw軟件,進(jìn)行共詞網(wǎng)絡(luò)的可視化分析,以便更加直觀的了解詞間關(guān)系(詳見(jiàn)圖1);最后,將共詞矩陣導(dǎo)入到SPSS軟件,進(jìn)行相關(guān)性分析后采用系統(tǒng)聚類方法,以便清晰地了解國(guó)際對(duì)于網(wǎng)絡(luò)隱私的研究重點(diǎn)領(lǐng)域與方向(詳見(jiàn)圖2a,2b,2c,2d)。

    2網(wǎng)絡(luò)隱私研究主題分析

    在社會(huì)網(wǎng)絡(luò)中privacy、security、privacy preservation、social networks、trust、Facebook、cloud computing相對(duì)點(diǎn)度中心度最高分別為6447、3046、1948、1623、1283、1252和1129。說(shuō)明在網(wǎng)絡(luò)隱私中社交網(wǎng)站隱私問(wèn)題、信任問(wèn)題與云計(jì)算中的隱私問(wèn)題受到極大的關(guān)注。在社會(huì)網(wǎng)絡(luò)分析中隱私與安全聯(lián)系最為密切,這是因?yàn)槎哂袠O大的相似之處。從IETF(Internet Engineering Task Force)早期公開(kāi)的文件中能夠看出隱私的提出晚于安全,將隱私的基本價(jià)值描述為交流安全,直到1972年(RFC109)隱私第一次出現(xiàn)在RFC實(shí)踐變化的描述中。REC6973(2013年)則詳細(xì)提出了互聯(lián)網(wǎng)隱私問(wèn)題并為識(shí)別隱私風(fēng)險(xiǎn)提供指導(dǎo)[5-6]。隱私和安全除了概念上的交叉關(guān)系,在技術(shù)上也有極大聯(lián)系,因?yàn)榧夹g(shù)上的安全能更好的實(shí)現(xiàn)系統(tǒng)安全,從而阻止系統(tǒng)受到外部攻擊以保護(hù)個(gè)人隱私,因此隱私和安全不是孤立的,而是相互聯(lián)系的,從發(fā)展趨勢(shì)看二者需要整合在一起進(jìn)行研究。location privacy的相對(duì)中間中心度較高為3877,說(shuō)明在網(wǎng)絡(luò)隱私中位置隱私很重要,并且很多研究都需要通過(guò)它進(jìn)行聯(lián)系。從整體來(lái)看點(diǎn)入度中心勢(shì)與點(diǎn)出度中心勢(shì)均為6074%,中間中心勢(shì)為3914%,數(shù)值較低說(shuō)明目前國(guó)際網(wǎng)絡(luò)隱私研究范圍廣泛,內(nèi)容豐富,這也在聚類結(jié)果有所體現(xiàn)。依據(jù)SPSS系統(tǒng)聚類結(jié)果發(fā)現(xiàn)國(guó)際網(wǎng)絡(luò)隱私研究主要集中在8類。

    第一類基于移動(dòng)位置服務(wù)的隱私問(wèn)題研究。此類研究主要集中在以下3個(gè)方面:1)移動(dòng)位置隱私保護(hù)技術(shù)研究。位置信息包含著用戶的身份、實(shí)際位置和傳輸路徑[7],目前大量的位置隱私保護(hù)技術(shù)從保護(hù)這3個(gè)關(guān)鍵要素出發(fā),例如基于網(wǎng)格的偽裝技術(shù),以模糊用戶的實(shí)際位置;自組織聚類技術(shù),用可信節(jié)點(diǎn)代替其他節(jié)點(diǎn)發(fā)出請(qǐng)求以隱藏各節(jié)點(diǎn)的位置;鄰居節(jié)點(diǎn)技術(shù),提供一種將目標(biāo)位置轉(zhuǎn)換成其他位置的方式,同時(shí)解決轉(zhuǎn)換空間的盲目查詢;匿名保護(hù)機(jī)制,降低身份認(rèn)證的隱私風(fēng)險(xiǎn)等[8];此外Myles等開(kāi)發(fā)了位于應(yīng)用系統(tǒng)和位置追蹤系統(tǒng)之間的中間設(shè)備LocServ2,他們認(rèn)為保護(hù)用戶位置隱私的第一步是要讓用戶知曉在使用服務(wù)時(shí)的位置信息需求,由其決定是否授權(quán)位置信息進(jìn)而使用服務(wù),此設(shè)備能夠很好地解決基于位置的服務(wù)系統(tǒng)需求與用戶對(duì)位置隱私控制需求之間的矛盾[9]。2)用戶的態(tài)度與行為研究。位置信息是用戶隱私的重要組成部分,在采取眾多技術(shù)手段保護(hù)用戶位置隱私的同時(shí),大量的研究也將視角轉(zhuǎn)向用戶對(duì)位置隱私的重視程度、用戶的態(tài)度與行為,如Furini等通過(guò)位置感知情境的方法來(lái)探究用戶的態(tài)度與行為,結(jié)果發(fā)現(xiàn)使用過(guò)位置感知應(yīng)用的用戶對(duì)于位置隱私擔(dān)憂較低,在經(jīng)過(guò)授權(quán)詢問(wèn)和有利可圖的情況下用戶愿意披露位置信息,男性認(rèn)為位置感知的情境服務(wù)更有趣,而女性則認(rèn)為是侵犯行為,這就需要根據(jù)用戶的意愿來(lái)創(chuàng)新位置情境服務(wù)[10]。3)移動(dòng)位置服務(wù)機(jī)制研究。例如,Reza等提出了一種用戶合作的方法,用戶通過(guò)移動(dòng)手機(jī),控制自己的環(huán)境信息,并且可直接為其他用戶提供位置信息,對(duì)于服務(wù)提供者來(lái)說(shuō)用戶的位置信息是隱藏的,主要起到平臺(tái)提供者的角色[11],這一方法的應(yīng)用大大提高了用戶的位置隱私安全。

    第二類隱私保護(hù)算法研究。此類研究主要集中在對(duì)差分隱私的探討,包括其實(shí)現(xiàn)技術(shù),合理性、可行性、可靠性等實(shí)際價(jià)值的探討以及在得到認(rèn)可后地廣泛應(yīng)用,如Dwork在文章中梳理了差分隱私的實(shí)現(xiàn)技術(shù)以及相應(yīng)的應(yīng)用程序,并指出差分隱私算法的3個(gè)具體任務(wù)和一般結(jié)果[12];McSherry等采用實(shí)證研究方法,從網(wǎng)絡(luò)數(shù)據(jù)庫(kù)中收集真實(shí)數(shù)據(jù)作為分析對(duì)象,結(jié)果驗(yàn)證了差分隱私能夠很好地解決統(tǒng)計(jì)分析的準(zhǔn)確性、可靠性與隱私信息保密性的矛盾,降低統(tǒng)計(jì)數(shù)據(jù)庫(kù)的使用風(fēng)險(xiǎn)[13];Lu等則將差分隱私技術(shù)運(yùn)用到互聯(lián)網(wǎng)商務(wù)的推薦系統(tǒng),與基于鄰域的技術(shù)和協(xié)同過(guò)濾技術(shù)融合,提出了一種新的協(xié)同過(guò)濾方法——分區(qū)概率鄰域選擇法,既可以保證用戶的隱私不受到攻擊,又能確保推薦的準(zhǔn)確性[14]。目前探討差分隱私保護(hù)在社交網(wǎng)絡(luò)領(lǐng)域的應(yīng)用,是一個(gè)重要的研究方向。此外,還有學(xué)者探討了保護(hù)隱私的其他算法,如Das等提出了一種基于分布式P2P數(shù)據(jù)聚合的可擴(kuò)展的、隱私保護(hù)的算法,有助于數(shù)據(jù)分析和數(shù)據(jù)挖掘[15];Kearns等提出了一種從圖片搜索方法演變而出的算法,通過(guò)在潛在目標(biāo)的優(yōu)先次序中注入噪聲來(lái)確保隱私保護(hù)[16]。endprint

    第三類隱私保護(hù)技術(shù)研究。此類研究主要集中在以下3個(gè)方面:1)隱私風(fēng)險(xiǎn)預(yù)測(cè)與預(yù)防技術(shù)。例如,Liu等針對(duì)社會(huì)網(wǎng)絡(luò)中的鏈接推理攻擊提出了一個(gè)敏感關(guān)系預(yù)測(cè)模型,它采用了一種新的譜系跟蹤機(jī)制,快速識(shí)別風(fēng)險(xiǎn)并有效切斷敏感關(guān)系的推理路徑[17];Joedi等針對(duì)網(wǎng)絡(luò)搜索引擎存在的隱私風(fēng)險(xiǎn)提出了一種預(yù)防技術(shù),將用戶的個(gè)人信息扭曲,允許用戶在不揭露有用的個(gè)人信息的情況下向搜索引擎發(fā)出請(qǐng)求,阻止搜索引擎獲取有效的用戶信息[18]。2)匿名與多樣性技術(shù)。在社會(huì)網(wǎng)絡(luò)隱私保護(hù)技術(shù)中k-anonymity技術(shù)一度受到關(guān)注,但是由于其沒(méi)有對(duì)敏感屬性做任何約束,攻擊者可以利用背景知識(shí)攻擊、再識(shí)別攻擊和一致性攻擊等方法來(lái)確認(rèn)敏感數(shù)據(jù)與個(gè)人的關(guān)系,導(dǎo)致隱私泄露,l-diversity技術(shù)則改進(jìn)了k-anonymity的一些不足。目前基于這兩種技術(shù)的研究較多,Chakraborty等就建立了一種基于社會(huì)網(wǎng)絡(luò)個(gè)人節(jié)點(diǎn)特征向量中心性的方法,通過(guò)在未加工數(shù)據(jù)中加入噪聲實(shí)現(xiàn)k-anonymity和l-diversity技術(shù)[19];Zhou等擴(kuò)展了傳統(tǒng)的k-anonymity和l-diversity技術(shù)以抵御社會(huì)網(wǎng)絡(luò)中的鄰域攻擊[20]。3)移動(dòng)網(wǎng)絡(luò)中的隱私保護(hù)技術(shù)。隨著智能手機(jī)的廣泛應(yīng)用,移動(dòng)網(wǎng)絡(luò)中的隱私安全問(wèn)題和隱私保護(hù)技術(shù)也引起了廣泛關(guān)注,Najaflou等從信任、隱私、安全3個(gè)方面系統(tǒng)地論述了移動(dòng)社交網(wǎng)絡(luò)中存在的安全挑戰(zhàn)以及技術(shù)策略[21];Zhang等應(yīng)用欺騙政策提出了一種新的技術(shù)FakeMask,將語(yǔ)境偽裝以保護(hù)用戶的隱私,F(xiàn)akeMask輸出的語(yǔ)境信息能夠被信任度較低的語(yǔ)境感知程序獲取或是被用來(lái)回應(yīng)這些程序的請(qǐng)求,而不泄露敏感信息[22]。隨著時(shí)代的進(jìn)步、科技的發(fā)展,隱私保護(hù)技術(shù)會(huì)呈現(xiàn)更多樣更先進(jìn)的發(fā)展趨勢(shì)。

    第四類云計(jì)算的隱私安全研究。此類研究主要集中在以下2個(gè)方面:1)隱私保護(hù)機(jī)制研究。云計(jì)算處在多疇環(huán)境中,每一個(gè)領(lǐng)域都有不同的隱私需求,Takabi等系統(tǒng)分析了云計(jì)算中的隱私問(wèn)題并提出了解決措施[23]。云服務(wù)提供者擁有大量的用戶信息,其權(quán)利的亂用會(huì)極大的侵害用戶的隱私,于是授權(quán)機(jī)制的建立顯得尤為重要,它能夠有效地管控服務(wù)提供者,保護(hù)用戶的隱私權(quán)利。例如,Chadwick等提出了一種授權(quán)策略,云服務(wù)提供商為用戶提供基礎(chǔ)服務(wù),而允許用戶自己定義隱私策略并實(shí)施保護(hù)措施以阻止未經(jīng)授權(quán)的獲取數(shù)據(jù)行為[24]。2)隱私保護(hù)技術(shù)的研究。是否使用云服務(wù)很大程度上取決于用戶的信任,而用戶對(duì)云服務(wù)提供商的信任程度直接依賴于它對(duì)即將出現(xiàn)的風(fēng)險(xiǎn)和安全隱患的解決能力,因此隱私保護(hù)技術(shù)非常重要,Pasupuleti等基于用戶自定義隱私策略的理念,設(shè)計(jì)了一種方法以保護(hù)云中的外包數(shù)據(jù),數(shù)據(jù)擁有者先為文件集合建立索引,同時(shí)加密索引和文件之后再將數(shù)據(jù)存儲(chǔ)在云端,當(dāng)用戶檢索文件時(shí),將生成的關(guān)鍵詞門板發(fā)送給云服務(wù)提供商,云服務(wù)提供商將請(qǐng)求與數(shù)據(jù)庫(kù)中的加密文件匹配,按照排名將一致性程度高的發(fā)送給用戶。他們采用概率公鑰加密算法加密數(shù)據(jù),并調(diào)用排名關(guān)鍵字搜索加密數(shù)據(jù)的方法,大大阻礙了云服務(wù)提供商對(duì)于用戶數(shù)據(jù)的亂用以及外部的攻擊行為[25];此外,Waqar等認(rèn)為可以充分利用云數(shù)據(jù)庫(kù)中的元數(shù)據(jù)來(lái)保護(hù)用戶的隱私信息從而提高用戶對(duì)云服務(wù)的信任,他們?cè)跀?shù)據(jù)庫(kù)架構(gòu)再設(shè)計(jì)和元數(shù)據(jù)動(dòng)態(tài)重建的基礎(chǔ)上提出了隱私保護(hù)的框架[26]。云計(jì)算要想更好的得以應(yīng)用就需要解決隱私安全問(wèn)題,在未來(lái)的研究中云計(jì)算隱私仍會(huì)得到不少關(guān)注。

    第五類網(wǎng)絡(luò)隱私權(quán)限控制研究。此類研究可分為以下3個(gè)方面:1)在線社交網(wǎng)站的權(quán)限控制研究。實(shí)體認(rèn)證和訪問(wèn)控制是實(shí)現(xiàn)隱私保護(hù)的兩個(gè)基本需求,認(rèn)證是使用的前提,只有經(jīng)過(guò)認(rèn)證的用戶才能進(jìn)入網(wǎng)絡(luò)或是系統(tǒng)享受服務(wù);訪問(wèn)控制即使用權(quán)限的控制,只有明確規(guī)定訪問(wèn)控制才能有效防止權(quán)限亂用、數(shù)據(jù)泄露、隱私侵犯等行為并且更好的實(shí)現(xiàn)問(wèn)責(zé)機(jī)制。Tan認(rèn)為訪問(wèn)控制需要滿足不可偽造性、相互認(rèn)證、有條件的匿名、不可鏈接性、問(wèn)責(zé)和可擴(kuò)展性,服務(wù)提供者、第三方公司和用戶作為主體相互合作相互制約[27]。隨著在線社交網(wǎng)站的廣泛應(yīng)用,用戶在發(fā)布信息的同時(shí)經(jīng)常泄露大量敏感信息,但是在很多情況下又無(wú)法實(shí)現(xiàn)合理有效地訪問(wèn)控制,為了解決這一問(wèn)題Imran-Daud等提出了一個(gè)動(dòng)態(tài)的、透明的和隱私驅(qū)動(dòng)的在線社交網(wǎng)站文本信息的訪問(wèn)控制機(jī)制,依靠于自動(dòng)語(yǔ)義注釋機(jī)制,通過(guò)分析發(fā)布信息的語(yǔ)義評(píng)價(jià)內(nèi)容的敏感程度,根據(jù)訪問(wèn)數(shù)據(jù)的讀者類型提供凈化版本[28]。2)在線醫(yī)療網(wǎng)站的權(quán)限控制研究。由于在線醫(yī)療網(wǎng)站儲(chǔ)存著與用戶切身利益相關(guān)的大量健康信息,更需要提供安全的認(rèn)證機(jī)制,如Liang等提出了兩個(gè)屬性導(dǎo)向的認(rèn)證機(jī)制,用戶創(chuàng)建認(rèn)證策略將敏感屬性匿名化只揭露部分屬性,并據(jù)此生成自己的屬性證明,通過(guò)驗(yàn)證屬性證明,用戶之間可以相互了解得知其是否可信,其次用戶通過(guò)在屬性上創(chuàng)建訪問(wèn)政策能夠自由地選擇合適的接收者,以避免沒(méi)有得到認(rèn)證的用戶使用信息[29]。3)移動(dòng)網(wǎng)絡(luò)的權(quán)限控制研究。與在線用戶不同,移動(dòng)網(wǎng)絡(luò)用戶的隱私信息至少包括2個(gè)方面:一是身份信息;二是位置信息,不管是違反匿名性還是違反不可追蹤性都會(huì)極大地危害移動(dòng)網(wǎng)絡(luò)用戶的隱私,因此非常需要認(rèn)證程序來(lái)保護(hù)用戶的隱私。例如,Jiang等提出了基于二次剩余假設(shè)的加強(qiáng)版認(rèn)證隱私保護(hù)方案,既能實(shí)現(xiàn)雙因素安全又可實(shí)現(xiàn)不可追蹤性[30]。權(quán)限控制是隱私保護(hù)的前提,只有實(shí)現(xiàn)合理安全的認(rèn)證、訪問(wèn)控制等權(quán)限控制機(jī)制,才能有效的管理用戶行為,阻止侵犯隱私行為的發(fā)生。

    第六類社交網(wǎng)站和電子商務(wù)中的用戶隱私態(tài)度與行為研究。此類研究從以下2個(gè)方面進(jìn)行梳理:1)社交網(wǎng)站用戶的隱私態(tài)度與行為研究,包括用戶的風(fēng)險(xiǎn)承擔(dān)能力、信任、隱私關(guān)注、信息披露與文化差異等。例如,F(xiàn)ogel等從用戶信任、風(fēng)險(xiǎn)承擔(dān)以及隱私關(guān)注視角研究社交網(wǎng)站用戶的態(tài)度與行為,并選取205個(gè)大學(xué)生作為研究對(duì)象,研究發(fā)現(xiàn)在使用社交網(wǎng)站與不使用社交網(wǎng)站的用戶之間風(fēng)險(xiǎn)承擔(dān)態(tài)度存在差異,用戶對(duì)兩個(gè)社交網(wǎng)站的信任度不同,男性和女性在信息披露與隱私關(guān)注的態(tài)度不同,因此社交網(wǎng)站應(yīng)在個(gè)人注冊(cè)和創(chuàng)建社交網(wǎng)站簡(jiǎn)介之前告知潛在用戶承擔(dān)風(fēng)險(xiǎn)和隱私問(wèn)題是潛在相關(guān)的需要引起重視[31]。隱私披露一直以來(lái)都是備受關(guān)注的用戶行為,國(guó)際學(xué)者從不同的視角探討了其決定因素,Krasnova等采用了隱私演算視角,從個(gè)人主義和不確定性規(guī)避兩個(gè)維度探討了文化差異對(duì)于自我披露行為的決定作用[32];Xu等基于計(jì)劃行為理論和隱私演算模型探討社交網(wǎng)站中用戶個(gè)人信息自我披露的重要影響因素,隱私關(guān)注與自我揭露行為負(fù)相關(guān)、感知利益與自我揭露行為正相關(guān)的結(jié)果為社交網(wǎng)站降低隱私風(fēng)險(xiǎn)、留住用戶,擴(kuò)大用戶量提供了指導(dǎo)意義[33];此外,Lin等則從隱私關(guān)注、信任與動(dòng)機(jī)3個(gè)因素探討了對(duì)信息披露的影響,在控制隱私關(guān)注的基礎(chǔ)上,信任顯著影響信息披露行為,在控制隱私關(guān)注和信任的基礎(chǔ)上,動(dòng)機(jī)又顯著影響信息披露行為[34],這些研究大大拓展了學(xué)界對(duì)信息披露行為決定因素的認(rèn)知。2)電子商務(wù)用戶的隱私態(tài)度與行為研究,主要集中對(duì)隱私關(guān)注相關(guān)問(wèn)題的探討。從文獻(xiàn)回顧中可以發(fā)現(xiàn)不僅社交網(wǎng)站用戶的接受程度和信息披露等行為受到隱私關(guān)注的直接影響,電子商務(wù)網(wǎng)站的使用和交易情況也極大地受到隱私關(guān)注的影響,顧客越是關(guān)注隱私安全,就越可能進(jìn)行線下購(gòu)物,而阻礙電商的長(zhǎng)久發(fā)展,研究中既有將隱私關(guān)注作為自變量來(lái)探討對(duì)顧客實(shí)際行為意圖的影響,也有將其作為因變量研究其決定因素,還有將兩種研究結(jié)合起來(lái)通過(guò)完整的潛變量和選擇模型一同研究隱私關(guān)注對(duì)電商的作用[4,35-36],使得隱私關(guān)注的研究全面且深入。電子商務(wù)網(wǎng)站的迅速發(fā)展,隨之而來(lái)的隱私問(wèn)題層出不窮,比如隱私信息的交易、用戶信息的挖掘與公布等,目前除了網(wǎng)站本身隱私問(wèn)題受到極大關(guān)注,用戶的傾向與實(shí)際行為、用戶的態(tài)度也都是主要的研究方向,未來(lái)仍會(huì)得到持續(xù)關(guān)注以完善現(xiàn)有經(jīng)驗(yàn)。endprint

    第七類青少年敏感信息的隱私與安全保護(hù)研究。此類研究主要集中在以下2個(gè)方面:1)青少年隱私關(guān)注相關(guān)問(wèn)題的研究。對(duì)于青少年自身特點(diǎn)的了解有利于各方采取針對(duì)性的隱私保護(hù)措施,如Youn以羅杰斯的保護(hù)驅(qū)動(dòng)理論為框架探討了影響青少年隱私關(guān)注程度的決定因素,研究發(fā)現(xiàn)青少年感知信息泄露風(fēng)險(xiǎn)會(huì)增強(qiáng)隱私關(guān)注行為,而感知信息交換利益則會(huì)降低隱私關(guān)注行為,隱私關(guān)注的程度會(huì)影響風(fēng)險(xiǎn)應(yīng)對(duì)行為,因此需要對(duì)青少年進(jìn)行隱私保護(hù)教育加強(qiáng)其對(duì)隱私安全的關(guān)注[37]。2)家長(zhǎng)、互聯(lián)網(wǎng)公司以及國(guó)家的作用探討。家長(zhǎng)作為青少年的監(jiān)護(hù)人對(duì)其信息分享過(guò)程伴隨的風(fēng)險(xiǎn)會(huì)感到擔(dān)憂,于是監(jiān)督和控制青少年互聯(lián)網(wǎng)的使用情況,可是這并不是一件容易的事情,因此家長(zhǎng)在青少年互聯(lián)網(wǎng)隱私保護(hù)中的作用引起了廣泛的關(guān)注。例如,Walrave等通過(guò)研究得知隱私關(guān)注和效益的感知是影響青少年在網(wǎng)絡(luò)消費(fèi)時(shí)揭露個(gè)人描述信息和聯(lián)系方式的主要因素,并且家長(zhǎng)的介入不能降低青少年揭露個(gè)人信息的意愿,因此需要采取其他措施比如國(guó)家制定相關(guān)政策降低青少年的自揭露行為[38];Yang等探討了青少年的隱私關(guān)注和隱私保護(hù)行為之間的關(guān)系以及家長(zhǎng)和社交網(wǎng)站所起的調(diào)節(jié)作用,家長(zhǎng)通過(guò)采取措施提高青少年的隱私關(guān)注程度從而提高隱私保護(hù)行為[39];Shin等也探討了在青少年網(wǎng)絡(luò)隱私關(guān)注和信息泄露行為中家長(zhǎng)和互聯(lián)網(wǎng)應(yīng)該扮演的角色,以此更好的指導(dǎo)青少年的隱私保護(hù)行為[40]??梢?jiàn)青少年作為弱勢(shì)群體之一受到了極大的關(guān)注。

    第八類數(shù)據(jù)公開(kāi)共享策略與國(guó)家治理研究。此類研究主要集中在以下2個(gè)方面:1)數(shù)據(jù)公開(kāi)共享與隱私保護(hù)的研究。數(shù)據(jù)公開(kāi)與隱私保護(hù)需求之間的矛盾引起了學(xué)界的關(guān)注,如Kaye探討了基因研究中的這對(duì)矛盾體,并指出了一些新的方式以實(shí)現(xiàn)數(shù)據(jù)共享與隱私安全的和諧發(fā)展[41]。目前的數(shù)據(jù)公開(kāi)主要依靠公開(kāi)政策和戰(zhàn)略指導(dǎo),但是僅僅依靠這些政策會(huì)導(dǎo)致數(shù)據(jù)失真且保護(hù)并不充分,需要新的方法和工具實(shí)現(xiàn)隱私保護(hù)的數(shù)據(jù)公開(kāi)(PPDP),Benjamin等系統(tǒng)的分析和評(píng)價(jià)了近幾年隱私保護(hù)的數(shù)據(jù)公開(kāi)方法[42],幫助學(xué)界全面地了解現(xiàn)狀并進(jìn)行拓展研究。2)國(guó)家治理研究。在隱私保護(hù)問(wèn)題上,國(guó)家管控政策的制定與實(shí)施也引起了國(guó)際學(xué)者的關(guān)注,如Abraham在文章中探討了當(dāng)局者對(duì)于數(shù)據(jù)隱私治理的作用,指出他們的信息分享、標(biāo)準(zhǔn)協(xié)調(diào)和聯(lián)合執(zhí)行3種實(shí)施行為中聯(lián)合執(zhí)行起到有力的作用,因而提出了一種基于區(qū)域合作方式的新的網(wǎng)絡(luò)治理方法[43]。對(duì)于隱私的保護(hù),發(fā)達(dá)國(guó)家和發(fā)展中國(guó)家的治理策略和力度都有很大區(qū)別,Adelola等分析了美國(guó)、英國(guó)等發(fā)達(dá)國(guó)家進(jìn)行電子商務(wù)數(shù)據(jù)保護(hù)的原因,通過(guò)對(duì)比指出了尼日利亞這些發(fā)展中國(guó)家無(wú)法有效開(kāi)展這些隱私和數(shù)據(jù)保護(hù)策略的原因,為尼日利亞等發(fā)展中國(guó)家的治理發(fā)展提出了借鑒意義[44]。

    3結(jié)論

    通過(guò)文獻(xiàn)計(jì)量分析發(fā)現(xiàn),國(guó)際關(guān)于網(wǎng)絡(luò)隱私問(wèn)題的研究主要集中在“基于移動(dòng)位置服務(wù)的隱私問(wèn)題研究”、“隱私保護(hù)算法研究”、“隱私保護(hù)技術(shù)研究”、“云計(jì)算的隱私安全研究”、“網(wǎng)絡(luò)隱私權(quán)限控制研究”、“社交網(wǎng)站和電子商務(wù)中的用戶隱私態(tài)度與行為研究”、“青少年敏感信息的隱私與安全保護(hù)研究”、“數(shù)據(jù)公開(kāi)共享策略與國(guó)家治理研究”8個(gè)方面。

    網(wǎng)絡(luò)隱私研究雖然涉及多個(gè)方面且受到各界的極大關(guān)注,但是現(xiàn)有研究仍然存在以下缺陷:①利用數(shù)據(jù)縱向分析網(wǎng)絡(luò)隱私主題隨時(shí)間發(fā)展變化的研究較少,大多數(shù)學(xué)者選取網(wǎng)絡(luò)隱私部分問(wèn)題進(jìn)行分析研究,缺少主題的動(dòng)態(tài)演變和趨勢(shì)分析。②研究背景大多是發(fā)達(dá)國(guó)家和網(wǎng)絡(luò)設(shè)施較完善的發(fā)展中國(guó)家,對(duì)于一些發(fā)展中國(guó)家的隱私問(wèn)題關(guān)注度較低。③和其他研究方面相比,國(guó)家的治理政策研究相對(duì)偏少,并且國(guó)家的治理與業(yè)界的隱私政策相對(duì)獨(dú)立缺乏聯(lián)系。④大數(shù)據(jù)時(shí)代對(duì)于社交與移動(dòng)信息挖掘過(guò)程中的隱私安全問(wèn)題的系統(tǒng)性研究較少。⑤在線醫(yī)療的隱私安全雖然引起了學(xué)界的關(guān)注,但研究尚處在初級(jí)階段。

    值得指出的是,現(xiàn)存的不足也為未來(lái)研究提供了方向。①關(guān)注網(wǎng)絡(luò)隱私研究隨時(shí)間變化而產(chǎn)生的動(dòng)態(tài)演變及發(fā)展趨勢(shì),以抓住研究熱點(diǎn)與發(fā)展方向。②擴(kuò)展研究背景,將視角轉(zhuǎn)向信息化程度較低的發(fā)展中國(guó)家,以了解他們的隱私保護(hù)現(xiàn)狀。③關(guān)注國(guó)家政策的實(shí)施效果,并結(jié)合相關(guān)的業(yè)界政策提出修改意見(jiàn),讓宏觀政策更加接近實(shí)際生活。④關(guān)注大數(shù)據(jù)時(shí)代背景下社交網(wǎng)站信息、移動(dòng)信息挖掘過(guò)程中的隱私問(wèn)題。⑤目前在線醫(yī)療受到了業(yè)界的極大關(guān)注,許多互聯(lián)網(wǎng)公司紛紛進(jìn)入在線醫(yī)療領(lǐng)域,在線醫(yī)療涉及的隱私問(wèn)題是未來(lái)研究的重點(diǎn)領(lǐng)域之一。

    參考文獻(xiàn)

    [1]劉煥成.網(wǎng)絡(luò)隱私保護(hù)對(duì)策研究[J].情報(bào)科學(xué),2003,21(4):428-433.

    [2]黃劉生,田苗苗,黃河.大數(shù)據(jù)隱私保護(hù)密碼技術(shù)研究綜述[J].軟件學(xué)報(bào),2015,26(4):945-959.

    [3]張玥,朱慶華.國(guó)外信息隱私研究述評(píng)[J].圖書情報(bào)工作,2014,58(13):140-148.

    [4]歐陽(yáng)洋,袁勤儉.國(guó)內(nèi)外電子商務(wù)環(huán)境下隱私關(guān)注研究述評(píng)[J].情報(bào)科學(xué),2016,34(7):170-176.

    [5]BRAMAN S.Privacy by design: networked computing,1969-1979[J].New Media & Society,2011,14(5):798-814.

    [6]DOTY N.Reviewing for privacy in Internet and web standard-setting[JOL].http:ieeexplore.ieee.orgdocument7163224,2015-07-202016-12-31.

    [7]CHOW C Y.Privacy in location-based services: a system architecture perspective[J].Sigspatial Special,2009,1(2):23-27.endprint

    [8]WILLIAM J,BUCHANAN,ZBIGNIEW K,et al.A privacy preserving method using privacy enhancing techniques for location based services[J].Mobile Networks and Applications,2013,18(5):728-737.

    [9]MYLES G,F(xiàn)RIDAY A,DAVIES N.Preserving privacy in environments with location based applications[J].IEEE Pervasive Computing,2003,2(1):56-64.

    [10]FURINI M,TAMANINI V.Location privacy and public metadata in social media platforms: attitudes,behaviors and opinions[J].Multimedia Tools and Applications,2015,74(21):9795-9825.

    [11]REZA S,GEORGE T,PANOS P,et al.Hiding in the mobile crowd: location privacy through Collaboration[J].IEEE Transactions on Dependable and Secure Computing,2014,11(3):266-279.

    [12]DWORK C.Differential privacy: a survey of results[JOL].https:link.springer.comchapter10.1007978-3-540-79228-4_1,2008-042016-12-31.

    [13]MCSHERRY F,MAHAJAN R.Differentially-private network trace analysis[J].ACM SIGCOMM Computer Communication Review-SIGCOMM10,2010,40(4):123-134.

    [14]LU Z G,SHEN H.An accuracy-assured privacy-preserving recommender system for Internet commerce[J].Computer Science & Information Systems,2015,12(4):1307-1326.

    [15]DAS K,BHADURI K,KARGUPTA H.Multi-objective optimization based privacy preserving distributed data mining in Peer-to-Peer networks[J].Peer-to-Peer Networking and Application,2011,4(2):192-209.

    [16]KEARNS M,ROTH A,WU Z S,et al.Private algorithms for the protected in social network search[J].Proceedings of The National Academy of Science of The United States of America,2016,113(4):913-918.

    [17]LIU X Y,YANG X C.Protecting sensitive relationships against inference attacks in social networks[JOL].https:link.springer.comchapter10.1007%2F978-3-642-29038-1_25,2012-042016-12-31.

    [18]JOEDI C R,ALEXANDRE V,JOEDI H J.Preserving users privacy in web search engines[J].Computer Communications,2009,32(13-14):1541-1551.

    [19]CHAKRABORTY S,TRIPATHY B K.Privacy preserving anonymization of social networks using eigenvector centrality approach[J].Intelligent Data Analysis,2016,20(3):543-560.

    [20]ZHOU B,PEI J.The k-anonymity and l-diversity approaches for privacy preservation in social networks against neighborhood attacks[J].Knowledge and Information Systems,2011,28(1):47-77.

    [21]NAJAFLOU Y,JEDARI B,XIA F.Safety challenges and solutions in mobile social networks[J].IEEE Systems Journal,2015,9(3):834-854.

    [22]ZHANG L C,CAI Z P,WANG X M.FakeMask:a novel privacy preserving approach for smartphones[J].IEEE Transactions on Network and Service Management,2016,13(2):335-348.endprint

    [23]TAKABI H,JOSHI J B D,AHN G J.Security and privacy challenges in cloud computing environments[J].IEEE Security & Privacy,2010,8(6):24-31.

    [24]CHADWICK D W,F(xiàn)ATEMA K.A privacy preserving authorisation system for the cloud[J].Journal of Computer and System Sciences,2012,78(5):1359-1373.

    [25]PASUPULETI S K,RAMALINGAM S,BUYYA R.An efficient and secure privacy-preserving approach for outsourced data of resource constrained mobile devices in cloud computing[J].Journal of Network and Computer Applications,2016,64:12-22.

    [26]WAQAR A,RAZA A,ABBAS H,et al.A framework for preservation of cloud users data privacy using dynamic reconstruction of metadata[J].Journal of Network and Computer Applications,2013,36(1):235-248.

    [27]TAN ZW.A lightweight conditional privacy-preserving authentication and access control scheme for pervasive computing environments[J].Journal of Network and Computer Applications,2012,35(6):1839-1846.

    [28]IMRAN-DAUD M,SANCHEZ D,VIEJO A.Privacy-driven access control in social networks by means of automatic semantic annotation[J].Computer Communications,2016,76(15):12-25.

    [29]LIANG X H,BARUA M,LU R X,et al.HealthShare:achieving secure and privacy-preserving health information sharing through health social networks[J].Computer Communications,2012,35(15):1910-1920.

    [30]JIANG Q,MA J F,LI G S,et al.An enhanced authentication scheme with privacy preservation for roaming service in global mobility networks[J].Wireless Personal Communications,2013,68(4):1477-1491.

    [31]FOGEL J,NEHMAD E.Internet social network communities:risk taking,trust,and privacy concerns[J].Computers in Human Behavior,2009,25(1):153-160.

    [32]KRASNOVA H,VELTRI N F,GUNTHER O.Self-disclosure and privacy calculus on social networking sites: the role of culture intercultural dynamics of privacy calculus[J].Business & Information Systems Engineering,2012,4(3):127-135.

    [33]XU F,MICHAEL K,CHEN X.Factors affecting privacy disclosure on social network sites: an integrated model[J].Electronic Commerce Research,2013,13(2):151-168.

    [34]LIN S W,LIU Y C.The effects of motivations,trust,and privacy concern in social networking[J].Service Business,2012,6(4):411-424.

    [35]MCCOLE P,RAMSEY E,WILLIAMS J.Trust considerations on attitudes towards online purchasing: the moderating effect of privacy and security concerns[J].Journal of Business Research,2010,63(9):1018-1024.

    [36]POTOGLOU D,PALACIOS J F,F(xiàn)EIJOO C.An integrated latent variable and choice model to explore the role of privacy concern on stated behavioural intentions in e-commerce[J].Journal of Choice Modelling,2015,17:10-27.endprint

    [37]YOUN S.Determinants of online privacy concern and its influence on privacy protection behaviors among young adolescents[J].The Journal of Consumer Affairs,2009,43(3):389-418.

    [38]WALRAVE M,HEIRMAN W.Adolescents,online marketing and privacy: predicting adolescents willingness to disclose personal information for marketing purposes[J].Children & Society,2013,27(6):434-447.

    [39]YANG F,XIE W J.Teens concern for privacy when using social networking sites: An analysis of socialization agents and relationships with privacy-protecting behaviors[J].Computers in Human Behavior,2014,33:153-162.

    [40]SHIN W S,KANG H J.Adolescents privacy concerns and information disclosure online: The role of parents and the Internet[J].Computers in Human Behavior,2016,54:114-123.

    [41]KAYE J.The tension between data sharing and the protection of privacy in genomics research[J].Annual Review of Genomics and Human Genetics,2012,13:415-431.

    [42]BENJAMIN C M,WANG K E,CHEN R,et al.Privacy-preserving data publishing:a survey of recent developments[J].ACM Computing Survey,2010,42(4):14:1-14:53.

    [43]ABRAHAM L.Watching the watchers: transgovernmental implementation of data privacy policy in Europe[J].Journal of Comparative Policy Analysis: Research and Practice,2011,13(2):181-194.

    [44]ADELOLA T,DAWSON R,BATMAZ F.Privacy and data protection in E-commerce: the effectiveness of a government regulation approach in developing nations,using Nigeria as a case[JOL].http:ieeexplore.ieee.orgdocument7038812,2015-02-122016-12-31.

    (本文責(zé)任編輯:郭沫含)endprint

    猜你喜歡
    共詞分析聚類分析
    基于德溫特?cái)?shù)據(jù)庫(kù)的關(guān)鍵共性技術(shù)分析
    國(guó)內(nèi)圖書館嵌入式服務(wù)研究主題分析
    基于聚類分析研究貴州省各地區(qū)經(jīng)濟(jì)發(fā)展綜合評(píng)價(jià)
    商情(2016年39期)2016-11-21 08:45:54
    基于文獻(xiàn)計(jì)量分析我國(guó)生物科學(xué)素養(yǎng)研究狀況(2001~2016年)
    基于知識(shí)圖譜的智慧教育研究熱點(diǎn)與趨勢(shì)分析
    新媒體用戶行為模式分析
    農(nóng)村居民家庭人均生活消費(fèi)支出分析
    基于省會(huì)城市經(jīng)濟(jì)發(fā)展程度的實(shí)證分析
    基于聚類分析的互聯(lián)網(wǎng)廣告投放研究
    科技視界(2016年20期)2016-09-29 12:32:48
    “縣級(jí)供電企業(yè)生產(chǎn)經(jīng)營(yíng)統(tǒng)計(jì)一套”表輔助決策模式研究
    久久热在线av| 激情五月婷婷亚洲| 国产片内射在线| 欧美另类一区| 操美女的视频在线观看| 日韩制服骚丝袜av| 国产精品亚洲av一区麻豆| 可以免费在线观看a视频的电影网站| 国产97色在线日韩免费| 久久久久视频综合| 爱豆传媒免费全集在线观看| 18禁裸乳无遮挡动漫免费视频| 欧美中文综合在线视频| 久久 成人 亚洲| 侵犯人妻中文字幕一二三四区| 丁香六月天网| 国产熟女欧美一区二区| 久久这里只有精品19| 亚洲 欧美一区二区三区| 国产精品一二三区在线看| 一区二区日韩欧美中文字幕| 亚洲精品久久久久久婷婷小说| 久久久国产一区二区| 婷婷色综合www| 老汉色∧v一级毛片| a级片在线免费高清观看视频| 伊人亚洲综合成人网| 大片电影免费在线观看免费| 又紧又爽又黄一区二区| 尾随美女入室| 亚洲天堂av无毛| 久久综合国产亚洲精品| 美女视频免费永久观看网站| 九草在线视频观看| 老司机午夜十八禁免费视频| 精品卡一卡二卡四卡免费| 久久久久久久国产电影| 波野结衣二区三区在线| 免费不卡黄色视频| 亚洲精品国产av成人精品| 国产爽快片一区二区三区| 看免费成人av毛片| 亚洲一卡2卡3卡4卡5卡精品中文| 国产成人a∨麻豆精品| 国产欧美日韩一区二区三区在线| 成人亚洲欧美一区二区av| 日韩伦理黄色片| 免费在线观看日本一区| 国产精品免费视频内射| 宅男免费午夜| 亚洲天堂av无毛| xxxhd国产人妻xxx| 亚洲国产欧美日韩在线播放| 日韩,欧美,国产一区二区三区| 亚洲熟女精品中文字幕| 国产成人精品久久二区二区免费| 免费黄频网站在线观看国产| 欧美精品人与动牲交sv欧美| 国产精品一区二区在线不卡| 欧美成人午夜精品| 老汉色av国产亚洲站长工具| 亚洲欧美成人综合另类久久久| 黄片播放在线免费| 美女视频免费永久观看网站| 国产成人精品在线电影| 自拍欧美九色日韩亚洲蝌蚪91| 无限看片的www在线观看| 伊人久久大香线蕉亚洲五| 精品人妻熟女毛片av久久网站| 一级片免费观看大全| 国产午夜精品一二区理论片| 青春草亚洲视频在线观看| 亚洲精品乱久久久久久| 久久久久久久精品精品| 国产精品熟女久久久久浪| 999久久久国产精品视频| 欧美老熟妇乱子伦牲交| 亚洲九九香蕉| 一区二区三区精品91| 成人国产av品久久久| 亚洲国产av影院在线观看| 色综合欧美亚洲国产小说| 国产一区二区 视频在线| 婷婷色综合www| 九色亚洲精品在线播放| 成人国产一区最新在线观看 | 亚洲成国产人片在线观看| 成人国产av品久久久| 久久久久久人人人人人| 国产精品久久久久久精品古装| 999久久久国产精品视频| 久久久久久久国产电影| 成年av动漫网址| 欧美+亚洲+日韩+国产| 少妇精品久久久久久久| 午夜福利一区二区在线看| 80岁老熟妇乱子伦牲交| 国产精品麻豆人妻色哟哟久久| 免费少妇av软件| 各种免费的搞黄视频| 成人国语在线视频| 精品国产一区二区三区久久久樱花| a级毛片在线看网站| 美女扒开内裤让男人捅视频| netflix在线观看网站| 精品免费久久久久久久清纯 | 操美女的视频在线观看| 久久 成人 亚洲| 国产一级毛片在线| 亚洲视频免费观看视频| 欧美精品一区二区大全| 国产97色在线日韩免费| 婷婷色综合www| 久久久久久久大尺度免费视频| a级片在线免费高清观看视频| 亚洲国产欧美一区二区综合| 男女免费视频国产| 在线av久久热| 午夜福利影视在线免费观看| 亚洲中文日韩欧美视频| 少妇粗大呻吟视频| 91精品三级在线观看| 亚洲国产精品一区二区三区在线| 桃花免费在线播放| 一级毛片我不卡| 久久人人97超碰香蕉20202| 尾随美女入室| 1024视频免费在线观看| 最新在线观看一区二区三区 | 999久久久国产精品视频| 国产在线视频一区二区| 久久精品亚洲av国产电影网| 最新在线观看一区二区三区 | 欧美日韩国产mv在线观看视频| 欧美日韩国产mv在线观看视频| 国产一区亚洲一区在线观看| 丰满少妇做爰视频| 免费少妇av软件| 亚洲国产欧美一区二区综合| 精品第一国产精品| 亚洲精品中文字幕在线视频| 大香蕉久久网| 69精品国产乱码久久久| www.熟女人妻精品国产| 国产精品一区二区精品视频观看| 亚洲精品在线美女| www.999成人在线观看| 日韩一本色道免费dvd| 国产激情久久老熟女| 五月天丁香电影| 国产精品久久久av美女十八| 人体艺术视频欧美日本| 人成视频在线观看免费观看| 国产成人91sexporn| 美女大奶头黄色视频| 可以免费在线观看a视频的电影网站| 女人精品久久久久毛片| 1024视频免费在线观看| 午夜免费鲁丝| 韩国精品一区二区三区| av有码第一页| 观看av在线不卡| 看免费av毛片| 欧美 日韩 精品 国产| 亚洲av电影在线进入| 亚洲免费av在线视频| 色婷婷久久久亚洲欧美| 十八禁高潮呻吟视频| 最近中文字幕2019免费版| 首页视频小说图片口味搜索 | 男人舔女人的私密视频| 欧美激情极品国产一区二区三区| av福利片在线| 91精品伊人久久大香线蕉| 女人被躁到高潮嗷嗷叫费观| 大香蕉久久网| 国产成人91sexporn| 9191精品国产免费久久| 精品亚洲成国产av| 久久人妻熟女aⅴ| 精品熟女少妇八av免费久了| 中文字幕av电影在线播放| 黄色 视频免费看| 午夜福利在线免费观看网站| 国产成人欧美在线观看 | av天堂在线播放| 国产三级黄色录像| 久久性视频一级片| 免费av中文字幕在线| 狂野欧美激情性bbbbbb| 欧美黄色片欧美黄色片| 国产欧美日韩综合在线一区二区| 黄色怎么调成土黄色| 国产亚洲av高清不卡| 精品少妇黑人巨大在线播放| 国产精品一国产av| 久久99热这里只频精品6学生| 久久久久久久国产电影| 黄色视频不卡| 亚洲av成人精品一二三区| 高潮久久久久久久久久久不卡| 飞空精品影院首页| 十八禁网站网址无遮挡| 亚洲熟女精品中文字幕| 国精品久久久久久国模美| 少妇粗大呻吟视频| 视频区欧美日本亚洲| 欧美日韩一级在线毛片| 中文字幕av电影在线播放| 久久人人97超碰香蕉20202| 午夜福利免费观看在线| 中文字幕最新亚洲高清| 人人妻人人添人人爽欧美一区卜| 黄色视频在线播放观看不卡| 亚洲,欧美,日韩| 麻豆国产av国片精品| 午夜日韩欧美国产| 男人添女人高潮全过程视频| 色网站视频免费| 欧美成狂野欧美在线观看| 午夜日韩欧美国产| 日韩视频在线欧美| 国产女主播在线喷水免费视频网站| 亚洲综合色网址| 秋霞在线观看毛片| 亚洲成av片中文字幕在线观看| 黄频高清免费视频| 亚洲国产欧美在线一区| 国产成人欧美在线观看 | 我要看黄色一级片免费的| 一级黄片播放器| 精品亚洲成国产av| 五月开心婷婷网| 亚洲熟女精品中文字幕| 国产精品一区二区免费欧美 | 色婷婷久久久亚洲欧美| h视频一区二区三区| 欧美精品人与动牲交sv欧美| 丰满人妻熟妇乱又伦精品不卡| 水蜜桃什么品种好| 天天影视国产精品| 满18在线观看网站| 女人精品久久久久毛片| 欧美日韩国产mv在线观看视频| 老熟女久久久| 99精国产麻豆久久婷婷| 国产成人欧美在线观看 | bbb黄色大片| 亚洲一区中文字幕在线| 久久中文字幕一级| 啦啦啦视频在线资源免费观看| 日韩电影二区| 操美女的视频在线观看| 中文字幕亚洲精品专区| 十八禁人妻一区二区| 无限看片的www在线观看| 日本黄色日本黄色录像| 国产精品一区二区免费欧美 | 交换朋友夫妻互换小说| 午夜91福利影院| 深夜精品福利| 又粗又硬又长又爽又黄的视频| 18禁观看日本| 如日韩欧美国产精品一区二区三区| 国产精品熟女久久久久浪| 视频区欧美日本亚洲| 亚洲国产精品一区三区| 午夜免费男女啪啪视频观看| 精品久久蜜臀av无| 国产野战对白在线观看| 18禁黄网站禁片午夜丰满| 久久精品国产综合久久久| 美女午夜性视频免费| 人体艺术视频欧美日本| 亚洲av男天堂| 99久久综合免费| 嫩草影视91久久| 老司机影院毛片| 一级片'在线观看视频| 亚洲欧美中文字幕日韩二区| 人妻一区二区av| 18在线观看网站| 亚洲 欧美一区二区三区| 91成人精品电影| 伊人亚洲综合成人网| 精品一区在线观看国产| 亚洲精品在线美女| 久久鲁丝午夜福利片| e午夜精品久久久久久久| 亚洲精品一卡2卡三卡4卡5卡 | 亚洲精品一区蜜桃| 大型av网站在线播放| 黑人猛操日本美女一级片| 在线观看人妻少妇| 亚洲国产av影院在线观看| 亚洲精品国产区一区二| 嫁个100分男人电影在线观看 | 亚洲精品日韩在线中文字幕| 亚洲精品一卡2卡三卡4卡5卡 | 国产黄频视频在线观看| 亚洲熟女毛片儿| 99国产精品一区二区蜜桃av | 久久久久久久久久久久大奶| 欧美性长视频在线观看| 欧美激情高清一区二区三区| 99久久综合免费| 亚洲国产日韩一区二区| 我的亚洲天堂| 亚洲久久久国产精品| 免费av中文字幕在线| 欧美在线黄色| 一级片'在线观看视频| 久久久国产欧美日韩av| 久久久久久亚洲精品国产蜜桃av| 91成人精品电影| 少妇人妻 视频| 悠悠久久av| 中文欧美无线码| 九色亚洲精品在线播放| 日韩av不卡免费在线播放| 欧美精品啪啪一区二区三区 | 色精品久久人妻99蜜桃| 亚洲国产精品成人久久小说| 国产女主播在线喷水免费视频网站| 中文字幕精品免费在线观看视频| 99国产综合亚洲精品| 国产成人a∨麻豆精品| 国产一区二区三区综合在线观看| 久久99热这里只频精品6学生| 另类亚洲欧美激情| 丰满人妻熟妇乱又伦精品不卡| 精品国产一区二区三区四区第35| 午夜激情久久久久久久| 成年动漫av网址| 少妇的丰满在线观看| 国产日韩欧美亚洲二区| 一本色道久久久久久精品综合| 精品人妻1区二区| 少妇人妻 视频| 午夜精品国产一区二区电影| 亚洲人成电影免费在线| 成人国产一区最新在线观看 | 巨乳人妻的诱惑在线观看| 首页视频小说图片口味搜索 | 国产片内射在线| 国产主播在线观看一区二区 | 老汉色av国产亚洲站长工具| 国产av国产精品国产| 亚洲成av片中文字幕在线观看| 久久国产精品人妻蜜桃| 99re6热这里在线精品视频| 成人三级做爰电影| 久久久欧美国产精品| 中文字幕亚洲精品专区| 亚洲第一青青草原| 亚洲一码二码三码区别大吗| 我的亚洲天堂| 无遮挡黄片免费观看| 婷婷色麻豆天堂久久| 国产免费一区二区三区四区乱码| 国产精品久久久人人做人人爽| 人人妻人人澡人人看| 国产精品免费视频内射| 久久久国产精品麻豆| 男女国产视频网站| 嫩草影视91久久| 亚洲精品久久久久久婷婷小说| 亚洲欧美清纯卡通| 亚洲国产日韩一区二区| 日韩av免费高清视频| 国产高清视频在线播放一区 | 成在线人永久免费视频| 中国国产av一级| 亚洲欧美色中文字幕在线| 日本午夜av视频| 日韩 亚洲 欧美在线| 波野结衣二区三区在线| 搡老乐熟女国产| 久久久国产欧美日韩av| 婷婷色综合大香蕉| 亚洲中文字幕日韩| 永久免费av网站大全| 日日夜夜操网爽| 午夜福利视频在线观看免费| 国产精品av久久久久免费| 十分钟在线观看高清视频www| 丝袜脚勾引网站| 19禁男女啪啪无遮挡网站| 欧美少妇被猛烈插入视频| 狠狠精品人妻久久久久久综合| 久久免费观看电影| netflix在线观看网站| www.999成人在线观看| 一边亲一边摸免费视频| 丝瓜视频免费看黄片| 亚洲五月婷婷丁香| 亚洲精品日本国产第一区| 黄色一级大片看看| 国产精品 欧美亚洲| 97在线人人人人妻| 黑人猛操日本美女一级片| 亚洲专区国产一区二区| 最近中文字幕2019免费版| 久久精品久久精品一区二区三区| av视频免费观看在线观看| 啦啦啦在线观看免费高清www| 国产xxxxx性猛交| 爱豆传媒免费全集在线观看| 欧美精品高潮呻吟av久久| 大片电影免费在线观看免费| 少妇被粗大的猛进出69影院| 搡老乐熟女国产| 中文字幕人妻丝袜一区二区| 91精品伊人久久大香线蕉| 人人妻人人澡人人爽人人夜夜| 91九色精品人成在线观看| 成人亚洲欧美一区二区av| 欧美人与性动交α欧美软件| 纵有疾风起免费观看全集完整版| 五月天丁香电影| 久久免费观看电影| 国产亚洲一区二区精品| 又大又黄又爽视频免费| av天堂在线播放| 中文字幕色久视频| 两个人免费观看高清视频| √禁漫天堂资源中文www| 在线观看一区二区三区激情| 中文字幕色久视频| 国产精品久久久人人做人人爽| 欧美久久黑人一区二区| 蜜桃在线观看..| av网站在线播放免费| 18禁裸乳无遮挡动漫免费视频| 免费一级毛片在线播放高清视频 | 建设人人有责人人尽责人人享有的| 美女脱内裤让男人舔精品视频| 久久热在线av| 国产av一区二区精品久久| 少妇的丰满在线观看| 欧美成人午夜精品| 久久中文字幕一级| 国产人伦9x9x在线观看| 涩涩av久久男人的天堂| 免费高清在线观看视频在线观看| 我要看黄色一级片免费的| 一二三四社区在线视频社区8| 欧美中文综合在线视频| 少妇精品久久久久久久| 免费高清在线观看视频在线观看| 高清黄色对白视频在线免费看| 人人妻人人添人人爽欧美一区卜| 精品人妻一区二区三区麻豆| 天天添夜夜摸| 免费久久久久久久精品成人欧美视频| 免费人妻精品一区二区三区视频| 大片免费播放器 马上看| 成年人免费黄色播放视频| 国产日韩一区二区三区精品不卡| 日本欧美视频一区| 亚洲成国产人片在线观看| www.自偷自拍.com| av福利片在线| 中文字幕制服av| 欧美日韩视频精品一区| 午夜精品国产一区二区电影| 国产精品人妻久久久影院| 国产不卡av网站在线观看| av在线播放精品| 叶爱在线成人免费视频播放| 久久久久国产精品人妻一区二区| 日韩伦理黄色片| 精品亚洲成国产av| 伦理电影免费视频| 久久精品人人爽人人爽视色| 亚洲欧美中文字幕日韩二区| 麻豆国产av国片精品| 国产日韩欧美亚洲二区| 亚洲人成电影免费在线| 免费在线观看影片大全网站 | 亚洲国产av影院在线观看| 三上悠亚av全集在线观看| 国产精品偷伦视频观看了| 欧美日韩av久久| 久久99一区二区三区| 亚洲欧美清纯卡通| 波野结衣二区三区在线| 热re99久久国产66热| 黄色一级大片看看| 丰满迷人的少妇在线观看| 18禁国产床啪视频网站| 日韩av免费高清视频| 青春草视频在线免费观看| 中文精品一卡2卡3卡4更新| 国产精品麻豆人妻色哟哟久久| 69精品国产乱码久久久| 国产成人欧美| 欧美人与性动交α欧美精品济南到| 性色av一级| 国产一区二区三区av在线| 欧美成狂野欧美在线观看| 国产精品一二三区在线看| 汤姆久久久久久久影院中文字幕| 久热爱精品视频在线9| 亚洲一区二区三区欧美精品| 久热爱精品视频在线9| 欧美在线一区亚洲| 777久久人妻少妇嫩草av网站| 亚洲av日韩在线播放| 老司机影院成人| 亚洲欧美精品自产自拍| 欧美人与性动交α欧美软件| 免费观看人在逋| 久久国产亚洲av麻豆专区| 少妇被粗大的猛进出69影院| 亚洲伊人久久精品综合| 自线自在国产av| 国产极品粉嫩免费观看在线| 在线亚洲精品国产二区图片欧美| av福利片在线| 亚洲 国产 在线| 极品人妻少妇av视频| 国产日韩欧美亚洲二区| 成人国语在线视频| 日本欧美视频一区| 一边亲一边摸免费视频| 少妇被粗大的猛进出69影院| 久久国产精品人妻蜜桃| 久久精品国产亚洲av涩爱| 日日夜夜操网爽| 久久久国产精品麻豆| av国产久精品久网站免费入址| 你懂的网址亚洲精品在线观看| 老司机亚洲免费影院| 高清黄色对白视频在线免费看| 亚洲午夜精品一区,二区,三区| av网站免费在线观看视频| 久久人人爽人人片av| 成人手机av| 午夜视频精品福利| 少妇人妻 视频| 丝袜喷水一区| 亚洲精品国产一区二区精华液| 国产av一区二区精品久久| 久久影院123| 亚洲国产日韩一区二区| 亚洲成人手机| 丝袜美腿诱惑在线| 又黄又粗又硬又大视频| 欧美在线一区亚洲| 一级黄片播放器| 亚洲天堂av无毛| videos熟女内射| www.熟女人妻精品国产| 亚洲国产日韩一区二区| 夜夜骑夜夜射夜夜干| 久久免费观看电影| 亚洲精品国产区一区二| 午夜老司机福利片| 亚洲国产毛片av蜜桃av| 黄色a级毛片大全视频| 亚洲欧美一区二区三区黑人| 欧美日韩亚洲高清精品| √禁漫天堂资源中文www| 亚洲人成77777在线视频| 超碰成人久久| 在线观看免费午夜福利视频| 考比视频在线观看| 欧美乱码精品一区二区三区| 最新的欧美精品一区二区| 日本91视频免费播放| 久久久久久久久免费视频了| 国产福利在线免费观看视频| 91字幕亚洲| 中国国产av一级| 51午夜福利影视在线观看| 飞空精品影院首页| 免费av中文字幕在线| 人体艺术视频欧美日本| 999精品在线视频| 午夜久久久在线观看| 久久国产精品大桥未久av| 日韩一区二区三区影片| av又黄又爽大尺度在线免费看| www.av在线官网国产| 一级黄色大片毛片| 亚洲成国产人片在线观看| 黄色视频不卡| 亚洲五月色婷婷综合| 一级毛片 在线播放| 捣出白浆h1v1| 一级a爱视频在线免费观看| 亚洲国产av影院在线观看| 深夜精品福利| 欧美日韩av久久| 99热网站在线观看| 老汉色av国产亚洲站长工具| 九色亚洲精品在线播放| 成人国产av品久久久| 午夜精品国产一区二区电影| 久久ye,这里只有精品| 成年美女黄网站色视频大全免费| 久久久久久久国产电影| 久久午夜综合久久蜜桃| 在线看a的网站| 国产在线一区二区三区精| 丰满迷人的少妇在线观看| 永久免费av网站大全| 亚洲国产精品国产精品| 日本av手机在线免费观看| 大型av网站在线播放| 女人高潮潮喷娇喘18禁视频| 制服人妻中文乱码| 波野结衣二区三区在线| 国产精品一区二区精品视频观看|