• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于WoS的網(wǎng)絡(luò)隱私計(jì)量分析

    2017-11-09 10:14:34黃麗佳袁勤儉
    現(xiàn)代情報(bào) 2017年10期
    關(guān)鍵詞:共詞分析聚類分析

    黃麗佳+袁勤儉

    〔摘要〕通過(guò)對(duì)相關(guān)文獻(xiàn)的回顧,本文對(duì)國(guó)際網(wǎng)絡(luò)隱私研究進(jìn)行了計(jì)量分析,發(fā)現(xiàn)現(xiàn)有的研究主題集中在“基于移動(dòng)位置服務(wù)的隱私問(wèn)題研究”、“隱私保護(hù)算法研究”、“隱私保護(hù)技術(shù)研究”、“云計(jì)算的隱私安全研究”、“網(wǎng)絡(luò)隱私權(quán)限控制研究”、“社交網(wǎng)站和電子商務(wù)中的用戶隱私態(tài)度與行為研究”、“青少年敏感信息的隱私與安全保護(hù)研究”、“數(shù)據(jù)公開(kāi)共享策略與國(guó)家治理研究”8個(gè)方面。研究發(fā)現(xiàn)當(dāng)前研究中存在“利用數(shù)據(jù)縱向分析網(wǎng)絡(luò)隱私主題隨時(shí)間發(fā)展變化的研究較少”、“對(duì)于一些發(fā)展中國(guó)家的隱私問(wèn)題關(guān)注度較低”、“國(guó)家的治理與業(yè)界的隱私政策相對(duì)獨(dú)立缺乏聯(lián)系”等問(wèn)題,“大數(shù)據(jù)時(shí)代移動(dòng)信息和社交信息挖掘過(guò)程中的隱私問(wèn)題”、“在線醫(yī)療的隱私問(wèn)題”等是未來(lái)研究值得關(guān)注的領(lǐng)域。

    〔關(guān)鍵詞〕網(wǎng)絡(luò)隱私;隱私問(wèn)題研究;共詞分析;聚類分析

    DOI:10.3969j.issn.1008-0821.2017.10.020

    〔中圖分類號(hào)〕G203;G250252〔文獻(xiàn)標(biāo)識(shí)碼〕A〔文章編號(hào)〕1008-0821(2017)10-0114-08

    〔Abstract〕Through literature review,this paper quantitatively analyzed the domestic and foreign researches on Internet privacy,finding that the researches mainly focus on‘research on privacy of mobile location based services,‘research on privacy preserving algorithms,‘research on privacy preserving technologies,‘research on privacy of cloud computing,‘research on right control of Internet privacy,‘research on user privacy attitude and behaviors in social networks and e-commerce,‘research on the privacy and security of teenagerssensitive information,‘research on data sharing strategy and national governance.There were some problems in existing researches,such as‘researches using longitudinal data to analyze the dynamic evolution of the Internet privacy are limited,‘concerns about privacy issues in some developing countries are low,‘national governance is relatively independent of the industrys privacy policy and so on.‘privacy issues in the process of mobile information and social information mining in the era of big data,‘online medical privacy issues etc.were the important areas of future research.

    〔Key words〕internet privacy;research on privacy issues;co-word analysis;cluster analysis

    網(wǎng)絡(luò)的快速發(fā)展為人們提供了免費(fèi)的個(gè)性化服務(wù),方便信息的搜索查詢、在線購(gòu)物和社交等活動(dòng),大大提高了人們的生活水平與工作效率。同時(shí),個(gè)人在享受各種網(wǎng)絡(luò)服務(wù)時(shí)產(chǎn)生了大量的個(gè)人隱私數(shù)據(jù)并存儲(chǔ)在許多政府機(jī)關(guān)及商業(yè)性公司等網(wǎng)站的數(shù)據(jù)庫(kù)中,網(wǎng)絡(luò)傳播的廣泛快捷以及數(shù)據(jù)的易獲取性、易修改性、易破壞性,使得個(gè)人隱私數(shù)據(jù)被非法傳播、修改和濫用的危險(xiǎn)性大大提高[1]。為了保護(hù)用戶的隱私安全,互聯(lián)網(wǎng)公司紛紛出臺(tái)隱私保護(hù)政策,如Facebook在官網(wǎng)上明確的展示了“哪些信息將被收集、如何使用和分享這些信息以及如何應(yīng)對(duì)法律要求或預(yù)防傷害”等政策;致力于旅游服務(wù)的Airbnb也明確提出“不允許提供能識(shí)別房源地點(diǎn)的內(nèi)容,或任何可能為Airbnb社區(qū)成員的個(gè)人安全造成風(fēng)險(xiǎn)的其他內(nèi)容”。

    在業(yè)界加強(qiáng)個(gè)人網(wǎng)絡(luò)隱私保護(hù)的同時(shí),網(wǎng)絡(luò)隱私問(wèn)題也引起了學(xué)界的關(guān)注,發(fā)表了不少有關(guān)網(wǎng)絡(luò)隱私的研究論文。為了了解國(guó)際網(wǎng)絡(luò)隱私研究動(dòng)態(tài),國(guó)內(nèi)已有學(xué)者對(duì)網(wǎng)絡(luò)隱私的部分問(wèn)題進(jìn)行評(píng)述,有的學(xué)者從密碼學(xué)的角度綜述了隱私保護(hù)技術(shù)的研究進(jìn)展,針對(duì)大數(shù)據(jù)的存儲(chǔ)、搜索、計(jì)算分別闡述了研究背景與主要研究方向[2];還有學(xué)者基于內(nèi)容分析法從隱私關(guān)注和隱私行為兩個(gè)方面對(duì)已有研究成果進(jìn)行梳理,結(jié)果發(fā)現(xiàn)國(guó)外研究主要從信息差異、信任差異、個(gè)體差異和文化差異等方面探索影響隱私關(guān)注的相關(guān)因素,并且隱私披露行為、隱私計(jì)算行為和隱私悖論行為是國(guó)外學(xué)者研究最多的三類隱私行為[3];也有些學(xué)者梳理了電子商務(wù)領(lǐng)域中隱私關(guān)注的概念、量表、影響因素以及隱私關(guān)注對(duì)消費(fèi)者行為意向的影響等問(wèn)題[4]。

    由前述可知,目前國(guó)內(nèi)學(xué)者有關(guān)國(guó)際網(wǎng)絡(luò)隱私研究進(jìn)展的文獻(xiàn)主要存在2個(gè)問(wèn)題:一是國(guó)內(nèi)學(xué)者主要就隱私保護(hù)技術(shù)、隱私關(guān)注等方面的國(guó)際研究進(jìn)展進(jìn)行了評(píng)述,但是國(guó)際網(wǎng)絡(luò)隱私研究的范圍要更為廣泛。二是現(xiàn)有研究進(jìn)展文獻(xiàn)主要依據(jù)學(xué)者學(xué)術(shù)經(jīng)驗(yàn),依據(jù)學(xué)者自身對(duì)國(guó)際網(wǎng)絡(luò)隱私文獻(xiàn)的了解和掌握情況,先建立述評(píng)框架,然后再進(jìn)行評(píng)述;其特點(diǎn)是研究進(jìn)展文獻(xiàn)質(zhì)量高低完全取決于學(xué)者學(xué)術(shù)經(jīng)驗(yàn),主觀性較強(qiáng),且往往難以依據(jù)大量文獻(xiàn)進(jìn)行評(píng)述。采取信息計(jì)量方法,可以依據(jù)對(duì)大量文獻(xiàn)的客觀數(shù)據(jù)分析,從宏觀上把握某一領(lǐng)域的研究進(jìn)展。然而,在文獻(xiàn)調(diào)研中,我們未發(fā)現(xiàn)基于客觀數(shù)據(jù)的計(jì)量分析研究國(guó)際網(wǎng)絡(luò)隱私研究現(xiàn)狀的文獻(xiàn)。因此,為了幫助國(guó)內(nèi)學(xué)界從宏觀上把握國(guó)際上有關(guān)網(wǎng)絡(luò)隱私研究的現(xiàn)狀,本文擬選擇WoS包含的SCI、SSCI、A&HCI 3個(gè)數(shù)據(jù)庫(kù)所收錄的國(guó)際頂級(jí)期刊上有關(guān)網(wǎng)絡(luò)隱私的論文為研究對(duì)象,采用可視化計(jì)量分析方法,客觀地分析現(xiàn)有研究取得的成果、存在的不足以及未來(lái)值得關(guān)注的研究方向。endprint

    1數(shù)據(jù)來(lái)源與研究方法

    11數(shù)據(jù)來(lái)源

    本文選取的數(shù)據(jù)庫(kù)為Web of Science核心數(shù)據(jù)庫(kù)中的SCI、SSCI和A&HCI,以保證研究數(shù)據(jù)的質(zhì)量和權(quán)威性,檢索時(shí)間為2016年12月。為了盡可能獲取所有有關(guān)網(wǎng)絡(luò)隱私的文獻(xiàn),本文在“題名”中采用“(Internet priva*) OR (online priva*) OR (network* priva*) OR (comput* priva*) OR (website* priva*) OR (e-commerce priva*) OR (twitter priva*) OR (Facebook priva*)”作為檢索式。但是,在閱讀所抓取文獻(xiàn)的過(guò)程中,我們發(fā)現(xiàn)把少量的物聯(lián)網(wǎng)(internet of things)隱私方面的文獻(xiàn)也包括了進(jìn)來(lái),在閱讀這些文獻(xiàn)后發(fā)現(xiàn)它們主要涉及傳感設(shè)備等相關(guān)的隱私問(wèn)題,不屬于本文擬主要研究的互聯(lián)網(wǎng)移動(dòng)互聯(lián)網(wǎng)隱私問(wèn)題,因此剔除了物聯(lián)網(wǎng)隱私相關(guān)文獻(xiàn),剩余擬分析文獻(xiàn)為2 074篇。

    12研究方法

    本文采用計(jì)量分析方法,首先,將從WoS中獲取的2 074篇文獻(xiàn)通過(guò)TDA提取文章關(guān)鍵詞,在此基礎(chǔ)上進(jìn)行清洗,并選取詞頻在5及5以上的關(guān)鍵詞;其次,將共詞矩陣導(dǎo)入到NetDraw軟件,進(jìn)行共詞網(wǎng)絡(luò)的可視化分析,以便更加直觀的了解詞間關(guān)系(詳見(jiàn)圖1);最后,將共詞矩陣導(dǎo)入到SPSS軟件,進(jìn)行相關(guān)性分析后采用系統(tǒng)聚類方法,以便清晰地了解國(guó)際對(duì)于網(wǎng)絡(luò)隱私的研究重點(diǎn)領(lǐng)域與方向(詳見(jiàn)圖2a,2b,2c,2d)。

    2網(wǎng)絡(luò)隱私研究主題分析

    在社會(huì)網(wǎng)絡(luò)中privacy、security、privacy preservation、social networks、trust、Facebook、cloud computing相對(duì)點(diǎn)度中心度最高分別為6447、3046、1948、1623、1283、1252和1129。說(shuō)明在網(wǎng)絡(luò)隱私中社交網(wǎng)站隱私問(wèn)題、信任問(wèn)題與云計(jì)算中的隱私問(wèn)題受到極大的關(guān)注。在社會(huì)網(wǎng)絡(luò)分析中隱私與安全聯(lián)系最為密切,這是因?yàn)槎哂袠O大的相似之處。從IETF(Internet Engineering Task Force)早期公開(kāi)的文件中能夠看出隱私的提出晚于安全,將隱私的基本價(jià)值描述為交流安全,直到1972年(RFC109)隱私第一次出現(xiàn)在RFC實(shí)踐變化的描述中。REC6973(2013年)則詳細(xì)提出了互聯(lián)網(wǎng)隱私問(wèn)題并為識(shí)別隱私風(fēng)險(xiǎn)提供指導(dǎo)[5-6]。隱私和安全除了概念上的交叉關(guān)系,在技術(shù)上也有極大聯(lián)系,因?yàn)榧夹g(shù)上的安全能更好的實(shí)現(xiàn)系統(tǒng)安全,從而阻止系統(tǒng)受到外部攻擊以保護(hù)個(gè)人隱私,因此隱私和安全不是孤立的,而是相互聯(lián)系的,從發(fā)展趨勢(shì)看二者需要整合在一起進(jìn)行研究。location privacy的相對(duì)中間中心度較高為3877,說(shuō)明在網(wǎng)絡(luò)隱私中位置隱私很重要,并且很多研究都需要通過(guò)它進(jìn)行聯(lián)系。從整體來(lái)看點(diǎn)入度中心勢(shì)與點(diǎn)出度中心勢(shì)均為6074%,中間中心勢(shì)為3914%,數(shù)值較低說(shuō)明目前國(guó)際網(wǎng)絡(luò)隱私研究范圍廣泛,內(nèi)容豐富,這也在聚類結(jié)果有所體現(xiàn)。依據(jù)SPSS系統(tǒng)聚類結(jié)果發(fā)現(xiàn)國(guó)際網(wǎng)絡(luò)隱私研究主要集中在8類。

    第一類基于移動(dòng)位置服務(wù)的隱私問(wèn)題研究。此類研究主要集中在以下3個(gè)方面:1)移動(dòng)位置隱私保護(hù)技術(shù)研究。位置信息包含著用戶的身份、實(shí)際位置和傳輸路徑[7],目前大量的位置隱私保護(hù)技術(shù)從保護(hù)這3個(gè)關(guān)鍵要素出發(fā),例如基于網(wǎng)格的偽裝技術(shù),以模糊用戶的實(shí)際位置;自組織聚類技術(shù),用可信節(jié)點(diǎn)代替其他節(jié)點(diǎn)發(fā)出請(qǐng)求以隱藏各節(jié)點(diǎn)的位置;鄰居節(jié)點(diǎn)技術(shù),提供一種將目標(biāo)位置轉(zhuǎn)換成其他位置的方式,同時(shí)解決轉(zhuǎn)換空間的盲目查詢;匿名保護(hù)機(jī)制,降低身份認(rèn)證的隱私風(fēng)險(xiǎn)等[8];此外Myles等開(kāi)發(fā)了位于應(yīng)用系統(tǒng)和位置追蹤系統(tǒng)之間的中間設(shè)備LocServ2,他們認(rèn)為保護(hù)用戶位置隱私的第一步是要讓用戶知曉在使用服務(wù)時(shí)的位置信息需求,由其決定是否授權(quán)位置信息進(jìn)而使用服務(wù),此設(shè)備能夠很好地解決基于位置的服務(wù)系統(tǒng)需求與用戶對(duì)位置隱私控制需求之間的矛盾[9]。2)用戶的態(tài)度與行為研究。位置信息是用戶隱私的重要組成部分,在采取眾多技術(shù)手段保護(hù)用戶位置隱私的同時(shí),大量的研究也將視角轉(zhuǎn)向用戶對(duì)位置隱私的重視程度、用戶的態(tài)度與行為,如Furini等通過(guò)位置感知情境的方法來(lái)探究用戶的態(tài)度與行為,結(jié)果發(fā)現(xiàn)使用過(guò)位置感知應(yīng)用的用戶對(duì)于位置隱私擔(dān)憂較低,在經(jīng)過(guò)授權(quán)詢問(wèn)和有利可圖的情況下用戶愿意披露位置信息,男性認(rèn)為位置感知的情境服務(wù)更有趣,而女性則認(rèn)為是侵犯行為,這就需要根據(jù)用戶的意愿來(lái)創(chuàng)新位置情境服務(wù)[10]。3)移動(dòng)位置服務(wù)機(jī)制研究。例如,Reza等提出了一種用戶合作的方法,用戶通過(guò)移動(dòng)手機(jī),控制自己的環(huán)境信息,并且可直接為其他用戶提供位置信息,對(duì)于服務(wù)提供者來(lái)說(shuō)用戶的位置信息是隱藏的,主要起到平臺(tái)提供者的角色[11],這一方法的應(yīng)用大大提高了用戶的位置隱私安全。

    第二類隱私保護(hù)算法研究。此類研究主要集中在對(duì)差分隱私的探討,包括其實(shí)現(xiàn)技術(shù),合理性、可行性、可靠性等實(shí)際價(jià)值的探討以及在得到認(rèn)可后地廣泛應(yīng)用,如Dwork在文章中梳理了差分隱私的實(shí)現(xiàn)技術(shù)以及相應(yīng)的應(yīng)用程序,并指出差分隱私算法的3個(gè)具體任務(wù)和一般結(jié)果[12];McSherry等采用實(shí)證研究方法,從網(wǎng)絡(luò)數(shù)據(jù)庫(kù)中收集真實(shí)數(shù)據(jù)作為分析對(duì)象,結(jié)果驗(yàn)證了差分隱私能夠很好地解決統(tǒng)計(jì)分析的準(zhǔn)確性、可靠性與隱私信息保密性的矛盾,降低統(tǒng)計(jì)數(shù)據(jù)庫(kù)的使用風(fēng)險(xiǎn)[13];Lu等則將差分隱私技術(shù)運(yùn)用到互聯(lián)網(wǎng)商務(wù)的推薦系統(tǒng),與基于鄰域的技術(shù)和協(xié)同過(guò)濾技術(shù)融合,提出了一種新的協(xié)同過(guò)濾方法——分區(qū)概率鄰域選擇法,既可以保證用戶的隱私不受到攻擊,又能確保推薦的準(zhǔn)確性[14]。目前探討差分隱私保護(hù)在社交網(wǎng)絡(luò)領(lǐng)域的應(yīng)用,是一個(gè)重要的研究方向。此外,還有學(xué)者探討了保護(hù)隱私的其他算法,如Das等提出了一種基于分布式P2P數(shù)據(jù)聚合的可擴(kuò)展的、隱私保護(hù)的算法,有助于數(shù)據(jù)分析和數(shù)據(jù)挖掘[15];Kearns等提出了一種從圖片搜索方法演變而出的算法,通過(guò)在潛在目標(biāo)的優(yōu)先次序中注入噪聲來(lái)確保隱私保護(hù)[16]。endprint

    第三類隱私保護(hù)技術(shù)研究。此類研究主要集中在以下3個(gè)方面:1)隱私風(fēng)險(xiǎn)預(yù)測(cè)與預(yù)防技術(shù)。例如,Liu等針對(duì)社會(huì)網(wǎng)絡(luò)中的鏈接推理攻擊提出了一個(gè)敏感關(guān)系預(yù)測(cè)模型,它采用了一種新的譜系跟蹤機(jī)制,快速識(shí)別風(fēng)險(xiǎn)并有效切斷敏感關(guān)系的推理路徑[17];Joedi等針對(duì)網(wǎng)絡(luò)搜索引擎存在的隱私風(fēng)險(xiǎn)提出了一種預(yù)防技術(shù),將用戶的個(gè)人信息扭曲,允許用戶在不揭露有用的個(gè)人信息的情況下向搜索引擎發(fā)出請(qǐng)求,阻止搜索引擎獲取有效的用戶信息[18]。2)匿名與多樣性技術(shù)。在社會(huì)網(wǎng)絡(luò)隱私保護(hù)技術(shù)中k-anonymity技術(shù)一度受到關(guān)注,但是由于其沒(méi)有對(duì)敏感屬性做任何約束,攻擊者可以利用背景知識(shí)攻擊、再識(shí)別攻擊和一致性攻擊等方法來(lái)確認(rèn)敏感數(shù)據(jù)與個(gè)人的關(guān)系,導(dǎo)致隱私泄露,l-diversity技術(shù)則改進(jìn)了k-anonymity的一些不足。目前基于這兩種技術(shù)的研究較多,Chakraborty等就建立了一種基于社會(huì)網(wǎng)絡(luò)個(gè)人節(jié)點(diǎn)特征向量中心性的方法,通過(guò)在未加工數(shù)據(jù)中加入噪聲實(shí)現(xiàn)k-anonymity和l-diversity技術(shù)[19];Zhou等擴(kuò)展了傳統(tǒng)的k-anonymity和l-diversity技術(shù)以抵御社會(huì)網(wǎng)絡(luò)中的鄰域攻擊[20]。3)移動(dòng)網(wǎng)絡(luò)中的隱私保護(hù)技術(shù)。隨著智能手機(jī)的廣泛應(yīng)用,移動(dòng)網(wǎng)絡(luò)中的隱私安全問(wèn)題和隱私保護(hù)技術(shù)也引起了廣泛關(guān)注,Najaflou等從信任、隱私、安全3個(gè)方面系統(tǒng)地論述了移動(dòng)社交網(wǎng)絡(luò)中存在的安全挑戰(zhàn)以及技術(shù)策略[21];Zhang等應(yīng)用欺騙政策提出了一種新的技術(shù)FakeMask,將語(yǔ)境偽裝以保護(hù)用戶的隱私,F(xiàn)akeMask輸出的語(yǔ)境信息能夠被信任度較低的語(yǔ)境感知程序獲取或是被用來(lái)回應(yīng)這些程序的請(qǐng)求,而不泄露敏感信息[22]。隨著時(shí)代的進(jìn)步、科技的發(fā)展,隱私保護(hù)技術(shù)會(huì)呈現(xiàn)更多樣更先進(jìn)的發(fā)展趨勢(shì)。

    第四類云計(jì)算的隱私安全研究。此類研究主要集中在以下2個(gè)方面:1)隱私保護(hù)機(jī)制研究。云計(jì)算處在多疇環(huán)境中,每一個(gè)領(lǐng)域都有不同的隱私需求,Takabi等系統(tǒng)分析了云計(jì)算中的隱私問(wèn)題并提出了解決措施[23]。云服務(wù)提供者擁有大量的用戶信息,其權(quán)利的亂用會(huì)極大的侵害用戶的隱私,于是授權(quán)機(jī)制的建立顯得尤為重要,它能夠有效地管控服務(wù)提供者,保護(hù)用戶的隱私權(quán)利。例如,Chadwick等提出了一種授權(quán)策略,云服務(wù)提供商為用戶提供基礎(chǔ)服務(wù),而允許用戶自己定義隱私策略并實(shí)施保護(hù)措施以阻止未經(jīng)授權(quán)的獲取數(shù)據(jù)行為[24]。2)隱私保護(hù)技術(shù)的研究。是否使用云服務(wù)很大程度上取決于用戶的信任,而用戶對(duì)云服務(wù)提供商的信任程度直接依賴于它對(duì)即將出現(xiàn)的風(fēng)險(xiǎn)和安全隱患的解決能力,因此隱私保護(hù)技術(shù)非常重要,Pasupuleti等基于用戶自定義隱私策略的理念,設(shè)計(jì)了一種方法以保護(hù)云中的外包數(shù)據(jù),數(shù)據(jù)擁有者先為文件集合建立索引,同時(shí)加密索引和文件之后再將數(shù)據(jù)存儲(chǔ)在云端,當(dāng)用戶檢索文件時(shí),將生成的關(guān)鍵詞門板發(fā)送給云服務(wù)提供商,云服務(wù)提供商將請(qǐng)求與數(shù)據(jù)庫(kù)中的加密文件匹配,按照排名將一致性程度高的發(fā)送給用戶。他們采用概率公鑰加密算法加密數(shù)據(jù),并調(diào)用排名關(guān)鍵字搜索加密數(shù)據(jù)的方法,大大阻礙了云服務(wù)提供商對(duì)于用戶數(shù)據(jù)的亂用以及外部的攻擊行為[25];此外,Waqar等認(rèn)為可以充分利用云數(shù)據(jù)庫(kù)中的元數(shù)據(jù)來(lái)保護(hù)用戶的隱私信息從而提高用戶對(duì)云服務(wù)的信任,他們?cè)跀?shù)據(jù)庫(kù)架構(gòu)再設(shè)計(jì)和元數(shù)據(jù)動(dòng)態(tài)重建的基礎(chǔ)上提出了隱私保護(hù)的框架[26]。云計(jì)算要想更好的得以應(yīng)用就需要解決隱私安全問(wèn)題,在未來(lái)的研究中云計(jì)算隱私仍會(huì)得到不少關(guān)注。

    第五類網(wǎng)絡(luò)隱私權(quán)限控制研究。此類研究可分為以下3個(gè)方面:1)在線社交網(wǎng)站的權(quán)限控制研究。實(shí)體認(rèn)證和訪問(wèn)控制是實(shí)現(xiàn)隱私保護(hù)的兩個(gè)基本需求,認(rèn)證是使用的前提,只有經(jīng)過(guò)認(rèn)證的用戶才能進(jìn)入網(wǎng)絡(luò)或是系統(tǒng)享受服務(wù);訪問(wèn)控制即使用權(quán)限的控制,只有明確規(guī)定訪問(wèn)控制才能有效防止權(quán)限亂用、數(shù)據(jù)泄露、隱私侵犯等行為并且更好的實(shí)現(xiàn)問(wèn)責(zé)機(jī)制。Tan認(rèn)為訪問(wèn)控制需要滿足不可偽造性、相互認(rèn)證、有條件的匿名、不可鏈接性、問(wèn)責(zé)和可擴(kuò)展性,服務(wù)提供者、第三方公司和用戶作為主體相互合作相互制約[27]。隨著在線社交網(wǎng)站的廣泛應(yīng)用,用戶在發(fā)布信息的同時(shí)經(jīng)常泄露大量敏感信息,但是在很多情況下又無(wú)法實(shí)現(xiàn)合理有效地訪問(wèn)控制,為了解決這一問(wèn)題Imran-Daud等提出了一個(gè)動(dòng)態(tài)的、透明的和隱私驅(qū)動(dòng)的在線社交網(wǎng)站文本信息的訪問(wèn)控制機(jī)制,依靠于自動(dòng)語(yǔ)義注釋機(jī)制,通過(guò)分析發(fā)布信息的語(yǔ)義評(píng)價(jià)內(nèi)容的敏感程度,根據(jù)訪問(wèn)數(shù)據(jù)的讀者類型提供凈化版本[28]。2)在線醫(yī)療網(wǎng)站的權(quán)限控制研究。由于在線醫(yī)療網(wǎng)站儲(chǔ)存著與用戶切身利益相關(guān)的大量健康信息,更需要提供安全的認(rèn)證機(jī)制,如Liang等提出了兩個(gè)屬性導(dǎo)向的認(rèn)證機(jī)制,用戶創(chuàng)建認(rèn)證策略將敏感屬性匿名化只揭露部分屬性,并據(jù)此生成自己的屬性證明,通過(guò)驗(yàn)證屬性證明,用戶之間可以相互了解得知其是否可信,其次用戶通過(guò)在屬性上創(chuàng)建訪問(wèn)政策能夠自由地選擇合適的接收者,以避免沒(méi)有得到認(rèn)證的用戶使用信息[29]。3)移動(dòng)網(wǎng)絡(luò)的權(quán)限控制研究。與在線用戶不同,移動(dòng)網(wǎng)絡(luò)用戶的隱私信息至少包括2個(gè)方面:一是身份信息;二是位置信息,不管是違反匿名性還是違反不可追蹤性都會(huì)極大地危害移動(dòng)網(wǎng)絡(luò)用戶的隱私,因此非常需要認(rèn)證程序來(lái)保護(hù)用戶的隱私。例如,Jiang等提出了基于二次剩余假設(shè)的加強(qiáng)版認(rèn)證隱私保護(hù)方案,既能實(shí)現(xiàn)雙因素安全又可實(shí)現(xiàn)不可追蹤性[30]。權(quán)限控制是隱私保護(hù)的前提,只有實(shí)現(xiàn)合理安全的認(rèn)證、訪問(wèn)控制等權(quán)限控制機(jī)制,才能有效的管理用戶行為,阻止侵犯隱私行為的發(fā)生。

    第六類社交網(wǎng)站和電子商務(wù)中的用戶隱私態(tài)度與行為研究。此類研究從以下2個(gè)方面進(jìn)行梳理:1)社交網(wǎng)站用戶的隱私態(tài)度與行為研究,包括用戶的風(fēng)險(xiǎn)承擔(dān)能力、信任、隱私關(guān)注、信息披露與文化差異等。例如,F(xiàn)ogel等從用戶信任、風(fēng)險(xiǎn)承擔(dān)以及隱私關(guān)注視角研究社交網(wǎng)站用戶的態(tài)度與行為,并選取205個(gè)大學(xué)生作為研究對(duì)象,研究發(fā)現(xiàn)在使用社交網(wǎng)站與不使用社交網(wǎng)站的用戶之間風(fēng)險(xiǎn)承擔(dān)態(tài)度存在差異,用戶對(duì)兩個(gè)社交網(wǎng)站的信任度不同,男性和女性在信息披露與隱私關(guān)注的態(tài)度不同,因此社交網(wǎng)站應(yīng)在個(gè)人注冊(cè)和創(chuàng)建社交網(wǎng)站簡(jiǎn)介之前告知潛在用戶承擔(dān)風(fēng)險(xiǎn)和隱私問(wèn)題是潛在相關(guān)的需要引起重視[31]。隱私披露一直以來(lái)都是備受關(guān)注的用戶行為,國(guó)際學(xué)者從不同的視角探討了其決定因素,Krasnova等采用了隱私演算視角,從個(gè)人主義和不確定性規(guī)避兩個(gè)維度探討了文化差異對(duì)于自我披露行為的決定作用[32];Xu等基于計(jì)劃行為理論和隱私演算模型探討社交網(wǎng)站中用戶個(gè)人信息自我披露的重要影響因素,隱私關(guān)注與自我揭露行為負(fù)相關(guān)、感知利益與自我揭露行為正相關(guān)的結(jié)果為社交網(wǎng)站降低隱私風(fēng)險(xiǎn)、留住用戶,擴(kuò)大用戶量提供了指導(dǎo)意義[33];此外,Lin等則從隱私關(guān)注、信任與動(dòng)機(jī)3個(gè)因素探討了對(duì)信息披露的影響,在控制隱私關(guān)注的基礎(chǔ)上,信任顯著影響信息披露行為,在控制隱私關(guān)注和信任的基礎(chǔ)上,動(dòng)機(jī)又顯著影響信息披露行為[34],這些研究大大拓展了學(xué)界對(duì)信息披露行為決定因素的認(rèn)知。2)電子商務(wù)用戶的隱私態(tài)度與行為研究,主要集中對(duì)隱私關(guān)注相關(guān)問(wèn)題的探討。從文獻(xiàn)回顧中可以發(fā)現(xiàn)不僅社交網(wǎng)站用戶的接受程度和信息披露等行為受到隱私關(guān)注的直接影響,電子商務(wù)網(wǎng)站的使用和交易情況也極大地受到隱私關(guān)注的影響,顧客越是關(guān)注隱私安全,就越可能進(jìn)行線下購(gòu)物,而阻礙電商的長(zhǎng)久發(fā)展,研究中既有將隱私關(guān)注作為自變量來(lái)探討對(duì)顧客實(shí)際行為意圖的影響,也有將其作為因變量研究其決定因素,還有將兩種研究結(jié)合起來(lái)通過(guò)完整的潛變量和選擇模型一同研究隱私關(guān)注對(duì)電商的作用[4,35-36],使得隱私關(guān)注的研究全面且深入。電子商務(wù)網(wǎng)站的迅速發(fā)展,隨之而來(lái)的隱私問(wèn)題層出不窮,比如隱私信息的交易、用戶信息的挖掘與公布等,目前除了網(wǎng)站本身隱私問(wèn)題受到極大關(guān)注,用戶的傾向與實(shí)際行為、用戶的態(tài)度也都是主要的研究方向,未來(lái)仍會(huì)得到持續(xù)關(guān)注以完善現(xiàn)有經(jīng)驗(yàn)。endprint

    第七類青少年敏感信息的隱私與安全保護(hù)研究。此類研究主要集中在以下2個(gè)方面:1)青少年隱私關(guān)注相關(guān)問(wèn)題的研究。對(duì)于青少年自身特點(diǎn)的了解有利于各方采取針對(duì)性的隱私保護(hù)措施,如Youn以羅杰斯的保護(hù)驅(qū)動(dòng)理論為框架探討了影響青少年隱私關(guān)注程度的決定因素,研究發(fā)現(xiàn)青少年感知信息泄露風(fēng)險(xiǎn)會(huì)增強(qiáng)隱私關(guān)注行為,而感知信息交換利益則會(huì)降低隱私關(guān)注行為,隱私關(guān)注的程度會(huì)影響風(fēng)險(xiǎn)應(yīng)對(duì)行為,因此需要對(duì)青少年進(jìn)行隱私保護(hù)教育加強(qiáng)其對(duì)隱私安全的關(guān)注[37]。2)家長(zhǎng)、互聯(lián)網(wǎng)公司以及國(guó)家的作用探討。家長(zhǎng)作為青少年的監(jiān)護(hù)人對(duì)其信息分享過(guò)程伴隨的風(fēng)險(xiǎn)會(huì)感到擔(dān)憂,于是監(jiān)督和控制青少年互聯(lián)網(wǎng)的使用情況,可是這并不是一件容易的事情,因此家長(zhǎng)在青少年互聯(lián)網(wǎng)隱私保護(hù)中的作用引起了廣泛的關(guān)注。例如,Walrave等通過(guò)研究得知隱私關(guān)注和效益的感知是影響青少年在網(wǎng)絡(luò)消費(fèi)時(shí)揭露個(gè)人描述信息和聯(lián)系方式的主要因素,并且家長(zhǎng)的介入不能降低青少年揭露個(gè)人信息的意愿,因此需要采取其他措施比如國(guó)家制定相關(guān)政策降低青少年的自揭露行為[38];Yang等探討了青少年的隱私關(guān)注和隱私保護(hù)行為之間的關(guān)系以及家長(zhǎng)和社交網(wǎng)站所起的調(diào)節(jié)作用,家長(zhǎng)通過(guò)采取措施提高青少年的隱私關(guān)注程度從而提高隱私保護(hù)行為[39];Shin等也探討了在青少年網(wǎng)絡(luò)隱私關(guān)注和信息泄露行為中家長(zhǎng)和互聯(lián)網(wǎng)應(yīng)該扮演的角色,以此更好的指導(dǎo)青少年的隱私保護(hù)行為[40]??梢?jiàn)青少年作為弱勢(shì)群體之一受到了極大的關(guān)注。

    第八類數(shù)據(jù)公開(kāi)共享策略與國(guó)家治理研究。此類研究主要集中在以下2個(gè)方面:1)數(shù)據(jù)公開(kāi)共享與隱私保護(hù)的研究。數(shù)據(jù)公開(kāi)與隱私保護(hù)需求之間的矛盾引起了學(xué)界的關(guān)注,如Kaye探討了基因研究中的這對(duì)矛盾體,并指出了一些新的方式以實(shí)現(xiàn)數(shù)據(jù)共享與隱私安全的和諧發(fā)展[41]。目前的數(shù)據(jù)公開(kāi)主要依靠公開(kāi)政策和戰(zhàn)略指導(dǎo),但是僅僅依靠這些政策會(huì)導(dǎo)致數(shù)據(jù)失真且保護(hù)并不充分,需要新的方法和工具實(shí)現(xiàn)隱私保護(hù)的數(shù)據(jù)公開(kāi)(PPDP),Benjamin等系統(tǒng)的分析和評(píng)價(jià)了近幾年隱私保護(hù)的數(shù)據(jù)公開(kāi)方法[42],幫助學(xué)界全面地了解現(xiàn)狀并進(jìn)行拓展研究。2)國(guó)家治理研究。在隱私保護(hù)問(wèn)題上,國(guó)家管控政策的制定與實(shí)施也引起了國(guó)際學(xué)者的關(guān)注,如Abraham在文章中探討了當(dāng)局者對(duì)于數(shù)據(jù)隱私治理的作用,指出他們的信息分享、標(biāo)準(zhǔn)協(xié)調(diào)和聯(lián)合執(zhí)行3種實(shí)施行為中聯(lián)合執(zhí)行起到有力的作用,因而提出了一種基于區(qū)域合作方式的新的網(wǎng)絡(luò)治理方法[43]。對(duì)于隱私的保護(hù),發(fā)達(dá)國(guó)家和發(fā)展中國(guó)家的治理策略和力度都有很大區(qū)別,Adelola等分析了美國(guó)、英國(guó)等發(fā)達(dá)國(guó)家進(jìn)行電子商務(wù)數(shù)據(jù)保護(hù)的原因,通過(guò)對(duì)比指出了尼日利亞這些發(fā)展中國(guó)家無(wú)法有效開(kāi)展這些隱私和數(shù)據(jù)保護(hù)策略的原因,為尼日利亞等發(fā)展中國(guó)家的治理發(fā)展提出了借鑒意義[44]。

    3結(jié)論

    通過(guò)文獻(xiàn)計(jì)量分析發(fā)現(xiàn),國(guó)際關(guān)于網(wǎng)絡(luò)隱私問(wèn)題的研究主要集中在“基于移動(dòng)位置服務(wù)的隱私問(wèn)題研究”、“隱私保護(hù)算法研究”、“隱私保護(hù)技術(shù)研究”、“云計(jì)算的隱私安全研究”、“網(wǎng)絡(luò)隱私權(quán)限控制研究”、“社交網(wǎng)站和電子商務(wù)中的用戶隱私態(tài)度與行為研究”、“青少年敏感信息的隱私與安全保護(hù)研究”、“數(shù)據(jù)公開(kāi)共享策略與國(guó)家治理研究”8個(gè)方面。

    網(wǎng)絡(luò)隱私研究雖然涉及多個(gè)方面且受到各界的極大關(guān)注,但是現(xiàn)有研究仍然存在以下缺陷:①利用數(shù)據(jù)縱向分析網(wǎng)絡(luò)隱私主題隨時(shí)間發(fā)展變化的研究較少,大多數(shù)學(xué)者選取網(wǎng)絡(luò)隱私部分問(wèn)題進(jìn)行分析研究,缺少主題的動(dòng)態(tài)演變和趨勢(shì)分析。②研究背景大多是發(fā)達(dá)國(guó)家和網(wǎng)絡(luò)設(shè)施較完善的發(fā)展中國(guó)家,對(duì)于一些發(fā)展中國(guó)家的隱私問(wèn)題關(guān)注度較低。③和其他研究方面相比,國(guó)家的治理政策研究相對(duì)偏少,并且國(guó)家的治理與業(yè)界的隱私政策相對(duì)獨(dú)立缺乏聯(lián)系。④大數(shù)據(jù)時(shí)代對(duì)于社交與移動(dòng)信息挖掘過(guò)程中的隱私安全問(wèn)題的系統(tǒng)性研究較少。⑤在線醫(yī)療的隱私安全雖然引起了學(xué)界的關(guān)注,但研究尚處在初級(jí)階段。

    值得指出的是,現(xiàn)存的不足也為未來(lái)研究提供了方向。①關(guān)注網(wǎng)絡(luò)隱私研究隨時(shí)間變化而產(chǎn)生的動(dòng)態(tài)演變及發(fā)展趨勢(shì),以抓住研究熱點(diǎn)與發(fā)展方向。②擴(kuò)展研究背景,將視角轉(zhuǎn)向信息化程度較低的發(fā)展中國(guó)家,以了解他們的隱私保護(hù)現(xiàn)狀。③關(guān)注國(guó)家政策的實(shí)施效果,并結(jié)合相關(guān)的業(yè)界政策提出修改意見(jiàn),讓宏觀政策更加接近實(shí)際生活。④關(guān)注大數(shù)據(jù)時(shí)代背景下社交網(wǎng)站信息、移動(dòng)信息挖掘過(guò)程中的隱私問(wèn)題。⑤目前在線醫(yī)療受到了業(yè)界的極大關(guān)注,許多互聯(lián)網(wǎng)公司紛紛進(jìn)入在線醫(yī)療領(lǐng)域,在線醫(yī)療涉及的隱私問(wèn)題是未來(lái)研究的重點(diǎn)領(lǐng)域之一。

    參考文獻(xiàn)

    [1]劉煥成.網(wǎng)絡(luò)隱私保護(hù)對(duì)策研究[J].情報(bào)科學(xué),2003,21(4):428-433.

    [2]黃劉生,田苗苗,黃河.大數(shù)據(jù)隱私保護(hù)密碼技術(shù)研究綜述[J].軟件學(xué)報(bào),2015,26(4):945-959.

    [3]張玥,朱慶華.國(guó)外信息隱私研究述評(píng)[J].圖書情報(bào)工作,2014,58(13):140-148.

    [4]歐陽(yáng)洋,袁勤儉.國(guó)內(nèi)外電子商務(wù)環(huán)境下隱私關(guān)注研究述評(píng)[J].情報(bào)科學(xué),2016,34(7):170-176.

    [5]BRAMAN S.Privacy by design: networked computing,1969-1979[J].New Media & Society,2011,14(5):798-814.

    [6]DOTY N.Reviewing for privacy in Internet and web standard-setting[JOL].http:ieeexplore.ieee.orgdocument7163224,2015-07-202016-12-31.

    [7]CHOW C Y.Privacy in location-based services: a system architecture perspective[J].Sigspatial Special,2009,1(2):23-27.endprint

    [8]WILLIAM J,BUCHANAN,ZBIGNIEW K,et al.A privacy preserving method using privacy enhancing techniques for location based services[J].Mobile Networks and Applications,2013,18(5):728-737.

    [9]MYLES G,F(xiàn)RIDAY A,DAVIES N.Preserving privacy in environments with location based applications[J].IEEE Pervasive Computing,2003,2(1):56-64.

    [10]FURINI M,TAMANINI V.Location privacy and public metadata in social media platforms: attitudes,behaviors and opinions[J].Multimedia Tools and Applications,2015,74(21):9795-9825.

    [11]REZA S,GEORGE T,PANOS P,et al.Hiding in the mobile crowd: location privacy through Collaboration[J].IEEE Transactions on Dependable and Secure Computing,2014,11(3):266-279.

    [12]DWORK C.Differential privacy: a survey of results[JOL].https:link.springer.comchapter10.1007978-3-540-79228-4_1,2008-042016-12-31.

    [13]MCSHERRY F,MAHAJAN R.Differentially-private network trace analysis[J].ACM SIGCOMM Computer Communication Review-SIGCOMM10,2010,40(4):123-134.

    [14]LU Z G,SHEN H.An accuracy-assured privacy-preserving recommender system for Internet commerce[J].Computer Science & Information Systems,2015,12(4):1307-1326.

    [15]DAS K,BHADURI K,KARGUPTA H.Multi-objective optimization based privacy preserving distributed data mining in Peer-to-Peer networks[J].Peer-to-Peer Networking and Application,2011,4(2):192-209.

    [16]KEARNS M,ROTH A,WU Z S,et al.Private algorithms for the protected in social network search[J].Proceedings of The National Academy of Science of The United States of America,2016,113(4):913-918.

    [17]LIU X Y,YANG X C.Protecting sensitive relationships against inference attacks in social networks[JOL].https:link.springer.comchapter10.1007%2F978-3-642-29038-1_25,2012-042016-12-31.

    [18]JOEDI C R,ALEXANDRE V,JOEDI H J.Preserving users privacy in web search engines[J].Computer Communications,2009,32(13-14):1541-1551.

    [19]CHAKRABORTY S,TRIPATHY B K.Privacy preserving anonymization of social networks using eigenvector centrality approach[J].Intelligent Data Analysis,2016,20(3):543-560.

    [20]ZHOU B,PEI J.The k-anonymity and l-diversity approaches for privacy preservation in social networks against neighborhood attacks[J].Knowledge and Information Systems,2011,28(1):47-77.

    [21]NAJAFLOU Y,JEDARI B,XIA F.Safety challenges and solutions in mobile social networks[J].IEEE Systems Journal,2015,9(3):834-854.

    [22]ZHANG L C,CAI Z P,WANG X M.FakeMask:a novel privacy preserving approach for smartphones[J].IEEE Transactions on Network and Service Management,2016,13(2):335-348.endprint

    [23]TAKABI H,JOSHI J B D,AHN G J.Security and privacy challenges in cloud computing environments[J].IEEE Security & Privacy,2010,8(6):24-31.

    [24]CHADWICK D W,F(xiàn)ATEMA K.A privacy preserving authorisation system for the cloud[J].Journal of Computer and System Sciences,2012,78(5):1359-1373.

    [25]PASUPULETI S K,RAMALINGAM S,BUYYA R.An efficient and secure privacy-preserving approach for outsourced data of resource constrained mobile devices in cloud computing[J].Journal of Network and Computer Applications,2016,64:12-22.

    [26]WAQAR A,RAZA A,ABBAS H,et al.A framework for preservation of cloud users data privacy using dynamic reconstruction of metadata[J].Journal of Network and Computer Applications,2013,36(1):235-248.

    [27]TAN ZW.A lightweight conditional privacy-preserving authentication and access control scheme for pervasive computing environments[J].Journal of Network and Computer Applications,2012,35(6):1839-1846.

    [28]IMRAN-DAUD M,SANCHEZ D,VIEJO A.Privacy-driven access control in social networks by means of automatic semantic annotation[J].Computer Communications,2016,76(15):12-25.

    [29]LIANG X H,BARUA M,LU R X,et al.HealthShare:achieving secure and privacy-preserving health information sharing through health social networks[J].Computer Communications,2012,35(15):1910-1920.

    [30]JIANG Q,MA J F,LI G S,et al.An enhanced authentication scheme with privacy preservation for roaming service in global mobility networks[J].Wireless Personal Communications,2013,68(4):1477-1491.

    [31]FOGEL J,NEHMAD E.Internet social network communities:risk taking,trust,and privacy concerns[J].Computers in Human Behavior,2009,25(1):153-160.

    [32]KRASNOVA H,VELTRI N F,GUNTHER O.Self-disclosure and privacy calculus on social networking sites: the role of culture intercultural dynamics of privacy calculus[J].Business & Information Systems Engineering,2012,4(3):127-135.

    [33]XU F,MICHAEL K,CHEN X.Factors affecting privacy disclosure on social network sites: an integrated model[J].Electronic Commerce Research,2013,13(2):151-168.

    [34]LIN S W,LIU Y C.The effects of motivations,trust,and privacy concern in social networking[J].Service Business,2012,6(4):411-424.

    [35]MCCOLE P,RAMSEY E,WILLIAMS J.Trust considerations on attitudes towards online purchasing: the moderating effect of privacy and security concerns[J].Journal of Business Research,2010,63(9):1018-1024.

    [36]POTOGLOU D,PALACIOS J F,F(xiàn)EIJOO C.An integrated latent variable and choice model to explore the role of privacy concern on stated behavioural intentions in e-commerce[J].Journal of Choice Modelling,2015,17:10-27.endprint

    [37]YOUN S.Determinants of online privacy concern and its influence on privacy protection behaviors among young adolescents[J].The Journal of Consumer Affairs,2009,43(3):389-418.

    [38]WALRAVE M,HEIRMAN W.Adolescents,online marketing and privacy: predicting adolescents willingness to disclose personal information for marketing purposes[J].Children & Society,2013,27(6):434-447.

    [39]YANG F,XIE W J.Teens concern for privacy when using social networking sites: An analysis of socialization agents and relationships with privacy-protecting behaviors[J].Computers in Human Behavior,2014,33:153-162.

    [40]SHIN W S,KANG H J.Adolescents privacy concerns and information disclosure online: The role of parents and the Internet[J].Computers in Human Behavior,2016,54:114-123.

    [41]KAYE J.The tension between data sharing and the protection of privacy in genomics research[J].Annual Review of Genomics and Human Genetics,2012,13:415-431.

    [42]BENJAMIN C M,WANG K E,CHEN R,et al.Privacy-preserving data publishing:a survey of recent developments[J].ACM Computing Survey,2010,42(4):14:1-14:53.

    [43]ABRAHAM L.Watching the watchers: transgovernmental implementation of data privacy policy in Europe[J].Journal of Comparative Policy Analysis: Research and Practice,2011,13(2):181-194.

    [44]ADELOLA T,DAWSON R,BATMAZ F.Privacy and data protection in E-commerce: the effectiveness of a government regulation approach in developing nations,using Nigeria as a case[JOL].http:ieeexplore.ieee.orgdocument7038812,2015-02-122016-12-31.

    (本文責(zé)任編輯:郭沫含)endprint

    猜你喜歡
    共詞分析聚類分析
    基于德溫特?cái)?shù)據(jù)庫(kù)的關(guān)鍵共性技術(shù)分析
    國(guó)內(nèi)圖書館嵌入式服務(wù)研究主題分析
    基于聚類分析研究貴州省各地區(qū)經(jīng)濟(jì)發(fā)展綜合評(píng)價(jià)
    商情(2016年39期)2016-11-21 08:45:54
    基于文獻(xiàn)計(jì)量分析我國(guó)生物科學(xué)素養(yǎng)研究狀況(2001~2016年)
    基于知識(shí)圖譜的智慧教育研究熱點(diǎn)與趨勢(shì)分析
    新媒體用戶行為模式分析
    農(nóng)村居民家庭人均生活消費(fèi)支出分析
    基于省會(huì)城市經(jīng)濟(jì)發(fā)展程度的實(shí)證分析
    基于聚類分析的互聯(lián)網(wǎng)廣告投放研究
    科技視界(2016年20期)2016-09-29 12:32:48
    “縣級(jí)供電企業(yè)生產(chǎn)經(jīng)營(yíng)統(tǒng)計(jì)一套”表輔助決策模式研究
    久久99精品国语久久久| 简卡轻食公司| 久久精品久久精品一区二区三区| 精品久久久久久久久av| 欧美国产精品一级二级三级 | 国产伦理片在线播放av一区| 国产精品久久久久久精品电影小说 | 久久人人爽av亚洲精品天堂 | 欧美精品亚洲一区二区| 一本一本综合久久| 国产精品熟女久久久久浪| 久久人人爽人人片av| 蜜桃亚洲精品一区二区三区| 日韩 亚洲 欧美在线| 老司机影院成人| 国产人妻一区二区三区在| 97热精品久久久久久| 成人影院久久| 自拍欧美九色日韩亚洲蝌蚪91 | www.av在线官网国产| 三级经典国产精品| 亚洲电影在线观看av| 蜜臀久久99精品久久宅男| 一区二区av电影网| 草草在线视频免费看| 在线观看av片永久免费下载| 成年人午夜在线观看视频| 久久人人爽人人爽人人片va| 一边亲一边摸免费视频| xxx大片免费视频| 国产成人精品婷婷| 亚洲精品国产成人久久av| 国产精品无大码| 美女脱内裤让男人舔精品视频| 精品人妻一区二区三区麻豆| 伊人久久国产一区二区| 一级爰片在线观看| 国产精品不卡视频一区二区| 国产色婷婷99| 成年免费大片在线观看| 国产精品99久久99久久久不卡 | 高清欧美精品videossex| 黄色视频在线播放观看不卡| 美女视频免费永久观看网站| 联通29元200g的流量卡| 国产精品国产av在线观看| 欧美+日韩+精品| 精品国产露脸久久av麻豆| 男女边摸边吃奶| 最黄视频免费看| 色吧在线观看| 国产亚洲午夜精品一区二区久久| 成人18禁高潮啪啪吃奶动态图 | 亚洲久久久国产精品| 欧美日韩一区二区视频在线观看视频在线| 2022亚洲国产成人精品| av网站免费在线观看视频| av专区在线播放| 纯流量卡能插随身wifi吗| 如何舔出高潮| 国产精品久久久久久精品古装| 干丝袜人妻中文字幕| 97在线人人人人妻| 国产成人午夜福利电影在线观看| 在线免费观看不下载黄p国产| 日韩av免费高清视频| 亚洲,一卡二卡三卡| 国产亚洲91精品色在线| 欧美国产精品一级二级三级 | 一级a做视频免费观看| 亚洲婷婷狠狠爱综合网| 日韩欧美精品免费久久| 国产无遮挡羞羞视频在线观看| 国产在线一区二区三区精| 联通29元200g的流量卡| 黄色配什么色好看| 两个人的视频大全免费| 亚洲熟女精品中文字幕| 国产精品人妻久久久影院| 高清不卡的av网站| 亚洲精品成人av观看孕妇| 久久精品国产鲁丝片午夜精品| 精品一品国产午夜福利视频| 免费少妇av软件| 搡老乐熟女国产| 久久人人爽人人爽人人片va| 中国国产av一级| 青青草视频在线视频观看| 精品少妇久久久久久888优播| 国产精品一区二区在线不卡| 亚洲精品久久午夜乱码| 亚洲va在线va天堂va国产| 男人和女人高潮做爰伦理| 简卡轻食公司| 成人综合一区亚洲| 在线观看免费日韩欧美大片 | 汤姆久久久久久久影院中文字幕| 国产亚洲91精品色在线| 高清不卡的av网站| 免费观看的影片在线观看| 男男h啪啪无遮挡| 美女内射精品一级片tv| 欧美日韩国产mv在线观看视频 | 日韩成人伦理影院| 日韩国内少妇激情av| .国产精品久久| 人人妻人人爽人人添夜夜欢视频 | 高清不卡的av网站| 六月丁香七月| 最近2019中文字幕mv第一页| 国产精品伦人一区二区| 蜜桃久久精品国产亚洲av| 男人添女人高潮全过程视频| 看免费成人av毛片| av网站免费在线观看视频| 国产精品一及| 亚洲精品成人av观看孕妇| 国产精品99久久久久久久久| 我的女老师完整版在线观看| 黄色视频在线播放观看不卡| 麻豆成人av视频| 日韩伦理黄色片| 欧美xxxx黑人xx丫x性爽| av在线播放精品| 特大巨黑吊av在线直播| 国产成人精品久久久久久| 一级毛片电影观看| 欧美日韩亚洲高清精品| 制服丝袜香蕉在线| 久久久久久久精品精品| 精品久久久噜噜| 日韩av在线免费看完整版不卡| 亚洲精品国产成人久久av| 国产一级毛片在线| 亚洲色图av天堂| 国产亚洲5aaaaa淫片| 少妇丰满av| 久久久成人免费电影| 一本—道久久a久久精品蜜桃钙片| 看非洲黑人一级黄片| 一级片'在线观看视频| 国产亚洲午夜精品一区二区久久| 舔av片在线| 色婷婷久久久亚洲欧美| 成人二区视频| av线在线观看网站| av黄色大香蕉| 久久国产精品男人的天堂亚洲 | 一级爰片在线观看| 伊人久久精品亚洲午夜| 女人久久www免费人成看片| .国产精品久久| 日本黄大片高清| 免费高清在线观看视频在线观看| 国产伦精品一区二区三区视频9| 亚洲一级一片aⅴ在线观看| 精品少妇久久久久久888优播| 狂野欧美激情性bbbbbb| 国产高清三级在线| 国产白丝娇喘喷水9色精品| 免费观看a级毛片全部| 成人影院久久| 亚洲色图综合在线观看| 欧美xxxx黑人xx丫x性爽| 色婷婷久久久亚洲欧美| 国产视频内射| 国产日韩欧美亚洲二区| 国产成人一区二区在线| 91久久精品电影网| 亚州av有码| 嫩草影院新地址| 91在线精品国自产拍蜜月| av卡一久久| 国产精品一区www在线观看| 成年av动漫网址| 国产淫语在线视频| 国产白丝娇喘喷水9色精品| 3wmmmm亚洲av在线观看| 色视频在线一区二区三区| 国产中年淑女户外野战色| 超碰97精品在线观看| 精品亚洲成国产av| 国产在线男女| 亚洲国产日韩一区二区| 日韩一本色道免费dvd| 国产一区二区在线观看日韩| 国产亚洲午夜精品一区二区久久| 嫩草影院入口| 国产精品蜜桃在线观看| 老师上课跳d突然被开到最大视频| 国产精品麻豆人妻色哟哟久久| 青春草视频在线免费观看| 精品酒店卫生间| 一区二区三区精品91| 大片电影免费在线观看免费| 熟女人妻精品中文字幕| 久热这里只有精品99| 人妻夜夜爽99麻豆av| 中文欧美无线码| 99久久中文字幕三级久久日本| 十分钟在线观看高清视频www | 在线精品无人区一区二区三 | 人妻少妇偷人精品九色| 午夜精品国产一区二区电影| 伊人久久国产一区二区| 99久久精品一区二区三区| 在线精品无人区一区二区三 | 成人影院久久| 水蜜桃什么品种好| 精品少妇黑人巨大在线播放| 国产亚洲午夜精品一区二区久久| 麻豆成人午夜福利视频| 国产色爽女视频免费观看| 蜜桃在线观看..| 国产精品.久久久| 国产精品久久久久久久电影| 免费播放大片免费观看视频在线观看| 日韩中文字幕视频在线看片 | h视频一区二区三区| 国产有黄有色有爽视频| 九九久久精品国产亚洲av麻豆| 少妇裸体淫交视频免费看高清| 在线 av 中文字幕| 国产爽快片一区二区三区| 成人午夜精彩视频在线观看| 色综合色国产| 肉色欧美久久久久久久蜜桃| 日韩伦理黄色片| 观看美女的网站| 午夜激情福利司机影院| 欧美变态另类bdsm刘玥| 99热网站在线观看| 午夜精品国产一区二区电影| 天堂中文最新版在线下载| 国产成人精品婷婷| 亚洲婷婷狠狠爱综合网| 亚洲国产精品国产精品| 欧美成人午夜免费资源| 亚洲成人一二三区av| 国产精品不卡视频一区二区| 久久精品人妻少妇| 一级a做视频免费观看| 日韩亚洲欧美综合| 在线观看一区二区三区激情| 欧美老熟妇乱子伦牲交| 国产熟女欧美一区二区| 亚洲激情五月婷婷啪啪| 97超视频在线观看视频| 91精品国产国语对白视频| 成年免费大片在线观看| 80岁老熟妇乱子伦牲交| 男女啪啪激烈高潮av片| 九九久久精品国产亚洲av麻豆| 亚洲国产欧美在线一区| 美女xxoo啪啪120秒动态图| 在线 av 中文字幕| 精品亚洲乱码少妇综合久久| 精品酒店卫生间| 26uuu在线亚洲综合色| 亚洲欧美日韩卡通动漫| 亚洲精品日本国产第一区| 中文字幕免费在线视频6| 男人添女人高潮全过程视频| 国产在线免费精品| 久久久久精品久久久久真实原创| 久久久久久久精品精品| 国产深夜福利视频在线观看| 在线精品无人区一区二区三 | 日韩大片免费观看网站| 久久综合国产亚洲精品| 少妇 在线观看| 精品久久久噜噜| 91久久精品电影网| 美女内射精品一级片tv| 99re6热这里在线精品视频| 免费久久久久久久精品成人欧美视频 | 三级国产精品片| 国产一级毛片在线| 久久久久国产网址| 成人黄色视频免费在线看| 久久人人爽av亚洲精品天堂 | 这个男人来自地球电影免费观看 | 国产亚洲午夜精品一区二区久久| 久久午夜福利片| 午夜免费观看性视频| 麻豆成人av视频| 亚洲一区二区三区欧美精品| 国产亚洲午夜精品一区二区久久| 我要看黄色一级片免费的| 97在线人人人人妻| 亚洲欧美精品专区久久| 精品人妻熟女av久视频| 中文天堂在线官网| 精品一区二区三区视频在线| 三级国产精品欧美在线观看| 美女cb高潮喷水在线观看| 国产精品一区二区三区四区免费观看| 亚洲精品国产成人久久av| 纯流量卡能插随身wifi吗| 精品国产露脸久久av麻豆| 国产伦精品一区二区三区视频9| 青春草亚洲视频在线观看| 久久久久精品性色| 精品亚洲成a人片在线观看 | 欧美性感艳星| 亚洲精品中文字幕在线视频 | 日韩一区二区视频免费看| 只有这里有精品99| 激情 狠狠 欧美| 乱系列少妇在线播放| 大又大粗又爽又黄少妇毛片口| 三级经典国产精品| 久久99热这里只有精品18| 丰满少妇做爰视频| 国产精品麻豆人妻色哟哟久久| 日本免费在线观看一区| 亚洲va在线va天堂va国产| 亚洲色图av天堂| 午夜免费鲁丝| 国产成人freesex在线| 色吧在线观看| 热99国产精品久久久久久7| av线在线观看网站| 国产精品.久久久| 精品久久久久久久久亚洲| 超碰av人人做人人爽久久| 如何舔出高潮| 国产在线免费精品| 99久久中文字幕三级久久日本| 王馨瑶露胸无遮挡在线观看| 国产高清三级在线| 男的添女的下面高潮视频| 国产亚洲欧美精品永久| 国产精品国产三级国产专区5o| 尾随美女入室| 亚洲熟女精品中文字幕| 国产视频首页在线观看| 狂野欧美白嫩少妇大欣赏| 亚洲欧美成人精品一区二区| 精品人妻偷拍中文字幕| 国产综合精华液| 久久精品国产鲁丝片午夜精品| 日本黄大片高清| 噜噜噜噜噜久久久久久91| 丝袜脚勾引网站| 国产在线男女| 日韩一本色道免费dvd| 激情 狠狠 欧美| 纯流量卡能插随身wifi吗| 波野结衣二区三区在线| 亚洲精品乱久久久久久| 亚洲人与动物交配视频| 久久毛片免费看一区二区三区| 七月丁香在线播放| 久久久久久久亚洲中文字幕| 在线观看三级黄色| 秋霞伦理黄片| 亚洲精品国产色婷婷电影| 乱码一卡2卡4卡精品| 国产精品偷伦视频观看了| 久久6这里有精品| av线在线观看网站| 国产男女超爽视频在线观看| 美女国产视频在线观看| 亚洲综合精品二区| 成人综合一区亚洲| 天堂俺去俺来也www色官网| 欧美变态另类bdsm刘玥| 国产极品天堂在线| 天美传媒精品一区二区| 亚洲成人一二三区av| 欧美日韩综合久久久久久| 一级a做视频免费观看| 欧美丝袜亚洲另类| 国产成人freesex在线| 国产亚洲91精品色在线| 青春草视频在线免费观看| 2018国产大陆天天弄谢| h视频一区二区三区| 亚洲欧洲日产国产| 熟女av电影| 欧美另类一区| 午夜精品国产一区二区电影| 免费观看在线日韩| 国产精品免费大片| 韩国av在线不卡| 国产毛片在线视频| 99久久精品热视频| 免费在线观看成人毛片| 免费看光身美女| 国产亚洲欧美精品永久| 国产精品久久久久久精品古装| 亚洲精品亚洲一区二区| 啦啦啦啦在线视频资源| 黄片wwwwww| 秋霞在线观看毛片| 黑丝袜美女国产一区| 国产亚洲欧美精品永久| 免费在线观看成人毛片| 亚洲最大成人中文| 这个男人来自地球电影免费观看 | 成年免费大片在线观看| 精华霜和精华液先用哪个| 久久久久久久国产电影| 色婷婷av一区二区三区视频| 成人美女网站在线观看视频| 日韩大片免费观看网站| 香蕉精品网在线| 91午夜精品亚洲一区二区三区| 日韩强制内射视频| 香蕉精品网在线| 天堂中文最新版在线下载| 多毛熟女@视频| 久热久热在线精品观看| 欧美区成人在线视频| 舔av片在线| 亚洲三级黄色毛片| 久久久久精品久久久久真实原创| 在线免费十八禁| 国产欧美亚洲国产| 日韩制服骚丝袜av| 在线 av 中文字幕| 看免费成人av毛片| 亚洲国产av新网站| 麻豆精品久久久久久蜜桃| 国产熟女欧美一区二区| 成人18禁高潮啪啪吃奶动态图 | 3wmmmm亚洲av在线观看| 在线 av 中文字幕| 亚洲欧美成人精品一区二区| 日韩不卡一区二区三区视频在线| 午夜福利影视在线免费观看| a级一级毛片免费在线观看| 欧美日韩视频精品一区| 免费观看的影片在线观看| 熟女av电影| 男女边吃奶边做爰视频| 亚洲人成网站高清观看| 精品一区在线观看国产| 国产精品人妻久久久久久| 一级片'在线观看视频| 亚洲美女搞黄在线观看| 两个人的视频大全免费| 午夜免费鲁丝| 亚洲精品乱码久久久v下载方式| 五月开心婷婷网| 日韩强制内射视频| 新久久久久国产一级毛片| 男女啪啪激烈高潮av片| 亚洲精品国产av成人精品| 亚洲av二区三区四区| 日本一二三区视频观看| 大话2 男鬼变身卡| 性色avwww在线观看| 国产成人freesex在线| 亚洲av福利一区| 中文字幕制服av| 久久精品人妻少妇| 成人无遮挡网站| 国产成人精品婷婷| av在线蜜桃| 嫩草影院新地址| 久久这里有精品视频免费| www.色视频.com| 99热这里只有是精品在线观看| 久久女婷五月综合色啪小说| 亚洲国产欧美在线一区| 纯流量卡能插随身wifi吗| 日日啪夜夜撸| 男人爽女人下面视频在线观看| 亚洲在久久综合| 日韩三级伦理在线观看| 亚洲av不卡在线观看| 两个人的视频大全免费| 国产成人免费无遮挡视频| 精品一品国产午夜福利视频| 国产精品秋霞免费鲁丝片| 中文字幕精品免费在线观看视频 | 亚洲欧美精品专区久久| 日韩中文字幕视频在线看片 | 尾随美女入室| av免费在线看不卡| 国产亚洲一区二区精品| 日本黄大片高清| 一区二区三区四区激情视频| 欧美97在线视频| 少妇人妻 视频| 国产精品久久久久久精品电影小说 | 18+在线观看网站| 视频中文字幕在线观看| 欧美日本视频| 一级毛片电影观看| 免费黄频网站在线观看国产| 中文欧美无线码| 毛片女人毛片| 久久精品国产亚洲av涩爱| 自拍欧美九色日韩亚洲蝌蚪91 | 大香蕉97超碰在线| 欧美激情极品国产一区二区三区 | 欧美一级a爱片免费观看看| 久久精品久久久久久噜噜老黄| 久久精品夜色国产| 国产熟女欧美一区二区| 欧美一区二区亚洲| 又爽又黄a免费视频| 国产 一区精品| 国产人妻一区二区三区在| 人人妻人人澡人人爽人人夜夜| 色哟哟·www| 国产色爽女视频免费观看| 国产伦精品一区二区三区视频9| 亚洲精品乱码久久久v下载方式| 亚洲国产欧美在线一区| 国产日韩欧美在线精品| 十分钟在线观看高清视频www | 我的女老师完整版在线观看| 韩国高清视频一区二区三区| 在线天堂最新版资源| 视频中文字幕在线观看| 久久久精品免费免费高清| 日韩三级伦理在线观看| 最近最新中文字幕大全电影3| 日韩精品有码人妻一区| 97在线人人人人妻| 男女无遮挡免费网站观看| 日韩中字成人| 妹子高潮喷水视频| 日韩av在线免费看完整版不卡| av国产久精品久网站免费入址| 中国美白少妇内射xxxbb| 一级片'在线观看视频| 国产av国产精品国产| 国产伦在线观看视频一区| 在线观看免费高清a一片| 男的添女的下面高潮视频| 亚洲精品国产av蜜桃| 97超视频在线观看视频| 亚洲在久久综合| 色婷婷久久久亚洲欧美| 最黄视频免费看| 成人一区二区视频在线观看| 啦啦啦视频在线资源免费观看| 国产免费福利视频在线观看| 国产精品蜜桃在线观看| 有码 亚洲区| 网址你懂的国产日韩在线| 狂野欧美白嫩少妇大欣赏| 日韩制服骚丝袜av| 国产精品不卡视频一区二区| 夜夜骑夜夜射夜夜干| 亚洲欧美精品专区久久| 精品久久久噜噜| 一区二区三区四区激情视频| 国产永久视频网站| 九九爱精品视频在线观看| av一本久久久久| 99精国产麻豆久久婷婷| 欧美3d第一页| 黑人高潮一二区| 亚洲欧美日韩东京热| 简卡轻食公司| 久久99热这里只有精品18| 在线播放无遮挡| 99久久精品国产国产毛片| 亚洲精品日韩av片在线观看| 亚洲丝袜综合中文字幕| 美女内射精品一级片tv| 一区二区三区精品91| 亚洲av成人精品一区久久| 亚洲色图综合在线观看| 日韩av不卡免费在线播放| av黄色大香蕉| 观看美女的网站| 人人妻人人澡人人爽人人夜夜| 亚洲欧美清纯卡通| 国产成人精品久久久久久| 2021少妇久久久久久久久久久| 永久网站在线| 亚洲四区av| 寂寞人妻少妇视频99o| 在线 av 中文字幕| 亚洲av日韩在线播放| 亚洲国产色片| 日韩av不卡免费在线播放| 日本黄色片子视频| 日本wwww免费看| 黄色欧美视频在线观看| 成人特级av手机在线观看| 日韩成人伦理影院| 久久97久久精品| 你懂的网址亚洲精品在线观看| 国产老妇伦熟女老妇高清| 男女下面进入的视频免费午夜| 久久久精品免费免费高清| 一区二区三区乱码不卡18| av免费观看日本| 小蜜桃在线观看免费完整版高清| 能在线免费看毛片的网站| 亚洲精品日韩av片在线观看| 久久久精品免费免费高清| 午夜福利影视在线免费观看| 日韩中字成人| 97超碰精品成人国产| 国产精品嫩草影院av在线观看| 久久精品国产自在天天线| kizo精华| 国语对白做爰xxxⅹ性视频网站| 午夜福利高清视频| 国产精品一二三区在线看| 久久精品国产自在天天线| 亚洲图色成人| 丰满人妻一区二区三区视频av| 丝袜喷水一区| 2018国产大陆天天弄谢| 久久毛片免费看一区二区三区|