• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于移動應(yīng)用類別的用戶隱私保護(hù)博弈分析

    2024-01-01 00:00:00馬昭
    上海管理科學(xué) 2024年6期
    關(guān)鍵詞:博弈模型隱私保護(hù)

    摘" 要:" 當(dāng)前移動App過度收集個人信息導(dǎo)致隱私問題頻發(fā)。但隨著我國立法明確了“告知同意”和“最少信息”的原則,個人信息的主導(dǎo)權(quán)逐漸回歸用戶。因此為了更好地保護(hù)個人信息的安全,用戶需要明確在使用不同App時個人隱私偏好的差異;而App服務(wù)商也需要根據(jù)用戶的偏好進(jìn)行合理的信息安全投入決策。為了實(shí)現(xiàn)用戶隱私安全和App服務(wù)商信息安全投入的均衡,首先設(shè)計問卷獲取針對不同App類型的用戶的隱私偏好,并通過層次聚類劃分了用戶類別;然后在此基礎(chǔ)上,構(gòu)建App服務(wù)商信息保護(hù)和用戶信息交換的博弈模型,給出雙方的效用函數(shù)并分別計算不同的用戶類別的均衡點(diǎn),為安全高效的保護(hù)用戶隱私提供建議。

    關(guān)鍵詞:" 層次聚類;隱私保護(hù);博弈模型

    中圖分類號:" F 062

    文獻(xiàn)標(biāo)志碼:" A

    收稿日期:2021-05-17

    作者簡介:馬昭(1996—),男,河南人,上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院碩士研究生,研究方向:隱私保護(hù)。

    文章編號:1005-9679(2024)06-0088-10

    Game Analysis of User Privacy Protection Based onMobile Application Category

    MA Zhao

    (Antai College of Economics amp; Management, Shanghai Jiao Tong University, Shanghai 200030, China)

    Abstract: At present, mobile app excessively collects personal information, which leads to frequent privacy problems. However, with the principle of “informed consent” and “minimum information” clarified in China's legislation, the dominance of personal information gradually returns to users. Therefore, in order to better protect the security of personal information, users need to make clear the differences in privacy preferences when using different apps; and app service providers also need to make reasonable information security investment decisions according to users’ preferences. In order to balance the user privacy security and the information security input of service providers, this paper designs a questionnaire to obtain the user privacy preference, and classifies the user privacy preference categories by hierarchical clustering. Then, based on the static game model, we give the utility function of the participants and calculate the equilibrium points of different user categories respectively, so as to protect the users safely and efficiently.

    Key words: hierarchical clustering; privacy protection; game theory model

    1" 引言

    1.1" 隱私偏好

    隨著電子信息技術(shù)的快速發(fā)展,信息數(shù)據(jù)在經(jīng)濟(jì)領(lǐng)域的巨大價值被逐漸挖掘,同時政府也開始意識到信息技術(shù)的背后潛藏的公民信息的巨大風(fēng)險,公民隱私保護(hù)的意識的逐漸覺醒,“隱私關(guān)注(Privacy Concerns) ”一詞開始成為研究的熱點(diǎn)?!半[私關(guān)注”一般指用戶對于個人信息在網(wǎng)絡(luò)空間是否會發(fā)生泄露的擔(dān)憂程度[1],影響著用戶在互聯(lián)網(wǎng)上披露個人信息的意愿[2]。但隨著大數(shù)據(jù)時代的來臨,公民的隱私關(guān)注的廣泛性愈發(fā)提高,迫切希望掌握對個人數(shù)據(jù)的主導(dǎo)權(quán)[3]。歐盟史上最嚴(yán)的個人數(shù)據(jù)保護(hù)條例GDPR(General Data Protection Regulation)出臺后,互聯(lián)網(wǎng)巨頭不得不執(zhí)行嚴(yán)苛的數(shù)據(jù)保護(hù)規(guī)定[4,5]。無論用戶的隱私關(guān)注程度如何,企業(yè)都必須以合法和透明的方式公平地處理用戶數(shù)據(jù),并采用必要的措施保證數(shù)據(jù)安全,極大地限制了企業(yè)過往在用戶數(shù)據(jù)處理上的自由度,給予了用戶追求“隱私偏好”的可能性?!半[私偏好(Privacy Preference)”廣義上表示用戶對某種信息類型的敏感程度,與“隱私關(guān)注”有類似之處,但是狹義上更為細(xì)致地強(qiáng)調(diào)了用戶在何時、何地、以何種方式表達(dá)隱私訴求[6]。越來越多的學(xué)者開始研究如何拓展用戶的隱私選項(xiàng),給予用戶獨(dú)立的隱私?jīng)Q策空間,最大限度地尊重用戶的隱私偏好。目前的研究發(fā)現(xiàn)用戶對某類信息或者App的偏好不僅受到居住環(huán)境、年齡、性別等一般因素的影響,還與App的界面設(shè)計和功能優(yōu)化、個人情緒等密切相關(guān),隱私偏好的個性化特征十分明顯[7,8]。

    1.2" 國內(nèi)立法情況

    實(shí)際上早些時候,我國便制定了關(guān)于網(wǎng)絡(luò)信息安全的相關(guān)法律,全國人大先后于2012年通過了《全國人民代表大會常務(wù)委員會關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》,2016年通過了《中華人民共和國網(wǎng)絡(luò)安全法》(簡稱“一法一決定”),但以上兩部法律更多的強(qiáng)調(diào)網(wǎng)絡(luò)空間的規(guī)范治理,并非針對個人隱私保護(hù)的專門立法[15]。隨后我國出臺了一系列配套的部門規(guī)章、國家標(biāo)準(zhǔn)及行業(yè)指南,其中2020年10月1日正式實(shí)施的國家標(biāo)準(zhǔn)《信息安全技術(shù) 個人信息安全規(guī)范》明確了“告知同意”和“最小必要”是個人信息收集過程中最重要的兩個原則,并給出了詳細(xì)的個人信息類型示例[16]; 2020年1月更新發(fā)布的《信息安全技術(shù) 移動互聯(lián)網(wǎng)應(yīng)用程序(APP)收集個人信息基本規(guī)范》則規(guī)定了移動互聯(lián)網(wǎng)應(yīng)用程序30種服務(wù)類型的最小必要信息和最小權(quán)限范圍。以上兩項(xiàng)國家標(biāo)準(zhǔn)相輔相成,既允許移動應(yīng)用收集必要的個人信息保障正常運(yùn)行;同時又劃定了紅線,越界收集信息將有可能被追究侵權(quán)責(zé)任,用戶在個人信息保護(hù)上的弱勢地位有望得到改善甚至扭轉(zhuǎn)。因此研究用戶的隱私偏好,將有助于探索在新的立法環(huán)境下用戶和移動應(yīng)用的一種更為平等的契約關(guān)系。

    1.3" 用戶和App服務(wù)商的博弈關(guān)系

    通常情況下App的運(yùn)行模式為:用戶下載并安裝App后,授予其相應(yīng)的權(quán)限, App在獲得授權(quán)后向用戶開放功能。在大數(shù)據(jù)時代,通過對海量用戶數(shù)據(jù)的清洗、挖掘、分析,服務(wù)商可以輕易地實(shí)現(xiàn)精準(zhǔn)營銷、庫存管理、流程優(yōu)化等目標(biāo)。因此為了獲取廉價的用戶信息資源,一些App通過變相引誘或者脅迫的手段收集用戶信息,設(shè)置用戶不授予權(quán)限便無法使用的霸王條款,使得用戶毫無選擇的余地[9,10];抑或是用大數(shù)據(jù)分析用戶的消費(fèi)偏好和使用習(xí)慣,實(shí)施差異化定價獲取更多利潤,即大數(shù)據(jù)“殺熟”[11]。由于立法和監(jiān)管的缺位,用戶作為個人信息主體幾乎不享有任何對個人信息的主導(dǎo)權(quán),在與App服務(wù)商的圍繞信息和服務(wù)的博弈關(guān)系中處于絕對的弱勢地位。因此許多博弈研究從企業(yè)的角度出發(fā)構(gòu)建博弈模型,Chorppat等[13] 將企業(yè)作為機(jī)制規(guī)則的設(shè)計者,不斷地尋求從用戶處獲得更多更準(zhǔn)確的信息,而代價僅僅是給予用戶適當(dāng)?shù)呢泿偶?;Panaousis等[14]構(gòu)建的斯塔克伯格博弈模型中,企業(yè)作為領(lǐng)導(dǎo)者,用戶作為追隨者,企業(yè)通過持續(xù)追蹤用戶的位置獲利,針對不同的用戶類型設(shè)定服務(wù)水平,用戶則根據(jù)個人的使用需求和隱私態(tài)度確定最優(yōu)反應(yīng)函數(shù)。而在信息安全的投入上,企業(yè)的決策本質(zhì)上出于利潤最大化的考慮,取決于數(shù)據(jù)安全提升的成本和所達(dá)成的風(fēng)險緩解的效果[12]。以上研究表明在缺乏明確監(jiān)管標(biāo)準(zhǔn)的情況下,由于用戶信息完全暴露在企業(yè)面前,企業(yè)借助變相引誘或脅迫的手段盡可能地多獲取信息,收割消費(fèi)者剩余,同時在數(shù)據(jù)安全的保護(hù)上采取較為經(jīng)濟(jì)的模式,最大限度降低成本,這正是造成當(dāng)前隱私安全問題頻發(fā)的直接誘因。

    總結(jié)說來,用戶正逐漸展現(xiàn)出強(qiáng)烈的隱私偏好訴求,立法環(huán)境的趨嚴(yán)賦予了實(shí)現(xiàn)訴求的可能性;同時傳統(tǒng)的博弈模型由于用戶的弱勢地位,更多地站在企業(yè)的角度設(shè)定雙方的效用函數(shù),在新的監(jiān)管背景下將不再適用。未來企業(yè)不僅無權(quán)在未經(jīng)用戶同意的情況下收集用戶信息,還要在用戶提供最小信息的前提下保證服務(wù)功能的運(yùn)行,同時由于合規(guī)要求必須增加數(shù)據(jù)保護(hù)方面的開支。用戶正逐漸重新掌握對個人信息的主導(dǎo)權(quán),有充分表達(dá)隱私偏好訴求的空間,扭轉(zhuǎn)了以往博弈關(guān)系中用戶和App服務(wù)商不平等地位。

    因此本文的貢獻(xiàn)點(diǎn)在于根據(jù)最新的國家標(biāo)準(zhǔn)從個人信息類型和App類型兩個維度衡量用戶偏好,劃分用戶類別;隨后考慮用戶和App服務(wù)商更為平等的博弈關(guān)系,構(gòu)建靜態(tài)博弈模型分析不同類別用戶在具體App使用背景下的均衡。

    2" 用戶隱私偏好類別的建立

    2.1" 數(shù)據(jù)收集

    由于用戶在不同的App使用情境下具有不同的隱私偏好,因此選擇個人信息類型和App類型作為衡量用戶隱私偏好的兩個維度。根據(jù)GB/T 35273—2020《信息安全技術(shù)" 個人信息安全規(guī)范》中的個人信息示例,將個人信息分為以下12個類別(見表1)。同時根據(jù)《信息安全技術(shù) 移動互聯(lián)網(wǎng)應(yīng)用(App)收集個人信息基本規(guī)范(草案)》規(guī)定的30種服務(wù)類型,并結(jié)合華為應(yīng)用商店中的應(yīng)用分類將App類型分為14個類別,編號1-14(見表2)。由于難以考察用戶實(shí)地使用App的信息偏好,本文采用調(diào)查問卷的方法獲取用戶的偏好數(shù)據(jù)。通過前期的預(yù)調(diào)研,考慮到問卷的工作量并便于后期數(shù)據(jù)處理,問卷針對每一種個人信息類型,要求受訪者根據(jù)重視程度,至多選擇4種App類型,表明用戶在使用所選擇的App類型時,重點(diǎn)關(guān)注該類型的個人信息。問卷還參考了如CFIP、IPIUC等[17,18]衡量用戶隱私關(guān)注的量表,設(shè)計了5個問題并使用7級量表衡量用戶的隱私保護(hù)意識。

    根據(jù)第46次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》[19],20~50歲以下的網(wǎng)民占比接近60%,職業(yè)結(jié)構(gòu)中學(xué)生比例占比最高。因此問卷的發(fā)放過程中,線下渠道主要以學(xué)生群體為主,線上渠道則限制了問卷填寫的年齡。最終共收集有效問卷337份,其中男性問卷為160份,占比47.47%,女性問卷為177份,占比52.53%,所有用戶的隱私關(guān)注平均得分為5.51,超過5分的用戶為261人,占比77.73%,因此參與問卷調(diào)查的用戶普遍具有良好的隱私保護(hù)意識。

    2.2" 用戶偏好特征分析

    回收問卷后通過數(shù)據(jù)處理將用戶選項(xiàng)統(tǒng)一轉(zhuǎn)變?yōu)锳pp類型的編號,每一個用戶的隱私偏好由一個14×12的0/1矩陣表示出來,行維度表示App類型,列維度表示個人信息類型。如果用戶在某項(xiàng)個人信息類型的問題中選擇了關(guān)注的App類型,那么對應(yīng)的矩陣單元數(shù)值為1,其余未選擇的App類型矩陣單元數(shù)值為0。需要特別指出的是,由于施加了至多填寫4種App類型的限制,對于矩陣中每列的個人信息類型,數(shù)值1的出現(xiàn)次數(shù)最多為4次。

    本文通過將每個樣本14×12的矩陣計數(shù)得到不同個人信息類型在App類型下的關(guān)注度矩陣,即樣本矩陣中數(shù)值1的次數(shù)占總樣本數(shù)的比例。圖1展示了14種App類型的平均信息關(guān)注度,反映了用戶使用不同類型App的總體偏好特征。

    對比圖1種不同App類型的關(guān)注度,用戶在不同的App使用環(huán)境下信息關(guān)注度具有明顯差異。(1)在使用通信類、金融類、購物類App時,平均信息關(guān)注度接近或超過40%,這表明用戶在使用以上App時對個人信息較為敏感,因此本文將以上三種App列為重度信息關(guān)注類App,此類App具有使用頻率高、信息收集要求高、用戶群體廣泛的特點(diǎn);(2)在使用生活類、圖像類、游戲類、出行類、健康類、位置類、商業(yè)類App時,用戶的信息關(guān)注度普遍在20% - 30%之間,因此將這7類App歸為中度信息關(guān)注App,此類App的服務(wù)類型較為單一、用戶使用需求往往缺乏持續(xù)性;(3)對于娛樂類、工具類、教育類App,用戶則給予了普遍較低的信息關(guān)注度,列為輕度信息關(guān)注類App,此類App通常不太依賴敏感權(quán)限授予即可運(yùn)行服務(wù)。

    特別地,一些中度信息關(guān)注App雖然整體信息關(guān)注度不高,但用戶對于與其服務(wù)類型匹配的個人信息類型給予了特別的關(guān)注。例如49.0%的用戶使用健康類App重點(diǎn)關(guān)注個人健康生理信息,44.2%的用戶使用商業(yè)類App時重點(diǎn)關(guān)注個人教育工作信息,分別由45.7%和35.6%的用戶在使用位置類和出行類App時關(guān)注個人位置信息(見圖2)。這說明用戶在使用App時既會體現(xiàn)出普遍性的信息關(guān)注,又會重點(diǎn)關(guān)注與服務(wù)類型匹配的敏感信息類型。

    此外,個人信息類型的平均App關(guān)注度上限的計算公式為最大選擇數(shù)/App類型數(shù),即如果用戶被允許針對個人信息類型選擇全部14種App,那么該信息類型的關(guān)注度為100%。在本文的問卷中,由于施加了最多填寫4個的限制,個人信息類型的關(guān)注度上限為4/14=28.57%。在處理問卷時由于絕大多數(shù)問卷的題目都達(dá)到了填寫的上限,因此每個信息類型平均App關(guān)注度沒有太大差異(見圖3)。相對而言,用戶對于可以直接判別個人身份的標(biāo)識符信息更為重視,例如個人身份信息、個人基本資料信息、網(wǎng)絡(luò)身份標(biāo)識信息和個人生物識別信息,其他準(zhǔn)標(biāo)識符信息關(guān)注度相對較低。

    2.3" 基于層次聚類劃分用戶類別

    不同的用戶關(guān)注的信息類型是不同的,這不僅體現(xiàn)在用戶對單個信息類型的側(cè)重,還體現(xiàn)在用戶的整體關(guān)注分布。由于本文的單個樣本為14×12的0/1矩陣,數(shù)據(jù)為二分的離散變量,無法直接計算距離進(jìn)行聚類。因此本文根據(jù)個人信息類型的關(guān)注次數(shù),從樣本矩陣中提取5項(xiàng)用戶的隱私特征,構(gòu)成用戶隱私特征向量,根據(jù)特征維度賦予權(quán)重并計算距離(見表3)。其中針對第1、2項(xiàng)隱私特征,如果兩個用戶信息類型不同,距離為1,否則為0。為了體現(xiàn)出不同隱私特征的權(quán)重差異,本文將第1、3項(xiàng)特征的權(quán)重設(shè)置為1,第2、4項(xiàng)特征的權(quán)重設(shè)置為0.9,第5項(xiàng)特征由于維度較多,設(shè)置為0.1。

    由于層次聚類不需要事先設(shè)定聚類的個數(shù),可以動態(tài)監(jiān)測聚類的迭代過程,并發(fā)現(xiàn)用戶類別之間的層次關(guān)系,本文采用自底向上的聚類模式,初始將每個用戶作為單獨(dú)的分組,每次迭代聚合兩個距離最近的分組,直至所有用戶聚合為一個分組。在聚類的迭代過程中,通過監(jiān)控聚類簇數(shù)k來判斷聚類效果。定義總聚類誤差為所有聚類簇的誤差之和,其中第i個聚類簇的誤差為簇內(nèi)nk個用戶的隱私特征向量到平均值的距離之和。平均聚類誤差為總聚類誤差對所有用戶取平均,用公式表示如下:

    平均聚類誤差=∑ki=1∑nkj=1d(x(i)j,x-(i)j)N(1)

    圖4展示了平均聚類誤差隨聚類簇的變化情況。當(dāng)聚類簇數(shù)目從14個類別增長至4個類別時,平均聚類誤差保持平穩(wěn)增長;聚類簇超過4個類別時,平均聚類誤差曲線轉(zhuǎn)為陡峭,快速增長。這說明從4個類別分為3個類別時,該次迭代分類產(chǎn)生了較大的誤差,因此選擇在4個聚類簇時停止迭代,生成4個用戶類別。其中第1個類別的樣本數(shù)量為278,占總樣本數(shù)為82.49%;第2個類別的樣本數(shù)量為49,占總樣本數(shù)為14.54%;第3個類別樣本數(shù)量為9,占總樣本數(shù)為2.66%;第4個類別樣本數(shù)量僅為1。由于第3、4個類別包含的樣本數(shù)過少,本文僅考慮前兩個用戶類別。

    本文計算了兩種用戶類別對于重度、中度、輕度信息關(guān)注App的平均信息關(guān)注度并與樣本的整體關(guān)注度相比較(見圖5),得出以下結(jié)論:(1)第一用戶類別的主要特征為高度重視金融類、購物類等重度信息關(guān)注的App類型,而對中度App關(guān)注相對較低;(2)第二用戶類別對重度信息關(guān)注的App類型的敏感程度比第一用戶類別要低,但是對中度信息關(guān)注App相對較高;(3)兩類用戶類別對于輕度信息關(guān)注的App差異并不明顯。這表明了用戶在App類型上的兩種偏好傾向,即絕大多數(shù)用戶(占樣本80%以上)重視敏感App信息的保護(hù),而在一些功能單一、使用頻率低的App上保護(hù)意識較弱,少數(shù)用戶注重不同類型隱私保護(hù)的平衡,既重點(diǎn)關(guān)注了敏感App,又在其他App上具有較強(qiáng)的保護(hù)意識。結(jié)合工信部公布的各批《關(guān)于侵害用戶權(quán)益行為的App通報》,小眾App是隱私安全問題的重災(zāi)區(qū),而通信類、金融類等App的通報次數(shù)明顯偏低,這和用戶的信息關(guān)注度差異密不可分,因此本文構(gòu)建的博弈模型引入服務(wù)因子和信息因子解釋信息關(guān)注度對于用戶和App服務(wù)商之間均衡的影響。

    3" App服務(wù)和用戶的博弈模型

    3.1" 博弈模型的構(gòu)建

    為了體現(xiàn)個人信息主導(dǎo)權(quán)向用戶的回歸,本文通過引入相關(guān)因子描述用戶關(guān)注度的差異,構(gòu)建了用戶和App服務(wù)商基于信息和服務(wù)的靜態(tài)博弈模型。通常情況下App的運(yùn)行模式為:用戶下載并安裝App后,授予其相應(yīng)的權(quán)限,App向用戶開放服務(wù)和功能。在這個交易過程中,用戶付出的唯一成本是個人信息,并不涉及現(xiàn)金對價,二者構(gòu)成了一個信息-服務(wù)的供需市場[20,21],即用戶以其信息作為“購買”服務(wù)的對價,App服務(wù)商則提供服務(wù)向用戶輸出“商品”。定義用戶的信息為i,App的服務(wù)為q,考慮經(jīng)典的線性需求刻畫初始的需求曲線為:

    qqmax+iimax=1(2)

    其中,i,q分別表示用戶實(shí)際使用App付出的信息和獲取的服務(wù),imax代表用戶所能交換的最大信息量,qmax代表當(dāng)前信息下App所能升級的服務(wù)上限。由于信息和服務(wù)均無法直接量化,因此將imax,qmax設(shè)定為1。

    由于用戶對于不同類型App的信息關(guān)注度不同,App的服務(wù)水平隨著信息量增大而不斷優(yōu)化。為了刻畫不同App類型之間的差異,本文引入因子α,β實(shí)現(xiàn)初始需求曲線的動態(tài)調(diào)整。其中α為App服務(wù)因子,描述用戶信息對App服務(wù)的促進(jìn)程度;β為用戶信息因子,描述App服務(wù)水平對用戶信息的吸引程度,則新的需求曲線為:

    q(1+α)qmax+i(1+β)imax=1(3)

    App向用戶索取的信息越多,預(yù)期的隱私泄露損失越高;App服務(wù)商的數(shù)據(jù)安全投入越高,用戶對App服務(wù)的信心就越高。為了更好地描述信息量和泄露損失、安全投入和用戶信心之間的關(guān)系,定義E為用戶的隱私泄露效用損失,I為服務(wù)商信息安全投入??紤]到指數(shù)模型具有尺度不變性的優(yōu)點(diǎn),可以更好地形容變量之間相對變化的關(guān)系,因此用指數(shù)模型表示如下:

    α=αmax(EEmax)v1,0lt;v1lt;1

    β=βmax(IImax)v2,0lt;v2lt;1

    雖然相關(guān)立法規(guī)定了不同App服務(wù)類型所需要最小必要信息,但在實(shí)際操作中App服務(wù)商往往通過各種名義尋求用戶更多的信息授權(quán),實(shí)際獲取的信息超過了滿足服務(wù)運(yùn)行要求的最小信息量??紤]到用戶和App服務(wù)商之間基本不涉及現(xiàn)金對價,因此服務(wù)商根本動機(jī)為攫取最大的用戶信息剩余(見圖6)。

    用戶的消費(fèi)者剩余則取決于需求曲線決定的信息量和App服務(wù)商實(shí)際收集的信息量之間的差值,用積分表示為:

    CS=∫0(i-)dq=(1+α)qmax[(1+β)imax-]22(1+β)imax(5)

    假設(shè)法規(guī)規(guī)定的App服務(wù)類型運(yùn)行的最小必要信息為imin,App服務(wù)商的生產(chǎn)者剩余取決于最小信息與實(shí)際收集用戶信息的差值:

    PS=(-imin)=(1+α)qmax[(1+β)imax-](1+β)imax(-imin)(6)

    若隱私泄漏的概率為P,包括App服務(wù)器端泄露概率P(s)和用戶移動端泄露概率P(c),則隱私泄露的概率表示為:

    P=P(s)+P(c)(7)

    同樣的,用戶分享越多的信息,隱私泄露的概率和效用都會增大;服務(wù)商更多的信息安全投入則會減小服務(wù)器端泄露的概率,因此用指數(shù)模型分別表示兩種泄露的概率為:

    P(c)=P(s)maxEEmaxt1,0lt;t1lt;1

    P(s)=P(s)max1-λ(IImax)t2,0lt;t2lt;1(8)

    特別地,由于App服務(wù)器端的泄露概率不可能降至0,因此加入系數(shù)λ限制App服務(wù)商最低將泄露概率降至P(s)max(1-λ)。同樣地,將Emax,Imax設(shè)定為1。

    因此,用戶效用損失的期望值由隱私泄露概率P和效用損失E共同決定,為PE。若在當(dāng)前法律法規(guī)下,App服務(wù)商承擔(dān)損失的部分為θPE,則用戶承擔(dān)的效用損失為(1-θ)PE,其中θ(0lt;θlt;1)為用戶和App服務(wù)商分?jǐn)倱p失的比例系數(shù)。結(jié)合式(4)、(5)中的生產(chǎn)者剩余和消費(fèi)者剩余,給出用戶和App服務(wù)商的效用函數(shù)如下:

    UC=(1+α)qmax[(1+β)imax-]22(1+β)imax-(1-θ)PE

    US=(1+α)qmax[(1+β)imax-](1+β)imax(-imin)-I-θPE(9)

    3.2" 博弈模型均衡的實(shí)現(xiàn)

    根據(jù)式(4),服務(wù)因子α為效用損失E的函數(shù),信息因子β為數(shù)據(jù)保護(hù)投入I的函數(shù)。為簡化計算,令X=E/Emax,Y=I/Imax并分別將用戶效用UC對變量X求偏導(dǎo),服務(wù)商效用US對變量Y求偏導(dǎo),分別求得用戶和服務(wù)商的最優(yōu)反應(yīng)函數(shù)。

    UCX=0(10)

    得到

    (1-θ)EmaxP(s)max[1-λYt2]+(1-θ)(1+t1)EmaxP(c)maxXt1=v1αmaxqmax[(1+βmaxYv2)imax-]]22(1+βmaxYv2)imaxXv1-1(11)

    USY=0(12)

    得到

    -(1+αmaxXv1)qmax(-imin)imax·v2βmaxYv2-1(1+βmaxYv2-1)2=Imax-t2λθP(s)maxEmaxXYt2-1(13)

    式(11)、(13)分別為用戶和App服務(wù)商的最優(yōu)反應(yīng)函數(shù),但均為隱函數(shù)形式。為更加直觀地表示該博弈模型的均衡,使用形如Y=f(X)和Y=g(X)的形式概括式(11)、(13)的函數(shù)關(guān)系,該博弈模型的納什均衡(X*,Y*)滿足以下條件:

    Y*=f(X*)

    Y*=g(X*)(14)

    3.3" 不同用戶類別的均衡分析

    結(jié)合前文劃分的用戶類別,計算不同用戶類別的均衡狀態(tài)。由于用戶的隱私安全是建立在不同類型的App基礎(chǔ)上的,因此本文考慮某一特定App類型下的全部信息均衡。取每個App類型的平均信息關(guān)注度為App服務(wù)因子αmax,全部信息類型的平均App關(guān)注度為用戶信息因子βmax。通過計算,第一類和第二類用戶類別的信息因子βmax均為0.261,主要因?yàn)榻^大多數(shù)用戶都選擇了3-4個App類型,進(jìn)而導(dǎo)致兩類用戶的App關(guān)注度差異極小。本文分析了兩類用戶類別在使用金融類(重度)、出行類(中度)和娛樂類(輕度)App的信息均衡狀態(tài),(αmax,βmax)的數(shù)值見表4。

    參考相關(guān)文獻(xiàn)[20,21],設(shè)置其余參數(shù)如下:

    由于用戶和App服務(wù)商的反應(yīng)函數(shù)是單調(diào)的,因此博弈只存在一個納什均衡。圖7展示了不同用戶類別和App類型下的均衡狀態(tài),均衡點(diǎn)則衡量了用戶的效用損失程度和App服務(wù)商的信息安全投入程度。

    3.4" 結(jié)果分析

    1.觀察用戶和App服務(wù)商的最優(yōu)反應(yīng)函數(shù)曲線,隨著用戶效用損失的增加,App服務(wù)商需要付出更多的信息安全投入成本。在均衡點(diǎn)之前,用戶的最優(yōu)反應(yīng)函數(shù)曲線位于App服務(wù)商的曲線上方;而越過均衡點(diǎn)后,App服務(wù)商的最優(yōu)函數(shù)曲線位于用戶曲線的上方。即從用戶的角度出發(fā)橫向比較,在相同的信息安全投入水平上,用戶曲線的效用損失始終低于App服務(wù)商曲線的效用損失;從App服務(wù)商的角度出發(fā)縱向比較,在相同的效用損失水平上,用戶曲線的信息保護(hù)投入始終高于App服務(wù)曲線的投入。這體現(xiàn)出用戶對于隱私安全的追求和App服務(wù)商對于成本的管控是博弈關(guān)系的本質(zhì):圍繞信息與服務(wù)的博弈關(guān)系,未達(dá)到均衡之前,用戶的訴求在于服務(wù)商應(yīng)加大信息安全投入以減少效用損失,而App服務(wù)商則基于盈利的目的追求投入成本的最小化。均衡點(diǎn)的意義在于達(dá)到了用戶隱私安全和App服務(wù)商成本管控的統(tǒng)一,進(jìn)而實(shí)現(xiàn)用戶和App服務(wù)商訴求的平衡。并且由于本文將效用損失Emax和安全投入Imax設(shè)定為1,博弈均衡點(diǎn)(X*,Y*)處X*為Y*的3-4倍,也從一定程度上體現(xiàn)了App服務(wù)商安全投入的不足,未來隨著監(jiān)管要求的進(jìn)一步落實(shí),這一情況有望改善。

    2.由于不同類別用戶對App偏好的不同,比較第一類別用戶與第二類別用戶的均衡狀態(tài),均衡解也呈現(xiàn)出不同的差異。由于和第一類別用戶相比,第二類別用戶對重度信息關(guān)注App較為敏感,而相對忽視輕度、中度信息關(guān)注App的隱私保護(hù)。因此在重度信息關(guān)注的App類型上,第二用戶類別在均衡處會遭受更大的效用損失(0.145gt;0.125),但是在中度信息關(guān)注App上則損失更低(0.24lt;0.253)。

    3.對于重度、中度、輕度信息關(guān)注App,隨著用戶信息關(guān)注程度的下降,效用損失逐漸增大(0.125lt;0.253lt;0.319),App服務(wù)商也需要更多的數(shù)據(jù)保護(hù)投入(0.032lt;0.074lt;0.098)。結(jié)合當(dāng)下公民隱私安全問題頻發(fā)的現(xiàn)狀,這其實(shí)反映了不同的信息關(guān)注程度下實(shí)現(xiàn)均衡的難度。因?yàn)槿绻谛в脫p失相等的前提,在達(dá)到均衡之前,信息關(guān)注程度最低的輕度App,用戶曲線的期望信息安全投入與App服務(wù)商的實(shí)際投入差距是最大的。這說明用戶雖然在使用某些App時信息關(guān)注度下降,并承受更大的效用損失,卻并未降低對于App服務(wù)商保護(hù)個人隱私安全的要求,對于服務(wù)商安全投入的預(yù)期反而是上升的,從而拉大同App服務(wù)商實(shí)際投入的差距。

    在現(xiàn)實(shí)情況下,由于相關(guān)的處罰措施不夠嚴(yán)厲,App服務(wù)商對于用戶信息泄露所付出的代價極小,缺乏足夠的保護(hù)用戶信息安全的政策驅(qū)動力,很難達(dá)到均衡狀態(tài)下的投入水平。尤其對于用戶自身缺少足夠的隱私保護(hù)意識的App而言,要求的App服務(wù)商投入水平更高,實(shí)現(xiàn)均衡的難度也更大,伴隨著更高的隱私風(fēng)險、這也因此使得小眾App成為了公民隱私泄露的重災(zāi)區(qū);而對于一些熱門App,用戶的信息關(guān)注度高,隱私泄露風(fēng)險相對較低,實(shí)現(xiàn)均衡的難度也更小。這表明用戶自身對信息的關(guān)注程度才是保護(hù)隱私的決定性因素,如果用戶缺少隱私保護(hù)意識,寄托于App服務(wù)商加大信息保護(hù)投入的力度實(shí)現(xiàn)個人信息的安全并不可行,仍然可能造成隱私泄露的后果。

    4" 結(jié)論

    本文依據(jù)相關(guān)法律法規(guī),采用問卷調(diào)查的方法,收集了用戶在不同 App環(huán)境下的對于不同信息類型的偏好數(shù)據(jù),進(jìn)行了用戶的偏好特征分析,將App分為重度、中度、輕度信息關(guān)注三種類型;然后使用層次聚類的方法劃分用戶類別并分析了不同類別用戶的偏好差異;最后構(gòu)建了用戶和App服務(wù)商的關(guān)于信息與服務(wù)的博弈模型,挖掘用戶隱私安全和App服務(wù)商成本管控的博弈本質(zhì),探討不同類別偏好的用戶在不同App類型下的均衡情況。本文經(jīng)過分析得出以下結(jié)論:

    1.用戶在不同的App使用環(huán)境下信息關(guān)注度具有明顯差異。根據(jù)用戶信息關(guān)注程度的不同,App可分為重度、中度、輕度三種類型。除此以外,對于中度信息關(guān)注的App而言,用戶會呈現(xiàn)出與App服務(wù)類型相匹配的特定信息類型的重點(diǎn)關(guān)注,例如在使用位置類App時僅重點(diǎn)關(guān)注個人位置信息。

    2.本文基于層次聚類方法將用戶分為兩類,其中第一類偏好的用戶占用戶的多數(shù),往往重點(diǎn)關(guān)注重度App的隱私保護(hù),但是較為忽視其他類型的App;而第二類偏好的用戶則較為均衡,既對重度App特別關(guān)注,同時也相對注重中度App的隱私保護(hù)。由于樣本中第一類偏好的用戶占據(jù)絕對多數(shù),這可能反映出了大多數(shù)用戶的使用習(xí)慣,并提醒用戶群體雖然對于重度App的關(guān)注必不可少,但與此同時也要注重功能單一、使用頻率不高的App的信息安全,切實(shí)提升自身整體的隱私保護(hù)水平,減少隱私泄露的風(fēng)險。

    3.博弈模型均衡的比較表明如果用戶在使用某類App的信息關(guān)注程度越低,App服務(wù)商也要付出更高的信息投入成本,實(shí)現(xiàn)均衡的難度也越大,這解釋了為何一些小眾App出現(xiàn)在政府部門通報名單的頻率更高。相關(guān)的研究[22,23]也表明信息泄露風(fēng)險越高,服務(wù)商信息安全投入的積極性越低,這同本文結(jié)論一致。因此保障個人信息安全,歸根結(jié)底需要用戶提升自身的隱私保護(hù)意識,而不是在缺乏監(jiān)管的情況下寄希望于App層面的信息保護(hù)。而針對App缺乏加強(qiáng)投入的政策驅(qū)動力的問題,本文認(rèn)為可以借鑒歐盟《通用數(shù)據(jù)保護(hù)條例》中的處罰條款,形成強(qiáng)有力的監(jiān)管震懾,切實(shí)保障用戶的信息安全。

    參考文獻(xiàn):

    [1]" SMITH H J, MILBERG S J, BURKE S J. Information privacy: Measuring individuals' concerns about organizational practices[J]. MIS quarterly, 1996: 167-196.

    [2]" CASTAEDA J A, MONTORO F J. The effect of Internet general privacy concern on customer behavior[J]. Electronic Commerce Research, 2007, 7(2): 117-141.

    [3]" DANIEL J S. Privacy self-management and the consent dilemma[J]. Harvard Law Review, 2013(126): 1880.

    [4]" ZAEEMRAZIEH N, SUZANNE B. The Effect of the GDPR on Privacy Policies: Recent Progress and Future Promise[J]. ACM Transactions on Management Information Systems (TMIS), 2020: 1-20.

    [5]" GODDARD M. The EU General Data Protection Regulation (GDPR): European regulation that has a global impact[J]. International Journal of Market Research, 2017, 59(6): 703-705.

    [6]" LEDERER S, MANKOFF J, DEY A K. Who wants to know what when? privacy preference determinants in ubiquitous computing[C]//CHI'03 extended abstracts on Human factors in computing systems. 2003: 724-725.

    [7]" LIU B, KONG D, CEN L, et al. Personalized mobile app recommendation: Reconciling app functionality and user privacy preference[C]//Proceedings of the eighth ACM international conference on web search and data mining. 2015: 315-324.

    [8]" LEE H, KOBSA A. Privacy preference modeling and prediction in a simulated campuswide IoT environment[C]//2017 IEEE International Conference on Pervasive Computing and Communications (PerCom). IEEE, 2017: 276-285.

    [9]" OLEJNIK K, DACOSTA I, MACHADO J S, et al. SmarPer: Context-Aware and Automatic Runtime-Permissions for Mobile Devices[C]//2017 IEEE Symposium on Security and Privacy (SP). IEEE, 2017.

    [10]" AGARWAL L, KHAN H, HENGARTNER U. Ask me again but don’t annoy me: evaluating re-authentication strategies for smartphones[C]//Twelfth Symposium on Usable Privacy and Security ({SOUPS} 2016). 2016: 221-236.

    [11]" STEPPE R. Online price discrimination and personal data: A General Data Protection Regulation perspective[J]. Computer law amp; security review, 2017, 33(6): 768-785.

    [12]" LEE Y J, KAUFFMAN R J, SOUGSTAD R. Profit-maximizing firm investments in customer information security[J]. Decision support systems, 2011, 51(4): 904-920.

    [13]" CHORPPATH A K , ALPCAN T. Trading privacy with incentives in mobile commerce: A game theoretic approach[J]. Pervasive amp; Mobile Computing, 2013, 9(4):598-612.

    [14]" PANAOUSIS E, LASZKA A, POHL J, et al. Game-theoretic model of incentivizing privacy-aware users to consent to location tracking[C]//2015 IEEE Trustcom/BigDataSE/ISPA. IEEE, 2015(1): 1006-1013.

    [15]" 頡翔, 大數(shù)據(jù)時代個人信息安全法律問題研究[D]. 北京, 北京交通大學(xué), 2014.

    [16]" GB/T 35273—2020, 信息安全技術(shù) 個人信息安全規(guī)范[S]. 全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會,2020.

    [17]" SMITH H J, MILBERG S J, BURKE S J. Information privacy: Measuring individuals' concerns about organizational practices[J]. MIS quarterly, 1996: 167-196.

    [18]" MALHOTRA N K, KIM S S, AGARWAL J. Internet users’ information privacy concerns (IUIPC): The construct, the scale, and a causal model[J]. Information systems research, 2004, 15(4): 336-355.

    [19]" 中國互聯(lián)網(wǎng)絡(luò)信息中心(CNNIC), 第46次中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告[EB/OL].www.cnnic.com.

    [20]" BONATTI P A, FAELLA M, GALDI C, et al. Towards a mechanism for incentivating privacy[C]//European Symposium on Research in Computer Security. Springer, Berlin, Heidelberg, 2011: 472-488.

    [21]" NALDI M, FLAMINI M, D’ACQUISTO G. Liability for data breaches: A proposal for a revenue-based sanctioning approach[C]//International conference on network and system security. Springer, Berlin, Heidelberg, 2013: 264-277.

    [22]" GORDON L A, LOEB M P. The economics of information security investment[J]. ACM Transactions on Information and System Security (TISSEC), 2002, 5(4): 438-457.

    [23]" HAUSKEN K. Returns to information security investment: The effect of alternative information security breach functions on optimal investment and sensitivity to vulnerability[J]. Information Systems Frontiers, 2006, 8(5): 338-349.

    猜你喜歡
    博弈模型隱私保護(hù)
    基于博弈論對企業(yè)并購行為的研究
    基于層次和節(jié)點(diǎn)功率控制的源位置隱私保護(hù)策略研究
    關(guān)聯(lián)規(guī)則隱藏算法綜述
    大數(shù)據(jù)環(huán)境下用戶信息隱私泄露成因分析和保護(hù)對策
    大數(shù)據(jù)安全與隱私保護(hù)的必要性及措施
    PPP模式下養(yǎng)老地產(chǎn)融資風(fēng)險分擔(dān)博弈分析
    價值工程(2016年30期)2016-11-24 13:18:58
    社交網(wǎng)絡(luò)中的隱私關(guān)注及隱私保護(hù)研究綜述
    研發(fā)投入增長真的促進(jìn)全要素生產(chǎn)率增加嗎?
    大數(shù)據(jù)時代的隱私保護(hù)關(guān)鍵技術(shù)研究
    基于博弈模型的PPP項(xiàng)目共擔(dān)風(fēng)險損失分配的研究
    中國市場(2016年25期)2016-07-05 08:34:01
    啦啦啦韩国在线观看视频| 久久久久久大精品| 久久鲁丝午夜福利片| 国产黄色视频一区二区在线观看 | 日韩一区二区视频免费看| 日本黄色片子视频| 国产精品久久久久久av不卡| 能在线免费观看的黄片| 99久久无色码亚洲精品果冻| 久久精品影院6| 亚洲精品日韩在线中文字幕 | 日韩在线高清观看一区二区三区| 免费黄网站久久成人精品| 国产蜜桃级精品一区二区三区| 男女边吃奶边做爰视频| 搡老岳熟女国产| 在线观看av片永久免费下载| 国内少妇人妻偷人精品xxx网站| h日本视频在线播放| 伊人久久精品亚洲午夜| 亚洲一区高清亚洲精品| 亚洲国产精品成人久久小说 | 成人性生交大片免费视频hd| 国产精品一区www在线观看| videossex国产| 欧美xxxx黑人xx丫x性爽| 亚洲高清免费不卡视频| 春色校园在线视频观看| 久久精品国产99精品国产亚洲性色| 99久久精品一区二区三区| 免费看光身美女| 伦理电影大哥的女人| 此物有八面人人有两片| 国产毛片a区久久久久| 国产黄片美女视频| 97碰自拍视频| 1000部很黄的大片| 亚洲一区二区三区色噜噜| 一区二区三区高清视频在线| 亚洲精品日韩在线中文字幕 | 久久久久久久久大av| 一a级毛片在线观看| 国产伦精品一区二区三区视频9| 免费无遮挡裸体视频| 狂野欧美白嫩少妇大欣赏| 久久精品国产亚洲网站| 亚洲一区高清亚洲精品| 久久精品夜色国产| 免费看av在线观看网站| 一本精品99久久精品77| 国产色爽女视频免费观看| 久久久精品大字幕| 又黄又爽又免费观看的视频| 免费在线观看影片大全网站| 亚洲精品成人久久久久久| 亚洲av五月六月丁香网| 小说图片视频综合网站| 欧美三级亚洲精品| 久久亚洲国产成人精品v| 久久久a久久爽久久v久久| 免费在线观看成人毛片| 在线观看午夜福利视频| 日韩亚洲欧美综合| 97热精品久久久久久| 日韩欧美精品免费久久| 麻豆乱淫一区二区| 国产欧美日韩一区二区精品| 中文字幕熟女人妻在线| 久久久精品欧美日韩精品| 91在线精品国自产拍蜜月| 插阴视频在线观看视频| 一a级毛片在线观看| 国产一区二区在线观看日韩| 色哟哟·www| 我的老师免费观看完整版| 久久精品国产亚洲av天美| 国产v大片淫在线免费观看| 中国美白少妇内射xxxbb| 国产精品一区二区性色av| 小说图片视频综合网站| 国产一区二区三区av在线 | 日日啪夜夜撸| 国产精品福利在线免费观看| 男女下面进入的视频免费午夜| 十八禁网站免费在线| 一夜夜www| 别揉我奶头~嗯~啊~动态视频| 特大巨黑吊av在线直播| 18+在线观看网站| av.在线天堂| 此物有八面人人有两片| 久久久久久久午夜电影| 成人性生交大片免费视频hd| 精品午夜福利视频在线观看一区| 在线a可以看的网站| 精品乱码久久久久久99久播| 日韩 亚洲 欧美在线| 日韩欧美在线乱码| 日本 av在线| videossex国产| 亚洲av成人精品一区久久| 悠悠久久av| 精品久久久久久久久av| 97超级碰碰碰精品色视频在线观看| 91在线观看av| 国内揄拍国产精品人妻在线| 欧美色视频一区免费| 国产av麻豆久久久久久久| 日韩精品青青久久久久久| 舔av片在线| 成年女人毛片免费观看观看9| 国产毛片a区久久久久| 日韩制服骚丝袜av| 国产人妻一区二区三区在| 在线播放无遮挡| 亚洲成人精品中文字幕电影| 天天躁日日操中文字幕| 青春草视频在线免费观看| 97碰自拍视频| 卡戴珊不雅视频在线播放| 中文字幕免费在线视频6| 国产精品1区2区在线观看.| 免费不卡的大黄色大毛片视频在线观看 | 六月丁香七月| 国产大屁股一区二区在线视频| 免费观看在线日韩| 国产高清视频在线观看网站| 麻豆精品久久久久久蜜桃| 亚洲欧美日韩东京热| 一a级毛片在线观看| 18禁裸乳无遮挡免费网站照片| 亚洲三级黄色毛片| 欧美日韩在线观看h| 淫秽高清视频在线观看| 男女视频在线观看网站免费| 久久精品夜色国产| 亚洲不卡免费看| 国产一级毛片七仙女欲春2| 久久久久久国产a免费观看| 国产精品一二三区在线看| 人妻制服诱惑在线中文字幕| 国产男人的电影天堂91| 成人二区视频| 国内精品美女久久久久久| 成年女人永久免费观看视频| 校园春色视频在线观看| 一进一出抽搐gif免费好疼| 精品久久久久久久久av| 又爽又黄无遮挡网站| 亚洲经典国产精华液单| 露出奶头的视频| 国产精品久久久久久久久免| 精品一区二区三区人妻视频| 精品免费久久久久久久清纯| 国产探花在线观看一区二区| 男女下面进入的视频免费午夜| 亚洲欧美清纯卡通| 国产精品不卡视频一区二区| 我的女老师完整版在线观看| 国产亚洲精品久久久com| 精品久久久噜噜| 不卡一级毛片| 超碰av人人做人人爽久久| 日本在线视频免费播放| 国产三级中文精品| 麻豆精品久久久久久蜜桃| 网址你懂的国产日韩在线| 日本精品一区二区三区蜜桃| 成人鲁丝片一二三区免费| 欧美+日韩+精品| 久久亚洲精品不卡| 精品一区二区三区视频在线| 老熟妇乱子伦视频在线观看| 久久久久久大精品| 欧美极品一区二区三区四区| 插逼视频在线观看| 成年女人永久免费观看视频| 午夜福利成人在线免费观看| 国产精品综合久久久久久久免费| 天美传媒精品一区二区| 久久久久久久亚洲中文字幕| eeuss影院久久| 久久九九热精品免费| 日韩在线高清观看一区二区三区| 免费电影在线观看免费观看| 日本撒尿小便嘘嘘汇集6| 亚洲经典国产精华液单| 精品乱码久久久久久99久播| 成人二区视频| 22中文网久久字幕| 成人无遮挡网站| 天堂av国产一区二区熟女人妻| 久久国产乱子免费精品| 国产淫片久久久久久久久| 内射极品少妇av片p| 久久中文看片网| 三级毛片av免费| 一个人看视频在线观看www免费| 一进一出好大好爽视频| 又爽又黄无遮挡网站| 欧美三级亚洲精品| 男女视频在线观看网站免费| 成人永久免费在线观看视频| 亚洲精品粉嫩美女一区| 天堂影院成人在线观看| 99国产极品粉嫩在线观看| 日韩欧美精品免费久久| 黄色配什么色好看| 久久久久久久午夜电影| 高清毛片免费看| 国内少妇人妻偷人精品xxx网站| 丝袜美腿在线中文| 亚洲国产日韩欧美精品在线观看| 日日撸夜夜添| 啦啦啦啦在线视频资源| 日本免费一区二区三区高清不卡| 狠狠狠狠99中文字幕| 日韩大尺度精品在线看网址| 国产精品久久久久久精品电影| 少妇熟女欧美另类| 国产精品一区二区性色av| 国产高清有码在线观看视频| 国产亚洲精品综合一区在线观看| 波多野结衣高清作品| 亚洲欧美精品综合久久99| 99久久久亚洲精品蜜臀av| 欧美在线一区亚洲| av在线亚洲专区| 97超视频在线观看视频| 亚洲久久久久久中文字幕| 男女啪啪激烈高潮av片| 日本欧美国产在线视频| 国产精品1区2区在线观看.| 国产一区二区三区在线臀色熟女| 成人综合一区亚洲| av国产免费在线观看| 国产欧美日韩一区二区精品| 亚洲精品一卡2卡三卡4卡5卡| a级毛片免费高清观看在线播放| 美女高潮的动态| 两性午夜刺激爽爽歪歪视频在线观看| 国产真实伦视频高清在线观看| 禁无遮挡网站| 国产精品一区二区三区四区免费观看 | 国产精品伦人一区二区| 午夜福利在线在线| 99在线视频只有这里精品首页| 又黄又爽又免费观看的视频| 少妇裸体淫交视频免费看高清| 亚洲欧美日韩高清在线视频| 99久久精品热视频| 极品教师在线视频| 人人妻人人澡欧美一区二区| 乱系列少妇在线播放| 亚洲成人av在线免费| 最近视频中文字幕2019在线8| 男女那种视频在线观看| avwww免费| 久久人人爽人人片av| 精品熟女少妇av免费看| 久久天躁狠狠躁夜夜2o2o| 搡老熟女国产l中国老女人| 亚洲av免费在线观看| 欧美成人免费av一区二区三区| 91午夜精品亚洲一区二区三区| 国产成人影院久久av| 精品少妇黑人巨大在线播放 | 免费电影在线观看免费观看| 色尼玛亚洲综合影院| 亚洲美女黄片视频| 午夜激情福利司机影院| 在线观看av片永久免费下载| 精品一区二区三区视频在线| 不卡一级毛片| 99久久精品国产国产毛片| 少妇高潮的动态图| 日韩成人av中文字幕在线观看 | 两个人视频免费观看高清| 午夜免费男女啪啪视频观看 | 色5月婷婷丁香| 国产国拍精品亚洲av在线观看| 九九爱精品视频在线观看| 自拍偷自拍亚洲精品老妇| 亚洲国产色片| av在线蜜桃| 一边摸一边抽搐一进一小说| 免费av不卡在线播放| 欧美日韩乱码在线| 成人永久免费在线观看视频| 国产精品精品国产色婷婷| 99热精品在线国产| 美女黄网站色视频| 中文在线观看免费www的网站| 精品久久久久久久久亚洲| 99热全是精品| 日韩精品青青久久久久久| 老司机影院成人| av天堂中文字幕网| 久久天躁狠狠躁夜夜2o2o| 亚洲欧美日韩东京热| 狂野欧美激情性xxxx在线观看| 淫妇啪啪啪对白视频| 日韩制服骚丝袜av| 欧美另类亚洲清纯唯美| 亚洲精品成人久久久久久| 国产视频内射| av中文乱码字幕在线| 成人性生交大片免费视频hd| 成人毛片a级毛片在线播放| 日韩欧美精品免费久久| 九九在线视频观看精品| 一区二区三区免费毛片| 亚洲精品一卡2卡三卡4卡5卡| 国产高清有码在线观看视频| 看免费成人av毛片| 亚洲av熟女| 久久久久免费精品人妻一区二区| 舔av片在线| 真人做人爱边吃奶动态| 女生性感内裤真人,穿戴方法视频| av黄色大香蕉| 香蕉av资源在线| 精品99又大又爽又粗少妇毛片| 亚洲美女黄片视频| 男人狂女人下面高潮的视频| 亚洲欧美日韩无卡精品| 成人鲁丝片一二三区免费| 午夜福利在线在线| 亚洲成人久久爱视频| 国产精品一区二区性色av| 欧美极品一区二区三区四区| 3wmmmm亚洲av在线观看| 中文字幕免费在线视频6| 91av网一区二区| 国产69精品久久久久777片| 久久欧美精品欧美久久欧美| 国产日本99.免费观看| 91午夜精品亚洲一区二区三区| 国产真实乱freesex| 不卡一级毛片| 亚洲欧美中文字幕日韩二区| 91久久精品电影网| 国产精品一区www在线观看| 日本黄大片高清| 国产亚洲精品久久久com| 亚洲人成网站在线播放欧美日韩| 男人的好看免费观看在线视频| av福利片在线观看| 日韩欧美精品免费久久| 欧美三级亚洲精品| 欧美色视频一区免费| 国产极品精品免费视频能看的| 99riav亚洲国产免费| av福利片在线观看| 俺也久久电影网| 老熟妇乱子伦视频在线观看| 精品久久久久久久末码| 国产精品亚洲一级av第二区| 男人的好看免费观看在线视频| 插逼视频在线观看| 男人和女人高潮做爰伦理| 国产精品久久久久久久电影| 亚洲四区av| 久久精品91蜜桃| 日韩高清综合在线| 国产高清不卡午夜福利| 春色校园在线视频观看| 悠悠久久av| 别揉我奶头~嗯~啊~动态视频| 1000部很黄的大片| 国产黄色视频一区二区在线观看 | 日本黄色视频三级网站网址| 亚洲av免费高清在线观看| 国产一级毛片七仙女欲春2| 99久国产av精品国产电影| 成年女人看的毛片在线观看| 国产真实乱freesex| 在线观看av片永久免费下载| 日本撒尿小便嘘嘘汇集6| 免费看a级黄色片| 夜夜夜夜夜久久久久| 人人妻人人澡欧美一区二区| 如何舔出高潮| 亚洲美女视频黄频| 国产又黄又爽又无遮挡在线| 日韩三级伦理在线观看| 日日摸夜夜添夜夜添小说| 国产一区二区在线av高清观看| 国产av麻豆久久久久久久| 国产精品日韩av在线免费观看| 麻豆一二三区av精品| 一级毛片电影观看 | 成年免费大片在线观看| 18禁黄网站禁片免费观看直播| 如何舔出高潮| 99久久精品热视频| 在线播放国产精品三级| 亚洲精品色激情综合| 天堂网av新在线| 久久精品影院6| 免费一级毛片在线播放高清视频| 露出奶头的视频| 尾随美女入室| 亚洲欧美日韩卡通动漫| 欧美区成人在线视频| 春色校园在线视频观看| 午夜福利高清视频| 欧美丝袜亚洲另类| 日韩精品青青久久久久久| 国产日本99.免费观看| 欧美日韩在线观看h| 成熟少妇高潮喷水视频| 色综合亚洲欧美另类图片| 国产在视频线在精品| 国产成年人精品一区二区| 青春草视频在线免费观看| 丰满乱子伦码专区| 亚洲中文日韩欧美视频| 少妇裸体淫交视频免费看高清| 看免费成人av毛片| 在线观看午夜福利视频| 日本黄色视频三级网站网址| 亚洲人与动物交配视频| 日韩人妻高清精品专区| 毛片女人毛片| av福利片在线观看| 精品欧美国产一区二区三| 亚洲国产高清在线一区二区三| 99国产精品一区二区蜜桃av| 国产精品乱码一区二三区的特点| 久久午夜福利片| 日本黄色视频三级网站网址| 51国产日韩欧美| 亚洲成人精品中文字幕电影| 亚洲图色成人| 亚洲国产欧洲综合997久久,| 亚洲欧美成人精品一区二区| av在线播放精品| 在线观看免费视频日本深夜| 麻豆国产av国片精品| 亚洲精品亚洲一区二区| 免费看av在线观看网站| 日韩欧美一区二区三区在线观看| 我要搜黄色片| 欧美激情久久久久久爽电影| 国产成人影院久久av| 一区二区三区高清视频在线| 成人鲁丝片一二三区免费| avwww免费| 十八禁国产超污无遮挡网站| 久久久久久国产a免费观看| 国产午夜精品论理片| 丝袜美腿在线中文| 国产极品精品免费视频能看的| 最近2019中文字幕mv第一页| 91av网一区二区| 国产乱人偷精品视频| 波多野结衣高清作品| 人人妻人人看人人澡| 搡老妇女老女人老熟妇| 国产老妇女一区| 别揉我奶头~嗯~啊~动态视频| 免费看a级黄色片| 国产精品久久电影中文字幕| 国产高清视频在线观看网站| 亚洲国产日韩欧美精品在线观看| 国产成人a∨麻豆精品| 日本黄色视频三级网站网址| 99热全是精品| 草草在线视频免费看| 99热这里只有是精品50| 嫩草影院精品99| 伦理电影大哥的女人| 亚洲最大成人手机在线| 午夜福利在线在线| 亚洲图色成人| 女生性感内裤真人,穿戴方法视频| 国产午夜精品论理片| 嫩草影院入口| 国产爱豆传媒在线观看| 中出人妻视频一区二区| 久久中文看片网| 看黄色毛片网站| а√天堂www在线а√下载| 国产亚洲精品久久久久久毛片| 国产真实乱freesex| 日韩欧美精品v在线| 亚洲国产精品国产精品| 欧美一区二区国产精品久久精品| 日韩精品中文字幕看吧| 国产欧美日韩一区二区精品| 少妇人妻一区二区三区视频| 中文字幕人妻熟人妻熟丝袜美| 国产精品三级大全| 天天一区二区日本电影三级| 亚洲四区av| 亚洲真实伦在线观看| 亚洲不卡免费看| 亚洲内射少妇av| 天天一区二区日本电影三级| 一本一本综合久久| 亚洲国产精品sss在线观看| 老师上课跳d突然被开到最大视频| 色综合站精品国产| 伦理电影大哥的女人| 1024手机看黄色片| 成人三级黄色视频| 亚洲人成网站高清观看| 在线观看美女被高潮喷水网站| 欧美区成人在线视频| 非洲黑人性xxxx精品又粗又长| eeuss影院久久| 成人美女网站在线观看视频| 午夜亚洲福利在线播放| 夜夜看夜夜爽夜夜摸| 欧美色欧美亚洲另类二区| 男女做爰动态图高潮gif福利片| 成人综合一区亚洲| 两个人视频免费观看高清| 不卡一级毛片| 国产精品久久久久久久久免| 国产精品一区二区三区四区久久| 欧美激情国产日韩精品一区| 美女cb高潮喷水在线观看| 国产男靠女视频免费网站| 亚洲国产精品国产精品| 国产av不卡久久| 日本熟妇午夜| 在现免费观看毛片| 国产一区二区三区av在线 | 国产极品精品免费视频能看的| 国产亚洲欧美98| 国产精品,欧美在线| 日韩欧美在线乱码| 午夜老司机福利剧场| 久久欧美精品欧美久久欧美| 国产乱人偷精品视频| 噜噜噜噜噜久久久久久91| 变态另类成人亚洲欧美熟女| 麻豆乱淫一区二区| 我的女老师完整版在线观看| 国产伦一二天堂av在线观看| 给我免费播放毛片高清在线观看| 亚洲乱码一区二区免费版| 国内久久婷婷六月综合欲色啪| 久久久久久国产a免费观看| 精品福利观看| 非洲黑人性xxxx精品又粗又长| 久久久成人免费电影| 18+在线观看网站| 日韩高清综合在线| 无遮挡黄片免费观看| 久久精品国产鲁丝片午夜精品| 国产精品爽爽va在线观看网站| 亚洲成人av在线免费| 亚洲成a人片在线一区二区| 国产精品国产三级国产av玫瑰| 久久久久久久久久成人| 亚洲欧美日韩高清专用| 婷婷色综合大香蕉| 成人欧美大片| 性插视频无遮挡在线免费观看| 亚洲精品日韩在线中文字幕 | 成年女人看的毛片在线观看| aaaaa片日本免费| 九九久久精品国产亚洲av麻豆| 看黄色毛片网站| 亚洲va在线va天堂va国产| 日本黄大片高清| 精品无人区乱码1区二区| 美女大奶头视频| 欧美高清性xxxxhd video| 丰满的人妻完整版| 午夜久久久久精精品| www.色视频.com| 久久久精品大字幕| 国产国拍精品亚洲av在线观看| 成人一区二区视频在线观看| 久久精品综合一区二区三区| 成人永久免费在线观看视频| 久久韩国三级中文字幕| 在线天堂最新版资源| 婷婷亚洲欧美| a级毛片免费高清观看在线播放| 久久久久久久久久成人| 欧美xxxx黑人xx丫x性爽| 日本成人三级电影网站| 好男人在线观看高清免费视频| 啦啦啦韩国在线观看视频| 亚洲18禁久久av| 欧美高清成人免费视频www| 少妇裸体淫交视频免费看高清| 免费人成在线观看视频色| 淫秽高清视频在线观看| 国产精品国产高清国产av| 给我免费播放毛片高清在线观看| 12—13女人毛片做爰片一| 美女 人体艺术 gogo| 久久国产乱子免费精品| 成年av动漫网址| 黄片wwwwww| 俄罗斯特黄特色一大片| 欧美最黄视频在线播放免费| 亚洲精品国产成人久久av| 精品少妇黑人巨大在线播放 | 久久精品国产99精品国产亚洲性色| 久久精品久久久久久噜噜老黄 | 卡戴珊不雅视频在线播放| 九九在线视频观看精品| 日韩亚洲欧美综合| 日本与韩国留学比较| 国产精品永久免费网站| 日韩三级伦理在线观看| 老女人水多毛片| 听说在线观看完整版免费高清|