• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    用戶行為信息商業(yè)化運(yùn)用的規(guī)制路徑

    2020-12-10 04:48:34
    關(guān)鍵詞:用戶信息企業(yè)

    云存儲(chǔ)、大數(shù)據(jù)分析、無(wú)損壓縮等新興互聯(lián)網(wǎng)技術(shù)改變了傳統(tǒng)商業(yè)社會(huì)無(wú)法記錄、無(wú)法追蹤的交易形式?,F(xiàn)在只要連接到網(wǎng)絡(luò),就必然會(huì)留下“面包屑”,即用戶行為信息。在如今的互聯(lián)網(wǎng)2.0時(shí)代,人們的衣食住行都離不開(kāi)網(wǎng)絡(luò)。包括在線選購(gòu)衣物、訂購(gòu)美食、預(yù)訂酒店、預(yù)約出行等,從搜索到下單再到評(píng)價(jià)服務(wù),每一步操作都可以線上完成。事實(shí)證明,天下沒(méi)有免費(fèi)的午餐,在用戶行為信息的商業(yè)價(jià)值已然凸顯的大背景下,用戶在利用網(wǎng)絡(luò)享受便捷生活的同時(shí),代價(jià)正是其行為痕跡不斷地被采集、保存,繼而被整合、分析,甚至可能因數(shù)據(jù)中間商的加入而流入市場(chǎng)。各大互聯(lián)網(wǎng)企業(yè)傾向于開(kāi)發(fā)利用其掌握的用戶行為信息,以最大化實(shí)現(xiàn)用戶行為信息的商業(yè)價(jià)值。在此過(guò)程中,難免引發(fā)侵犯用戶個(gè)人隱私、濫用用戶行為信息、自動(dòng)化決策不公正等現(xiàn)實(shí)問(wèn)題。由此可見(jiàn),用戶行為信息的商業(yè)化運(yùn)用,在具有提高企業(yè)服務(wù)能力和價(jià)值收益上的正外部性的同時(shí),還帶有信息安全上的負(fù)外部性,可能引發(fā)企業(yè)泄露用戶信息、濫用用戶信息的風(fēng)險(xiǎn)。如何在大數(shù)據(jù)時(shí)代背景下對(duì)互聯(lián)網(wǎng)企業(yè)實(shí)施的用戶行為信息的商業(yè)化運(yùn)用行為進(jìn)行規(guī)制,以最大程度避免其可能帶來(lái)的負(fù)外部性,已然成為互聯(lián)網(wǎng)用戶和企業(yè)等多方主體共同的利益訴求。

    一、用戶行為信息的概念與特征

    提到個(gè)人數(shù)據(jù)信息,人們首先想到的通常是姓名、聯(lián)系方式、身份證號(hào)碼、居住地址等可以直接識(shí)別特定自然人身份的數(shù)據(jù)信息。這些信息可以直接關(guān)聯(lián)到特定自然人,因此能夠輕易識(shí)別其身份。[1]此類(lèi)數(shù)據(jù)信息,可謂信息社會(huì)中的個(gè)人數(shù)字代號(hào),只要掌握這個(gè)數(shù)字代號(hào),任何人都可以找到其對(duì)應(yīng)的個(gè)體,故其對(duì)于維持個(gè)體人格獨(dú)立、保障私人空間不受侵犯具有重要意義。然而,在互聯(lián)網(wǎng)時(shí)代,除了此類(lèi)可識(shí)別的個(gè)人數(shù)據(jù)信息,由個(gè)體的網(wǎng)絡(luò)行為而產(chǎn)生的另一類(lèi)數(shù)據(jù)信息也逐漸開(kāi)始備受關(guān)注。這些信息包括瀏覽網(wǎng)頁(yè)而生成的歷史記錄,注冊(cè)網(wǎng)站或手機(jī)應(yīng)用而生成的賬號(hào)和密碼,使用購(gòu)物網(wǎng)站進(jìn)行消費(fèi)而生成的消費(fèi)記錄,使用手機(jī)地圖或旅游應(yīng)用而生成的位置和行蹤信息,以及安裝智能家電時(shí)提供的電器配備信息和生活起居信息等多方面的內(nèi)容。毫無(wú)疑問(wèn),這些信息對(duì)應(yīng)的是獨(dú)立的個(gè)體,但此時(shí)的個(gè)體不僅是具有一般民事主體身份的自然人,同時(shí)還是網(wǎng)絡(luò)活動(dòng)的參與者,是使用企業(yè)提供的商品和服務(wù)的用戶。本文將記錄了用戶網(wǎng)絡(luò)行為軌跡的信息統(tǒng)稱(chēng)為用戶行為信息,在概念層面與可直接識(shí)別特定自然人身份的個(gè)人信息以作區(qū)分。

    用戶行為信息,可以被定義為用戶在使用互聯(lián)網(wǎng)產(chǎn)品或者接受互聯(lián)網(wǎng)服務(wù)的過(guò)程中,因檢索、瀏覽、下載網(wǎng)絡(luò)信息資源等行為而產(chǎn)生的一系列信息。該信息能夠直接或者間接地反映用戶的知識(shí)需求度,包括知識(shí)關(guān)注度和價(jià)值度兩個(gè)層面的內(nèi)容,從而為互聯(lián)網(wǎng)企業(yè)刻畫(huà)用戶數(shù)據(jù)畫(huà)像提供直接且重要的數(shù)據(jù)支持。例如,互聯(lián)網(wǎng)企業(yè)可以利用云計(jì)算等信息技術(shù)統(tǒng)計(jì)分析用戶對(duì)相關(guān)知識(shí)的評(píng)論、收藏、問(wèn)答等隱性行為,了解用戶的關(guān)注重點(diǎn)和偏好,從而建立用戶需求的個(gè)性化模型,并為用戶提供個(gè)性化的服務(wù),如直接過(guò)濾與用戶需求無(wú)關(guān)的信息,為其推送與其需求相符的特定化信息;又如,依據(jù)用戶需求程度的高低,對(duì)推薦給用戶的各類(lèi)信息予以綜合排序,以提高用戶接收信息的有效性。大體而言,用戶行為信息可以被劃分為訪問(wèn)數(shù)據(jù)、檢索數(shù)據(jù)、下載數(shù)據(jù)、評(píng)分?jǐn)?shù)據(jù)等幾類(lèi),其來(lái)源渠道主要包括兩種,即由用戶主動(dòng)提供和在用戶無(wú)意識(shí)狀態(tài)下由企業(yè)的自動(dòng)信息抓取工具采集生成。[2]所謂由用戶主動(dòng)提供,強(qiáng)調(diào)用戶行為信息直接根據(jù)其線上行為生成,譬如用戶注冊(cè)會(huì)員時(shí)填寫(xiě)的用戶名、密碼、感興趣的內(nèi)容等,又如用戶使用社交服務(wù)時(shí)主動(dòng)發(fā)布的個(gè)人簡(jiǎn)介和地理定位,亦包括用戶使用媒體服務(wù)時(shí)發(fā)表的時(shí)事評(píng)論等。至于另一來(lái)源渠道則側(cè)重于依靠企業(yè)通過(guò)cookie等工具,跟蹤、采集用戶的線上行為而獲取用戶行為信息,如用戶輸入的關(guān)鍵詞和歷史記錄,又如用戶使用運(yùn)動(dòng)手環(huán)時(shí)被記錄下的運(yùn)動(dòng)軌跡、作息時(shí)間、健康狀況等信息。

    用戶行為信息的核心內(nèi)容亦須圍繞用戶行為軌跡衍生,實(shí)踐中,用戶通過(guò)鼠標(biāo)、鍵盤(pán)、手機(jī)、智能手環(huán)、語(yǔ)音識(shí)別設(shè)備、智能化觸控設(shè)備等信息輸入設(shè)備訪問(wèn)網(wǎng)頁(yè)或其他界面,或者通過(guò)諸如點(diǎn)擊鏈接、滑動(dòng)瀏覽、輸入信息、搜索關(guān)鍵詞、發(fā)表評(píng)論、上傳圖片、提供定位、在線交易、下達(dá)指令、個(gè)性化設(shè)置等具體行為,均可生成用戶行為信息。與個(gè)人信息相較而言,用戶行為信息具有動(dòng)態(tài)性、集聚性和敏感性三大特征,具體如下:

    第一,用戶行為信息具有動(dòng)態(tài)性。用戶行為信息不同于姓名、證件號(hào)碼等一成不變的個(gè)人信息,具有較強(qiáng)的動(dòng)態(tài)性的物理特征。這是因?yàn)椋S著時(shí)間推移,人們的內(nèi)心思想在不斷變化,其表現(xiàn)出來(lái)的外部行為也隨之產(chǎn)生變化??梢?jiàn),用戶行為信息的價(jià)值具有一定的時(shí)效,即用戶行為信息的更新速度直接關(guān)系到其商業(yè)價(jià)值,由于人們每時(shí)每刻都在進(jìn)行活動(dòng),使用網(wǎng)絡(luò)的過(guò)程中也必然如此,互聯(lián)網(wǎng)企業(yè)只有持續(xù)收集用戶行為信息,方能實(shí)現(xiàn)商業(yè)用途。

    第二,用戶行為信息具有集聚性。用戶行為信息的數(shù)量非??捎^,完全可以稱(chēng)為“大數(shù)據(jù)”。即使單條行為信息僅能反映部分行為片段,但當(dāng)海量的用戶行為信息聚集起來(lái),借助云存儲(chǔ)、大數(shù)據(jù)計(jì)算等新興技術(shù),就可以有效挖掘出特定用戶與相應(yīng)用戶群體的諸多行為特征,其具有的商業(yè)價(jià)值也隨之大幅提升。用戶行為信息商業(yè)價(jià)值的實(shí)現(xiàn)并非一勞永逸,歷史信息具有比對(duì)分析的重要意義,互聯(lián)網(wǎng)企業(yè)往往會(huì)長(zhǎng)期保存用戶的初期行為軌跡,不斷累積信息的商業(yè)價(jià)值。

    第三,用戶行為信息具有敏感性。用戶行為信息對(duì)于自然人的人格而言,具有特殊的敏感性?;ヂ?lián)網(wǎng)企業(yè)可以利用其掌握的用戶行為信息繪制出一個(gè)反映用戶行為偏好、性格特征甚至心理特質(zhì)的“內(nèi)在人格”。事實(shí)上,對(duì)用戶進(jìn)行數(shù)據(jù)造像,正是復(fù)刻用戶的內(nèi)在人格。無(wú)論用戶行為信息能否準(zhǔn)確識(shí)別用戶的真實(shí)身份,這些行為信息已足以感知用戶的內(nèi)心想法。[3]因此,即使單一的用戶行為信息并不與宗教、民族等個(gè)人信息具有同等敏感度,但基于此繪制出的個(gè)體“內(nèi)在人格”畫(huà)像,已經(jīng)足以反映出用戶并不想表露于外的敏感信息,因此具有特殊的敏感性特征。

    二、用戶行為信息的商業(yè)化運(yùn)用及風(fēng)險(xiǎn)

    互聯(lián)網(wǎng)浪潮下各大互聯(lián)網(wǎng)企業(yè)的競(jìng)爭(zhēng)愈演愈烈,用戶行為信息的巨大商業(yè)價(jià)值也開(kāi)始備受關(guān)注。為充分挖掘用戶行為信息的商業(yè)價(jià)值,各大互聯(lián)網(wǎng)企業(yè)力求詳細(xì)地記錄用戶的行為細(xì)節(jié),并以數(shù)據(jù)化的形式使其具象化。用戶行為信息在互聯(lián)網(wǎng)商業(yè)活動(dòng)中的普遍化運(yùn)用,正是大數(shù)據(jù)時(shí)代下高新技術(shù)改造商業(yè)形態(tài)的一大例證。對(duì)于互聯(lián)網(wǎng)企業(yè)而言,雖然采集、儲(chǔ)存和處理用戶行為信息增加了額外的成本,但推進(jìn)商業(yè)化運(yùn)用所帶來(lái)的收益亦蔚為可觀。在巨額收益的驅(qū)使下,建立用戶行為信息檔案庫(kù)①已經(jīng)成為各大互聯(lián)網(wǎng)企業(yè)秘而不宣的通用規(guī)則。在實(shí)踐中,用戶行為信息的商業(yè)化運(yùn)用主要通過(guò)以下幾種方式實(shí)現(xiàn)。

    第一,沉淀用戶行為信息,優(yōu)化用戶體驗(yàn)。用戶行為信息的沉淀主要體現(xiàn)為互聯(lián)網(wǎng)企業(yè)總是能夠自動(dòng)記憶用戶的歷史消費(fèi)選擇,并為所有用戶保留其個(gè)性化的設(shè)置。例如,再次登錄同一網(wǎng)站或打開(kāi)同一手機(jī)APP時(shí),用戶不再需要重復(fù)輸入復(fù)雜的賬戶名和密碼;瀏覽網(wǎng)頁(yè)時(shí)點(diǎn)擊查看交易過(guò)的歷史訂單,甚至是瀏覽過(guò)、收藏過(guò)或放入購(gòu)物車(chē)預(yù)備交易的商品,不會(huì)因?yàn)橥顺龅顷懚鵁o(wú)法得見(jiàn);點(diǎn)餐平臺(tái)上所購(gòu)買(mǎi)的餐品或提交的評(píng)價(jià),可以在事后再次查看等??梢宰鞒鲞@樣一個(gè)大膽的推論,即用戶行為信息的點(diǎn)滴積累使得網(wǎng)絡(luò)的記憶遠(yuǎn)遠(yuǎn)強(qiáng)過(guò)了用戶的記憶,且此種網(wǎng)絡(luò)記憶還會(huì)伴隨用戶行為信息的持續(xù)累積而不斷更新,充分掌握用戶行為信息的互聯(lián)網(wǎng)企業(yè)甚至可能要比用戶更了解自己。在此推論上,互聯(lián)網(wǎng)企業(yè)可以有針對(duì)性地優(yōu)化自身提供的產(chǎn)品和服務(wù)質(zhì)量,提升商務(wù)運(yùn)營(yíng)效益,以獲取行業(yè)競(jìng)爭(zhēng)優(yōu)勢(shì)地位;用戶則能夠擁有更優(yōu)質(zhì)的互聯(lián)網(wǎng)服務(wù)體驗(yàn),避免不必要的時(shí)間消耗,提升交易效率。

    第二,進(jìn)行用戶行為化定位,提供定制化的互聯(lián)網(wǎng)產(chǎn)品或服務(wù)?;ヂ?lián)網(wǎng)企業(yè)在累積了足量的用戶行為信息后,即能夠利用人工智能等數(shù)據(jù)挖掘工具,提取并匯總涉及用戶的價(jià)值觀、生活方式、行為模式、生活需求、選擇偏好等各項(xiàng)特征,以構(gòu)建一個(gè)嶄新且完整的消費(fèi)者數(shù)據(jù)畫(huà)像。這一畫(huà)像的終極目標(biāo),是以類(lèi)似360度全方位鏡像反射的方式,對(duì)用戶性格和生命進(jìn)行數(shù)據(jù)塑像。[4]掌握著這樣的用戶數(shù)據(jù)畫(huà)像,互聯(lián)網(wǎng)企業(yè)就可以將用戶按照需求、偏好、購(gòu)買(mǎi)力等消費(fèi)特征進(jìn)行分類(lèi),從而向不同類(lèi)別的用戶提供區(qū)別化、定制化的產(chǎn)品或服務(wù)。由此,用戶所瀏覽的網(wǎng)頁(yè)終端或手機(jī)客戶端,將逐漸僅顯示互聯(lián)網(wǎng)企業(yè)基于對(duì)用戶行為信息的分析,認(rèn)為用戶會(huì)感興趣或是希望接收到的內(nèi)容。例如,電商網(wǎng)站根據(jù)用戶搜索、瀏覽、點(diǎn)擊、交易等相關(guān)行為信息不斷調(diào)整客戶端首頁(yè)推薦的產(chǎn)品類(lèi)目和搜索結(jié)果的排序方式;餐飲類(lèi)APP通過(guò)用戶的定位、訂餐時(shí)間、訂單內(nèi)容等歷史行為信息,在不同就餐時(shí)段向用戶展示符合其口味且處于其經(jīng)濟(jì)承受能力范圍內(nèi)的餐廳;新媒體網(wǎng)站根據(jù)用戶的定位、可閱覽的時(shí)間和興趣領(lǐng)域,就推薦內(nèi)容做出相應(yīng)的安排與調(diào)整;社交網(wǎng)絡(luò)服務(wù)提供商則基于其對(duì)用戶行為信息的分析結(jié)果,為用戶推薦其可能認(rèn)識(shí)的人、感興趣的人或相關(guān)公眾號(hào)。

    第三,開(kāi)展個(gè)性化廣告推薦,提升經(jīng)營(yíng)效益。如何將廣告推送給真正具有消費(fèi)需求,且擁有購(gòu)買(mǎi)能力的客戶,從而以最小的成本促成交易,是廣告學(xué)上有待解決的核心命題之一。由于缺失對(duì)個(gè)體消費(fèi)者的全面了解,傳統(tǒng)的廣告投送模式往往只能以數(shù)量取勝,即通過(guò)漫無(wú)目的的“廣而告之”模式,提升交易成功率。但此種廣告投送模式存在成本高、準(zhǔn)確率低等弊端,投放廣告的效益難以得到保障。用戶行為信息定位廣告的出現(xiàn),將廣告向消費(fèi)的轉(zhuǎn)化率提升到了新的層次。企業(yè)能夠利用算法技術(shù)對(duì)海量的用戶行為信息進(jìn)行深入挖掘分析,判斷用戶的消費(fèi)需求、選擇偏好甚至購(gòu)買(mǎi)力,進(jìn)而基于產(chǎn)品特性向潛在的客戶投送符合其需求、偏好和能力的定向廣告。[5]精準(zhǔn)的廣告投送,能夠完美消除產(chǎn)品和服務(wù)從生產(chǎn)者到消費(fèi)者之間的信息壁壘,由此大幅減少生產(chǎn)商、經(jīng)銷(xiāo)商的銷(xiāo)售成本,提升經(jīng)營(yíng)效益;對(duì)于用戶而言,接收符合其行為愛(ài)好分析結(jié)果的廣告,亦提高了獲得所需產(chǎn)品或服務(wù)的可能性,降低了用戶的選擇成本。

    在用戶行為信息商業(yè)化運(yùn)用的過(guò)程中,須警惕人工智能技術(shù)運(yùn)用和互聯(lián)網(wǎng)企業(yè)不當(dāng)行為所帶來(lái)的系列風(fēng)險(xiǎn)。具體而言,用戶行為信息商業(yè)化運(yùn)用的風(fēng)險(xiǎn)可以大致概括為以下三點(diǎn),未來(lái)法規(guī)規(guī)制的思維亦應(yīng)當(dāng)由此切入。

    首先,用戶隱私空間遭受侵犯的風(fēng)險(xiǎn)。人工智能技術(shù)運(yùn)用下的用戶行為信息挖掘,已經(jīng)使得用戶行為信息與隱私之間的界限越發(fā)模糊。正如美國(guó)佛羅里達(dá)國(guó)際大學(xué)法學(xué)院的Andrew J.McClurg教授所言,數(shù)據(jù)挖掘所取得的成果已經(jīng)等同于對(duì)人們的生活進(jìn)行完整的相片式記錄,這與有人整天拿著相機(jī)隨時(shí)攝錄你的生活簡(jiǎn)直別無(wú)二致[6]。海量集聚的用戶行為信息在經(jīng)充分挖掘后刻畫(huà)出的立體數(shù)據(jù)人像與自然人具有極其類(lèi)似的性格特質(zhì),即使互聯(lián)網(wǎng)企業(yè)只能將該數(shù)據(jù)人像連接到特定智能設(shè)備,從而針對(duì)用戶偏好進(jìn)行個(gè)性化推薦,也會(huì)使用戶感受到隱私被窺探,并引發(fā)不安。因?yàn)橛脩粜袨樾畔⑴c自然人真實(shí)身份之間由可識(shí)別性構(gòu)筑的界限并不具有絕對(duì)性,在用戶行為信息充足,或者有其他的外部可識(shí)別性信息加以輔助的情形下,可以準(zhǔn)確識(shí)別自然人的真實(shí)身份。正是由于用戶行為信息與自然人真實(shí)身份間的連接具有現(xiàn)實(shí)可行性,所以互聯(lián)網(wǎng)企業(yè)通過(guò)用戶行為信息侵蝕用戶隱私空間成為可能。因此,有必要對(duì)互聯(lián)網(wǎng)企業(yè)采集、處理、共享用戶行為信息的行為進(jìn)行有效規(guī)制,以保障用戶隱私空間的安全性。

    其次,用戶行為信息遭到濫用的風(fēng)險(xiǎn)。在運(yùn)用領(lǐng)域上,濫用用戶行為信息主要指互聯(lián)網(wǎng)企業(yè)將用戶行為信息用于政治、輿論引導(dǎo)等非商業(yè)領(lǐng)域,背離了其采集用戶行為信息的初衷。以2016年的美國(guó)大選為例,一家英國(guó)數(shù)據(jù)分析公司不當(dāng)利用從Facebook獲取的近8700萬(wàn)用戶的個(gè)人資料以提升政治性廣告投放的精準(zhǔn)度,有針對(duì)性地向用戶推薦候選人的相關(guān)信息,從而影響選舉結(jié)果。②在運(yùn)用方式上,濫用用戶行為信息主要表現(xiàn)為互聯(lián)網(wǎng)企業(yè)直接買(mǎi)賣(mài)用戶信息以實(shí)現(xiàn)營(yíng)利目標(biāo)。通過(guò)直接買(mǎi)賣(mài)用戶行為信息獲利的行為,與在知情同意原則下合法采集用戶行為信息的原則不符,必將造成用戶信息的廣泛泄露,從而擾亂信息商業(yè)化運(yùn)用的市場(chǎng)秩序。在運(yùn)用目的上,濫用用戶行為信息,常指互聯(lián)網(wǎng)企業(yè)依據(jù)用戶行為信息對(duì)用戶進(jìn)行區(qū)別對(duì)待以獲取超額利潤(rùn)。典型者為“大數(shù)據(jù)殺熟”行為,即互聯(lián)網(wǎng)企業(yè)依據(jù)用戶的消費(fèi)能力、消費(fèi)偏好、消費(fèi)意愿等內(nèi)容對(duì)其進(jìn)行標(biāo)簽化處理,同時(shí)使用協(xié)同過(guò)濾等分類(lèi)算法計(jì)算用戶購(gòu)買(mǎi)概率并將其進(jìn)行分類(lèi),以便預(yù)測(cè)出不同用戶所能接受的商品價(jià)格,并據(jù)此對(duì)新老用戶進(jìn)行區(qū)別化定價(jià)。[7]

    再次,自動(dòng)化決策結(jié)果不公正的風(fēng)險(xiǎn)。自動(dòng)化決策是人工智能的本質(zhì),旨在通過(guò)人工智能算法,結(jié)合用戶大數(shù)據(jù)進(jìn)行打分、評(píng)價(jià)或者推薦,從而在商業(yè)領(lǐng)域提高用戶點(diǎn)擊率、增加企業(yè)交易利潤(rùn)率。一般來(lái)說(shuō),產(chǎn)生不公正的自動(dòng)化決策結(jié)果的原因,可以從算法程序設(shè)計(jì)、算法數(shù)據(jù)輸入和算法黑箱當(dāng)中尋找?;ヂ?lián)網(wǎng)企業(yè)的自動(dòng)化決策依賴算法程序,若程序本身是不公平的,必然直接影響決策結(jié)果,而算法程序的形成過(guò)程必然帶有主觀色彩,即程序設(shè)計(jì)者的主觀價(jià)值潛移默化地融入算法程序的設(shè)置之中。此外,用戶行為信息的采集大多以注冊(cè)賬戶或特定的客戶端為中心,而注冊(cè)賬戶、客戶端背后的自然人并不具有唯一對(duì)應(yīng)性,在多人使用同一賬戶或同一客戶端的情形下,互聯(lián)網(wǎng)企業(yè)輸入的數(shù)據(jù)將會(huì)不可避免地出現(xiàn)錯(cuò)誤,由此導(dǎo)致自動(dòng)化決策結(jié)果的背離。與此同時(shí),由于自動(dòng)化決策本身具有高度的復(fù)雜性,即使決策程序的設(shè)計(jì)者客觀上也難以完全掌控決策過(guò)程中每一個(gè)邏輯數(shù)據(jù)的來(lái)源,算法中的技術(shù)壁壘亦使得用戶客觀上無(wú)法全面了解決策的全過(guò)程,故算法黑箱不可避免,決策結(jié)果可能因此出現(xiàn)偏差。

    三、商業(yè)化運(yùn)用的法律規(guī)制路徑

    正如上文所述,當(dāng)前互聯(lián)網(wǎng)企業(yè)所掌握的用戶行為信息涵蓋了用戶生活的方方面面,如興趣愛(ài)好、政治傾向、健康狀況、起居作息、交易習(xí)慣等,具有數(shù)量大、范圍廣、程度深之特點(diǎn)?;ヂ?lián)網(wǎng)企業(yè)能夠利用豐富的用戶行為信息復(fù)刻出一個(gè)在價(jià)值觀念、思維模式和行為傾向上都與自然人別無(wú)二致的虛擬形象,若其對(duì)用戶行為信息的采集、利用不當(dāng),將直接侵害用戶的人格、財(cái)產(chǎn)上的利益,或者使用戶陷于諸多難以預(yù)知的窘迫、不便或者不公平的情境中。為此,必須在推進(jìn)用戶行為信息商業(yè)化運(yùn)用的過(guò)程中,通過(guò)法律規(guī)制手段來(lái)消解商業(yè)化運(yùn)用所伴生的風(fēng)險(xiǎn),注重保護(hù)用戶的隱私空間、防止用戶行為信息濫用,并盡量保障自動(dòng)化決策的公平性。

    (一)保護(hù)用戶隱私空間

    第一,積極落實(shí)知情同意原則。用戶的知情同意是互聯(lián)網(wǎng)企業(yè)采集用戶行為信息應(yīng)遵守的一項(xiàng)原則,亦是信息采集的合法性基礎(chǔ)。[8]實(shí)踐中,大多互聯(lián)網(wǎng)企業(yè)的用戶行為信息采集協(xié)議存在篇幅長(zhǎng)、專(zhuān)業(yè)術(shù)語(yǔ)多、重點(diǎn)不突出等問(wèn)題,使得該原則流于形式。為了切實(shí)滿足知情同意原則的兩個(gè)構(gòu)成要素“知情”和“同意”,一方面須明確互聯(lián)網(wǎng)企業(yè)的告知義務(wù),即將用戶“知情”的權(quán)利轉(zhuǎn)化為互聯(lián)網(wǎng)企業(yè)的義務(wù),另一方面應(yīng)推進(jìn)用戶“同意”方式的規(guī)范化。當(dāng)前,大多以用戶點(diǎn)擊“同意協(xié)議”按鍵的方式表明其對(duì)互聯(lián)網(wǎng)企業(yè)采集自身行為信息的有效承諾,然而此種承諾方式的規(guī)范性不足,帶有一定的隨意色彩。為此,建議使用電子簽名作為用戶明示同意的外在表現(xiàn)形式。如此一來(lái),不僅能夠進(jìn)一步實(shí)現(xiàn)“同意”方式的規(guī)范化,而且可以在一定程度上提升用戶對(duì)于行為信息采集協(xié)議內(nèi)容的關(guān)注度。

    第二,賦予企業(yè)信息財(cái)產(chǎn)權(quán)??紤]到用戶行為信息的單個(gè)原始數(shù)據(jù)的價(jià)值極低,并不具有商業(yè)化運(yùn)用的可能性,因此,只有經(jīng)由互聯(lián)網(wǎng)企業(yè)通過(guò)技術(shù)性手段對(duì)海量原始數(shù)據(jù)進(jìn)行整合、分析、加工后,所形成的數(shù)據(jù)分析結(jié)果才具有商業(yè)化運(yùn)用的價(jià)值。正如學(xué)者所言,算法技術(shù)實(shí)現(xiàn)了低價(jià)值的原始數(shù)據(jù)向高價(jià)值衍生數(shù)據(jù)的轉(zhuǎn)化。[9]因而有必要明確企業(yè)對(duì)用戶行為信息的權(quán)屬,賦予互聯(lián)網(wǎng)企業(yè)對(duì)用戶行為信息的財(cái)產(chǎn)權(quán)。如此一來(lái),一方面能夠避免出現(xiàn)因權(quán)屬分散于自然人個(gè)體而導(dǎo)致用戶行為信息的商業(yè)化運(yùn)用難以實(shí)現(xiàn)的問(wèn)題,調(diào)動(dòng)企業(yè)開(kāi)發(fā)信息的商業(yè)價(jià)值的積極性,另一方面可以在特定情形下為用戶提供相應(yīng)的請(qǐng)求權(quán)基礎(chǔ),促使互聯(lián)網(wǎng)企業(yè)合法、合理地開(kāi)發(fā)、運(yùn)用用戶行為信息。

    第三,推行數(shù)據(jù)匿名化處理技術(shù)。推行用戶行為信息匿名化處理技術(shù),可以最大限度地模糊用戶行為信息與自然人之間的聯(lián)系,降低可能對(duì)自然人權(quán)益造成的損害,并促進(jìn)用戶行為信息的市場(chǎng)流轉(zhuǎn)。2017年6月1日開(kāi)始實(shí)施的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》第四十二條指出匿名信息應(yīng)滿足“無(wú)法識(shí)別特定個(gè)人”且“不能復(fù)原”兩個(gè)基本特征。在未來(lái),有必要為用戶行為信息的匿名化處理確立統(tǒng)一的技術(shù)標(biāo)準(zhǔn),包括明確用戶行為信息匿名化處理的適格主體、信息內(nèi)容、技術(shù)手段、基本方法等內(nèi)容,以增強(qiáng)用戶行為信息匿名化建設(shè)的規(guī)范性、標(biāo)準(zhǔn)性和有效性。需要注意的是,匿名化信息并非意味著絕對(duì)無(wú)法識(shí)別出特定主體,隨著相關(guān)技術(shù)的發(fā)展,在數(shù)據(jù)庫(kù)存儲(chǔ)數(shù)據(jù)充足的情形下,有可能實(shí)現(xiàn)對(duì)于信息主體的反向追蹤。因此,企業(yè)不能將匿名化技術(shù)作為用戶行為信息商業(yè)化運(yùn)用的擋箭牌,而應(yīng)不斷對(duì)相關(guān)技術(shù)進(jìn)行優(yōu)化,以保護(hù)用戶隱私空間免受侵蝕。

    (二)防止企業(yè)信息濫用行為

    第一,強(qiáng)化互聯(lián)網(wǎng)企業(yè)的信息披露義務(wù)。增強(qiáng)互聯(lián)網(wǎng)企業(yè)應(yīng)履行的信息披露義務(wù),提高用戶行為信息處理過(guò)程的公開(kāi)透明程度,是推動(dòng)企業(yè)這一信息控制者形成有效的內(nèi)生治理機(jī)制的重要條件。[10]互聯(lián)網(wǎng)企業(yè)對(duì)用戶行為信息的披露應(yīng)當(dāng)遵循真實(shí)性、完整性、及時(shí)性原則,即信息內(nèi)容符合“真實(shí)”情況、披露環(huán)節(jié)契合“完整”程序,且披露時(shí)間滿足“及時(shí)”要求?;ヂ?lián)網(wǎng)企業(yè)應(yīng)當(dāng)披露的信息內(nèi)容需與用戶行為信息的處理密切相關(guān),主要涉及信息采集、存儲(chǔ)和利用環(huán)節(jié)?;ヂ?lián)網(wǎng)企業(yè)信息披露的重點(diǎn)在于涉及信息交易、信息共享等會(huì)引發(fā)用戶行為信息流轉(zhuǎn)的相關(guān)內(nèi)容,對(duì)該內(nèi)容的充分披露將成為防止企業(yè)濫用用戶行為信息的有力枷鎖。

    第二,保障用戶的監(jiān)督權(quán)。從用戶視角而言,企業(yè)披露的相關(guān)信息是其行使監(jiān)督權(quán)的直接且重要的依據(jù)。用戶作為互聯(lián)網(wǎng)企業(yè)所提供產(chǎn)品、服務(wù)的接受者,由其負(fù)責(zé)監(jiān)督互聯(lián)網(wǎng)企業(yè)的行為最為直接、高效。在監(jiān)督過(guò)程中,企業(yè)應(yīng)當(dāng)為用戶提供暢通的監(jiān)督渠道,如在其信息披露的官方頁(yè)面增設(shè)用戶專(zhuān)欄,供用戶提出疑問(wèn)或者發(fā)表意見(jiàn),并在企業(yè)內(nèi)部設(shè)置專(zhuān)員負(fù)責(zé)處理用戶專(zhuān)欄內(nèi)的反饋信息。又如,企業(yè)專(zhuān)設(shè)用戶熱線,由內(nèi)部專(zhuān)員負(fù)責(zé)與來(lái)電用戶對(duì)接。當(dāng)然,用戶的監(jiān)督渠道開(kāi)放期限應(yīng)當(dāng)由企業(yè)在法律規(guī)范范圍內(nèi),結(jié)合自身經(jīng)營(yíng)狀況或者人員安排等因素進(jìn)行靈活設(shè)置,不能由法律進(jìn)行“一刀切”,但是一經(jīng)確定即應(yīng)當(dāng)借助信息披露途徑向社會(huì)公開(kāi)。

    第三,完善用戶的損害賠償請(qǐng)求權(quán)?;ヂ?lián)網(wǎng)企業(yè)與用戶間信息不對(duì)稱(chēng)現(xiàn)象較為嚴(yán)重,相較于用戶而言,互聯(lián)網(wǎng)企業(yè)處于信息優(yōu)勢(shì)地位,控制著作為關(guān)鍵證據(jù)的定價(jià)算法與數(shù)據(jù)信息。此時(shí),若遵循以雙方主體平等條件為基礎(chǔ)而構(gòu)建起的一般舉證規(guī)則,則對(duì)用戶明顯不公。因此,應(yīng)采取舉證責(zé)任倒置,即由該企業(yè)負(fù)責(zé)證明其并未存在信息濫用行為。賦予互聯(lián)網(wǎng)企業(yè)這一義務(wù)并不會(huì)對(duì)其造成過(guò)重負(fù)擔(dān),因?yàn)槠浔揪蛻?yīng)當(dāng)履行在一定期限內(nèi)保存相關(guān)數(shù)據(jù)的法定義務(wù),且已具備相應(yīng)的數(shù)據(jù)保存技術(shù)條件。此外,由于僅依靠用戶信息采集協(xié)議的約定,可能很難使用戶獲得合理的賠償數(shù)額,有必要通過(guò)強(qiáng)制性立法引入懲罰性賠償制度。懲罰性賠償制度的適用條件可以設(shè)定為:企業(yè)實(shí)行了違約行為;用戶一方有損害事實(shí);行為和損害間存在因果關(guān)系;企業(yè)主觀惡意嚴(yán)重,即基于故意或者惡意傾向而泄露、傳播、使用用戶行為信息。懲罰性賠償?shù)幕緲?biāo)準(zhǔn),則須結(jié)合互聯(lián)網(wǎng)企業(yè)的主觀惡意程度、行為的情節(jié)嚴(yán)重程度、用戶所受的損害程度等因素進(jìn)行個(gè)案判斷。

    (三)維護(hù)自動(dòng)化決策的公正

    第一,規(guī)范算法設(shè)計(jì)者的行為。算法程序作為人為設(shè)計(jì)的工具,其運(yùn)行結(jié)果雖然由技術(shù)自動(dòng)生成,但是必然留有設(shè)計(jì)者的主觀印記。因此,為了保障算法自動(dòng)化決策的公正性,在算法程序被投入應(yīng)用之前,應(yīng)當(dāng)盡量減輕設(shè)計(jì)者給算法程序帶來(lái)的不當(dāng)價(jià)值取向。為此,法律規(guī)范應(yīng)當(dāng)增強(qiáng)對(duì)算法程序設(shè)計(jì)者的約束,促使其在設(shè)計(jì)算法程序時(shí)盡量秉持中立、無(wú)歧視的態(tài)度。若算法設(shè)計(jì)者在算法程序設(shè)計(jì)過(guò)程中存在利益沖突,其應(yīng)主動(dòng)回避;若算法程序存在價(jià)值取向上的歧視或不公平,應(yīng)當(dāng)依據(jù)法定程序進(jìn)行人工干預(yù)、改正。在算法程序投入應(yīng)用后,亦須持續(xù)進(jìn)行維護(hù)、優(yōu)化,積極開(kāi)發(fā)可以預(yù)防、糾正算法偏見(jiàn)的有效工具。如谷歌即已經(jīng)研發(fā)了“閾值分類(lèi)器”,以改進(jìn)機(jī)器學(xué)習(xí)系統(tǒng)來(lái)避免算法歧視的出現(xiàn)。[11]

    第二,提高算法運(yùn)行機(jī)制的透明度。在算法運(yùn)行過(guò)程中,可以通過(guò)提升算法運(yùn)行機(jī)制透明度,以增強(qiáng)自動(dòng)化決策的公正性。透明化的算法運(yùn)行機(jī)制是破除算法黑箱的重要武器。雖然,自動(dòng)化決策信息可能會(huì)涉及商業(yè)秘密,但是在特定情形下,互聯(lián)網(wǎng)企業(yè)仍應(yīng)當(dāng)承擔(dān)相應(yīng)的信息披露義務(wù),即在用戶對(duì)決策公平性具有合理懷疑時(shí),可以要求企業(yè)依據(jù)法定程序披露與其利益相關(guān)的自動(dòng)化決策信息,以實(shí)現(xiàn)互聯(lián)網(wǎng)企業(yè)和用戶之間的利益平衡。在未來(lái),我國(guó)還可以借助相關(guān)法律規(guī)范推動(dòng)具有算法研制的企業(yè)共享算法技術(shù),以盡可能地降低算法設(shè)計(jì)中的技術(shù)壁壘,有效限縮算法獨(dú)裁的空間,保障自動(dòng)化決策的公正性。

    第三,明確算法解釋請(qǐng)求權(quán)。當(dāng)用戶認(rèn)為互聯(lián)網(wǎng)企業(yè)的算法決策不公正時(shí),應(yīng)當(dāng)行使算法解釋請(qǐng)求權(quán),要求企業(yè)以用戶能夠理解的方式對(duì)相關(guān)事實(shí)予以解釋。此時(shí),互聯(lián)網(wǎng)企業(yè)不得以事前已經(jīng)提供詳盡的說(shuō)明、解釋或者向用戶提示了可預(yù)見(jiàn)的相關(guān)風(fēng)險(xiǎn)為由,排除其向相對(duì)人的解釋義務(wù)?;ヂ?lián)網(wǎng)企業(yè)的解釋內(nèi)容應(yīng)當(dāng)包括兩項(xiàng):一是決策系統(tǒng)的運(yùn)行原理、一般功能等;二是決策產(chǎn)生的原因、直接導(dǎo)致決策結(jié)果的數(shù)據(jù)信息等。在解釋的過(guò)程中,若互聯(lián)網(wǎng)企業(yè)囿于自身知識(shí)、技術(shù)能力而無(wú)法對(duì)相關(guān)事項(xiàng)予以說(shuō)明,則應(yīng)當(dāng)尋求算法設(shè)計(jì)者的幫助,后者有義務(wù)協(xié)助其向用戶進(jìn)行解釋。若發(fā)現(xiàn)不公正的決策系由算法本身錯(cuò)誤引起,用戶可以要求互聯(lián)網(wǎng)企業(yè)對(duì)自動(dòng)化決策系統(tǒng)進(jìn)行修正,而后重新決策;若發(fā)現(xiàn)該決策系因數(shù)據(jù)使用錯(cuò)誤導(dǎo)致,則可以要求互聯(lián)網(wǎng)企業(yè)更新數(shù)據(jù)或者修正數(shù)據(jù),以便進(jìn)行重新決策。

    注釋

    ① 譬如,淘寶網(wǎng)的個(gè)人“成就清單”能顯示出用戶首次使用該APP的時(shí)間、自初次使用至今的總消費(fèi)金額、瀏覽購(gòu)買(mǎi)比率以及購(gòu)物車(chē)的物品類(lèi)別。網(wǎng)易云音樂(lè)APP的年度總結(jié)能夠全面展示用戶收藏、播放的歌曲、聆聽(tīng)次數(shù)甚至具體的聽(tīng)歌時(shí)點(diǎn)?;ヂ?lián)網(wǎng)企業(yè)試圖通過(guò)實(shí)時(shí)搜集和挖掘信息,為每位用戶構(gòu)建起詳細(xì)的網(wǎng)絡(luò)行為信息檔案,完整地記錄其網(wǎng)絡(luò)活動(dòng)軌跡。通過(guò)分析上述檔案,企業(yè)能夠更加了解每位用戶需求,并預(yù)測(cè)其行為傾向,以便為其提供更為個(gè)性化的服務(wù),最終實(shí)現(xiàn)產(chǎn)品、服務(wù)生產(chǎn)端與消費(fèi)端的精準(zhǔn)對(duì)接。

    ② Alvin Chang, The Facebook and Cambridge Analytica scandal,explained with a simple diagram, May 2, 2018, https://www.vox.com/policy-and-politics/2018/3/23/17151916/facebookcambridge-analytica-trump-diagram.

    猜你喜歡
    用戶信息企業(yè)
    企業(yè)
    企業(yè)
    企業(yè)
    敢為人先的企業(yè)——超惠投不動(dòng)產(chǎn)
    訂閱信息
    中華手工(2017年2期)2017-06-06 23:00:31
    關(guān)注用戶
    關(guān)注用戶
    關(guān)注用戶
    如何獲取一億海外用戶
    展會(huì)信息
    久久久精品欧美日韩精品| 亚洲av成人不卡在线观看播放网| 最新在线观看一区二区三区| 九九热线精品视视频播放| 亚洲国产精品999在线| 色老头精品视频在线观看| 99热这里只有是精品50| 成年人黄色毛片网站| 日韩成人在线观看一区二区三区| 99精品在免费线老司机午夜| 亚洲欧美日韩高清专用| 91麻豆精品激情在线观看国产| 国产一区二区三区视频了| 欧美+日韩+精品| 人妻久久中文字幕网| 午夜免费激情av| www.色视频.com| 亚洲电影在线观看av| 日本三级黄在线观看| 美女高潮的动态| 免费看十八禁软件| 国产一区二区激情短视频| 欧美黄色片欧美黄色片| 国产一区二区三区视频了| 韩国av一区二区三区四区| e午夜精品久久久久久久| 久久久久久大精品| 亚洲精品日韩av片在线观看 | 桃色一区二区三区在线观看| 最近最新免费中文字幕在线| 狠狠狠狠99中文字幕| 欧美性猛交黑人性爽| 在线视频色国产色| 成人特级黄色片久久久久久久| 成人永久免费在线观看视频| 亚洲男人的天堂狠狠| 最后的刺客免费高清国语| 色在线成人网| 身体一侧抽搐| 国产av在哪里看| 日韩人妻高清精品专区| 午夜a级毛片| 亚洲欧美日韩高清在线视频| www.www免费av| 免费大片18禁| 俄罗斯特黄特色一大片| 天堂√8在线中文| 色噜噜av男人的天堂激情| 午夜免费成人在线视频| av福利片在线观看| 国产午夜精品论理片| 老司机深夜福利视频在线观看| 啦啦啦观看免费观看视频高清| 制服人妻中文乱码| 婷婷丁香在线五月| 在线观看日韩欧美| 嫩草影院入口| 俄罗斯特黄特色一大片| 中文字幕熟女人妻在线| 欧美性猛交╳xxx乱大交人| 男女床上黄色一级片免费看| 免费看a级黄色片| 日韩人妻高清精品专区| 国产精品久久久久久久电影 | 国产精品久久久久久亚洲av鲁大| 老司机在亚洲福利影院| 免费av观看视频| 欧美大码av| 午夜福利成人在线免费观看| 首页视频小说图片口味搜索| 久久午夜亚洲精品久久| 日韩欧美精品免费久久 | 国产三级在线视频| 久久香蕉精品热| 一级毛片高清免费大全| 真实男女啪啪啪动态图| 51国产日韩欧美| 18美女黄网站色大片免费观看| 十八禁网站免费在线| 久久精品夜夜夜夜夜久久蜜豆| 2021天堂中文幕一二区在线观| 精品人妻偷拍中文字幕| 国产免费一级a男人的天堂| 成人高潮视频无遮挡免费网站| 人人妻人人看人人澡| 国产精品 欧美亚洲| 色尼玛亚洲综合影院| 国产精品 欧美亚洲| 在线免费观看不下载黄p国产 | 久久伊人香网站| 欧美丝袜亚洲另类 | 中文字幕精品亚洲无线码一区| 高清毛片免费观看视频网站| 国产精品精品国产色婷婷| 一区福利在线观看| 成人三级黄色视频| 国产真人三级小视频在线观看| 亚洲真实伦在线观看| 日本免费一区二区三区高清不卡| 精品福利观看| 天堂网av新在线| 欧美极品一区二区三区四区| av女优亚洲男人天堂| www.www免费av| 国产高清有码在线观看视频| 国产亚洲欧美在线一区二区| 九色成人免费人妻av| 国产一区二区亚洲精品在线观看| 国产成年人精品一区二区| 九九久久精品国产亚洲av麻豆| 国产午夜精品久久久久久一区二区三区 | 女人高潮潮喷娇喘18禁视频| 成年女人看的毛片在线观看| 麻豆成人av在线观看| 特级一级黄色大片| 国产精品乱码一区二三区的特点| 国产伦一二天堂av在线观看| 啦啦啦韩国在线观看视频| 国产中年淑女户外野战色| 一本久久中文字幕| 日本 欧美在线| 亚洲无线在线观看| 色综合站精品国产| 嫩草影院精品99| 久久久国产精品麻豆| 有码 亚洲区| 成年女人永久免费观看视频| 精华霜和精华液先用哪个| 精品久久久久久,| 国产精品香港三级国产av潘金莲| 免费av毛片视频| 黄色女人牲交| 午夜影院日韩av| 久久久久亚洲av毛片大全| 久久国产乱子伦精品免费另类| 久久人人精品亚洲av| 波多野结衣高清无吗| 亚洲av成人不卡在线观看播放网| 男人舔奶头视频| 欧美一区二区精品小视频在线| 成年女人看的毛片在线观看| 精品人妻偷拍中文字幕| 日韩中文字幕欧美一区二区| 亚洲中文字幕日韩| 欧美又色又爽又黄视频| 亚洲 国产 在线| 18禁黄网站禁片免费观看直播| 欧美又色又爽又黄视频| 99国产极品粉嫩在线观看| 日本五十路高清| 国产精品久久久久久亚洲av鲁大| 村上凉子中文字幕在线| 国产野战对白在线观看| 搡老岳熟女国产| 色噜噜av男人的天堂激情| 黄片小视频在线播放| 国产成年人精品一区二区| 日韩欧美三级三区| 九九久久精品国产亚洲av麻豆| 免费av毛片视频| 亚洲18禁久久av| 18禁在线播放成人免费| 最近最新中文字幕大全免费视频| 观看美女的网站| 性色av乱码一区二区三区2| 亚洲av熟女| 搡老妇女老女人老熟妇| 桃红色精品国产亚洲av| 非洲黑人性xxxx精品又粗又长| 在线观看免费午夜福利视频| 可以在线观看的亚洲视频| 国产真实乱freesex| www国产在线视频色| 亚洲avbb在线观看| 亚洲第一欧美日韩一区二区三区| 国产精品久久久久久久久免 | eeuss影院久久| 亚洲片人在线观看| 午夜a级毛片| 亚洲av成人av| 色综合站精品国产| 欧美成人性av电影在线观看| 亚洲av熟女| 99国产精品一区二区蜜桃av| 亚洲成人久久爱视频| 日本黄色片子视频| 97超级碰碰碰精品色视频在线观看| 久久精品国产99精品国产亚洲性色| 亚洲国产中文字幕在线视频| 中文字幕久久专区| 精品福利观看| 日本免费一区二区三区高清不卡| 亚洲成人久久性| 99热只有精品国产| 免费观看人在逋| 美女cb高潮喷水在线观看| bbb黄色大片| 少妇人妻精品综合一区二区 | 久久草成人影院| 欧美另类亚洲清纯唯美| 真实男女啪啪啪动态图| 丁香六月欧美| 亚洲最大成人中文| 日本黄色视频三级网站网址| 亚洲精品成人久久久久久| 欧美日韩综合久久久久久 | 伊人久久大香线蕉亚洲五| 午夜免费成人在线视频| 国产精品香港三级国产av潘金莲| 九九热线精品视视频播放| 国产黄色小视频在线观看| 欧美色视频一区免费| 免费看日本二区| 国产成人a区在线观看| 中文字幕高清在线视频| 亚洲色图av天堂| 看黄色毛片网站| 亚洲av第一区精品v没综合| 国产免费一级a男人的天堂| 又粗又爽又猛毛片免费看| 亚洲精品日韩av片在线观看 | 他把我摸到了高潮在线观看| 国产激情欧美一区二区| 国产不卡一卡二| 深夜精品福利| 99国产精品一区二区蜜桃av| 一进一出抽搐动态| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 国产男靠女视频免费网站| 欧美在线黄色| 亚洲国产欧美人成| 色精品久久人妻99蜜桃| 精品日产1卡2卡| 欧美高清成人免费视频www| 国产精品国产高清国产av| 精品国产亚洲在线| 亚洲 国产 在线| 国产一区二区在线观看日韩 | 色精品久久人妻99蜜桃| 亚洲人与动物交配视频| 法律面前人人平等表现在哪些方面| 国产av麻豆久久久久久久| 日本熟妇午夜| 国产野战对白在线观看| 在线免费观看的www视频| 九九热线精品视视频播放| 一区二区三区免费毛片| 好男人在线观看高清免费视频| 国产97色在线日韩免费| 高潮久久久久久久久久久不卡| 国产毛片a区久久久久| 国产午夜福利久久久久久| 国产男靠女视频免费网站| 五月玫瑰六月丁香| 久久久久久久午夜电影| 欧美乱妇无乱码| 亚洲国产中文字幕在线视频| 亚洲国产日韩欧美精品在线观看 | 国产一区二区激情短视频| 男女视频在线观看网站免费| 中文字幕精品亚洲无线码一区| 精品一区二区三区av网在线观看| 欧美日韩精品网址| 亚洲精品亚洲一区二区| 黄片小视频在线播放| 色精品久久人妻99蜜桃| 国产亚洲欧美98| 久久久久免费精品人妻一区二区| 1000部很黄的大片| 国产免费av片在线观看野外av| 午夜亚洲福利在线播放| 精品无人区乱码1区二区| 丁香六月欧美| 悠悠久久av| 欧美黄色片欧美黄色片| 亚洲黑人精品在线| 夜夜夜夜夜久久久久| 99久久99久久久精品蜜桃| 麻豆久久精品国产亚洲av| 亚洲18禁久久av| 日韩有码中文字幕| 99久久99久久久精品蜜桃| 亚洲美女黄片视频| 91在线精品国自产拍蜜月 | 波野结衣二区三区在线 | 亚洲aⅴ乱码一区二区在线播放| 国产视频内射| 中文资源天堂在线| 国产三级在线视频| 欧美一区二区国产精品久久精品| tocl精华| xxx96com| 99视频精品全部免费 在线| 男人舔女人下体高潮全视频| 香蕉丝袜av| 一级黄片播放器| 中文字幕高清在线视频| 免费看a级黄色片| 午夜亚洲福利在线播放| 中出人妻视频一区二区| 欧美绝顶高潮抽搐喷水| 久久人人精品亚洲av| av在线天堂中文字幕| 国产视频内射| 两性午夜刺激爽爽歪歪视频在线观看| 精品国产三级普通话版| 成人特级av手机在线观看| 亚洲最大成人手机在线| 精品国内亚洲2022精品成人| 国产99白浆流出| 日本精品一区二区三区蜜桃| 久久久国产成人免费| 精品久久久久久久人妻蜜臀av| 99国产极品粉嫩在线观看| 亚洲无线在线观看| 久99久视频精品免费| 午夜精品一区二区三区免费看| 身体一侧抽搐| 男女床上黄色一级片免费看| 午夜老司机福利剧场| 黑人欧美特级aaaaaa片| 久久精品91蜜桃| 美女高潮喷水抽搐中文字幕| 国产成人影院久久av| 级片在线观看| 国产亚洲精品综合一区在线观看| 免费看a级黄色片| 黄色视频,在线免费观看| 最新在线观看一区二区三区| 91九色精品人成在线观看| 国内少妇人妻偷人精品xxx网站| 黄片小视频在线播放| 免费观看的影片在线观看| 国产高清videossex| 精品一区二区三区人妻视频| www.999成人在线观看| 日日干狠狠操夜夜爽| 免费看日本二区| 国产探花极品一区二区| 亚洲成人精品中文字幕电影| 观看美女的网站| 内地一区二区视频在线| 亚洲专区国产一区二区| 搡女人真爽免费视频火全软件 | 欧美不卡视频在线免费观看| 色在线成人网| 香蕉丝袜av| 国产97色在线日韩免费| 在线观看舔阴道视频| 少妇人妻一区二区三区视频| 成年女人永久免费观看视频| 国产精品美女特级片免费视频播放器| 免费一级毛片在线播放高清视频| 国内少妇人妻偷人精品xxx网站| 亚洲av日韩精品久久久久久密| 亚洲人与动物交配视频| 午夜视频国产福利| 免费看a级黄色片| or卡值多少钱| 亚洲avbb在线观看| 日韩中文字幕欧美一区二区| 亚洲av免费在线观看| 成人性生交大片免费视频hd| 天堂网av新在线| 亚洲电影在线观看av| 久久中文看片网| 成年人黄色毛片网站| 日日夜夜操网爽| 亚洲精品亚洲一区二区| 久久精品综合一区二区三区| bbb黄色大片| 熟妇人妻久久中文字幕3abv| 国产午夜精品久久久久久一区二区三区 | 国产69精品久久久久777片| 搞女人的毛片| 91av网一区二区| 国产成人影院久久av| 怎么达到女性高潮| 国产三级在线视频| 欧美黑人巨大hd| 日韩大尺度精品在线看网址| 午夜福利在线在线| 欧美激情在线99| 两个人看的免费小视频| 身体一侧抽搐| 久久久久久久午夜电影| 欧美黄色淫秽网站| 亚洲色图av天堂| www.999成人在线观看| 非洲黑人性xxxx精品又粗又长| 国产伦在线观看视频一区| 久久久久久久久大av| 真人一进一出gif抽搐免费| 免费无遮挡裸体视频| 九色成人免费人妻av| 欧美3d第一页| 久久精品国产亚洲av涩爱 | 在线观看免费午夜福利视频| 欧美乱码精品一区二区三区| 啦啦啦免费观看视频1| 欧美zozozo另类| 国产aⅴ精品一区二区三区波| 午夜免费成人在线视频| 中国美女看黄片| 日韩欧美在线乱码| 久久精品国产自在天天线| 一本久久中文字幕| 国产精品野战在线观看| 国产真人三级小视频在线观看| www.www免费av| 免费在线观看日本一区| www日本黄色视频网| 99在线视频只有这里精品首页| 又黄又粗又硬又大视频| 日韩成人在线观看一区二区三区| 欧美在线一区亚洲| 中文在线观看免费www的网站| 两个人的视频大全免费| 国内毛片毛片毛片毛片毛片| 在线播放国产精品三级| 成人av一区二区三区在线看| 亚洲av熟女| 国产成人av激情在线播放| 日韩欧美国产一区二区入口| а√天堂www在线а√下载| 午夜久久久久精精品| 97碰自拍视频| 免费人成视频x8x8入口观看| 欧美一级a爱片免费观看看| 免费看a级黄色片| 嫁个100分男人电影在线观看| 波多野结衣巨乳人妻| 一a级毛片在线观看| 一本久久中文字幕| 3wmmmm亚洲av在线观看| 久久久久国内视频| 在线观看舔阴道视频| 国产私拍福利视频在线观看| 午夜激情欧美在线| 在线观看66精品国产| 久久香蕉国产精品| 色av中文字幕| 三级国产精品欧美在线观看| 日日干狠狠操夜夜爽| 国产在线精品亚洲第一网站| 日韩成人在线观看一区二区三区| www.www免费av| 欧美乱色亚洲激情| 国产欧美日韩一区二区三| 三级毛片av免费| 亚洲最大成人中文| 国产黄a三级三级三级人| 首页视频小说图片口味搜索| 在线a可以看的网站| 叶爱在线成人免费视频播放| 久久久精品大字幕| 欧美日韩亚洲国产一区二区在线观看| 淫妇啪啪啪对白视频| 亚洲精品成人久久久久久| 可以在线观看的亚洲视频| 国产精品亚洲一级av第二区| 舔av片在线| 亚洲在线观看片| 美女免费视频网站| 好男人在线观看高清免费视频| 搞女人的毛片| 国产精品一区二区三区四区久久| 亚洲精品456在线播放app | 搡老妇女老女人老熟妇| 人妻丰满熟妇av一区二区三区| 少妇丰满av| 日本撒尿小便嘘嘘汇集6| 在线天堂最新版资源| 免费观看人在逋| 99久久精品一区二区三区| 久久久久久久久大av| aaaaa片日本免费| 欧美区成人在线视频| 极品教师在线免费播放| xxx96com| 国产成人系列免费观看| 久9热在线精品视频| 成年版毛片免费区| 舔av片在线| 怎么达到女性高潮| 男人舔女人下体高潮全视频| 国产精品美女特级片免费视频播放器| 国语自产精品视频在线第100页| 亚洲无线在线观看| 天堂网av新在线| 久久久成人免费电影| 日本黄色片子视频| 在线观看av片永久免费下载| 国产精华一区二区三区| 757午夜福利合集在线观看| 天堂√8在线中文| 色尼玛亚洲综合影院| 午夜福利18| 最近在线观看免费完整版| av天堂中文字幕网| 一夜夜www| 18+在线观看网站| 国产欧美日韩精品亚洲av| 国产成人啪精品午夜网站| 久久欧美精品欧美久久欧美| 黄片大片在线免费观看| 欧美日韩精品网址| 一夜夜www| 91九色精品人成在线观看| 19禁男女啪啪无遮挡网站| 丰满人妻熟妇乱又伦精品不卡| 亚洲乱码一区二区免费版| 一进一出抽搐动态| 悠悠久久av| 国模一区二区三区四区视频| 亚洲va日本ⅴa欧美va伊人久久| 国产一区二区亚洲精品在线观看| 精品人妻一区二区三区麻豆 | 看片在线看免费视频| 日本精品一区二区三区蜜桃| 久久伊人香网站| 国产成人系列免费观看| 一级黄片播放器| 一进一出抽搐gif免费好疼| 国产亚洲精品久久久com| 黄色日韩在线| 欧美日韩乱码在线| 日日摸夜夜添夜夜添小说| 国产高清视频在线观看网站| 99久久成人亚洲精品观看| 亚洲乱码一区二区免费版| 国产美女午夜福利| 国产极品精品免费视频能看的| 亚洲黑人精品在线| 亚洲最大成人中文| 嫩草影院精品99| 波多野结衣巨乳人妻| 欧美一区二区国产精品久久精品| 观看免费一级毛片| 国产精品久久久人人做人人爽| 99久久综合精品五月天人人| 神马国产精品三级电影在线观看| 午夜精品久久久久久毛片777| 国产一区二区三区视频了| a在线观看视频网站| av天堂中文字幕网| 精品久久久久久久末码| 99久久九九国产精品国产免费| 超碰av人人做人人爽久久 | 国产午夜精品论理片| 亚洲无线在线观看| 啦啦啦韩国在线观看视频| 亚洲av美国av| 国产又黄又爽又无遮挡在线| 丰满的人妻完整版| 制服人妻中文乱码| 一进一出好大好爽视频| 久久伊人香网站| 精品国产三级普通话版| 免费看日本二区| 亚洲国产精品sss在线观看| 免费在线观看成人毛片| 男人舔奶头视频| 狂野欧美白嫩少妇大欣赏| 午夜福利高清视频| 一进一出抽搐动态| 免费在线观看影片大全网站| 国产真实乱freesex| 两个人的视频大全免费| 真人一进一出gif抽搐免费| 精品一区二区三区视频在线观看免费| 国模一区二区三区四区视频| 国产黄片美女视频| 国产精品久久视频播放| 黄色日韩在线| 老鸭窝网址在线观看| 波野结衣二区三区在线 | 女警被强在线播放| 久久精品人妻少妇| 亚洲成人久久爱视频| 国产精品久久久久久亚洲av鲁大| 少妇人妻精品综合一区二区 | 91久久精品国产一区二区成人 | 成年版毛片免费区| 免费搜索国产男女视频| av天堂中文字幕网| 性色avwww在线观看| 亚洲成人免费电影在线观看| 性色avwww在线观看| 熟女电影av网| 一本久久中文字幕| 国产午夜福利久久久久久| 最近在线观看免费完整版| 国产精品综合久久久久久久免费| 热99re8久久精品国产| 亚洲成人精品中文字幕电影| 亚洲av不卡在线观看| 日韩 欧美 亚洲 中文字幕| 人妻久久中文字幕网| 久久亚洲精品不卡| 欧美大码av| 亚洲熟妇中文字幕五十中出| 一级毛片高清免费大全| 偷拍熟女少妇极品色| 老司机深夜福利视频在线观看| 夜夜爽天天搞| 成人特级黄色片久久久久久久| 精品欧美国产一区二区三| 久久久久久人人人人人| 国产麻豆成人av免费视频| 午夜免费成人在线视频| 成人鲁丝片一二三区免费| 亚洲国产精品sss在线观看| 成熟少妇高潮喷水视频| 久久精品国产亚洲av香蕉五月|