• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    個人隱私保護的倫理反思與體系建構(gòu)

    2019-06-25 01:54:07吳衛(wèi)華
    中州學(xué)刊 2019年4期
    關(guān)鍵詞:個人隱私被遺忘權(quán)大數(shù)據(jù)

    吳衛(wèi)華

    摘 要:大數(shù)據(jù)時代的到來使得個體進入數(shù)字化的“圓形監(jiān)獄”中,每一個個體都處于被“凝視”的狀態(tài),個人隱私保護因此成為大數(shù)據(jù)時代的一個挑戰(zhàn)。與傳統(tǒng)隱私保護不同,大數(shù)據(jù)時代的個人隱私保護處于一個擬態(tài)的數(shù)字空間當中,隱私保護范圍更大、難度更高,同時隱私侵權(quán)行為也更難以認定。大數(shù)據(jù)時代的隱私保護倫理也出現(xiàn)一些新趨勢,被遺忘權(quán)為大數(shù)據(jù)時代的個人隱私保護提供了一種新思路,用戶必須調(diào)整隱私觀念,市場也需要提供更優(yōu)質(zhì)的內(nèi)容服務(wù)。最終從用戶、互聯(lián)網(wǎng)企業(yè)以及司法管理三個不同角度建構(gòu)大數(shù)據(jù)時代的個人隱私保護體系。

    關(guān)鍵詞:大數(shù)據(jù);圓形監(jiān)獄;個人隱私;被遺忘權(quán)

    中圖分類號:G206.3文獻標識碼:A

    文章編號:1003-0751(2019)04-0166-07

    一、引言

    18世紀晚期,英國哲學(xué)家邊沁提出“圓形監(jiān)獄”概念。作為功利主義哲學(xué)家,邊沁所設(shè)想的“圓形監(jiān)獄”是一個經(jīng)濟且人道的場所,監(jiān)視者只需要站在位于圓形監(jiān)獄中心的瞭望塔中就可以監(jiān)視整個監(jiān)獄。福柯認為,正是通過“圓形監(jiān)獄”這一社會訓(xùn)戒體系,每個獨立的個體被形塑為“馴服而有用的肉體”①。隨著大數(shù)據(jù)時代的到來,數(shù)字化“圓形監(jiān)獄”體系正在形成并逐漸改變整個社會,一種完美的權(quán)力運行機制通過數(shù)字化“圓形監(jiān)獄”不斷地影響著每一個人。數(shù)據(jù)的擁有者和使用者就像是站在圓形監(jiān)獄瞭望塔里的監(jiān)視者,跨越時間和空間兩個現(xiàn)實維度“凝視”個體②。從時間維度來說,個體網(wǎng)絡(luò)行為數(shù)據(jù)會被永久存儲,盡管這些數(shù)據(jù)對于個體來說可能是零散、非系統(tǒng)的,但一旦需要,通過大數(shù)據(jù)技術(shù)仍然可以還原成系統(tǒng)化的數(shù)據(jù),進而描繪出個體跨越時間的行為軌跡。從空間維度來說,個體網(wǎng)絡(luò)行為往往是跨空間、碎片化的,但這些個體數(shù)字碎片經(jīng)過大數(shù)據(jù)的“拼接”也可以形成完整的數(shù)字空間,進而映射進現(xiàn)實空間。正是對時間和空間兩個維度的“凝視”,實現(xiàn)了對個體網(wǎng)絡(luò)行為的永久記憶,而網(wǎng)絡(luò)的永久記憶使得個體失去了對自身數(shù)據(jù)的控制,數(shù)據(jù)生態(tài)面臨著失控的風險,而傳統(tǒng)的信息管理與危機治理機制已經(jīng)無法有效應(yīng)對這些挑戰(zhàn)。由此可見,大數(shù)據(jù)是一把雙刃劍,它一方面能夠預(yù)測人類行為,增加社會整體福利,但另一方面也存在數(shù)據(jù)濫用與個人隱私泄漏問題,而這些問題產(chǎn)生的根源在于產(chǎn)業(yè)應(yīng)用過程中的大數(shù)據(jù)“技術(shù)異化”。個人隱私是個體尊嚴與個體自由的體現(xiàn),隱私的泄露意味著個人尊嚴的侵犯和個體自由的喪失,正如弗洛姆所言:“人創(chuàng)造了種種新的更好的方法以征服自然,但他卻陷入在這些方法的網(wǎng)羅中,并最終失去了賦予這些方法以意義的人自己。人征服了自然,卻成了所創(chuàng)造的機器的奴隸。”③

    如今,我們每一個人都生活在網(wǎng)絡(luò)世界中,組成一個龐大的數(shù)字化“圓形監(jiān)獄”,它不僅是一個??滤缘摹皺?quán)力實施”機構(gòu)④,而且還具備窺私功能。在這個數(shù)字化“圓形監(jiān)獄”中,站在瞭望塔中心的正是大數(shù)據(jù)的擁有者和使用者,他們可以通過大數(shù)據(jù)技術(shù)不斷侵擾私人領(lǐng)域,私人領(lǐng)域與公共領(lǐng)域的界限越來越模糊,邊界的突破使原本屬于私人領(lǐng)域的個人隱私暴露在公共場合,個體在網(wǎng)絡(luò)上的一切行為都成為個人隱私泄露的途徑,繼而,數(shù)據(jù)擁有者通過用戶畫像就能夠預(yù)測個體行為、泄露用戶隱私甚至危及國家安全。2018年3月,F(xiàn)acebook的“泄密門”事件引起西方社會的思考,在數(shù)字化“圓形監(jiān)獄”瞭望塔的“窺私”下,如何保護個人隱私將成為互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展必須解決的一個重要問題。

    二、大數(shù)據(jù)對傳統(tǒng)隱私保護的挑戰(zhàn)

    隱私權(quán)概念最早出現(xiàn)在1890年,美國人布蘭蒂斯和沃倫在《哈佛法律評論》中提出“The Right of Privacy”,認為“隱私是一種獨有的權(quán)利”,并逐漸形成一種全球共識,受到各國法律保護。1948年,聯(lián)合國《世界人權(quán)宣言》第12條專門論述了人類隱私權(quán),此后,不同國際組織紛紛頒布隱私保護的相關(guān)條例。1980年,聯(lián)合國世界經(jīng)濟合作與發(fā)展組織(簡稱OECD)制定了隱私保護八項基本原則:信息收集限制原則、信息質(zhì)量原則、表明目的原則、使用限制原則、安全保護原則、公開性原則、個人參與原則和負責任原則。這些原則一度成為世界各國在制訂本國個人隱私保護法律時的法律框架,但隨著大數(shù)據(jù)的出現(xiàn),OECD明確的這八項隱私保護原則受到嚴重挑戰(zhàn)(見表1)。

    負責任原則由于法律救濟機制不完善導(dǎo)致數(shù)據(jù)采集與使用機構(gòu)推卸責任正是在這樣的背景下,各國紛紛采取不同措施應(yīng)對大數(shù)據(jù)帶來的個人隱私保護問題。歐盟采用統(tǒng)一立法的形式,制定綜合性的個人數(shù)據(jù)保護法規(guī)范歐盟各成員國之間以及歐盟與其他國家之間的數(shù)據(jù)采集、使用和共享等問題。歐洲委員會1981年就發(fā)布了《個人數(shù)據(jù)自動化處理中的個人保護公約》,其后的歐盟在1995年發(fā)布了《數(shù)據(jù)保護指令》,并于2012年頒布《通用數(shù)據(jù)保護條例》(GDPR),最終于2018年5月正式實施。其中針對大數(shù)據(jù)時代下如何主張當事人的權(quán)利,該條例規(guī)定:數(shù)據(jù)當事人有權(quán)隨時向數(shù)據(jù)收集與管理者要求確認其個人信息是否被收集、處理及利用;并要求管理者刪除、修改以及補充個人信息;并對“被遺忘權(quán)”加以明文規(guī)定。而美國采取分散立法模式,雖然沒有一部綜合性的個人隱私保護法,但相關(guān)隱私保護的法律條文散見于其他法律中,比如《公平信用報告法》《電腦資料比對與隱私權(quán)保護法》《電子通訊隱私權(quán)法》《兒童隱私保護法》等。

    相較西方國家關(guān)于個人隱私保護100多年的司法實踐,我國關(guān)于隱私保護的觀念比較淺薄,歷史也十分短暫?,F(xiàn)有文獻表明,1988年以前,國內(nèi)司法研究和司法實踐中都不曾出現(xiàn)過“隱私”一詞⑤。隱私權(quán)作為一種人格權(quán),是個人自由權(quán)利的表現(xiàn),而在我國,長期的歷史文化傳統(tǒng)強調(diào)的是集體主義和儒家精神,忽略了個人權(quán)利,隨著經(jīng)濟的發(fā)展與公民個人權(quán)利意識的覺醒,隱私權(quán)才逐步受到國人的重視。因此,我國關(guān)于個人隱私保護的司法實踐只有短短30年歷史。隨著大數(shù)據(jù)時代的到來,個人隱私保護形勢發(fā)生了巨大變化。

    1.隱私保護范圍擴大

    傳統(tǒng)個人隱私權(quán)主要包括四大類⑥:信息隱私,主要指個人身份信息如姓名、身份證號、銀行卡號等個人信息隱私;通信隱私,主要指個人與他人利用各種通信方式進行交流的隱私;空間隱私,主要指個人出入的各類私人及公共場所隱私;身體隱私,主要指個人身體狀況如健康、生理等隱私信息。傳統(tǒng)個人隱私權(quán)主要涉及實體范圍,其內(nèi)容大多以物化的形式存在。而在大數(shù)據(jù)時代下,隨著移動網(wǎng)絡(luò)通信設(shè)備的廣泛運用,個人隱私主要以數(shù)字化的形式體現(xiàn),存在于擬化環(huán)境中。美國學(xué)者麗貝卡·麥金農(nóng)認為,以臉書為代表的網(wǎng)絡(luò)巨頭已經(jīng)形成“臉書斯坦”(Facebookistan),其最大的特點就是將用戶“勞工化”,以隱秘的方式奪取用戶生產(chǎn)的內(nèi)容和數(shù)據(jù)來進行資本積累和增殖的游戲⑦。用戶的網(wǎng)絡(luò)購物數(shù)據(jù)會被電商采集和識別,網(wǎng)絡(luò)社交媒體使用數(shù)據(jù)會被運營商收集分析,網(wǎng)絡(luò)檢索行為數(shù)據(jù)被搜索引擎記錄,用戶在使用和下載各類APP時被采集各種隱私信息……這些網(wǎng)絡(luò)行為都是以“0”和“1”的形式存在于網(wǎng)絡(luò)擬態(tài)環(huán)境中,數(shù)據(jù)采集者雖然在某一個時間和空間上只能截取一部分零散的個體行為數(shù)據(jù),但一旦通過大數(shù)據(jù)技術(shù)對這些數(shù)據(jù)進行整合,就可以精準定位到某個個體以及與之相關(guān)的一系列隱私信息。因此,相較于物化和空間實體為主要特征的傳統(tǒng)個人隱私保護而言,大數(shù)據(jù)時代下的個人隱私涉及的范圍明顯擴大。

    2.隱私侵犯行為難以認定

    正是由于大數(shù)據(jù)時代的個人隱私涉及的范圍擴大,隱私侵犯行為更加難以認定。一些在傳統(tǒng)隱私保護觀念中認為的非隱私內(nèi)容,在大數(shù)據(jù)時代很有可能通過數(shù)據(jù)分析技術(shù)成為個人隱私侵犯的重要途徑:智能手機自帶的定位功能可以反應(yīng)用戶的地理位置,用戶的通訊記錄可以完整被各類軟件開發(fā)商竊取,基于射頻識別的物聯(lián)網(wǎng)系統(tǒng)甚至可以監(jiān)控家居環(huán)境,用于社會治安和國家安全的人臉識別系統(tǒng)可以隨時識別用戶的一切身份信息。正是由于大數(shù)據(jù)技術(shù)的發(fā)展,原來不屬于個人隱私的內(nèi)容通過一系列分析整合,成為個人隱私。例如,在傳統(tǒng)隱私保護觀念中,用戶在公共場合的非私密性行為肯定不屬于個人隱私,但APP運營商通過后臺程序,對用戶行為進行監(jiān)聽,這就是對個人隱私的侵犯。還有一種情況是用戶主動讓渡部分隱私以獲取使用的便捷性,但用戶并不知道讓渡的到底是哪部分隱私,軟件運營商也故意模糊和淡化這部分內(nèi)容,意味著許多用戶并不知道運營商在采集自己的手機通訊錄、手機相冊、獲取地理位置以及Cookies,即便有些用戶知道他的信息被采集,也無法確定運營商采集的部分是否為自己讓渡的部分,很多基于算法推薦的資訊類APP正是利用這樣的模糊空間,不斷向用戶推送資訊。

    3.隱私保護難度提高

    大數(shù)據(jù)對隱私保護形成挑戰(zhàn)。首先,隱私侵犯主體多樣化。越來越多的機構(gòu)意識到數(shù)據(jù)的重要性,不顧一切地竊取用戶數(shù)據(jù)。以往的個人數(shù)據(jù)只是集中在電信、銀行、醫(yī)院等幾個特定的部門,大數(shù)據(jù)時代下,很多互聯(lián)網(wǎng)企業(yè)都在采用不同手段獲取用戶數(shù)據(jù),甚至還有黑客和特定行業(yè)技術(shù)人員,隱私侵犯主體的多樣化使得管理復(fù)雜,法律救濟困難。其次,隱私侵犯手段越來越復(fù)雜。一方面,竊取用戶數(shù)據(jù)的技術(shù)越來越隱蔽;另一方面,運營商在使用這些數(shù)據(jù)時也越來越靈活,以規(guī)避可能出現(xiàn)的法律風險。運營商采集的往往是一些零散、雜亂的數(shù)據(jù),但通過“相關(guān)性”思維把這些數(shù)據(jù)聚集在一起,就可以實現(xiàn)數(shù)據(jù)提煉與數(shù)據(jù)純化,繼而實現(xiàn)對用戶的精準分析和相關(guān)內(nèi)容的定向投放。最后,隱私保護法制建設(shè)滯后。我國至今還沒有一部系統(tǒng)和綜合的個人隱私保護法。直到2010年,我國的《侵權(quán)責任法》才明確隱私權(quán)作為一項獨立的人格權(quán)的地位。2012年全國人大常委會通過《關(guān)于加強網(wǎng)絡(luò)信息保護的決定》,該決定禁止任何組織和個人非法采集用戶數(shù)據(jù),但沒有明確對侵權(quán)人的處罰措施,難以解決被侵權(quán)人訴訟難問題。

    三、大數(shù)據(jù)時代的隱私倫理

    在數(shù)據(jù)采集和使用過程中,前置的隱私倫理和后置的法律救濟十分必要。前置的隱私倫理可以把數(shù)據(jù)的采集和使用行為限定在一個合理的框架內(nèi),后置的法律救濟則對突破這一框架的行為進行懲戒。20世紀70年代以來,數(shù)據(jù)隱私倫理歷經(jīng)三次變遷,這三次變遷所形成的原則成為現(xiàn)在數(shù)據(jù)隱私保護的倫理框架⑧。第一次變遷是從傳統(tǒng)隱私理論向數(shù)據(jù)隱私理論變遷,要求限制數(shù)據(jù)的采集,形成“數(shù)據(jù)最小化”原則,這次變遷最大的特點是從采集端著手解決數(shù)據(jù)倫理問題。第二次變遷則要求用戶參與,擴大用戶知情權(quán),實現(xiàn)“數(shù)據(jù)控制”原則,這次變遷最大的特點是從使用端著手解決數(shù)據(jù)倫理問題。第三次變遷限制跨語境的數(shù)字使用,強調(diào)“語境保全”原則,其核心在于數(shù)據(jù)采集與使用的場景化,強調(diào)互聯(lián)網(wǎng)公司不能將數(shù)據(jù)從一個社會語境中轉(zhuǎn)移到另一個語境中。傳統(tǒng)隱私權(quán)作為人的權(quán)利一部分,屬于道德權(quán)利,而在大數(shù)據(jù)時代下,信息成為一種生產(chǎn)資源,數(shù)據(jù)成為可以交易的商品,個人隱私也從一種道德權(quán)利轉(zhuǎn)化為經(jīng)濟利益。因此,在數(shù)據(jù)采集和使用中,各利益相關(guān)方都應(yīng)當重建數(shù)據(jù)生態(tài),反思數(shù)據(jù)隱私倫理。

    1.政府亟須立法確立被遺忘權(quán)

    被遺忘權(quán)是隨著搜索引擎和網(wǎng)絡(luò)社交媒體的發(fā)展而出現(xiàn)的一個新概念,其法律基礎(chǔ)正是個人隱私權(quán)。大數(shù)據(jù)時代下,遺忘是例外,記憶是常態(tài)⑨,許多私人信息特別是負面事件能被網(wǎng)絡(luò)永久記憶,且存儲時間長、成本低,從而長期處于一種被“凝視”的狀態(tài)之下,導(dǎo)致信息無法由信息主體自我決定,出現(xiàn)數(shù)據(jù)失控問題,公眾希望把已經(jīng)流入公共領(lǐng)域的私人信息重新轉(zhuǎn)移回私人領(lǐng)域,于是產(chǎn)生了“被遺忘權(quán)”概念。這一法律概念最早由歐盟提出。1995年頒布的《歐盟信息保護條例》建立起了一個平衡個人隱私與信息自由的框架。2012年1月,歐盟公布的《通用數(shù)據(jù)保護條例》(GDPR)首次提出“被遺忘權(quán)”(the right to be forgotten),并且賦予用戶包括知情權(quán)、可攜權(quán)、更正權(quán)、異議權(quán)等在內(nèi)的其他多項權(quán)利,其中規(guī)定:用戶有權(quán)要求數(shù)據(jù)控制者永久刪除有關(guān)其個人的所有數(shù)據(jù),有權(quán)被網(wǎng)絡(luò)“遺忘”,除非有保留個人數(shù)據(jù)的合法理由⑩。隨著2014年5月西班牙公民岡薩雷斯贏得對谷歌的法律訴訟B11,“被遺忘權(quán)”被正式確立,為大數(shù)據(jù)時代下的個人隱私保護提供了一個新的思路。傳統(tǒng)隱私保護過程中,一旦發(fā)生隱私泄露情況,主要依靠事后的法律救濟,而被遺忘權(quán)的提出則是在法律上明確了個體可以主動參與隱私保護過程,變傳統(tǒng)隱私保護中的消極防御為主動控制。

    大數(shù)據(jù)時代下的每一個個體已經(jīng)被形塑為“數(shù)據(jù)”,如果不能被遺忘就意味著人類主體身份的喪失,很容易被異化為技術(shù)奴隸,合理的遺忘同時也是保持人類主體性、抵抗數(shù)字霸權(quán)的一種方式。需要認識到的一點是,被遺忘權(quán)在實踐中仍有許多爭議,無形中也加重了社交媒體平臺和網(wǎng)絡(luò)搜索引擎的責任。前述岡薩雷斯訴谷歌案件中,岡薩雷斯要求谷歌刪除一則1998年有關(guān)其房產(chǎn)信息和不良記錄的報道鏈接,該案判決一年多時間內(nèi),谷歌收到了35萬份刪除申請,谷歌某種意義上承擔著數(shù)字信息審查員的角色。然而,公眾更質(zhì)疑的是:如果個體的不良信息被刪除,如何確保公眾利益?用什么標準決定哪些信息應(yīng)該刪除,哪些信息不應(yīng)該刪除?

    歐盟關(guān)于被遺忘權(quán)的司法實踐與爭論對我國個人信息保護法的制定有重要借鑒意義。歐盟以及美國、加拿大、日本、韓國等國均已經(jīng)開始對被遺忘權(quán)涉及的關(guān)鍵內(nèi)容進行探討,很多國家已經(jīng)將被遺忘權(quán)法定化,成為個人信息保護法的重要內(nèi)容,這也是各國信息保護立法的潮流與趨勢。我國在個人信息保護法的立法過程中,必須將被遺忘權(quán)上升為公民的法定權(quán)利,并且詳細規(guī)定權(quán)利主體、權(quán)利義務(wù)、權(quán)利內(nèi)容和例外情形B12,同時平衡好被遺忘權(quán)與言論自由、公眾知情權(quán)之間的關(guān)系。總體而言,我國的個人信息保護法應(yīng)當接軌以《通用數(shù)據(jù)保護條例》(GDPR)為代表的歐盟個人信息保護法。一方面,歐盟的個人信息保護法律體系已經(jīng)綜合和系統(tǒng),代表著當今世界最嚴格的個人信息保護標準,其法律條文涵蓋大數(shù)據(jù)時代個人數(shù)據(jù)采集、使用與共享等各個層面。另一方面,歐盟的個人信息保護法不僅在歐盟內(nèi)部具有適用性,同時,歐美之間達成的一系列關(guān)于個人數(shù)據(jù)采集、傳輸與使用的協(xié)議使得原本適用于歐盟內(nèi)部的個人信息保護法已經(jīng)拓展到美國,極大影響了美國互聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展。從2000年的《避風港》協(xié)議到2016年的《隱私盾》協(xié)議,反映出歐美雙方在個人隱私保護、數(shù)據(jù)主權(quán)、數(shù)據(jù)管控等方面的妥協(xié)與合作,形成了系統(tǒng)化的個人信息保護法律框架。隨著經(jīng)濟全球化的發(fā)展,互聯(lián)網(wǎng)企業(yè)的跨境運營必然是一種趨勢,我國互聯(lián)網(wǎng)企業(yè)也必然在這一法律框架內(nèi)活動。鑒于此,我國必須迅速出臺接軌歐盟的個人信息保護法,特別是將被遺忘權(quán)、數(shù)據(jù)可攜權(quán)、用戶知情權(quán)等用戶權(quán)利法定化,構(gòu)建良好的數(shù)據(jù)倫理生態(tài),以免互聯(lián)網(wǎng)企業(yè)陷入無端的法律訴訟和不必要的政治糾紛中。

    2.互聯(lián)網(wǎng)企業(yè)應(yīng)當強化內(nèi)容服務(wù)

    功利主義倫理學(xué)認為,實現(xiàn)整體社會的利益最大化是倫理治理的關(guān)鍵。“為最大多數(shù)的人尋求最大的幸?!盉13,在大數(shù)據(jù)時代下,如何實現(xiàn)利益相關(guān)方的利益最大化將成為數(shù)據(jù)隱私倫理治理的重要環(huán)節(jié)。除了政府以外,現(xiàn)有的利益相關(guān)方還包括互聯(lián)網(wǎng)企業(yè)和用戶。作為強勢一方的互聯(lián)網(wǎng)企業(yè),也是泄露用戶隱私的主要方面,它們通過不同手段采集個人隱私數(shù)據(jù),結(jié)合數(shù)據(jù)算法對用戶畫像,用于內(nèi)容推送、定向投放、精準營銷等,推送的內(nèi)容往往是淺薄、低俗的信息資訊,有的信息甚至完全喪失人文精神。因此,要實現(xiàn)利益相關(guān)者的利益最大化,強化內(nèi)容服務(wù)成為一個重要途徑?;ヂ?lián)網(wǎng)企業(yè)必須對現(xiàn)有的數(shù)據(jù)主義和機器算法進行糾偏,回歸到內(nèi)容本身上來。算法本身存在許多局限,如果說算法是一種數(shù)據(jù)民主,它忽略的恰恰是人類的內(nèi)心理性,結(jié)果會導(dǎo)致行為數(shù)據(jù)統(tǒng)計偏差,信息出現(xiàn)同質(zhì)化;媒介接觸習(xí)慣固化,容易導(dǎo)致態(tài)度極化;過度追求商業(yè)利益,則容易導(dǎo)致信息低俗化。機器算法單一、量化的線性思維方式始終無法取代人類多維的非線性思維模式,這也使得機器算法所推薦的內(nèi)容淺薄、低俗。如今的媒體內(nèi)容都已經(jīng)被流量、點擊量所綁架B14,而深度、理性的內(nèi)容則被算法屏蔽掉了,造成內(nèi)容人文精神的缺失,所謂的精準匹配也無非是揣摩人們點擊量的算法而已。

    除此之外,算法類APP推送的內(nèi)容經(jīng)常也會出現(xiàn)違法違規(guī)現(xiàn)象,比如視頻推送中的盜版問題、新聞推送過程中的虛假新聞問題等。這都與機器算法本身的缺陷密不可分,單純依賴機器算法幾乎不可能解決這些問題。技術(shù)本身并沒有價值立場,但管理者和應(yīng)用者應(yīng)當有專業(yè)操守,要堅持正確輿論導(dǎo)向,強化價值引領(lǐng),可以通過“人工推薦+智能篩選”相結(jié)合優(yōu)化推送方式,大力傳播和弘揚主流價值。以Facebook為例,F(xiàn)acebook在全球有超過2萬的內(nèi)容核查員B15,對所有在Facebook上發(fā)布的信息內(nèi)容進行審查和過濾,并引入機器學(xué)習(xí)機制,通過AI來識別虛假信息。

    四、大數(shù)據(jù)時代的個人隱私保護體系構(gòu)建

    大數(shù)據(jù)時代的個人隱私保護涉及用戶、互聯(lián)網(wǎng)企業(yè)以及政府三個層面。因此,可以從前期的用戶隱私意識提升、中期的互聯(lián)網(wǎng)企業(yè)自律建設(shè)以及后期的政府管理與法律救濟三個階段來構(gòu)建個人隱私保護體系。

    1.用戶必須調(diào)整隱私觀念,提升隱私意識

    互聯(lián)網(wǎng)用戶必須認識到大數(shù)據(jù)時代個人隱私具有的隱蔽、零散、長期和共享等特點,個人數(shù)據(jù)一旦泄露將很難清除干凈。傳統(tǒng)個人隱私可以在一定時間或空間的物理維度上進行保護,比如保管好身份證可以實現(xiàn)對個人身份信息的管理,管理好電話本可以實現(xiàn)對個人通訊信息的管理,保管好病歷卡可以實現(xiàn)對個人健康信息的管理。但在互聯(lián)網(wǎng)時代,用戶瀏覽網(wǎng)站、網(wǎng)絡(luò)購物、注冊郵箱、下載APP、使用社交媒體、在公共場所連接WiFi甚至是一個點贊的動作都可以泄露所有信息。一方面是因為用戶所處的環(huán)境是擬化的網(wǎng)絡(luò)環(huán)境。在擬化環(huán)境下,一切行為都沒有具體實物為載體,基于物理維度的傳統(tǒng)隱私保護模式自然失靈,并且在這一環(huán)境下,用戶個人空間已經(jīng)被公共空間所突破。事實上,在網(wǎng)絡(luò)環(huán)境下,用戶是沒有個人空間的,每個人都在網(wǎng)上“裸奔”,每個用戶都是由一系列數(shù)據(jù)構(gòu)成,這些數(shù)據(jù)代表的就是每一個用戶的行為模式、生活習(xí)慣和未來狀態(tài),某個用戶個人空間的網(wǎng)絡(luò)行為很有可能正在被“凝視”。另一方面是因為隱私內(nèi)容標準不一,用戶傳統(tǒng)隱私觀念中的非個人隱私信息在大數(shù)據(jù)時代下很有可能成為隱私信息。比如網(wǎng)絡(luò)購物行為,在大多數(shù)用戶看來,網(wǎng)絡(luò)購物和商場購物從結(jié)果來看似乎并無多大區(qū)別,甚至網(wǎng)絡(luò)購物還體現(xiàn)出一系列優(yōu)勢,但是從個人隱私保護角度而言,網(wǎng)絡(luò)購物泄露的個人信息明顯比商場購物大很多。

    此外,用戶必須改變隱私觀念。傳統(tǒng)隱私保護主要針對人格權(quán),而大數(shù)據(jù)時代的個人信息兼具人格權(quán)和財產(chǎn)權(quán)雙重屬性,具有一定可交易、可轉(zhuǎn)換的商業(yè)價值,因此,對個人信息的保護必須放在財產(chǎn)權(quán)保護的背景下。大數(shù)據(jù)時代的個人隱私泄露,大多是由于公共領(lǐng)域與私人空間之間沒有明確的邊界所致,用戶在私人空間中遺留的個人數(shù)據(jù)最終呈現(xiàn)在公共領(lǐng)域當中,絕大多數(shù)用戶依然認為個人信息僅僅只是簡單、零散的數(shù)據(jù),沒有意識到這些數(shù)據(jù)蘊含的人格權(quán)和財產(chǎn)權(quán)屬性。因此,對于用戶來說,必須增強個體的隱私意識,調(diào)整隱私觀念,把個人信息當成個人財產(chǎn),妥善處理個人數(shù)據(jù),明確私人空間與公共空間的界限,在有可能被公共空間突破的私人空間中盡量對個人數(shù)據(jù)做到匿名化和去識別化。

    2.互聯(lián)網(wǎng)企業(yè)應(yīng)當加強自律建設(shè),賦予用戶知情權(quán)

    除政府外,互聯(lián)網(wǎng)企業(yè)是最大的數(shù)據(jù)資源擁有者,同時也是最大的數(shù)據(jù)資源采集者,正如??滤f:“完美的規(guī)訓(xùn)機構(gòu)應(yīng)能使一切都一目了然。中心點應(yīng)該既是照亮一切的光源,又是一切需要被了解的事情的匯聚點,應(yīng)該是一只洞察一切的眼睛,又是一個所有的目光都轉(zhuǎn)向這里的中心。”B16這個中心點即圓形監(jiān)獄的瞭望塔中心,也就是占有大量數(shù)據(jù)資源的政府和互聯(lián)網(wǎng)企業(yè)。在絕大多數(shù)情況下,政府不太可能會泄露用戶的個人隱私,現(xiàn)有的個人隱私泄露基本與互聯(lián)網(wǎng)企業(yè)無序的商業(yè)開發(fā)直接相關(guān)。它們通過全景敞視監(jiān)獄的形式監(jiān)視用戶一切網(wǎng)絡(luò)行為,并將數(shù)據(jù)以商品的形式在自由市場中相互交易,最終造成數(shù)據(jù)擁有者、采集者和使用者相互分離,數(shù)據(jù)權(quán)屬模糊,數(shù)據(jù)管理無序,產(chǎn)生數(shù)據(jù)濫用和數(shù)據(jù)極權(quán)現(xiàn)象。因此,互聯(lián)網(wǎng)企業(yè)的個人隱私保護自律就顯得十分重要。一方面,互聯(lián)網(wǎng)企業(yè)可以通過行業(yè)協(xié)會的形式建立自律組織。我國現(xiàn)有中國互聯(lián)網(wǎng)協(xié)會和中國電子商務(wù)誠信聯(lián)盟兩家互聯(lián)網(wǎng)協(xié)會,但這兩家互聯(lián)網(wǎng)協(xié)會重點針對的是互聯(lián)網(wǎng)企業(yè)的誠信經(jīng)營與技術(shù)安全,協(xié)會章程與日常管理中很少關(guān)注網(wǎng)絡(luò)用戶的個人信息保護。國內(nèi)的互聯(lián)網(wǎng)企業(yè)應(yīng)當盡快在政府指導(dǎo)下成立網(wǎng)絡(luò)隱私保護自律行業(yè)協(xié)會,采取會員自愿入會的方式實行會員制,入會互聯(lián)網(wǎng)企業(yè)可以在其網(wǎng)站、APP等產(chǎn)品和服務(wù)中顯著標識,彰顯社會責任。另一方面,互聯(lián)網(wǎng)企業(yè)應(yīng)當積極實施技術(shù)防護,從技術(shù)源頭上保護個人隱私,比如讓用戶自主設(shè)置防問權(quán)限、阻止未被授權(quán)的運營商采集用戶數(shù)據(jù)、為用戶提供免費的個人隱私安全軟件,同時,在進行數(shù)據(jù)共享與數(shù)據(jù)轉(zhuǎn)讓時必須對數(shù)據(jù)進行“去識別化”和“脫敏”。

    同時,互聯(lián)網(wǎng)企業(yè)應(yīng)當主動賦予用戶知情權(quán)和參與權(quán),使用戶知道互聯(lián)網(wǎng)公司如何收集數(shù)據(jù)、如何利用數(shù)據(jù)以及具體的算法機制,從而改變用戶與互聯(lián)網(wǎng)公司之間的信息不均等機制。福柯以邊沁的“圓形監(jiān)獄”作為現(xiàn)代社會的隱喻,考察了“暴露—監(jiān)視”的建制力量如何對個體進行規(guī)訓(xùn),瞭望塔中心的監(jiān)視者處于一種隱蔽狀態(tài),它們可以監(jiān)視圓形監(jiān)獄的囚犯,但囚犯看不到監(jiān)視者。要打破這種監(jiān)視必須賦權(quán)于被監(jiān)視者,使之能觀察到監(jiān)視者的所作所為。歐盟的《通用數(shù)據(jù)保護條例》(GDPR)的核心原則之一就是確保用戶的知情權(quán),數(shù)據(jù)控制者必須以透明的方式如實告知數(shù)據(jù)主體收集、使用、查閱或以其他方式處理與其有關(guān)的個人數(shù)據(jù)。

    基于以上幾點,互聯(lián)網(wǎng)企業(yè)必須加強自律,強化數(shù)據(jù)管理,賦權(quán)于用戶,讓用戶參與數(shù)據(jù)從采集到使用的一系列過程中。

    3.健全和完善個人隱私保護法律體系

    進入21世紀以來,中國的互聯(lián)網(wǎng)產(chǎn)業(yè)呈現(xiàn)爆發(fā)式增長,但是用戶的隱私保護觀念、國家的隱私立法以及政府的司法管理沒有及時跟進,造成個人信息被濫用,過度收集個人信息、隨意披露個人信息、無序交易個人信息等現(xiàn)象十分普遍。我國的《個人信息保護法》尚在制定中,相關(guān)法律法規(guī)只是散見于《刑法》《侵權(quán)責任法》以及各部門條例中,始終沒有構(gòu)建起完整的個人信息保護法制體系,這給司法管理帶來一定難度。比如2019年3月,騰訊對多閃展開訴訟,其核心在于用戶數(shù)據(jù)的可攜權(quán),騰訊認為微信和QQ用戶的頭像、昵稱、地區(qū)以及好友關(guān)系等相關(guān)數(shù)據(jù)資源屬于騰訊公司,多閃未經(jīng)授權(quán)私自盜用了騰訊數(shù)據(jù),騰訊據(jù)此向法院申請行為禁令。由于我國暫時還沒有一部完整的個人信息保護法,特別是沒有一部針對網(wǎng)絡(luò)用戶個人數(shù)據(jù)保護的法律,可以預(yù)測,騰訊對多閃的訴訟無論最終結(jié)果如何,都會引起巨大爭議。但這一訴訟如果出現(xiàn)在歐盟,就很容易判決,歐盟的《通用數(shù)據(jù)保護條例》(GDPR)中規(guī)定,數(shù)據(jù)的可攜權(quán)并不屬于互聯(lián)網(wǎng)公司,而是屬于用戶,用戶可以自主決定是否不受限制的將個人數(shù)據(jù)導(dǎo)出或轉(zhuǎn)移到其他平臺上。

    國外的相關(guān)立法經(jīng)驗對我國有一定的借鑒意義。歐盟從20世紀80年代至今已經(jīng)以綜合法的形式建構(gòu)起了完善的個人信息保護體系。美國則以分散立法的形式對個人隱私進行保護。2012年,美國聯(lián)邦貿(mào)易委員會提出消費者個人信息隱私框架建議B17,要求將用戶資料去識別化,包括刪除和修改用戶信息數(shù)據(jù)范圍、加入數(shù)據(jù)干擾機制等;要求禁止重新識別,數(shù)據(jù)收集與管理部門必須公開承諾以去識別化方式保持、使用數(shù)據(jù)且不得重新識別;要求禁止第三方識別,約束數(shù)據(jù)收集與管理部門的下游機構(gòu)重新識別。去識別化實質(zhì)上是個人信息數(shù)據(jù)的匿名化過程,通過一定程序與機制的處理使得收集到的用戶數(shù)據(jù)不具有識別特征,從而將數(shù)據(jù)與個體“去聯(lián)結(jié)化”,任何人都難以從數(shù)據(jù)當中直接或間接的識別特定個體,并確保杜絕一切逆向還原的可能。而在我國,大數(shù)據(jù)運用過程中的法律邊界依然比較模糊,被遺忘權(quán)、修正權(quán)、數(shù)據(jù)可控權(quán)以及當事人個人權(quán)利等一切與大數(shù)據(jù)相關(guān)的法律議題均在探討中,盡管有一部分法律條文已經(jīng)涉及個人信息保護,但這些條文始終沒有系統(tǒng)化和綜合化,也沒上升到立法層面。這就使得我國互聯(lián)網(wǎng)企業(yè)一旦涉及個人數(shù)據(jù)保護的法律訴訟時,經(jīng)常處于無法可依的尷尬境地。

    國內(nèi)外現(xiàn)有的經(jīng)驗表明,堅持大數(shù)據(jù)時代個人信息誰收集誰使用誰負責的原則是一條保護個人隱私的有效手段,這樣可以把責任從用戶端轉(zhuǎn)移到采集端和使用端,避免僅僅依靠用戶協(xié)議和格式化條款的單一保護模式。對于用戶來說,很難分辨哪些個人信息被泄露以及泄露信息的使用去向,只有數(shù)據(jù)采集者和使用者才能夠知道數(shù)據(jù)的最終去向和使用目的。因此,數(shù)據(jù)采集端和使用端有責任和義務(wù)保守個人信息,明確使用邊界,把個人數(shù)據(jù)關(guān)在籠子里,并且,政府立法過程中,應(yīng)當明確個人信息的財產(chǎn)權(quán)屬性,通過清晰的產(chǎn)權(quán)分界賦予個人信息的排他性權(quán)利,確定用戶自身才是個人信息的權(quán)利主體,避免互聯(lián)網(wǎng)企業(yè)掠奪個人信息的財產(chǎn)性利益,同時也為侵權(quán)后的法律救濟提供空間。

    五、結(jié)語

    數(shù)字化“圓形監(jiān)獄”體系的“暴露—監(jiān)視”機制使得每一個社會個體都暴露在“第三只眼”之下,個人數(shù)據(jù)被無序的采集和使用。然而,“大數(shù)據(jù)的價值不再單純來源于它的基本用途,而更多源于它的二次利用”B18。事實證明,大多數(shù)的個人隱私泄露事件正是發(fā)生在數(shù)據(jù)“二次利用”過程中,比如2018年3月Facebook的泄密事件,這也意味著單純依靠互聯(lián)網(wǎng)企業(yè)的自我管理實現(xiàn)個人隱私保護無異于緣木求魚。前置的隱私倫理、中間的政府監(jiān)管以及后置的法律救濟都是大數(shù)據(jù)時代個人隱私保護的必要手段。個人隱私保護不僅僅是個技術(shù)問題,還涉及倫理、法律、產(chǎn)業(yè)規(guī)制等各方面,亟須政府與公眾的共同參與。

    注釋

    ①B16[法]米歇爾·福柯:《規(guī)訓(xùn)與懲罰:監(jiān)獄的誕生》,劉北城、楊遠嬰譯,生活·讀書·新知三聯(lián)書店,2003年,第29、197頁。

    ②吳飛、傅正科:《大數(shù)據(jù)與“被遺忘權(quán)”》,《浙江大學(xué)學(xué)報》(人文社會科學(xué)版)2015年第3期。

    ③[美]埃·弗洛姆:《為自己的人》,孫依依譯,生活·讀書·新知三聯(lián)書店,1988年,第24頁。

    ④包亞明主編:《權(quán)力的眼睛——??略L談錄》,嚴鋒譯,上海人民出版社,1997年,第28頁。

    ⑤張新寶:《隱私權(quán)的法律保護》,群眾出版社,1997年,第12頁。

    ⑥D(zhuǎn). Banisar, S. Davies. Global Trends in Privacy Protection: An International Survey of Privacy, Data Protection, and Surveillance Laws and Developments. The John Marshall Journal of Computer & Information Law, 1999, Vol.18, No.1, p.3.

    ⑦徐偲骕、姚建華:《臉書是一個國家嗎—“Facebookistan”與社交媒體的國家化想象》,《新聞記者》2018年第11期。

    ⑧李汶龍:《大數(shù)據(jù)時代的隱私保護與被遺忘權(quán)》,《研究生法學(xué)》2015年第2期。

    ⑨[英]維克托·邁爾-舍恩伯格:《刪除:大數(shù)據(jù)取舍之道》,袁杰譯,浙江人民出版社,2013年,第3頁。

    ⑩European Commission. General Data Protection Regulation. http://ec.europa .eu/justice /data-protection/document/review2012/com_2012_11_en.pdf,2012-02-25.

    B11EU court backs right to be forgotten in Goole case. http://www.bbc.com/news/world-curope-27388289,2018-10-23.

    B12于靚:《論被遺忘權(quán)的法律保護》,吉林大學(xué)博士論文,2018年,第2頁。

    B13[英]邊沁:《政府片論》,沈叔平等譯,商務(wù)印書館,1995年,第92頁。

    B14呂洪:《新聞莫被算法“綁架”》,《人民日報》2017年7月6日。

    B15參見扎克伯格在美國國會聽證會記錄,https://www.washingtonpost.com/news/the-switch/wp/2018/04/10/transcript-of-mark-zuckerbergs-senate-hearing/?utm_term=.b009970a4a79.

    B17劉幼琍:《大數(shù)據(jù)與未來傳播》,五南圖書出版股份有限公司(臺灣),2016年,第79頁。

    B18[英]維克托·邁爾-舍恩伯格、[英]肯尼思·庫克耶:《大數(shù)據(jù)時代》,盛揚燕、周濤譯,浙江人民出版社,2013年,第194頁。

    責任編輯:沐 紫

    猜你喜歡
    個人隱私被遺忘權(quán)大數(shù)據(jù)
    針對網(wǎng)絡(luò)信息系統(tǒng)的個人隱私保護方案
    法制與社會(2017年1期)2017-01-20 21:53:50
    大數(shù)據(jù)時代個人隱私保護探析
    法制與社會(2017年1期)2017-01-20 21:53:04
    搜索引擎:我要“被遺忘權(quán)”
    論數(shù)字時代個人信息的“被遺忘權(quán)”
    我要“被遺忘權(quán)”
    基于大數(shù)據(jù)背景下的智慧城市建設(shè)研究
    科技視界(2016年20期)2016-09-29 10:53:22
    移動互聯(lián)網(wǎng)環(huán)境下網(wǎng)絡(luò)用戶隱私保護研究
    商(2016年23期)2016-07-23 22:05:13
    海量數(shù)據(jù)共享與個人隱私保護
    新聞世界(2016年5期)2016-06-01 08:56:32
    被遺忘權(quán)的理論探討
    商(2016年14期)2016-05-30 10:04:04
    e午夜精品久久久久久久| 国产一区二区激情短视频| 国产精品1区2区在线观看.| 亚洲成av人片免费观看| 啦啦啦免费观看视频1| 久久 成人 亚洲| 啪啪无遮挡十八禁网站| 日韩免费av在线播放| 侵犯人妻中文字幕一二三四区| 超碰成人久久| 成人手机av| 亚洲成人精品中文字幕电影| 久久精品国产综合久久久| 久久香蕉激情| 亚洲av日韩精品久久久久久密| 12—13女人毛片做爰片一| 夜夜躁狠狠躁天天躁| 日本一区二区免费在线视频| 亚洲中文av在线| 黄片大片在线免费观看| 精品国产美女av久久久久小说| 在线观看66精品国产| 亚洲欧美日韩高清在线视频| 可以在线观看的亚洲视频| 久久中文字幕一级| www日本黄色视频网| 女同久久另类99精品国产91| 欧美大码av| 一级作爱视频免费观看| 国产亚洲精品久久久久5区| 1024香蕉在线观看| 自线自在国产av| 免费无遮挡裸体视频| xxx96com| 成年女人毛片免费观看观看9| 欧美成人性av电影在线观看| 免费av毛片视频| 好男人电影高清在线观看| 少妇熟女aⅴ在线视频| 国产亚洲欧美精品永久| 免费在线观看亚洲国产| 欧美黑人巨大hd| 露出奶头的视频| 国产在线观看jvid| 精品国产超薄肉色丝袜足j| 久久精品国产综合久久久| 亚洲精品国产一区二区精华液| 制服诱惑二区| 亚洲七黄色美女视频| 在线天堂中文资源库| 亚洲国产看品久久| 老熟妇仑乱视频hdxx| av免费在线观看网站| 精品久久久久久久人妻蜜臀av| 成人三级做爰电影| tocl精华| 欧美日韩乱码在线| 国产av不卡久久| 午夜福利欧美成人| 色哟哟哟哟哟哟| 一区二区三区国产精品乱码| 亚洲第一电影网av| 亚洲一区高清亚洲精品| 午夜福利在线观看吧| 日韩视频一区二区在线观看| av超薄肉色丝袜交足视频| 久久精品夜夜夜夜夜久久蜜豆 | 中文字幕另类日韩欧美亚洲嫩草| 亚洲男人天堂网一区| 天天躁狠狠躁夜夜躁狠狠躁| 午夜视频精品福利| 欧美精品亚洲一区二区| 麻豆一二三区av精品| 久久国产精品人妻蜜桃| 国产亚洲欧美精品永久| av片东京热男人的天堂| 亚洲成av人片免费观看| 精品国产乱码久久久久久男人| 欧美黑人欧美精品刺激| 日韩精品免费视频一区二区三区| 男女午夜视频在线观看| 中文亚洲av片在线观看爽| 国产亚洲精品av在线| 欧美激情久久久久久爽电影| 黄色成人免费大全| 久久精品亚洲精品国产色婷小说| 久久热在线av| 校园春色视频在线观看| 精品无人区乱码1区二区| 午夜福利视频1000在线观看| av视频在线观看入口| 俄罗斯特黄特色一大片| 久久香蕉国产精品| 成人免费观看视频高清| 亚洲精品久久成人aⅴ小说| 99久久久亚洲精品蜜臀av| 亚洲色图av天堂| 看片在线看免费视频| 午夜久久久在线观看| bbb黄色大片| 免费搜索国产男女视频| 久久久久久久午夜电影| 成人三级黄色视频| 夜夜看夜夜爽夜夜摸| 日韩精品中文字幕看吧| 午夜日韩欧美国产| 日本在线视频免费播放| www.www免费av| 叶爱在线成人免费视频播放| 亚洲激情在线av| 精品久久久久久,| 老熟妇仑乱视频hdxx| www日本在线高清视频| 日韩欧美国产在线观看| 亚洲成国产人片在线观看| 青草久久国产| 欧美zozozo另类| 69av精品久久久久久| 久久香蕉国产精品| 欧美黄色片欧美黄色片| 一级a爱片免费观看的视频| 亚洲真实伦在线观看| 欧美日韩黄片免| 亚洲五月色婷婷综合| av电影中文网址| 国产精品野战在线观看| 男女那种视频在线观看| 亚洲av电影不卡..在线观看| 性欧美人与动物交配| 国产真实乱freesex| 色精品久久人妻99蜜桃| 男人舔女人下体高潮全视频| 老汉色∧v一级毛片| 麻豆成人av在线观看| 久久久久国产一级毛片高清牌| 久久精品国产亚洲av高清一级| 午夜a级毛片| 久久久国产欧美日韩av| 国产爱豆传媒在线观看 | 亚洲 欧美一区二区三区| 午夜成年电影在线免费观看| 夜夜夜夜夜久久久久| 久久久久国产一级毛片高清牌| 亚洲人成伊人成综合网2020| 久久九九热精品免费| 久久天躁狠狠躁夜夜2o2o| 大型av网站在线播放| 成在线人永久免费视频| 琪琪午夜伦伦电影理论片6080| 老汉色av国产亚洲站长工具| www.999成人在线观看| 亚洲激情在线av| 色综合亚洲欧美另类图片| 巨乳人妻的诱惑在线观看| 久久精品人妻少妇| 国产在线观看jvid| 亚洲精品一区av在线观看| 久久久久亚洲av毛片大全| 韩国精品一区二区三区| 亚洲精品中文字幕在线视频| 国产99白浆流出| 老汉色∧v一级毛片| 亚洲中文字幕日韩| 成年版毛片免费区| 婷婷亚洲欧美| 欧美绝顶高潮抽搐喷水| 老司机深夜福利视频在线观看| 亚洲自偷自拍图片 自拍| 精品国产国语对白av| 91九色精品人成在线观看| 欧美日本视频| 又黄又粗又硬又大视频| 亚洲专区字幕在线| 日韩国内少妇激情av| 又黄又粗又硬又大视频| 熟女电影av网| 一区二区日韩欧美中文字幕| 99热只有精品国产| 岛国视频午夜一区免费看| 中文字幕人妻丝袜一区二区| 国产精品一区二区三区四区久久 | 嫩草影院精品99| 亚洲成av片中文字幕在线观看| 在线免费观看的www视频| 午夜福利一区二区在线看| 国产免费av片在线观看野外av| 日韩欧美一区二区三区在线观看| 精品久久久久久,| 99re在线观看精品视频| 亚洲精品一区av在线观看| 国产男靠女视频免费网站| 亚洲精品在线观看二区| 国产男靠女视频免费网站| 国产成人系列免费观看| 亚洲真实伦在线观看| 国产又色又爽无遮挡免费看| 91麻豆精品激情在线观看国产| 精品国产美女av久久久久小说| 日韩欧美一区二区三区在线观看| 日韩欧美三级三区| 美女高潮喷水抽搐中文字幕| 国产精品久久久人人做人人爽| 他把我摸到了高潮在线观看| 国产高清激情床上av| 婷婷六月久久综合丁香| 国产精品久久久久久精品电影 | 国内精品久久久久久久电影| 久久这里只有精品19| 99久久精品国产亚洲精品| 久久久精品国产亚洲av高清涩受| 99精品久久久久人妻精品| av福利片在线| xxxwww97欧美| 国产麻豆成人av免费视频| 黄色片一级片一级黄色片| 麻豆成人午夜福利视频| 久久久国产精品麻豆| 欧美激情极品国产一区二区三区| 国产一区二区在线av高清观看| or卡值多少钱| 亚洲狠狠婷婷综合久久图片| 亚洲av第一区精品v没综合| 亚洲国产欧美一区二区综合| 两个人视频免费观看高清| 午夜福利18| 国产精品久久电影中文字幕| 99国产精品一区二区三区| 久久久久国产精品人妻aⅴ院| 久99久视频精品免费| 精品熟女少妇八av免费久了| 欧美黄色淫秽网站| 亚洲男人的天堂狠狠| 欧美一级a爱片免费观看看 | 天堂影院成人在线观看| 观看免费一级毛片| 亚洲欧美日韩高清在线视频| 黑人操中国人逼视频| 亚洲最大成人中文| 精品国产超薄肉色丝袜足j| 亚洲av成人不卡在线观看播放网| 97人妻精品一区二区三区麻豆 | 色综合站精品国产| 久久精品国产亚洲av高清一级| 午夜福利视频1000在线观看| 久99久视频精品免费| 久久久国产成人精品二区| 亚洲男人的天堂狠狠| 国内精品久久久久精免费| 99久久99久久久精品蜜桃| 中文字幕人妻丝袜一区二区| 国内揄拍国产精品人妻在线 | 欧美成人性av电影在线观看| 大型av网站在线播放| 一本一本综合久久| 美女 人体艺术 gogo| 亚洲精品国产一区二区精华液| 黑人操中国人逼视频| 亚洲欧美精品综合一区二区三区| 在线观看www视频免费| 国产av在哪里看| 国产真人三级小视频在线观看| 十八禁网站免费在线| 中文字幕另类日韩欧美亚洲嫩草| 欧美在线一区亚洲| 免费看十八禁软件| 日韩有码中文字幕| 成人三级做爰电影| 国产人伦9x9x在线观看| 精品高清国产在线一区| 在线十欧美十亚洲十日本专区| 午夜两性在线视频| 午夜免费成人在线视频| 88av欧美| tocl精华| 国产av一区在线观看免费| 国产精品99久久99久久久不卡| 国产高清视频在线播放一区| 美女大奶头视频| 美女高潮喷水抽搐中文字幕| 亚洲七黄色美女视频| 丝袜人妻中文字幕| 99久久精品国产亚洲精品| 中文字幕最新亚洲高清| 热re99久久国产66热| 黑人巨大精品欧美一区二区mp4| 黄色 视频免费看| 国内揄拍国产精品人妻在线 | a级毛片在线看网站| 麻豆国产av国片精品| 熟女少妇亚洲综合色aaa.| 怎么达到女性高潮| 亚洲va日本ⅴa欧美va伊人久久| 少妇粗大呻吟视频| 久久精品aⅴ一区二区三区四区| av有码第一页| 麻豆av在线久日| 精品一区二区三区四区五区乱码| 色av中文字幕| 可以在线观看毛片的网站| 精品福利观看| 97碰自拍视频| 99精品欧美一区二区三区四区| 男女之事视频高清在线观看| 国产欧美日韩一区二区精品| 国产激情久久老熟女| 久久国产亚洲av麻豆专区| 国产精品98久久久久久宅男小说| 精品电影一区二区在线| 国产一区在线观看成人免费| 亚洲av日韩精品久久久久久密| www.www免费av| 免费看日本二区| 日日摸夜夜添夜夜添小说| 免费无遮挡裸体视频| 嫩草影视91久久| 亚洲第一青青草原| 香蕉丝袜av| 香蕉国产在线看| 女人被狂操c到高潮| 国产成人av激情在线播放| 久久久久国产精品人妻aⅴ院| 亚洲成人久久性| 在线观看一区二区三区| 亚洲无线在线观看| 别揉我奶头~嗯~啊~动态视频| 亚洲av电影不卡..在线观看| 国产激情偷乱视频一区二区| 一二三四在线观看免费中文在| 久久国产乱子伦精品免费另类| 久久精品影院6| 在线观看免费日韩欧美大片| 特大巨黑吊av在线直播 | 国产蜜桃级精品一区二区三区| 精品国产乱码久久久久久男人| 最近在线观看免费完整版| 国产人伦9x9x在线观看| 亚洲国产精品合色在线| 亚洲精品在线观看二区| 国产精品一区二区三区四区久久 | 精品无人区乱码1区二区| 人妻丰满熟妇av一区二区三区| 日本成人三级电影网站| 欧美日本亚洲视频在线播放| 国产精品日韩av在线免费观看| 国产av又大| 亚洲欧洲精品一区二区精品久久久| 一本大道久久a久久精品| 丝袜在线中文字幕| 亚洲成人国产一区在线观看| 欧美zozozo另类| 夜夜夜夜夜久久久久| 国产精品野战在线观看| 欧美日韩黄片免| 丰满的人妻完整版| 免费人成视频x8x8入口观看| 少妇的丰满在线观看| 黑人操中国人逼视频| 91字幕亚洲| 淫秽高清视频在线观看| 亚洲人成电影免费在线| 亚洲欧美日韩高清在线视频| 999久久久精品免费观看国产| 国产一卡二卡三卡精品| 久久天躁狠狠躁夜夜2o2o| 国产精华一区二区三区| 欧美一级毛片孕妇| 色播在线永久视频| 成人国产一区最新在线观看| 一二三四社区在线视频社区8| 日韩大码丰满熟妇| svipshipincom国产片| 一本综合久久免费| 成人国产一区最新在线观看| 国产成年人精品一区二区| 久久天躁狠狠躁夜夜2o2o| 成人亚洲精品av一区二区| 精品福利观看| 成人亚洲精品一区在线观看| 精品日产1卡2卡| 999久久久国产精品视频| 免费搜索国产男女视频| 久久国产亚洲av麻豆专区| 人人妻人人澡欧美一区二区| 欧美性猛交黑人性爽| 午夜老司机福利片| 99久久99久久久精品蜜桃| 99国产极品粉嫩在线观看| 久久久精品欧美日韩精品| 久久久精品国产亚洲av高清涩受| 中文字幕高清在线视频| 色哟哟哟哟哟哟| 亚洲精品美女久久av网站| 久久久国产成人免费| 免费观看精品视频网站| 国产又爽黄色视频| 欧美黑人巨大hd| 午夜福利成人在线免费观看| 久久香蕉精品热| 丰满的人妻完整版| 男人的好看免费观看在线视频 | 欧美色欧美亚洲另类二区| 国产成人精品久久二区二区免费| 成人国产一区最新在线观看| 午夜福利免费观看在线| 久久久精品国产亚洲av高清涩受| 91九色精品人成在线观看| 免费看a级黄色片| 久久人妻福利社区极品人妻图片| 非洲黑人性xxxx精品又粗又长| 欧美最黄视频在线播放免费| 午夜视频精品福利| 欧美日韩中文字幕国产精品一区二区三区| 一进一出抽搐动态| 在线观看舔阴道视频| 一级a爱片免费观看的视频| 欧美激情高清一区二区三区| 老司机午夜福利在线观看视频| 成人国产综合亚洲| 欧美黑人精品巨大| 色精品久久人妻99蜜桃| 男女那种视频在线观看| 亚洲成人免费电影在线观看| 欧美黑人精品巨大| a在线观看视频网站| 夜夜躁狠狠躁天天躁| 亚洲专区中文字幕在线| 亚洲性夜色夜夜综合| www国产在线视频色| 亚洲午夜精品一区,二区,三区| 欧美黑人精品巨大| 最近最新免费中文字幕在线| 国产aⅴ精品一区二区三区波| 亚洲精品中文字幕在线视频| 女生性感内裤真人,穿戴方法视频| 午夜精品在线福利| 成人精品一区二区免费| 色在线成人网| 日日干狠狠操夜夜爽| 伦理电影免费视频| 亚洲一区二区三区色噜噜| 欧美激情极品国产一区二区三区| 日本一区二区免费在线视频| 热re99久久国产66热| 国产精品影院久久| 日本免费a在线| 高清在线国产一区| 亚洲精品中文字幕在线视频| 国产三级黄色录像| 免费在线观看成人毛片| 亚洲国产精品999在线| 动漫黄色视频在线观看| 91成年电影在线观看| 熟女少妇亚洲综合色aaa.| 在线观看66精品国产| 国产三级黄色录像| 欧美激情久久久久久爽电影| 老司机午夜福利在线观看视频| 亚洲一区二区三区不卡视频| 久久狼人影院| a在线观看视频网站| 看黄色毛片网站| 久久99热这里只有精品18| 在线观看免费午夜福利视频| 搞女人的毛片| 草草在线视频免费看| 女警被强在线播放| 又黄又爽又免费观看的视频| 国产精品一区二区三区四区久久 | 黄色成人免费大全| 成人三级黄色视频| 日韩大码丰满熟妇| 在线观看舔阴道视频| 国产精品久久久人人做人人爽| 久久九九热精品免费| 国产亚洲精品av在线| 午夜福利一区二区在线看| 精品无人区乱码1区二区| 国产亚洲精品久久久久久毛片| a级毛片a级免费在线| 日本在线视频免费播放| 欧美+亚洲+日韩+国产| 亚洲国产欧美一区二区综合| 可以在线观看毛片的网站| 中文字幕人成人乱码亚洲影| 久久午夜亚洲精品久久| 熟妇人妻久久中文字幕3abv| 国产精品二区激情视频| 最新在线观看一区二区三区| 久久香蕉精品热| 久久中文字幕人妻熟女| 亚洲欧洲精品一区二区精品久久久| 国产精品综合久久久久久久免费| 午夜福利免费观看在线| 国内精品久久久久久久电影| xxx96com| 女同久久另类99精品国产91| 91成人精品电影| 99热只有精品国产| 亚洲中文av在线| 亚洲黑人精品在线| 精品卡一卡二卡四卡免费| 亚洲第一av免费看| 丝袜人妻中文字幕| 岛国在线观看网站| 久久久久久大精品| 日韩欧美国产在线观看| 久久久国产欧美日韩av| 国产av又大| 国产视频一区二区在线看| 中亚洲国语对白在线视频| 白带黄色成豆腐渣| 亚洲国产精品成人综合色| 亚洲国产精品合色在线| 国产一区二区在线av高清观看| 国产一区二区三区在线臀色熟女| 欧美国产日韩亚洲一区| 久久99热这里只有精品18| 欧美大码av| 亚洲精品美女久久久久99蜜臀| 久久 成人 亚洲| 十八禁网站免费在线| 精品久久久久久久人妻蜜臀av| 午夜福利免费观看在线| 欧美日本视频| 久久人妻福利社区极品人妻图片| 老司机深夜福利视频在线观看| 欧美成人性av电影在线观看| 亚洲精品一卡2卡三卡4卡5卡| 黄片大片在线免费观看| 麻豆久久精品国产亚洲av| 人人妻人人澡人人看| 亚洲欧美日韩无卡精品| 精品久久久久久成人av| 日韩欧美一区二区三区在线观看| 国产高清videossex| 亚洲精品美女久久久久99蜜臀| 窝窝影院91人妻| 午夜福利免费观看在线| 老司机深夜福利视频在线观看| 日日干狠狠操夜夜爽| www日本在线高清视频| cao死你这个sao货| 亚洲精品中文字幕一二三四区| 欧美一级a爱片免费观看看 | 99国产精品一区二区三区| 女生性感内裤真人,穿戴方法视频| 黄色丝袜av网址大全| 18禁黄网站禁片免费观看直播| 97超级碰碰碰精品色视频在线观看| 国产一区二区三区视频了| 18美女黄网站色大片免费观看| 中文字幕精品免费在线观看视频| 久久久久久国产a免费观看| 中文字幕最新亚洲高清| 久久精品夜夜夜夜夜久久蜜豆 | 亚洲精品粉嫩美女一区| 人人澡人人妻人| 久久精品国产清高在天天线| 欧美另类亚洲清纯唯美| 丁香欧美五月| 亚洲一区高清亚洲精品| 91字幕亚洲| 久久久国产成人免费| 久久久久久免费高清国产稀缺| 又大又爽又粗| 一级a爱视频在线免费观看| 满18在线观看网站| 国产免费男女视频| 亚洲性夜色夜夜综合| 国产亚洲精品综合一区在线观看 | 欧美黑人欧美精品刺激| 午夜久久久久精精品| 精品国产美女av久久久久小说| 午夜成年电影在线免费观看| 国产一区在线观看成人免费| 欧美黄色淫秽网站| 亚洲真实伦在线观看| 精品一区二区三区四区五区乱码| 91字幕亚洲| 热99re8久久精品国产| 欧美+亚洲+日韩+国产| 免费在线观看亚洲国产| 婷婷精品国产亚洲av在线| 午夜激情福利司机影院| 久久久久久九九精品二区国产 | 免费看美女性在线毛片视频| 黑人欧美特级aaaaaa片| 久久天堂一区二区三区四区| 亚洲第一电影网av| 1024香蕉在线观看| 久久热在线av| 巨乳人妻的诱惑在线观看| 真人一进一出gif抽搐免费| 亚洲一区二区三区色噜噜| 麻豆av在线久日| 国产伦一二天堂av在线观看| 女性生殖器流出的白浆| 在线国产一区二区在线| a级毛片a级免费在线| 欧美乱码精品一区二区三区| 日韩欧美免费精品| 欧美国产精品va在线观看不卡| 精品国产乱码久久久久久男人| 又黄又粗又硬又大视频| 男女之事视频高清在线观看| 日本熟妇午夜| 老鸭窝网址在线观看| 欧美精品亚洲一区二区| 久久久久久久精品吃奶| 国语自产精品视频在线第100页| 久久天躁狠狠躁夜夜2o2o| 一边摸一边做爽爽视频免费| 久久午夜亚洲精品久久| 日韩欧美 国产精品| 女警被强在线播放|