• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)時代的隱私經(jīng)濟及其批判

    2021-03-26 03:55:31陳紅兵
    東北大學學報(社會科學版) 2021年2期
    關鍵詞:生產(chǎn)用戶

    武 青, 陳紅兵

    (1. 合肥工業(yè)大學 馬克思主義學院, 安徽 合肥 230009; 2. 東北大學 馬克思主義學院, 遼寧 沈陽 110169)

    大數(shù)據(jù)應用的前提是數(shù)據(jù)開放和共享,但是開放和共享往往會導致用戶個人隱私的泄露,尤其是近幾年以Facebook、Google為代表的大數(shù)據(jù)互聯(lián)網(wǎng)企業(yè)侵犯個人隱私,造成用戶隱私泄露和隱私安全的事件時有發(fā)生,使得大數(shù)據(jù)利用和隱私保護之間的沖突和矛盾逐漸凸顯,構成了大數(shù)據(jù)時代的隱私問題。一方面,大數(shù)據(jù)利用常常會侵犯私人數(shù)據(jù),另一方面,對隱私的保護又是個人權利的重要組成部分,是人的基本需要[1]147。因此,認識和解決大數(shù)據(jù)時代的隱私問題成為大數(shù)據(jù)產(chǎn)業(yè)良性發(fā)展的關鍵環(huán)節(jié)。

    為了解決大數(shù)據(jù)時代的隱私問題,學術界進行了很多探索。自然科學領域關注實踐層面,利用技術模型和算法創(chuàng)新保證數(shù)據(jù)安全和隱私保護[2];人文社會科學領域則更關注大數(shù)據(jù)對隱私保護造成的挑戰(zhàn),并從政策、法律和倫理等視角提出許多創(chuàng)造性的對策建議[3]。盡管學界對大數(shù)據(jù)隱私問題進行了廣泛的研究,卻都集中在梳理大數(shù)據(jù)對隱私保護造成的諸多挑戰(zhàn)以及分析大數(shù)據(jù)隱私問題的解決路徑上,鮮有考察這一問題存在的根本原因和本質(zhì)。從文化、道德和法律等視角考察大數(shù)據(jù)技術所導致的隱私問題固然重要,但離開了大數(shù)據(jù)技術的經(jīng)濟關系就沒辦法真正回答和解決隱私問題,大數(shù)據(jù)技術與經(jīng)濟之間的深層關聯(lián)是隱私危機的罪魁禍首,資本邏輯的效益原則和利潤原則決定了大數(shù)據(jù)技術是反隱私的。令人欣喜的是,學界已經(jīng)有意識地從技術與經(jīng)濟相互作用的視角考察隱私問題,但多局限于具體的案例探討,缺乏整體性的機制分析,也沒有深入追問大數(shù)據(jù)技術—經(jīng)濟范式對社會造成的負面影響。那么,大數(shù)據(jù)技術—經(jīng)濟范式到底是以什么方式運行的呢?大數(shù)據(jù)技術—經(jīng)濟運行方式緣何會導致隱私危機呢?大數(shù)據(jù)隱私經(jīng)濟造成了哪些結構性和社會性的影響和危害?本文擬對這些問題作初步的思考,以期為學界認識和解決大數(shù)據(jù)隱私問題、促進大數(shù)據(jù)產(chǎn)業(yè)健康發(fā)展提供認識論上的理論支撐。

    一、 資本邏輯下大數(shù)據(jù)技術對隱私的宰制

    在當前的大數(shù)據(jù)時代,大數(shù)據(jù)技術之所以引起公眾的廣泛關注,除了它自身對于傳統(tǒng)互聯(lián)網(wǎng)技術的突破性革新之外,還因為它與經(jīng)濟之間的互動構建起一種新型的大數(shù)據(jù)技術—經(jīng)濟范式,深刻地改變了傳統(tǒng)經(jīng)濟的運行模式。大數(shù)據(jù)技術的樂觀主義者們鼓吹大數(shù)據(jù)所帶來的經(jīng)濟效益,卻往往對大數(shù)據(jù)技術—經(jīng)濟的具體運行機制避而不談。事實上,在大數(shù)據(jù)技術—經(jīng)濟的運行模式中,隱私數(shù)據(jù)作為不可缺少的中介環(huán)節(jié),參與到數(shù)據(jù)資本創(chuàng)造剩余價值的過程中,構成了新形式的大數(shù)據(jù)隱私經(jīng)濟。大數(shù)據(jù)隱私經(jīng)濟的最終目的,是實現(xiàn)數(shù)據(jù)資本對于剩余價值的追求。

    大數(shù)據(jù)技術的出現(xiàn),一開始就深深植根于互聯(lián)網(wǎng)資本對于經(jīng)濟盈利的需求中。在小數(shù)據(jù)時代,北美及歐洲的部分學者就已經(jīng)意識到基于個人數(shù)據(jù)挖掘的一種商業(yè)模式正逐漸形成。1992年,美國學者埃瑞克·拉爾森(Erik Larson)在《赤裸的消費者》一書中指出,商家通過電子信息技術密切監(jiān)控消費者的個人隱私,從而在與現(xiàn)有客戶建立良好關系、定向投遞廣告以及市場調(diào)研等方面獲取經(jīng)濟利益[4]。盡管這時候數(shù)據(jù)技術—經(jīng)濟模式已開始顯露雛形,但是兩個技術性困難一直阻礙著互聯(lián)網(wǎng)企業(yè)對網(wǎng)絡數(shù)據(jù)的大規(guī)模采集和利用:大體量數(shù)據(jù)的存儲難題和過高的數(shù)據(jù)處理成本問題。大數(shù)據(jù)技術的出現(xiàn),從技術維度來說,解決了上述小數(shù)據(jù)時代的困境。20世紀末期,Google開發(fā)出了GFS、MapReduce和BigTable三項技術,它們構建了大數(shù)據(jù)技術的初步架構和核心設計理念。Google通過這三項技術,解決了大容量數(shù)據(jù)的存儲和計算問題,使得定向精準地向目標客戶投放廣告的模式得以可能,從而為Google帶來了巨大的利潤收益。大數(shù)據(jù)技術的設計,一開始就不是為了發(fā)展技術而發(fā)展技術,而是迫于更新廣告投放模式、實現(xiàn)經(jīng)濟效益的需要對傳統(tǒng)互聯(lián)網(wǎng)技術的革新。

    在大數(shù)據(jù)技術—經(jīng)濟模式中,收集用戶的個人數(shù)據(jù)成為關鍵的環(huán)節(jié)(1)學界在討論數(shù)據(jù)經(jīng)濟時,一個基本思路是將數(shù)據(jù)分為個人數(shù)據(jù)和非個人數(shù)據(jù),在其中,個人數(shù)據(jù)的增長量尤其顯著,2019年IDC發(fā)布的數(shù)字宇宙研究報告顯示,預計到2020年,個人數(shù)據(jù)在整個數(shù)據(jù)總量中占比超過85%,并且個人數(shù)據(jù)與隱私問題具有緊密關聯(lián)性,因此本文僅討論個人數(shù)據(jù)。。收集的個人數(shù)據(jù)越多、越全面,Google對用戶的了解越深,定向廣告投放的針對性越強,一種全新的個人數(shù)據(jù)經(jīng)濟秩序正逐漸形成。美國經(jīng)濟學家肖莎娜·佐伯芙(Shoshana Zuboff)將基于對個人數(shù)據(jù)進行監(jiān)控的資本主義經(jīng)濟秩序稱為“監(jiān)控資本主義”,她指出,“監(jiān)控資本主義”的具體運行機制和商業(yè)邏輯是大型信息技術公司通過收集和挖掘人們的原始行為數(shù)據(jù),對其進行分析和加工,從原先異質(zhì)性的、非結構化的數(shù)據(jù)中生產(chǎn)出有效的、結構化的數(shù)據(jù)產(chǎn)品,這些數(shù)據(jù)產(chǎn)品能夠幫助信息技術公司預測人們未來的消費行為,從而有針對性地投放廣告和商品,實現(xiàn)這些數(shù)據(jù)產(chǎn)品潛在的商業(yè)價值,從中獲得收益[5]92-96。

    盡管“監(jiān)控資本主義”概念的提出,澄清了大數(shù)據(jù)技術—經(jīng)濟—個人數(shù)據(jù)三者之間的關系,卻忽視了數(shù)字化時代個人數(shù)據(jù)的隱私屬性。對于數(shù)據(jù)和媒介平臺來說,個人數(shù)據(jù)意味著數(shù)據(jù)資產(chǎn)和必不可少的生產(chǎn)要素;但是對于個人來說,個人數(shù)據(jù)往往與隱私具有強關聯(lián)性[6]。隱私概念在不同的時代、不同的國家和文化中具有不同的內(nèi)涵。相較于前數(shù)字化時代的“物理性隱私”(人身、財產(chǎn)或私人空間免受侵擾的自由)和“信息性隱私”(對個人信息的保護)[7]的隱私范疇來說,大數(shù)據(jù)技術的出現(xiàn)使得隱私的內(nèi)涵邊界發(fā)生巨大變化,個人數(shù)據(jù)的保護成為隱私權關注的重點[8]。對于哪些個人數(shù)據(jù)屬于隱私范疇,哪些個人數(shù)據(jù)屬于公共范疇,學界展開了激烈的爭論。目前占主流地位的觀點認為隱私主要涉及公民私密的、敏感的個人數(shù)據(jù),即非公開的個人信息(non-public personal information,簡稱NPI)。例如個人的健康數(shù)據(jù)、金融信息數(shù)據(jù)等,這一類數(shù)據(jù)與個人的切身利益密切相關,一旦公開或泄露將給個人帶來巨大風險。但是其他個人在網(wǎng)絡公共空間中發(fā)布的個人數(shù)據(jù)則不屬于隱私,例如公民向政府提供的姓名、性別、身份證號,消費者提供給商家的電話號碼、家庭住址以及網(wǎng)民在社交網(wǎng)站上發(fā)布的推特、帖子和博客等。另一種逐漸興起的觀點指出,傳統(tǒng)NPI的隱私屬性已經(jīng)得到了廣泛的關注,但是公開的個人信息(public personal information,簡稱PPI)也應當納入隱私的范疇。數(shù)據(jù)倫理學家赫爾曼·塔瓦尼(Herman Tavani)指出:“直到最近,對于以電子方式收集和交換的個人信息的憂慮還主要被限制到NPI……現(xiàn)在,許多隱私提倡者擔心的是通常借助計算機技術來收集和分析PPI的方式。最近,他們指出,應給予PPI以較之以往更多的保護?!盵9]國內(nèi)學者呂耀懷也指出:“涉及PPI的隱私問題,確實是信息技術背景下獨特的或獨有的隱私問題。”[10]這是因為信息技術尤其是大數(shù)據(jù)技術的數(shù)據(jù)集聚、挖掘和分析能力,能夠?qū)⒃瓉砩⒙湓诰W(wǎng)絡空間的個人零散的信息通過大數(shù)據(jù)挖掘拼湊在一起,從而迅速鎖定到現(xiàn)實的個人。更為重要的是,一種基于互聯(lián)網(wǎng)公共領域的公開個人數(shù)據(jù)(包括個人的可識別身份數(shù)據(jù)和個人的行為數(shù)據(jù))的隱私經(jīng)濟秩序正在形成,嚴重地侵犯個人的隱私權和生存權。

    隱私經(jīng)濟是一種基于個人隱私數(shù)據(jù)的大數(shù)據(jù)技術—經(jīng)濟范式。更具體地說,它指的是在資本邏輯的宰制下,數(shù)據(jù)和媒介平臺將用戶的個人隱私視為數(shù)據(jù)生產(chǎn)的原材料,利用大數(shù)據(jù)技術強大的數(shù)據(jù)存儲和處理能力,對個人隱私數(shù)據(jù)進行強制性地采集和提取,通過計算生成數(shù)據(jù)預測產(chǎn)品,從中獲取商業(yè)利潤的經(jīng)濟秩序。隱私經(jīng)濟概念不僅僅是對一種經(jīng)濟模式的概括和總結,更揭露了隱藏在數(shù)據(jù)經(jīng)濟這一概念背后的數(shù)據(jù)來源和數(shù)據(jù)采集形式。隱私經(jīng)濟概念具有雙重內(nèi)涵,一方面,隱私經(jīng)濟表明數(shù)據(jù)經(jīng)濟的經(jīng)濟屬性和市場屬性,大數(shù)據(jù)企業(yè)和用戶構成了隱私經(jīng)濟市場的兩大市場主體,少數(shù)幾家私有的大數(shù)據(jù)企業(yè)的根本目的是通過隱私經(jīng)濟模式獲取商業(yè)利潤。另一方面,隱私經(jīng)濟強調(diào)了數(shù)據(jù)經(jīng)濟的主要數(shù)據(jù)來源是用戶的個人隱私,并且隨著隱私經(jīng)濟規(guī)模的不斷擴大,對個人隱私數(shù)據(jù)的需求也更加強烈,大數(shù)據(jù)企業(yè)通過各種方式獲取用戶的個人隱私。

    隱私經(jīng)濟模式的誕生,其危害遠遠不止于侵犯隱私,它將這個世界上的大多數(shù)人視為數(shù)據(jù)原材料和消費者,而非獨立自主的公民,這種趨勢帶來了一系列結構性的和社會性的問題。本文從異化、剝削和監(jiān)控三個方面出發(fā),考察隱私經(jīng)濟造成的嚴重后果。

    二、 數(shù)據(jù)原材料:個人隱私異化

    隨著隱私經(jīng)濟模式的建立,用戶的個人隱私數(shù)據(jù)成為大數(shù)據(jù)企業(yè)千方百計想得到的數(shù)據(jù)原材料。事實上,為了隱私經(jīng)濟運行模式能夠良好地運轉,大數(shù)據(jù)企業(yè)必須要不斷地給這條巨型生產(chǎn)鏈提供所需的數(shù)據(jù)原材料。正如Google的高級執(zhí)行官道格拉斯·愛德華斯(Douglas Edwards)指出的,為了提高預測的效率,Google需要“搜索引擎所獲得的所有信息”[11]。在這一過程中,個人的隱私經(jīng)歷著兩輪的異化:存在論維度的異化和生產(chǎn)關系維度的異化。

    個人隱私是人的基本權利,卻在存在論維度被異化為數(shù)據(jù)。對于個人而言,從倫理學的視角來看,隱私本質(zhì)上是一個道德哲學的概念。“隱私和安全是保持我們自身與世界之間的適當距離、呼吸空間和緩沖地帶的重要手段,這些空間對自我來說是必須的……監(jiān)視正在侵害這些空間,使得人們更難安全地形成自我認同。在這個意義上,對隱私的侵犯正在沖擊我們自我發(fā)展的能力?!盵1]148從隱私空間對于人的這一內(nèi)在價值出發(fā),隱私是人之為人的本質(zhì)屬性,因此,隱私權在法律上被確認為公民的一項基本權利,隱私空間構成了人與人之間關系的前提。伴隨著數(shù)據(jù)化的進程,人的感性現(xiàn)實全面虛擬化,人與人之間的關系正以數(shù)字、數(shù)據(jù)為中介發(fā)生聯(lián)系?!俺俏覀儽粩?shù)據(jù)化,否則我們將喪失存在的意義,就如同在地鐵上忘了帶智能手機的乘客一樣?!盵12]人的存在方式經(jīng)歷著數(shù)據(jù)化形態(tài)的異化,生存場域的“在線”使得個人的生產(chǎn)方式、行為活動、人際交往乃至存在自身變得數(shù)據(jù)化,對于人的存在發(fā)展來說至關重要的隱私空間也被數(shù)據(jù)化,使得新形勢下個人數(shù)據(jù)保護成為隱私保護的重要內(nèi)容。

    以數(shù)據(jù)形態(tài)存在的個人隱私,在資本主義生產(chǎn)條件下,被再次異化為生產(chǎn)的原材料。在生產(chǎn)關系維度,個人的隱私數(shù)據(jù)被異化為隱私經(jīng)濟秩序的原材料,依附于隱私經(jīng)濟的生產(chǎn)和交換過程,這一方面表現(xiàn)在個人“數(shù)字勞動”所產(chǎn)生的勞動產(chǎn)品的異化,另一方面體現(xiàn)為生產(chǎn)原材料本身的異化。青年馬克思在《1844年經(jīng)濟學哲學手稿》中對雇傭勞動的異化進行了深刻批判。在雇傭勞動體制下,“勞動所生產(chǎn)的對象,即勞動的產(chǎn)品,作為一種異己的存在物,作為不依賴于生產(chǎn)者的力量,同勞動相對立”[13]52。工人勞動所生產(chǎn)的產(chǎn)品異化為資本家的財產(chǎn);工人實踐活動所外化的自身生命的力量,反而成為異己的資本家的力量,反過來統(tǒng)治和奴役人自身。數(shù)據(jù)化時代,個人的“數(shù)字勞動”出現(xiàn)了同樣形式的異化。個人通過互聯(lián)網(wǎng)上的“數(shù)字勞動”生產(chǎn)出大量的隱私數(shù)據(jù),但是這些隱私數(shù)據(jù)卻不再歸數(shù)據(jù)生產(chǎn)者所有,它們被各式各樣的互聯(lián)網(wǎng)平臺、網(wǎng)站和企業(yè)所壟斷,成為這些互聯(lián)網(wǎng)企業(yè)獲取利潤的材料和手段。隱私數(shù)據(jù)雖然被它的生產(chǎn)者所生產(chǎn)出來,但是卻不屬于生產(chǎn)者,成為異己的存在物,被數(shù)據(jù)資本家所掌控,反過來監(jiān)視它的生產(chǎn)者,想方設法誘惑他們消費?,F(xiàn)在,我們可以將馬克思的名言改為:“用戶在他生產(chǎn)的隱私數(shù)據(jù)中的異化表現(xiàn)在:用戶生產(chǎn)的越多,他能夠控制的越少;他創(chuàng)造的價值越多,他自己越?jīng)]有價值、越低賤……數(shù)字勞動越有力量,用戶越無力;數(shù)字勞動越機巧,用戶越愚笨,越成為大數(shù)據(jù)的奴隸。”

    在大數(shù)據(jù)時代的隱私經(jīng)濟生產(chǎn)關系秩序下,除了用戶與他生產(chǎn)的隱私數(shù)據(jù)產(chǎn)品的關系異化之外,一種更深刻的異化正將人類的整個生活世界改造為資本創(chuàng)造價值的工廠。在馬克思所分析的大機器工業(yè)時代,人的異化還主要體現(xiàn)在勞動者的雇傭勞動行為和勞動產(chǎn)品中[13]51-56,工業(yè)化時代的勞動對象和原材料主要是自然界,“現(xiàn)代人將全部存在(自然)視為生產(chǎn)的原材料并使全部客觀世界隸屬于生產(chǎn)的擴張范圍和規(guī)則”[14]。數(shù)據(jù)化時代,除了自然界之外,人自身的隱私數(shù)據(jù)、經(jīng)驗乃至人本身異化為勞動對象和原材料。在隱私經(jīng)濟運行模式中,人的個人可識別數(shù)據(jù)和行為數(shù)據(jù)成為大數(shù)據(jù)企業(yè)采集的對象,“人類經(jīng)驗的所有方面被視為原材料供應,目的是為了轉化成行為數(shù)據(jù)”[5]19。隱私經(jīng)濟秩序不僅生產(chǎn)出資本家和雇傭勞動者的生產(chǎn)關系,還生產(chǎn)出資本家與作為數(shù)據(jù)原材料的全體用戶的關系。從個人隱私異化為數(shù)據(jù)原材料這一經(jīng)濟事實出發(fā),直接產(chǎn)生一個結果:資本家與勞動者之間的關系讓位于資本家與非人格化的數(shù)據(jù)原材料之間的關系,人的存在在隱私經(jīng)濟生產(chǎn)模式中隱匿。在隱私經(jīng)濟的生產(chǎn)方式下,通過無償?shù)摹皵?shù)字勞動”,所有的互聯(lián)網(wǎng)用戶將自己的隱私、自己的一切數(shù)字生活軌跡轉化為大數(shù)據(jù)企業(yè)家大生產(chǎn)的原材料。

    三、 數(shù)據(jù)采集:隱私剝削

    一旦個人隱私被異化為數(shù)據(jù)原材料,如何高效低廉地獲取數(shù)據(jù)原材料成為數(shù)據(jù)資本家首先考慮的問題。數(shù)據(jù)采集是大數(shù)據(jù)企業(yè)隱私經(jīng)濟生產(chǎn)鏈的首要環(huán)節(jié),大數(shù)據(jù)企業(yè)通過RFID射頻、傳感器、社交網(wǎng)絡、移動互聯(lián)網(wǎng)等多種方式和手段,收集大量的用戶初始隱私數(shù)據(jù),這些用戶初始隱私數(shù)據(jù)構成了數(shù)據(jù)產(chǎn)業(yè)鏈的生產(chǎn)原材料。大數(shù)據(jù)企業(yè)通過對這些數(shù)據(jù)原材料進行分析、挖掘和計算,最終生成數(shù)據(jù)產(chǎn)品,實現(xiàn)企業(yè)的最終利潤。

    上述數(shù)據(jù)采集過程掩蓋了大數(shù)據(jù)企業(yè)獲取用戶隱私數(shù)據(jù)的本質(zhì):大數(shù)據(jù)企業(yè)對用戶個人隱私數(shù)據(jù)的剝削。根據(jù)經(jīng)典馬克思主義的界定,剝削指的是資本家對雇傭勞動者所創(chuàng)造的剩余價值的無償占有。大數(shù)據(jù)技術的出現(xiàn)及其所催生的隱私經(jīng)濟秩序的發(fā)展,為資本主義積累剩余價值提供了新的來源,剝削在資本主義生產(chǎn)中出現(xiàn)了新形式,這超出了經(jīng)典馬克思主義時代工業(yè)資本主義通過工資體系對雇傭勞動者的剝削形式。一方面,馬克思的剝削范疇所發(fā)生的雇傭勞動體制受到?jīng)_擊(2)一部分當代的馬克思主義者,如蒂茲納·泰拉諾瓦(Tiziana Terranova)、朱利安·庫克里奇(Julian Kucklich)、克里斯蒂安·??怂?Christian Fuchs)等,通過提出“免費勞動”(free labour)或“玩勞動”(playbour)等概念,用以表明當代勞動形式的變化。,越來越多原來不屬于雇傭勞動范疇的社會行為(如普通用戶通過大眾媒介或網(wǎng)絡進行的休閑活動)被納入到資本主義的生產(chǎn)環(huán)節(jié),作為一種生產(chǎn)性勞動成為資本剝削的對象。

    另一方面,資本家除通過資本主義的生產(chǎn)過程剝削勞動者所生產(chǎn)的剩余價值之外,還通過直接對土地、資源和生活資料等因素進行殖民掠奪,通過非生產(chǎn)性積累實現(xiàn)資本的原始積累,從而達到資本“持續(xù)追求剩余價值”的目的。在《資本論》中,馬克思論述了資本的原始積累對于資本主義生產(chǎn)方式確立的前提性作用,他指出:“所謂原始積累只不過是生產(chǎn)者和生產(chǎn)資料分離的過程。這個過程所以表現(xiàn)為‘原始的’,因為它形成資本及與之相適應的生產(chǎn)方式的前史”[15]291。但是馬克思對資本原始積累的分析停留在前資本主義到資本主義的確立階段。在馬克思之后,羅莎·盧森堡(Rosa Luxemburg)論證了資本的原始積累是貫穿資本主義全過程的積累方式,大衛(wèi)·哈維(David Harvey)分析了金融資本原始積累的“剝奪性”手段。在此基礎上,尼克·庫爾德(Nick Couldry)等一批數(shù)字資本主義理論家指出,數(shù)字資本的原始積累對于數(shù)字資本主義積累剩余價值具有重要意義[16]44-45。

    在馬克思看來,資本原始積累的首要因素是“大量的人突然被強制地同自己的生存資料分離”[15]291,這種“分離”在數(shù)字資本的原始積累中表現(xiàn)為普通網(wǎng)絡用戶被迫地同自己所生產(chǎn)的數(shù)據(jù)相分離。隨著數(shù)據(jù)的資產(chǎn)屬性和經(jīng)濟價值凸顯,隱私數(shù)據(jù)作為一種生產(chǎn)原材料被納入到隱私經(jīng)濟的生產(chǎn)過程中,數(shù)據(jù)和平臺資本家通過控制網(wǎng)絡平臺的數(shù)據(jù),并直接通過殖民掠奪的方式剝奪用戶的隱私數(shù)據(jù),降低隱私經(jīng)濟生產(chǎn)的成本,加速數(shù)字資本的積累。盡管進行勞動的普通用戶創(chuàng)造了巨大的價值,卻既不以雇傭勞動者的身份參與數(shù)字資本的生產(chǎn)過程,也幾乎不參與任何形式的價值分配,這使得數(shù)據(jù)資本家通過隱私剝削過程獲得巨額利潤,卻承擔著更少的管理和人力成本。數(shù)據(jù)和媒介平臺對用戶個人隱私數(shù)據(jù)的剝削主要體現(xiàn)在以下兩個方面。

    首先,數(shù)據(jù)資本家通過否認用戶的隱私數(shù)據(jù)所有權或貶低隱私數(shù)據(jù)的價值,為數(shù)據(jù)資本家無償占有數(shù)據(jù)原材料、實現(xiàn)剩余價值提供前提。為了剝奪用戶的隱私數(shù)據(jù)所有權,大數(shù)據(jù)企業(yè)家鼓吹這樣一種信念,“將人們的數(shù)據(jù)資源視為自然存在,可以免費地獲取”,在這一階段,要使個人的隱私數(shù)據(jù)被視為可以免費占有的,就需要將人們的個人數(shù)據(jù)視為一種自然資源,它“就在那里”,等待被開采。這一策略已經(jīng)被數(shù)據(jù)專家和商家熟練地運用,如數(shù)據(jù)被譽為“數(shù)字時代的石油”,這一類比盡管揭示了數(shù)據(jù)和石油的共同屬性,即都作為各自產(chǎn)業(yè)的生產(chǎn)原材料和動力,在產(chǎn)業(yè)鏈運轉中起著不可替代的作用,但是卻掩蓋了數(shù)據(jù)原材料并不像石油一樣是天然存在的,而是人所產(chǎn)生的、關于人的生活信息這一現(xiàn)實。還有學者貶低隱私數(shù)據(jù)在數(shù)據(jù)商品生產(chǎn)中的地位和作用,強調(diào)大數(shù)據(jù)企業(yè)的利潤來源于計算機器、運算軟件和數(shù)據(jù)工程師的雇傭勞動,聲稱“用戶在互聯(lián)網(wǎng)平臺上留下的原始數(shù)據(jù)雜亂、有噪聲和不一致……不具有任何價值”[17]。然而,事實是,假如沒有用戶的話,搜索引擎、網(wǎng)絡社交平臺等媒介平臺等將無法生存,自然也產(chǎn)生不了利潤。在數(shù)字資本的積累過程中,大數(shù)據(jù)企業(yè)家通過否認用戶的隱私數(shù)據(jù)所有權或貶低隱私數(shù)據(jù)的價值,從而將用戶與其個人隱私數(shù)據(jù)相分離,并通過無償?shù)貜娬歼@些隱私數(shù)據(jù),數(shù)據(jù)資本家為其隱私經(jīng)濟生產(chǎn)鏈源源不斷地輸送免費的生產(chǎn)原材料,從而實現(xiàn)其追求剩余價值的目的。

    其次,大數(shù)據(jù)企業(yè)或媒介平臺通過各種技術性手段,隱蔽地收集或強占用戶的隱私數(shù)據(jù)。如媒介平臺通過存儲在用戶本地終端、安裝在電腦桌面和其他個體設備上的各種cookies來追蹤用戶的線上行為、群體特征和偏好需求。另外,網(wǎng)絡平臺通過各種網(wǎng)絡爬蟲或網(wǎng)站應用編程接口(API)等后臺秘密抽取網(wǎng)頁用戶行為數(shù)據(jù)。大數(shù)據(jù)企業(yè)還利用各式各樣的專業(yè)數(shù)據(jù)采集工具,如Apache Flume、Scribe、Apache Chukwa等,肆無忌憚地對網(wǎng)絡數(shù)據(jù)進行收集分析。通過上述種種方式,用戶的網(wǎng)上隱私數(shù)據(jù)被轉換成大數(shù)據(jù)企業(yè)免費的數(shù)據(jù)原材料。

    四、 數(shù)據(jù)工廠社會的出現(xiàn):無所不在的監(jiān)控

    隨著隱私經(jīng)濟運行模式的建立,個人隱私被異化為資本主義生產(chǎn)過程的數(shù)據(jù)原材料,資本主義的生產(chǎn)過程跨越工廠的藩籬,將整個社會變成“數(shù)據(jù)工廠社會”。整個社會變革為數(shù)據(jù)資本家實現(xiàn)剩余價值的工廠,有形的工業(yè)工廠被無形的“工廠社會”所取代,整個社會執(zhí)行著工廠的職能,資本的生產(chǎn)關系成為統(tǒng)攝社會其他一切關系的總關系。20世紀60年代,意大利自主論馬克思主義學派代表人物馬里奧·特龍蒂(Mario Tronti)面對西方資本主義國家從工業(yè)社會向后工業(yè)社會轉變的社會現(xiàn)實,提出“工廠社會”(factory society)的理論,用以解釋資本主義工業(yè)生產(chǎn)向服務業(yè)轉變的趨勢。根據(jù)特龍蒂的觀點,“第三產(chǎn)業(yè)”的興起,意味著資本的增殖過程從大工業(yè)生產(chǎn)發(fā)生的基本地點----工廠----擴張到整個社會,表現(xiàn)為工廠社會化和社會工廠化的形式。他指出:“當工廠抓住了整個社會(所有的社會生產(chǎn)變成了工業(yè)生產(chǎn)),那工廠的特性就在社會的一般性中消失了。當整個社會被簡化為工廠時,工廠----就像這樣----似乎消失了?!盵18]從工場手工業(yè)到機器大工業(yè)再到工廠社會,資本一步步擴張其統(tǒng)治范圍,并將整個社會都納入到資本主義工廠社會的生產(chǎn)體系中。

    盡管特龍蒂早在半個世紀前就作出“工廠社會”的論斷,但是他的分析因時代的限制,局限于資本通過強制工人階級進行剩余勞動從而產(chǎn)生剩余價值的過程[19],他料想不到大數(shù)據(jù)時代人以被異化為數(shù)據(jù)原材料的形式參與到“數(shù)據(jù)工廠社會”的剩余價值生產(chǎn)過程中,剩余價值的創(chuàng)造出現(xiàn)了新來源。在“數(shù)據(jù)工廠社會”中,超越勞動的范疇,用戶的數(shù)字化存在本身即成為“數(shù)據(jù)工廠社會”生產(chǎn)的一個環(huán)節(jié)。在大數(shù)據(jù)技術的統(tǒng)攝下,不僅是用戶在互聯(lián)網(wǎng)上瀏覽、分享和點贊等數(shù)字勞動所產(chǎn)生的個人行為數(shù)據(jù),連同用戶散落在各個網(wǎng)站和平臺的個人注冊信息、生物特征信息和社會身份信息等個人可識別數(shù)據(jù)所構成的海量個人隱私數(shù)據(jù),都成為大數(shù)據(jù)產(chǎn)業(yè)的生產(chǎn)原材料。所有網(wǎng)絡的用戶,所有處于這個社會的自由人,都被納入到資本主義數(shù)據(jù)工廠社會的生產(chǎn)體系之中,成為數(shù)據(jù)原材料,從而被監(jiān)控和剝削。

    在將人的隱私行為異化為隱私經(jīng)濟生產(chǎn)過程的原材料的過程中,物聯(lián)網(wǎng)技術功不可沒。“技術在數(shù)字資本的原始積累……剝奪用戶剩余價值中起著廣泛的作用?!盵16]47為了將個人的物理行為轉化為個人的網(wǎng)上行為,便于大數(shù)據(jù)企業(yè)監(jiān)控和采集,“在線”成為這一環(huán)節(jié)的關鍵方式。為了獲取更多的用戶數(shù)據(jù),大數(shù)據(jù)企業(yè)不再滿足于用戶有意識地在互聯(lián)網(wǎng)上瀏覽、點擊和分享所留下的“數(shù)字腳印”,它要不斷地擴大企業(yè)的數(shù)據(jù)原材料來源,將“線上”延伸到“線下”,促使“線下”越來越“在線”,促使“人類社會進入大數(shù)據(jù)時代”[20]。通過“在線”,一個不同于物理世界的虛擬世界誕生,互聯(lián)網(wǎng)的觸角延伸到哪里,虛擬世界的疆域就擴張到哪里。互聯(lián)網(wǎng)構建了一個“世界的新大陸”和知識權力的新空間。這個“新大陸”有不同于物理世界的新規(guī)則和新秩序,也誕生了一批新的權力掌控者----互聯(lián)網(wǎng)企業(yè)。

    物聯(lián)網(wǎng)的出現(xiàn)將互聯(lián)網(wǎng)的疆域擴展到整個物理世界。物聯(lián)網(wǎng)作為信息技術發(fā)展的新階段,它通過傳感器、控制器等設備將我們?nèi)粘I畹募矣秒娖?、辦公設備、可穿戴設備等一切事物連接到局域網(wǎng)和互聯(lián)網(wǎng)上,使這些移動設備成為數(shù)據(jù)采集的終端,大數(shù)據(jù)企業(yè)由此將觸角延伸到人們?nèi)粘I畹拿恳粋€角落。人們的喜怒哀樂、家常聊天、吃飯出行等一切人類生活經(jīng)驗都成為隱私經(jīng)濟產(chǎn)業(yè)鏈的生產(chǎn)原材料。人類的經(jīng)驗,它的幾乎每一個層次和方面,都成為為了獲取利潤所進行的數(shù)據(jù)采集的目標。通過采集分析這些數(shù)據(jù)原材料,大數(shù)據(jù)企業(yè)了解用戶的生活習慣、個性特征、行為模式,通過行為頻率、近期性、經(jīng)濟行為、產(chǎn)品使用習慣等行為預測變量預測出用戶下一步的行為,并提前做好準備。

    資本在與大數(shù)據(jù)和物聯(lián)網(wǎng)技術的合謀中,將一切社會關系變革為資本的生產(chǎn)關系。物聯(lián)網(wǎng)通過其無所不在的監(jiān)控觸角將人類最隱秘的空間和行為轉變?yōu)閿?shù)據(jù),大數(shù)據(jù)則通過其強大的云計算能力對數(shù)據(jù)進行統(tǒng)計、分析和計算,尋找其中的規(guī)律,預測未來的趨勢,并將其轉化為巨額的利潤。在大數(shù)據(jù)時代的資本主義社會中,一切社會關系從屬于生產(chǎn)關系,為生產(chǎn)關系服務,而社會則成為實現(xiàn)剩余價值的巨型工廠。無所不在的監(jiān)控是為了獲取生產(chǎn)原材料,并進而推動隱私經(jīng)濟機器的運轉。

    五、 結 語

    在當代的信息資本主義社會中,個人隱私數(shù)據(jù)作為一種生產(chǎn)原材料,參與到隱私經(jīng)濟的生產(chǎn)過程中。數(shù)據(jù)和媒介平臺通過對個人數(shù)據(jù)進行收集、處理和分析,將其生產(chǎn)為預測產(chǎn)品,從中獲取巨額利潤,資本邏輯是數(shù)據(jù)和媒介平臺廣泛采集個人隱私數(shù)據(jù)的基本動力,大數(shù)據(jù)技術為隱私經(jīng)濟提供了技術支撐,隱私經(jīng)濟的關鍵環(huán)節(jié)是用戶的個人隱私數(shù)據(jù)成為大數(shù)據(jù)產(chǎn)業(yè)循環(huán)過程的生產(chǎn)原材料。

    個人隱私數(shù)據(jù)成為資本主義數(shù)據(jù)產(chǎn)業(yè)的生產(chǎn)原材料,對隱私及社會造成了以下三方面的危害。首先,個人隱私被異化,個人隱私作為一項不可交易的價值觀和基本權利,卻通過存在論維度和生產(chǎn)關系維度的兩輪異化,成為數(shù)據(jù)生產(chǎn)的原材料,資本的利潤原則凌駕于個人權利之上。其次,在隱私被異化為數(shù)據(jù)原材料的過程中,數(shù)據(jù)和媒介平臺通過直接的隱私剝削,以非生產(chǎn)性積累的方式實現(xiàn)資本的原始積累,達到資本追求剩余價值的目的,數(shù)字資本家和普通用戶的貧富差距進一步拉大。最后,為了獲取最大范圍的數(shù)據(jù)原材料,數(shù)字資本家通過無所不在的監(jiān)控將整個生活世界變?yōu)橘Y本生產(chǎn)的數(shù)據(jù)工廠社會,物聯(lián)網(wǎng)技術為經(jīng)濟監(jiān)控提供了技術支撐。

    個人隱私數(shù)據(jù)的異化、剝削和監(jiān)控過程既是資本邏輯下大數(shù)據(jù)技術對隱私宰制的結果,也進一步加劇了隱私危機。對隱私經(jīng)濟秩序的批判,正是為了回應這些結構性和社會性的問題,從而“在批判舊世界中發(fā)現(xiàn)新世界”。對大數(shù)據(jù)時代隱私經(jīng)濟秩序的剖析和批判,最終目的是尋求通往人的解放和全面發(fā)展的現(xiàn)實道路。事實上,科技的創(chuàng)新一開始的目的總是為實現(xiàn)人民美好生活的愿景,但是往往在實際應用中導致各種各樣的負面效應,大數(shù)據(jù)技術亦復如此。因此,當新技術進入社會時,我們尤其需要審慎地考察其可能的負作用,增強創(chuàng)新主體的責任意識和使命感,使其“既要重視常規(guī)責任,又要重視未來責任”[21]。大數(shù)據(jù)技術的發(fā)展,同其他新興技術一樣,最終的目的是為了解決社會發(fā)展中的問題,改善人民的生活水平,滿足最廣大人民的根本利益。

    猜你喜歡
    生產(chǎn)用戶
    用舊的生產(chǎn)新的!
    “三夏”生產(chǎn) 如火如荼
    S-76D在華首架機實現(xiàn)生產(chǎn)交付
    中國軍轉民(2017年6期)2018-01-31 02:22:28
    關注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    關注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    關注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    Camera360:拍出5億用戶
    100萬用戶
    如何獲取一億海外用戶
    安全生產(chǎn)重于泰山
    日韩在线高清观看一区二区三区| 少妇的丰满在线观看| 丝袜喷水一区| 最后的刺客免费高清国语| 一级毛片 在线播放| 男女边摸边吃奶| 捣出白浆h1v1| 18禁观看日本| 欧美日韩国产mv在线观看视频| 国产极品天堂在线| 欧美人与善性xxx| 激情视频va一区二区三区| 国产综合精华液| 亚洲熟女精品中文字幕| 天堂中文最新版在线下载| 少妇的逼水好多| 亚洲精品一区蜜桃| 三级国产精品片| 最后的刺客免费高清国语| 亚洲精品国产色婷婷电影| 99精国产麻豆久久婷婷| 91成人精品电影| 99久久精品国产国产毛片| 成人国产麻豆网| 国产精品久久久久久久电影| 久久99一区二区三区| 国产黄色免费在线视频| 天天躁夜夜躁狠狠久久av| 成年动漫av网址| 亚洲精品久久午夜乱码| 精品一区二区三区四区五区乱码 | 26uuu在线亚洲综合色| 伊人亚洲综合成人网| 国产男女超爽视频在线观看| 午夜免费男女啪啪视频观看| av在线老鸭窝| 热re99久久精品国产66热6| 春色校园在线视频观看| 国产亚洲最大av| 少妇人妻久久综合中文| 国产黄频视频在线观看| 香蕉丝袜av| 人人妻人人爽人人添夜夜欢视频| 一个人免费看片子| 18禁观看日本| 晚上一个人看的免费电影| 最近手机中文字幕大全| av天堂久久9| 波多野结衣一区麻豆| 中文天堂在线官网| 国产成人精品在线电影| 大香蕉久久网| 新久久久久国产一级毛片| 亚洲精品国产av蜜桃| 午夜激情av网站| 熟女人妻精品中文字幕| videossex国产| 啦啦啦中文免费视频观看日本| 高清视频免费观看一区二区| 国产亚洲av片在线观看秒播厂| 国产亚洲一区二区精品| 热re99久久精品国产66热6| 熟女人妻精品中文字幕| 国产亚洲精品久久久com| 日日爽夜夜爽网站| 最近中文字幕高清免费大全6| 欧美日韩精品成人综合77777| 五月开心婷婷网| 18+在线观看网站| 欧美激情 高清一区二区三区| 激情视频va一区二区三区| 日本爱情动作片www.在线观看| 国产福利在线免费观看视频| h视频一区二区三区| 晚上一个人看的免费电影| 亚洲精品久久午夜乱码| 国产熟女午夜一区二区三区| 国产又色又爽无遮挡免| 国产精品99久久99久久久不卡 | 久久午夜综合久久蜜桃| 亚洲一码二码三码区别大吗| 少妇的逼水好多| 999精品在线视频| www.熟女人妻精品国产 | 亚洲一区二区三区欧美精品| 男女午夜视频在线观看 | 极品少妇高潮喷水抽搐| 秋霞在线观看毛片| 国产成人av激情在线播放| 最近最新中文字幕免费大全7| 男女免费视频国产| 国产成人一区二区在线| 亚洲精品第二区| 欧美日韩国产mv在线观看视频| 在线 av 中文字幕| 亚洲综合精品二区| 最近2019中文字幕mv第一页| 国产综合精华液| 国产欧美另类精品又又久久亚洲欧美| 国产福利在线免费观看视频| 亚洲性久久影院| 午夜精品国产一区二区电影| 国产成人aa在线观看| 夜夜骑夜夜射夜夜干| 亚洲精品久久午夜乱码| 精品国产一区二区久久| 免费高清在线观看视频在线观看| 亚洲成色77777| 97超碰精品成人国产| 三上悠亚av全集在线观看| 亚洲精品国产av成人精品| 高清不卡的av网站| 91久久精品国产一区二区三区| 中文字幕人妻熟女乱码| 在线观看免费日韩欧美大片| 国产高清不卡午夜福利| 久久毛片免费看一区二区三区| 麻豆乱淫一区二区| 两个人看的免费小视频| 午夜激情久久久久久久| 亚洲国产av新网站| 婷婷色综合大香蕉| av播播在线观看一区| 日韩人妻精品一区2区三区| 99国产综合亚洲精品| 老司机影院毛片| 日本黄色日本黄色录像| 国产午夜精品一二区理论片| 天天影视国产精品| 丁香六月天网| 精品亚洲成a人片在线观看| 免费黄色在线免费观看| a 毛片基地| 亚洲四区av| 中文字幕av电影在线播放| 伦理电影免费视频| 高清av免费在线| 亚洲精品色激情综合| 日日撸夜夜添| 哪个播放器可以免费观看大片| 大话2 男鬼变身卡| 男的添女的下面高潮视频| 美女脱内裤让男人舔精品视频| 亚洲欧美清纯卡通| 大片电影免费在线观看免费| 国产欧美另类精品又又久久亚洲欧美| 最黄视频免费看| 亚洲熟女精品中文字幕| 日韩人妻精品一区2区三区| 精品国产一区二区三区久久久樱花| 两个人免费观看高清视频| 久久av网站| 亚洲精品一区蜜桃| a级毛色黄片| 欧美 亚洲 国产 日韩一| 亚洲精品av麻豆狂野| 亚洲欧洲日产国产| 97在线视频观看| 亚洲av.av天堂| 成人国产麻豆网| 如日韩欧美国产精品一区二区三区| 男女边摸边吃奶| 亚洲精品久久久久久婷婷小说| 九九在线视频观看精品| 国产男女超爽视频在线观看| 女性生殖器流出的白浆| 免费看光身美女| 国产精品国产av在线观看| 久久久国产欧美日韩av| 国产精品一区www在线观看| 亚洲高清免费不卡视频| 9色porny在线观看| 2018国产大陆天天弄谢| 爱豆传媒免费全集在线观看| 精品福利永久在线观看| 成年av动漫网址| 久久久久久久国产电影| 成人18禁高潮啪啪吃奶动态图| 日韩制服骚丝袜av| 熟女电影av网| av.在线天堂| 永久网站在线| 全区人妻精品视频| 亚洲国产日韩一区二区| 青春草视频在线免费观看| 亚洲四区av| 校园人妻丝袜中文字幕| 久久久精品94久久精品| 免费av中文字幕在线| 啦啦啦在线观看免费高清www| 少妇的丰满在线观看| 久久久国产一区二区| 97在线视频观看| 国产一区亚洲一区在线观看| 国产欧美另类精品又又久久亚洲欧美| 美女国产视频在线观看| 午夜激情久久久久久久| 欧美精品av麻豆av| 啦啦啦中文免费视频观看日本| 久久97久久精品| 99九九在线精品视频| 亚洲精品国产av成人精品| 日韩 亚洲 欧美在线| 一二三四在线观看免费中文在 | 亚洲欧美清纯卡通| 欧美 亚洲 国产 日韩一| 侵犯人妻中文字幕一二三四区| 中文乱码字字幕精品一区二区三区| 亚洲国产精品成人久久小说| 91精品国产国语对白视频| 久久97久久精品| 在线观看免费高清a一片| 日日爽夜夜爽网站| 大片免费播放器 马上看| 9191精品国产免费久久| 久久影院123| 国产免费视频播放在线视频| 日日摸夜夜添夜夜爱| 久久99热这里只频精品6学生| 天美传媒精品一区二区| 黑人欧美特级aaaaaa片| 国产成人a∨麻豆精品| 国产免费视频播放在线视频| 性色avwww在线观看| 男人爽女人下面视频在线观看| 亚洲精品日本国产第一区| 久久人人爽人人片av| 另类精品久久| 日韩制服丝袜自拍偷拍| 男女午夜视频在线观看 | 亚洲精品视频女| 大香蕉久久成人网| 欧美bdsm另类| 日本vs欧美在线观看视频| 亚洲内射少妇av| 黄片播放在线免费| 五月天丁香电影| 久久精品久久久久久久性| 免费黄网站久久成人精品| 国产成人精品在线电影| 18+在线观看网站| 久久毛片免费看一区二区三区| 亚洲精华国产精华液的使用体验| 午夜免费观看性视频| 亚洲国产精品999| 大陆偷拍与自拍| 日韩熟女老妇一区二区性免费视频| av网站免费在线观看视频| 蜜臀久久99精品久久宅男| 一区在线观看完整版| 多毛熟女@视频| 国产精品国产三级国产专区5o| 国产又色又爽无遮挡免| 国产黄色免费在线视频| 久久久精品94久久精品| 伦理电影免费视频| 午夜激情av网站| 两个人免费观看高清视频| 成人毛片60女人毛片免费| 少妇的丰满在线观看| 精品卡一卡二卡四卡免费| 久久久久久人妻| 九草在线视频观看| 丝袜人妻中文字幕| 美女国产视频在线观看| 国产精品女同一区二区软件| 久久午夜福利片| 亚洲精品第二区| 国产精品麻豆人妻色哟哟久久| 精品国产一区二区三区四区第35| 日日啪夜夜爽| 亚洲,欧美,日韩| 全区人妻精品视频| 少妇被粗大猛烈的视频| 2018国产大陆天天弄谢| 黄色毛片三级朝国网站| 男人爽女人下面视频在线观看| 国产精品久久久久久久久免| videos熟女内射| 不卡视频在线观看欧美| 国产女主播在线喷水免费视频网站| 69精品国产乱码久久久| 日本猛色少妇xxxxx猛交久久| 毛片一级片免费看久久久久| 51国产日韩欧美| 日日啪夜夜爽| www.av在线官网国产| 欧美日韩成人在线一区二区| 亚洲精品色激情综合| 人人妻人人添人人爽欧美一区卜| 精品久久久精品久久久| 久久久久久久大尺度免费视频| 美女中出高潮动态图| 色94色欧美一区二区| 免费观看a级毛片全部| 精品久久蜜臀av无| 我要看黄色一级片免费的| 欧美亚洲日本最大视频资源| 免费看不卡的av| 永久网站在线| 搡女人真爽免费视频火全软件| 国产亚洲午夜精品一区二区久久| 少妇猛男粗大的猛烈进出视频| 熟女人妻精品中文字幕| 亚洲欧美色中文字幕在线| 女性生殖器流出的白浆| 日韩av在线免费看完整版不卡| 国产精品秋霞免费鲁丝片| 亚洲色图综合在线观看| 欧美3d第一页| 18禁国产床啪视频网站| 女性生殖器流出的白浆| 日本色播在线视频| 一边亲一边摸免费视频| 一区二区三区乱码不卡18| 伊人久久国产一区二区| 欧美最新免费一区二区三区| 街头女战士在线观看网站| 人人澡人人妻人| 超碰97精品在线观看| 少妇的逼水好多| 国产精品 国内视频| 男人操女人黄网站| 欧美国产精品一级二级三级| 51国产日韩欧美| 久久久久久人人人人人| 亚洲久久久国产精品| 成人手机av| 亚洲情色 制服丝袜| 三级国产精品片| 18禁国产床啪视频网站| 这个男人来自地球电影免费观看 | 侵犯人妻中文字幕一二三四区| 巨乳人妻的诱惑在线观看| 边亲边吃奶的免费视频| 色吧在线观看| 亚洲综合精品二区| 男人舔女人的私密视频| 国产在线视频一区二区| av免费观看日本| xxxhd国产人妻xxx| 亚洲国产成人一精品久久久| 国产毛片在线视频| 国产精品一国产av| 亚洲精品久久午夜乱码| 久久99热6这里只有精品| 久久这里有精品视频免费| videos熟女内射| 你懂的网址亚洲精品在线观看| 日韩伦理黄色片| 男男h啪啪无遮挡| 精品99又大又爽又粗少妇毛片| 久久精品国产亚洲av涩爱| 国产熟女午夜一区二区三区| 久久精品久久精品一区二区三区| 最近的中文字幕免费完整| 免费在线观看完整版高清| 少妇人妻久久综合中文| 99久久综合免费| av线在线观看网站| 美女脱内裤让男人舔精品视频| 国产国语露脸激情在线看| 99九九在线精品视频| tube8黄色片| 纵有疾风起免费观看全集完整版| 我的女老师完整版在线观看| 日韩欧美精品免费久久| 亚洲图色成人| 免费av不卡在线播放| 久久久久视频综合| 亚洲国产色片| 日韩成人伦理影院| 汤姆久久久久久久影院中文字幕| 亚洲精品国产色婷婷电影| 欧美精品亚洲一区二区| 热99久久久久精品小说推荐| 欧美日韩成人在线一区二区| 日韩成人av中文字幕在线观看| 秋霞在线观看毛片| 黑丝袜美女国产一区| 在线观看三级黄色| 婷婷色综合www| 极品少妇高潮喷水抽搐| 欧美最新免费一区二区三区| 69精品国产乱码久久久| 日本爱情动作片www.在线观看| 亚洲五月色婷婷综合| 亚洲人成网站在线观看播放| 男女免费视频国产| 日韩中文字幕视频在线看片| 欧美另类一区| 亚洲欧美清纯卡通| 麻豆乱淫一区二区| 精品一品国产午夜福利视频| h视频一区二区三区| 九九在线视频观看精品| 汤姆久久久久久久影院中文字幕| 69精品国产乱码久久久| 日日摸夜夜添夜夜爱| 婷婷色av中文字幕| 91精品三级在线观看| 久久99精品国语久久久| 黑人欧美特级aaaaaa片| 在线观看www视频免费| 18禁国产床啪视频网站| 国产精品偷伦视频观看了| 国国产精品蜜臀av免费| 亚洲综合精品二区| 国产精品久久久av美女十八| 全区人妻精品视频| av片东京热男人的天堂| videossex国产| 纯流量卡能插随身wifi吗| 国产伦理片在线播放av一区| 国产精品成人在线| 综合色丁香网| 在线观看www视频免费| 国产在线视频一区二区| 久久精品久久久久久噜噜老黄| 中国国产av一级| 中文字幕精品免费在线观看视频 | 一级,二级,三级黄色视频| 午夜91福利影院| 18禁国产床啪视频网站| 国产精品无大码| 亚洲精品国产av成人精品| 久久久欧美国产精品| 色婷婷av一区二区三区视频| 国产精品蜜桃在线观看| 国产熟女欧美一区二区| 精品久久蜜臀av无| 啦啦啦啦在线视频资源| 欧美日本中文国产一区发布| 日韩大片免费观看网站| 免费黄色在线免费观看| 九草在线视频观看| 国产欧美另类精品又又久久亚洲欧美| av女优亚洲男人天堂| 熟女av电影| 亚洲精品乱久久久久久| 秋霞在线观看毛片| 成年人免费黄色播放视频| 99热网站在线观看| 又黄又粗又硬又大视频| 久久久精品免费免费高清| 婷婷色综合大香蕉| 一区二区三区乱码不卡18| 尾随美女入室| 中文字幕人妻熟女乱码| 国产精品嫩草影院av在线观看| 考比视频在线观看| 免费播放大片免费观看视频在线观看| 丰满少妇做爰视频| 国产精品人妻久久久久久| 亚洲一区二区三区欧美精品| 国产成人a∨麻豆精品| 午夜影院在线不卡| 国产精品无大码| 9191精品国产免费久久| 久久毛片免费看一区二区三区| 黄片无遮挡物在线观看| 亚洲欧美清纯卡通| 免费少妇av软件| 欧美日韩精品成人综合77777| 一区二区三区乱码不卡18| 97超碰精品成人国产| 久久精品久久久久久噜噜老黄| 一本大道久久a久久精品| www.av在线官网国产| av又黄又爽大尺度在线免费看| 少妇熟女欧美另类| 久久久国产精品麻豆| 国产精品一区二区在线不卡| 国产高清三级在线| 亚洲美女黄色视频免费看| av电影中文网址| 国产精品一区二区在线观看99| 亚洲丝袜综合中文字幕| 美女内射精品一级片tv| 91成人精品电影| 超色免费av| 一级毛片我不卡| 亚洲精华国产精华液的使用体验| 26uuu在线亚洲综合色| 午夜激情av网站| 夫妻性生交免费视频一级片| 欧美少妇被猛烈插入视频| av黄色大香蕉| 免费人妻精品一区二区三区视频| 精品卡一卡二卡四卡免费| 熟女av电影| 在线观看三级黄色| 中文字幕免费在线视频6| 男女下面插进去视频免费观看 | 丝袜喷水一区| 久久99蜜桃精品久久| 夜夜骑夜夜射夜夜干| 亚洲精品美女久久久久99蜜臀 | 亚洲av成人精品一二三区| 秋霞在线观看毛片| 免费高清在线观看日韩| 黄片播放在线免费| a级片在线免费高清观看视频| 99热国产这里只有精品6| 国产老妇伦熟女老妇高清| 精品人妻熟女毛片av久久网站| 欧美日韩视频精品一区| 水蜜桃什么品种好| 中文字幕另类日韩欧美亚洲嫩草| 国产亚洲午夜精品一区二区久久| 韩国av在线不卡| 国产成人午夜福利电影在线观看| 最新的欧美精品一区二区| 国内精品宾馆在线| 成年人免费黄色播放视频| 国产亚洲最大av| 三上悠亚av全集在线观看| 男女下面插进去视频免费观看 | 午夜视频国产福利| 午夜av观看不卡| 曰老女人黄片| 精品国产露脸久久av麻豆| 丝袜美足系列| 国产精品人妻久久久久久| 一区在线观看完整版| 国产亚洲精品久久久com| 国产在线视频一区二区| 亚洲欧洲日产国产| 97在线人人人人妻| 这个男人来自地球电影免费观看 | 国产乱人偷精品视频| 欧美日韩一区二区视频在线观看视频在线| 午夜激情久久久久久久| 三上悠亚av全集在线观看| 国产成人精品无人区| 久久 成人 亚洲| 青春草视频在线免费观看| 街头女战士在线观看网站| 亚洲av免费高清在线观看| 熟女av电影| 一级片'在线观看视频| 久久久a久久爽久久v久久| 亚洲欧美成人综合另类久久久| 国产精品国产三级国产专区5o| 精品人妻偷拍中文字幕| 亚洲欧美清纯卡通| 国产高清不卡午夜福利| 成人漫画全彩无遮挡| 国产免费又黄又爽又色| 国产成人免费观看mmmm| 午夜精品国产一区二区电影| 两性夫妻黄色片 | 久久人人97超碰香蕉20202| 国产一区二区三区av在线| 九色亚洲精品在线播放| 欧美日韩一区二区视频在线观看视频在线| 亚洲精品久久午夜乱码| 亚洲精品一二三| 黑人猛操日本美女一级片| 亚洲国产毛片av蜜桃av| 色婷婷av一区二区三区视频| 纯流量卡能插随身wifi吗| 男人操女人黄网站| 超碰97精品在线观看| 在线观看免费日韩欧美大片| 9热在线视频观看99| 国产免费一级a男人的天堂| 午夜福利视频精品| 亚洲久久久国产精品| 天堂8中文在线网| 人人妻人人爽人人添夜夜欢视频| 国产精品人妻久久久影院| 久久精品国产a三级三级三级| 成人黄色视频免费在线看| 亚洲av综合色区一区| 国产精品一国产av| 妹子高潮喷水视频| 欧美精品一区二区免费开放| 久久精品久久久久久久性| 国产黄频视频在线观看| 麻豆精品久久久久久蜜桃| 男的添女的下面高潮视频| 亚洲欧美中文字幕日韩二区| 精品国产露脸久久av麻豆| 好男人视频免费观看在线| videosex国产| av在线播放精品| 国产精品不卡视频一区二区| 黑人猛操日本美女一级片| 久久久精品免费免费高清| 97在线视频观看| 欧美97在线视频| 大片电影免费在线观看免费| 男人添女人高潮全过程视频| 亚洲精品乱久久久久久| tube8黄色片| 777米奇影视久久| 久久国产精品男人的天堂亚洲 | 成年av动漫网址| 精品一区二区三区四区五区乱码 | 男人爽女人下面视频在线观看| 男女下面插进去视频免费观看 | 男女免费视频国产| 少妇 在线观看| av播播在线观看一区| 丝袜在线中文字幕| 精品久久久久久电影网| 亚洲精品中文字幕在线视频| 少妇人妻 视频| 国产高清三级在线| 国国产精品蜜臀av免费| 免费人成在线观看视频色| 一边亲一边摸免费视频| 久久亚洲国产成人精品v| 日韩成人av中文字幕在线观看|