• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    互聯網平臺企業(yè)的網絡壟斷與公民隱私權保護
    ——兼論互聯網時代公民隱私權的新發(fā)展與維權困境

    2018-02-20 05:20:46陳剩勇盧志朋
    學術界 2018年7期
    關鍵詞:隱私權公民消費者

    陳剩勇, 盧志朋

    (浙江工商大學 公共管理學院, 浙江 杭州 310018)

    一、問題的提出與文獻回顧

    進入21世紀以來,隨著信息技術和移動互聯網的高速發(fā)展,各行各業(yè)都被卷入到互聯網“跨界革命”的浪潮之中,谷歌、亞馬遜、面簿等不同領域的互聯網創(chuàng)新企業(yè)巨頭在全球范圍內迅速崛起。在中國,根據中國互聯網絡信息中心(CNNIC)在京發(fā)布的第41次《中國互聯網絡發(fā)展狀況統(tǒng)計報告》,截至2017年12月,我國境內外上市互聯網企業(yè)數量達到102家,總體市值為8.97萬億元人民幣,〔1〕業(yè)務主要涉及網絡游戲、電子商務、文化傳媒、網絡金融和軟件工具等領域,服務范圍幾乎覆蓋了普羅大眾“衣、食、住、行”和社會生活的方方面面。因此,互聯網企業(yè)的一舉一動都深刻地影響著消費者的行為模式。其中,百度、阿里巴巴、騰訊(通常簡稱BAT)三大互聯網企業(yè)巨頭,在引擎搜索、電子商務、即時通信等領域所占的市場份額都超過50%以上,三家企業(yè)的市值之和占了互聯網企業(yè)總體市值的73.9%,〔2〕形成了互聯網經濟的壟斷格局。近年來,三大互聯網企業(yè)寡頭通過地毯式的并購、山寨、參股等形式進行業(yè)務擴張和資源延伸,使得當前我國估值前30名未上市的互聯網創(chuàng)業(yè)公司都充斥著它們的身影,〔3〕BAT儼然成了互聯網經濟和網絡時代的“利維坦”,即“數字利維坦”。

    以BAT為代表的互聯網平臺巨頭的興起、發(fā)展和擴張過程,固然促進了互聯網經濟的大發(fā)展,為消費者帶來了諸多便利,但其網絡壟斷的形成也為公民隱私權保護和維權埋下了巨大的隱患。一方面,信息化時代大數據、云計算和人工智能等技術的進步,使得互聯網企業(yè)獲取消費者隱私信息變得尤為容易;另一方面,網絡信息傳播的快速化和廣泛性的特征以及網絡行為的匿名化,使得網絡侵權行為的后果遠遠超出了傳統(tǒng)法律的管轄和控制。普通人在網絡空間猶如“裸奔”,不知不覺之間已把隱私權主動交出,網絡侵權無所不在,網絡維權困難重重。

    2018年以來,BAT等互聯網企業(yè)巨頭相繼陷入一場涉及侵害用戶隱私的社會輿論旋窩之中。1月1日,吉利控股集團有限公司董事長李書福在公開場合談及信息安全時,質疑“馬化騰天天在看我們的微信”,引起社會公眾對自身隱私權的擔憂?!?〕1月3日,在朋友圈瘋傳的支付寶年度賬單中,《芝麻服務協議》以極不顯眼的方式誘導用戶默認了對芝麻信用的授權,被質疑侵犯隱私權?!?〕1月5日,百度因涉嫌侵害消費者個人信息安全而被江蘇省消費者權益保障委員會提起公益民事訴訟?!?〕實際上,這只是互聯網企業(yè)侵犯公民隱私權的冰山一角。多起涉及互聯網平臺巨頭侵犯公民隱私權的事件在同一時段密集發(fā)生,凸現出整個互聯網行業(yè)在用戶隱私保護方面令人堪憂的事實。

    雖然騰訊、阿里巴巴和百度等三大巨頭迅速對這三起糾紛都做出了積極回應,但由此引發(fā)的關于互聯網企業(yè)巨頭權力擴張與公民隱私權保護的社會輿論表明,互聯網技術的迅猛發(fā)展不再只是一個科學技術和互聯網行業(yè)發(fā)展的新現象,同時也是一個涉及到人類社會的經濟形態(tài)、交往模式和法律規(guī)則等諸多方面的重要問題。在當前和未來可預期的一段時間里,隨著物聯網、大數據和人工智能三者的技術疊加,我們將會面臨一個生活在“無隱私的社會”〔7〕中的厄運。面對信息時代日新月異的變革,如何應對互聯網技術快速發(fā)展和“數字利維坦”市場壟斷所帶來的各種關于侵害公民隱私權的法律、政策和倫理風險,是當下社會各界包括公民、企業(yè)、政府關注的熱點話題,也是政治學界無法回避的重大課題。

    有關互聯網企業(yè)對公民隱私權產生威脅的現象,近年來也逐漸進入了國內外學者的研究視野。Subashini和Kavitha、Samson、Xu Heng等眾多國外學者都認為當前互聯網企業(yè)發(fā)展面臨的最大挑戰(zhàn)在于如何有效地保護消費者個人隱私信息?!?〕一些學者分別基于社會認知、利益及保護激勵等理論模型的構建,或者通過調查互聯網用戶進一步討論消費者隱私權保護行為的影響因素,發(fā)現消費者對隱私權保護的知曉〔9〕、逐利動機〔10〕、網絡使用者對自己個人數據被收集的關注程度〔11〕、個人對被收集信息的控制能力〔12〕、對公司保護個人信息的能力評價〔13〕等因素會顯著影響消費者的網絡隱私權保護行為。此外,更多的學者著眼于解決實際問題,從技術角度設計了諸如CSI工事法〔14〕、K-匿名法〔15〕、PE三工具〔16〕、綜合算法〔17〕等個人敏感數據加密的方式來保護消費者的個人隱私信息;從制度性監(jiān)管層面提出了構建第三方公開審計〔18〕、完善消費者隱私權保護的框架與法規(guī)〔19〕,以及建立消費者數據保護標準〔20〕等措施來防止互聯網企業(yè)對公民隱私權的侵犯。

    國內學者對互聯網時代公民隱私權保護等相關問題的探討,更多的是圍繞政府這一主體而展開,涉及互聯網企業(yè)巨頭壟斷侵權與公民隱私權保護的研究則相對較少,且以規(guī)范分析居多。王銳從公民信息保護與互聯網企業(yè)利益平衡的視角出發(fā),研究了當前我國個人信息隱私權保護法律存在的不足。〔21〕張茂月認為企業(yè)會利用互聯網時代信息獲取的便利性有意識地收集和分析個人信息數據以實現精準化營銷,從而造成“信息收集知情權”“信息安寧權”“信息處分權”和“個人信息數據泄露”等四方面的“網絡侵權”風險?!?2〕鄭戈強調互聯網技術的廣泛應用對整個法律體系運作的重塑,掌握大數據的國家機關和商業(yè)機構與公民個人之間的權力關系也會因此而改變,個人會變得越來越透明,而數據權力行使者卻變得越來越隱秘。〔23〕謝遠揚和金耀等指出,當前我國互聯網發(fā)展采取的是以同意規(guī)則為中心的消費者信息保護模式,這種模式對于公民隱私權的保護存在著諸多局限性,學者們提出了通過將知情理論嵌入到消費者與經營者關系之中,限制和縮小同意規(guī)則的適用范圍,采用場景風險規(guī)則等建議,促使消費者權利規(guī)范向數據收集者的行為規(guī)范轉變?!?4〕此外,方興東、張靜、劉國輝考察和分析了全球知名的互聯網企業(yè)谷歌產品與用戶隱私問題,指出隨著谷歌企業(yè)用戶數量的增長、創(chuàng)新領域的拓展、新隱私政策的出臺以及產品智能化水平的提升,將會擴大用戶個人隱私泄露的風險,因而需要政府和社會從政策、技術、用戶等層面加以防范?!?5〕

    以上學者的研究為互聯網發(fā)展與公民信息隱私權關系的研究提供了基礎,但對于互聯網企業(yè)如何威脅公民隱私權以及信息技術對公民隱私權保護的沖擊力度等方面的探討顯得有所不足。本文將圍繞互聯網平臺巨頭的興起對公民隱私權的威脅這一主題,考察互聯網時代公民隱私權保護面臨的新形勢,分析互聯網平臺在個人隱私數據收集、使用、保護過程中對公民隱私權的侵害及其深層次原因,探討如何避免互聯網平臺的企業(yè)巨頭在獲取數據、使用數據和保護數據過程中對公民隱私權的威脅,以構建一個安全可信的信息消費環(huán)境。

    二、從傳統(tǒng)隱私權到信息隱私權:技術與社會互構中公民隱私權的演變

    1890年,美國學者沃倫和布蘭蒂斯在《哈佛法律評論》上發(fā)表的《The Right to Privacy》一文中提出隱私權概念,認為隱私(privacy)是一種個人免于被陪伴和觀察的狀態(tài),其對應的隱私權(right to privacy)表現為不得隨意將與社會無合法關聯之事項泄漏于公眾和個人不受干擾的權利?!?6〕到了1960年代,威廉·普洛塞(William Prosser)系統(tǒng)梳理了300多起關于公民隱私權被侵犯的案例,將侵犯隱私權概括為侵擾私人生活安寧、盜用他人姓名或肖像、公開揭露他人私生活秘密、以公開的方式發(fā)布容易使公眾產生誤解的他人扭曲形象四種類型。〔27〕普洛塞的這些觀點后來成為了《美國侵權法重述(二)》的基礎,為美國侵犯隱私權的司法審判提供了標準。

    經過100多年的發(fā)展與演化,盡管法律界和學術界對于隱私概念的界定尚存爭議,但不可否認的是,傳統(tǒng)的隱私權作為一種獨立的民事權利在法律實踐中已經達成基本共識。例如,在美國社會中,個人隱私權的正當性往往來源于“個人自由”這種公民最為重要的基本權利和核心價值的引申,〔28〕為了避免公民被他人壓迫或操控,維護公民個人隱私成為了必要的選擇,美國國會先后制定實施了《信息自由法》《隱私權法》《電子通信隱私法》等有關隱私權保護的相關法律,逐漸確立了隱私權的憲法地位。〔29〕相比于美國,歐盟似乎更重視人的基本權利和人類核心價值意識,其隱私權概念首先涉及的是個人的榮譽與尊嚴等人權要素,早在1953年頒布的《歐洲人權公約》,就明確規(guī)定了每個人有權在其私人事務、家庭、居所和通信等方面受到尊重。之后,歐盟又制定和出臺了《歐盟基本權利憲章》等一系列隱私權保護的法律條例,進一步加強對公民隱私權的保護。當代中國對隱私權的法律規(guī)定相對較晚。1982年制定的《民事訴訟法》(試行)是最初提及隱私的相關法律文件,2005年修改的《婦女權益保障法》首次明確隱私權,2009年出臺的《侵權責任法》,全面確認了隱私權作為一項獨立的權利規(guī)定,當今中國的隱私權前后歷時二十多年而逐漸完善。由此觀之,依照各個國家立法的發(fā)展變遷歷程,作為公民基本權利重要內容之一的個人隱私權逐步取得了世界大多數國家的法律認同,成為一項超越民事權利的憲法性權利。

    作為一種隨著技術發(fā)展而變遷的開放性與擴充性的權利賦予,〔30〕公民隱私權是在技術與社會互構過程中不斷加以改變的。隨著互聯網時代的到來,由于個人資料的電子化存儲以及信息收集的簡單化、低成本、高商業(yè)價值,使得公民隱私權遭受侵害的威脅日益凸顯,傳統(tǒng)的四分法隱私權理論面臨著巨大的沖擊。因此,出現了Jerry Kang所提倡的空間性、自治性和信息性三類的新型隱私權理論,〔31〕將強調個人不被打擾的消極性的防御型基本權利擴張到能夠個人自我控制并決定信息的使用范圍及其正確性、完整性的積極性的主動型人身權利。〔32〕此后,技術倫理學家塔瓦尼進一步將公民隱私權歸納為物理隱私、決策隱私、心理隱私與信息隱私四種類型,〔33〕推動了隱私權在理論層面上從傳統(tǒng)隱私權向信息隱私權演變的進程。

    無論是隱私權的自我擴張,還是權利的補充,隨著個人隱私邊界和隱私權內涵的變化,人們不得不對信息化時代個人的隱私權益進行價值層面的反思、倫理層面的規(guī)范以及法律層面的規(guī)制,進而在社會管理實踐和學術理論研究中審慎地思考和探尋互聯網企業(yè)巨頭的網絡權力擴張與公民隱私權保護的應對之道。為此,各個國家都在探索對個人數據和信息隱私的保護措施以維護信息時代公民的基本權利和自由,防止政府機關和商業(yè)機構以違背公民意愿的方式濫用其掌握的信息資源謀取私利。

    三、互聯網平臺網絡壟斷與公民隱私權面臨的威脅及其表現

    相比于傳統(tǒng)企業(yè)自利性與服務性的特性,互聯網平臺企業(yè)為消費者帶來便利化的服務以促進社會經濟發(fā)展的同時,也會出于企業(yè)利益最大化的考慮,憑借云計算技術過度挖掘其掌握的個人數據背后所蘊藏的商業(yè)價值。與此同時,由于互聯網平臺企業(yè)的市場行為具有虛擬性、互動性、廣域性和即時性等特點,加之互聯網領域的市場壟斷效應,使得消費者的信息往往被少數的互聯網商業(yè)巨頭所掌握。因此,信息時代互聯網企業(yè)侵犯公民隱私的風險顯著增大,其侵權行為遠遠超過了傳統(tǒng)意義上隱私權侵害的共性特征,而更具有隱蔽性、復雜性,主要表現為數據收集過程中對消費者免受外界打擾的威脅、數據使用過程中對公民決策隱私權的威脅、數據保護過程中對個人數據處分權的威脅等新內容。

    (一)互聯網平臺數據收集過程對消費者隱私權的威脅

    免受外界打擾作為公民隱私權最原始的內涵,表明個人擁有在生活空間和心理空間免受打擾或干預的權利。但是,信息時代政府機關和商業(yè)機構可能會通過無所不在的攝像頭、無孔不入的監(jiān)聽器、無處可逃的定位系統(tǒng)等高科技對公民個人生活空間造成干擾。判斷使用此類技術是否侵犯公民隱私權往往以公共場所和私人場所作為界限依據,而現代科技早已突破社會生活場域的“圍墻”“房屋”等傳統(tǒng)的物理空間界限,〔34〕“公”“私”場所的界限也不再那么清晰,大量使用監(jiān)控技術不可避免會給普通公民的日常生活造成干擾。例如,很多APP軟件在提供服務的同時,基本都要求消費者出讓讀取識別碼、調用攝像頭、允許開啟定位、打開運動數據等權限,如果拒絕的話可能無法正常使用該APP的功能。雖然,也有部分APP沒有強制性要求用戶同意調用請求,但如果用戶選擇跳過調用權限,下次再使用手機APP時,依舊會彈出調用權限的提示,反復提示直到用戶同意調用權限為止?!?5〕這種近乎于霸王條款式的權限設定,特別是對于定位系統(tǒng)的權限要求,使得消費者受縛于互聯網平臺,自身活動空間不被干擾的隱私權利受到威脅。除了對APP使用者數據的收集之外,互聯網企業(yè)也會收集非用戶資料,例如,Facebook總裁扎克伯格在接受美國國會聽證會質詢時,首次公開承認Facebook平臺會以安全理由收集未注冊的非用戶者的相關信息?!?6〕不僅如此,頻頻發(fā)生的互聯網企業(yè)之間進行的赤裸裸的數據交易現象,更使得數據收集的合法性變得脆弱。此外,大型互聯網平臺還可以通過隱秘方式變相處理手中的信息資源,最典型的就是企業(yè)之間的數據共享合作和并購行為,當諸如阿里巴巴與高德公司合作建立海量的基礎地圖和生活服務數據庫、美團公司正式將摩拜單車收歸門下等新聞接踵而來時,也意味著消費者在A平臺所留下的數據信息可以不經過權利主體的認可與授權轉移到B公司。因此,互聯網平臺通過以上種種直接或變通的方式收集消費者信息數據的同時,也給公民隱私權帶來了顯著的威脅。

    (二)互聯網平臺在數據使用過程中對消費者隱私權的威脅

    在大數據時代,除了給消費者造成直接身心受害的侵權行為之外,互聯網企業(yè)在數據使用過程中還能夠悄無聲息地支配或侵害消費者決策隱私權利。這里所說的決策隱私權是指個人在作出涉及教育、健康、職業(yè)、婚姻、政治觀點等方面的選擇與決定時擁有免于他人干預的權益。〔37〕在現實生活中,每當我們享受網上購物、時政閱覽、信息通訊、搜索引擎、電子交易等網絡服務之后,都會間接性表達了自身的某些消費需求,進而被互聯網平臺識別并加以利用,出現很多與之相關的廣告推送,這些廣告作為互聯網企業(yè)精準營銷的一種手段也許能為消費者提供個性化產品信息,但是,更多的往往表現為互聯網企業(yè)因逐利性推送虛假或誤導性的信息干擾消費者決策,導致對消費者隱私權利的間接侵害,其中,飽受爭議的就是互聯網企業(yè)的競價排名和推送虛假廣告的不正當行為。最典型的案例莫過于2016年發(fā)生的魏則西事件,此次事件直指詬病已久的百度競價排名的盈利模式,百度公司通過競價排名的方式將沒有與斯坦福大學醫(yī)院合作且不具備相應技術的北京武警二院“高捧”為“放心醫(yī)院”,網民魏則西正是在這種誤導性的醫(yī)療信息的影響下,接受了不當治療并最終病逝?!?8〕最近,今日頭條也出現了類似現象,為了規(guī)避一線城市嚴厲的監(jiān)管措施,他們有選擇性地向二三線城市推送虛假廣告,給消費者的決策隱私權造成了威脅。在歐美國家,一些互聯網商業(yè)機構憑借自身的數據掌控能力試圖影響國家政治,如通過信息技術了解選民的偏好,在特定人群中傳播、曝光很多虛假信息,潛移默化地影響人們的價值判斷,進而支配選民的政治行為,使得公民在信息的狂轟濫炸下失去自身的判斷,最終導致整個社會秩序被資本所驅動。近期曝光的有關Facebook公司泄露用戶信息的事件,甚至涉嫌操縱美國大選,劍橋分析公司在2016年美國大選期間運用人工智能技術針對潛在選民的政治傾向、情緒表達以及易受影響的程度等特征投放付費政治廣告,試圖影響總統(tǒng)選舉的結果。此外,英國脫歐公投結果在此次“隱私門”中也遭到了公眾的質疑。

    (三)互聯網平臺在數據安全保護階段對消費者隱私權的威脅

    當互聯網平臺收集了數據,保護數據安全就是其重要責任。正如隱私權控制論學說所強調的,公民個人擁有自主決定他人獲取或披露與自身相關信息的范圍與場合的權利。然而,在網絡空間中,個人只是在自愿公開信息的環(huán)節(jié)擁有處分權,網絡供應商可以通過隱私權保護“告知條款”以及信息公開“同意協議”的方式,〔39〕借助互聯網技術傳播速度快、傳播范圍廣、傳播渠道多的特有屬性,將消費者信息永久記載在網絡存儲空間之中,使得信息的傳播、挖掘、分析等環(huán)節(jié)的處分權基本超出了消費者的控制范圍,從而將權利主體的數據處分權轉移到自己手中。在失去數據處分權之后,第三方可以肆意傳播利用消費者置于互聯網之中的相關信息,甚至不用承擔侵權責任?!?0〕例如,2017年曝光的現金貸平臺向數據公司購買所謂的“數據產品”,再通過爬蟲技術獲得用戶在移動通信運營商、淘寶等知名電商網站、微信支付寶等社交網絡上的行為軌跡,以及包括央行征信報告、水電煤使用等在內的生活信息,作為平臺放貸前評估用戶風險的“風控奇招”?!?1〕此外,網絡虛擬空間的信息泄露、謠言傳播等行為也會威脅到消費者的身心安全,特別是電信詐騙、電話騷擾、信息恐嚇等方式在現實生活中已經給普通民眾造成巨大干擾和慘痛代價。更有甚者,互聯網企業(yè)利用大數據反向識別技術,能夠挖掘和揭露消費者個人不愿意向他人展示的諸如悲傷、痛苦、肉體創(chuàng)傷、精神創(chuàng)傷等生理或情感層面的敏感信息,一旦這些信息被披露,勢必會引起人們的尷尬和羞恥感,降低個人的人格尊嚴,也會給受害人帶來巨大的心理壓力和精神創(chuàng)傷?!?2〕多年前,美國塔吉特公司通過“懷孕指數”發(fā)現一名在校女生妊娠的隱私信息造成糾紛,〔43〕就是互聯網企業(yè)披露個人敏感信息影響公民正常生活的最好例證。由于網絡信息存儲的長期存在,這種心理干擾具有長期性、不確定性,更加劇了互聯網企業(yè)泄露消費者敏感信息所帶來的社會風險。

    四、互聯網時代公民隱私權保障不力的原因分析

    如上所述,互聯網平臺尤其是網絡巨頭在收集、使用和保護消費者數據的過程中,都或多或少存在侵犯消費者隱私的沖動,公民隱私權無時無地都面臨遭受侵害的風險。究其原因,我們認為,互聯網企業(yè)發(fā)展和擴張與公民隱私權保護之間的沖突,主要根源于互聯網企業(yè)在收集數據、使用數據和保護數據三個階段存在的緊張,即數據收集階段互聯網服務功能與信息供給之間的張力、數據使用階段強大掌控者與弱小社會個體之間的張力、數據保護階段立法規(guī)制滯后性與信息技術發(fā)展迅猛之間的張力。

    (一)數據收集過程中互聯網服務功能與信息供給之間的張力

    對于普通消費者而言,最大的效用需求是享受互聯網企業(yè)提供的便利化服務,比如,在微信朋友圈、QQ空間轉發(fā)動態(tài),在淘寶、京東購物,在百度、搜狗信息咨詢,利用網易新聞、今日頭條閱讀時事等等。但是,這些普通行為都會在互聯網平臺上留下痕跡,會被動地為互聯網企業(yè)提供了各種數據信息,這些數據將會成為互聯網企業(yè)賴以發(fā)展的重要資源,能夠為企業(yè)產品研發(fā)、定制和精準營銷提供關鍵的數據基礎。〔44〕因此,對于互聯網企業(yè)來說,通過對海量信息的掌握,利用大數據和云計算技術,將這些看似零散的碎片化信息進行加工處理并加以分析,就能夠挖掘出消費者的消費偏好,從而進行個性化產品的定制。如果互聯網企業(yè)的市場行為就此止步,那么用戶隱私權被侵犯的可能性會大大降低,因為用戶的隱私權是否被破壞并不完全取決于是否透露自己的個人信息, 而取決于信息在被透露給其他人或機構之后,被用作何種場合、何種用途以及信息的使用方式,〔45〕只要企業(yè)保護消費者信息安全,那么消費者和企業(yè)都能實現共贏。

    然而,一旦商業(yè)機構的信息平臺不受法律規(guī)制、道德約束和技術控制,在強大的商業(yè)動機誘惑面前,企業(yè)往往會不惜冒著風險,擅自把消費者的相關數據用于其他用途或出售給第三方,通過濫用數據資源謀取高額的利潤,這就很難保證公民個人信息不被泄露,公民個人隱私權也非常容易被侵害。最近,美國社交平臺公司Facebook就面臨著這樣的危機,在未經許可的情況下將用戶個人信息泄露給第三方即劍橋分析公司,以用于非正當目的,并且允許第三方APP開發(fā)者提取用戶的個人信息,使得互聯網空間中的個人隱私權成為了國際笑話?!?6〕

    由此可知,消費者為了獲取便利化服務自愿提供私人信息,但隨著個人相關信息被存儲在網絡之中,消費者辨別個人信息將會被用于何種用途變得越來越困難,當公眾無法了解個人數據的最終使用情況,就為互聯網企業(yè)有意識地收集和分析個人信息數據提供了機會,公民隱私權也面臨著被侵害的風險,從而陷入互聯網服務與數據收集的緊張關系之中。

    (二)數據使用過程中大數據掌控者與弱小社會個體之間的張力

    如今,大部分互聯網企業(yè),特別是以BAT為代表的商業(yè)巨頭,往往都掌握了大數據、云計算以及人工智能應用技術,具備收集、處理、分析消費者個人信息數據的能力,成為信息時代大數據的實際掌控者。這種強大的信息庫往往會催生集權效應,當企業(yè)與消費者之間未建立可信的信息倫理規(guī)范以保證雙方的利益平衡時,大數據掌控者能夠毫不遮掩地植入商家的特定利益需求,進而隱秘地、不受控制地利用個人數據,〔47〕使得社會可能陷入喬治·奧威爾在《1984》中所描述的“老大哥在看著你”的全面侵掠個人隱私權的生存狀態(tài),〔48〕有所不同的是在這個大數據時代的權力來源不再局限于傳統(tǒng)的政府公權力,更包含一些互聯網商業(yè)機構的數據掌控權力。

    此外,互聯網技術的門檻效益勢必會強化一部分人的能力,造成信息資源配置的不對稱、不平等的現象,〔49〕在互聯網企業(yè)海量數據和技術壁壘的壓倒性優(yōu)勢下,互聯網平臺企業(yè)能夠主導輿論以及消費者的各種偏好,使得公民在隱私權被侵犯的時候,一直處于不利地位,甚至無法發(fā)聲,普通消費者幾乎沒有力量來抵抗,越來越多的人成為無法維護自身隱私和自由的弱者?!?0〕例如,互聯網企業(yè)可能為了掩飾自己的行為或其他影響自身權益的事證,可以通過對掌控的信息資源加以利用、銷毀、篡改的方式,讓消費者難以追訴責任和主張權利?!?1〕因此,互聯網企業(yè)作為數據掌控者與消費者作為弱小的社會個體之間的張力,一定程度上會帶來“電子歧視”和“數字鴻溝”效應,使得越來越少的人享有越來越大的自由,越來越多的人受到越來越強的必然性的束縛?!?2〕

    (三)數據保護過程中立法規(guī)制滯后性與信息技術迅猛發(fā)展的張力

    在任何一個時代,法律的調整與完善都是基于對現實社會經濟生活的回應,通過不斷的修改、補充來填補空白、漏洞,是一個循環(huán)推進的緩慢演變過程。在早期工業(yè)文明時期,公民隱私權保護的相關法律的被動調整進程能夠適應當時公民個人自由發(fā)展的需要。但是,在互聯網產業(yè)蓬勃發(fā)展的信息文明和人工智能時代,程序繁復、耗時冗長的立法程序顯然遠遠滯后于互聯網技術“摩爾定律”〔53〕的更新換代效應。高科技的更新周期大約在兩年左右,甚至不超過兩年,而在法律制定、頒布、執(zhí)行的過程中,兩年時間顯得較短,即使對于事關公民隱私權侵犯的相關糾紛案件,其訴訟周期往往也比較長,經過曠日持久的審理之后,又會陷入新的一輪技術風波之中,使得原有的案件可能已經失去了價值?!?4〕特別是對于我們這個非判例法的國家,法律制定者只有發(fā)現問題才去解決問題,法律的制定實施具有相對穩(wěn)定性,在互聯網企業(yè)飛速發(fā)展過程中,難以保證對公民隱私權事項進行一種相對靜態(tài)的保護。就像任甲玉與百度公司被遺忘權案以及百度在BBS貼吧惡意攻擊、誣陷等侵犯他人隱私權的案件尚未結束,又出現了百度公司利用新技術侵害公民隱私權的案例,越界收集、過度獲取公民個人隱私信息,各種侵害方式和手段也層出不窮,使得現有的法律體系防不勝防。但法律又不能對信息技術創(chuàng)新過于限制,不然會導致部分有助于社會進步的科技創(chuàng)新夭折,因而技術發(fā)展與法律滯后的張力始終存在,必然嚴重制約互聯網行業(yè)的管制效果,由此而產生的侵權風險越來越復雜,幾乎遠遠超出了我們的想象。

    五、限制互聯網企業(yè)巨頭網絡壟斷和市場擴張,保障信息社會的公民隱私權

    互聯網企業(yè)巨頭的興起和市場權力的擴張,一定程度上是建立在消費者個人信息數據不斷被獲取的基礎之上。在如何有效規(guī)范和防范互聯網技術對人類自由權利侵害的整體性法律框架尚未成熟的當下,網絡上的數據收集、使用和數據安全方面存在的張力,會進一步擴大互聯網企業(yè)巨頭的網絡壟斷和市場擴張與公民隱私權保護之間的沖突。因此,我們在為信息時代的到來而歡呼之際,更需要警惕“數字利維坦”對公民隱私權的侵害,對人類自由空間的剝奪,同時應探討和提出應對之道,對互聯網技術和信息產業(yè)高速發(fā)展帶來的商業(yè)機構強大的數據控制力作出必要的規(guī)范和制衡,限制互聯網企業(yè)巨頭的網絡壟斷和市場擴張,保障公民的隱私權利,達成信息技術和互聯網經濟發(fā)展與個人隱私權保護的平衡。

    從當前信息產業(yè)發(fā)展狀況來看,在大數據、云計算、人工智能技術和互聯網經濟高速發(fā)展過程中呈現的寡頭壟斷格局,對公民隱私權的保護和法律監(jiān)管能力提出了嚴峻挑戰(zhàn)。當下亟需全國人大啟動網絡立法和修法進程,制定并完善相關法律,從法律層面嚴格規(guī)范互聯網巨頭的商業(yè)行為,結合公民個人信息隱私保護相關法律和反壟斷法的有關內容,將大型互聯網平臺,特別是BAT這樣具有壟斷地位的互聯網企業(yè)巨頭納入國家法律監(jiān)管框架之內,規(guī)范并限制互聯網平臺的網絡壟斷和市場擴張,保護消費者的隱私權利。在國家立法規(guī)范、限制和防范互聯網企業(yè)巨頭侵權風險的基礎上,擁有地方立法權的各級政府還應采取以下行政和市場監(jiān)管措施,規(guī)范互聯網企業(yè)在數據收集、使用、保護等三個方面的市場行為,把互聯網經濟發(fā)展和企業(yè)擴張對公民隱私權利侵害的風險降至可控的范圍內,實現互聯網企業(yè)發(fā)展與公民隱私權保護的平衡。

    第一,擴充數據收集過程中用戶主體的權利范圍。我國現有的《消費者權益保護法》和《網絡安全法》關于用戶數據收集的相關法律條文,大多是基于同意規(guī)則而制定,且沒有具體細化消費者作為數據主體地位的權利范圍,由于企業(yè)與用戶雙方信息掌控能力的不平等,使得這種流于形式的知情同意規(guī)則往往成為互聯網平臺后續(xù)可能涉及侵權行為的“擋箭牌”?!?5〕而消費者數據權利范圍作為影響公民隱私權保護效果的重要變量,數據主體權利的補充和完善都會起著難以替代的作用。因此,在數據收集過程中,需要基于原有用戶數據權利保護不斷細化和完善數據主體的權利保護范圍。例如,我國可以結合實際情況借鑒歐盟最新制定的《統(tǒng)一數據保護條例》,強化或賦予現有數據主體的知情權、訪問權、拒絕權和被遺忘權等相應權利,也就是說,通過建立包括處理目的、數據類別、數據接收者情況說明、儲存期限等內容的相關數據收集清單以強化用戶信息知情權;通過簡化消費者訪問自身信息數據的程序保障數據主體的訪問權;通過更具操作性的方式明確數據主體基于自身特殊情況隨時拒絕使用個人信息的情形以補充消費者的拒絕權;通過授予數據主體更正和清除與自身有關的錯誤信息的權力以維護數據收集過程中數據主體的更正權和被遺忘權。此外,消費者對隱私權保護的知曉程度、對個人數據被收集的關注程度等隱私意識的強弱也具有巨大影響力,公眾追求安全保障的網絡信息服務成為互聯網企業(yè)市場競爭的關鍵要素,也能從側面激發(fā)互聯網企業(yè)開發(fā)更高標準的隱私保密系統(tǒng)以滿足消費者的需求,讓企業(yè)自覺采納以“告知”和“選擇”為基礎的合理的隱私政策?!?6〕

    因此,在法律層面強化數據主體權利的同時,還要喚醒廣大社會公眾在數據收集過程中的信息隱私權保護意識,即用戶在使用網絡軟件前需要樹立起明確的信息隱私觀念。一方面,當互聯網企業(yè)以非法要求獲取和使用公民個人信息時,能夠主動拒絕其不合理要求和權限設定,構筑起防止網絡平臺侵害個人信息隱私的第一道籬笆;另一方面,在互聯網平臺非法或違背自身意愿收集相關數據資料和敏感信息時,公民也需要勇于發(fā)聲、勇于維權,及時向有關政府部門反映,甚至斥之于法律機構?!?7〕通過擴充數據主體的權利范圍,激發(fā)用戶自身數據安全保護敏感度,從權利主體的角度防止公民隱私權被侵害。

    第二,加強互聯網平臺數據使用的內外監(jiān)管。從當前我國對消費者隱私保護的政策措施來看,政府層面的外部規(guī)制還比較弱,互聯網平臺自身的行業(yè)規(guī)范也相對缺失。因此,未來亟需在消費者信息隱私保護的規(guī)制架構之中加強互聯網平臺數據使用的內外監(jiān)管。一方面,從政府層面建立具有威懾力的外部監(jiān)管機制。在我國現行體制下,可以探索設立類似于數據監(jiān)督管理局的執(zhí)法機構,在整合市場監(jiān)管、網信辦、公安局等部門數據執(zhí)法相關職能的同時,保證監(jiān)管機構的獨立性、透明性、合法性,〔58〕負責對互聯網企業(yè)使用消費者信息數據進行常態(tài)化、機制化的調查、評估以及風險警告,并且定期向社會公眾發(fā)布互聯網平臺數據使用狀況的年度報告。另一方面,強化互聯網企業(yè)及其從業(yè)者保護用戶隱私的內部治理規(guī)范。首先,在用戶數據日益掌握在網絡供應商手中的背景下,通過社會輿論和行業(yè)規(guī)則促使互聯網平臺履行及時更新、修正、處理數據并通知消費者相關情況的義務和責任,確保公民隱私保護從消費者權利規(guī)范走向網絡平臺行為規(guī)范。在消費者數據保護過程中更加突出互聯網平臺作為信息控制者的社會責任和法定義務,并通過建立企業(yè)數據保護官的強制性措施,完善互聯網平臺的內部治理機制,從而調動信息控制者參與消費者信息安全保護的積極性?!?9〕其次,發(fā)揮互聯網行業(yè)組織在互聯網技術應用規(guī)范方面的作用,建立互聯網平臺自律規(guī)范以保護消費者隱私權。其中,互聯網行業(yè)自律組織在制定隱私政策時應該包括三個層次:一是能夠清楚地羅列隱私政策,讓互聯網公司能夠明確自身收集數據的合法內容、正當手段以及數據用途的合理范疇;二是網絡供應商將收集到的可識別的個人數據向其他網站或組織出售之前必須獲得授權;三是保障消費者檢查和更正敏感數據的權利。〔60〕如此,在法律規(guī)制滯后于信息技術發(fā)展,很多新形式的隱私侵權行為難以找到相關法律規(guī)定之時,可以通過有效發(fā)揮行業(yè)自律的靈活性優(yōu)勢以填補網絡平臺侵權的漏洞。

    第三,構建數據安全保護的技術與制度協同機制。就現實狀況而言,消費者隱私保護既是一個技術性問題,也是一個制度性問題,技術防范與制度規(guī)制是保護公民隱私權的“兩只手”,缺一不可。然而,由于政府部門的“公共性”和私人部門的“競爭逐利性”的組織屬性差異,政府部門通常更側重于法律法規(guī)等制度性措施保護公民隱私權,商業(yè)機構則偏向于技術性措施以維護消費者數據安全,“兩只手”在現實生活中并未形成有效的整合作用和協同效應。因此,未來我們亟待建立健全技術與制度協同運作的隱私保護機制。一方面,需要加大保護個人隱私的技術研發(fā),通過網絡數據安全防護技術的不斷創(chuàng)新以制約大數據技術的負面效應,憑借用戶匿名程序、數據加密傳輸、分布式訪問控制等技術保護手段應對互聯網企業(yè)對公民隱私權的威脅,從技術層面保護消費者數據信息安全,類似于一些互聯網科技公司對騷擾短信和詐騙電話的提示攔截,就是技術性防范思路的實際應用。另一方面,需要完善消費者隱私保護的法規(guī)政策體系。首先,借鑒歐盟《統(tǒng)一數據保護條例》的相關經驗,從國家整體的法律制度層面明確信息時代隱私權的權利屬性、內容范疇、維權方式以及商業(yè)機構非法收集、濫用、侵害公民隱私信息的法律責任和賠償原則,〔61〕通過整合《消費者權益保護法》《網絡安全法》《刑法》等相關法律對個人數據信息保護的措施,進一步強化網絡隱私保護的專門立法,出臺類似于個人信息保護法的法律文件及配套條例,解決當前互聯網發(fā)展過程中消費者隱私權保護存在的法律內容碎片化、侵權途徑間接化、維權渠道脆弱化、司法救濟薄弱化等問題。其次,在公民隱私權保護的整體性制度框架下,逐步細化網絡侵權的監(jiān)管措施,補充或增加特定領域的特定主體隱私保護的原則和辦法,特別是對一些互聯網企業(yè)擦邊球式的侵權行為進行更具針對性的專項治理,通過常規(guī)化法律法規(guī)建設和專項化網絡治理措施給公民隱私權和網絡通信自由加上“雙保險”。通過技術防范與制度規(guī)制相結合的方式,最大限度地發(fā)揮政府部門和企業(yè)機構維護消費者隱私權的合力。

    六、結 語

    移動互聯網、大數據、云計算和人工智能等信息技術的飛速發(fā)展,互聯網平臺企業(yè)巨頭的崛起為消費者的日常生活提供了便捷舒適的網絡服務,從根本上影響甚至改變了當代人的生活方式、交往方式和行為習慣。與此同時,移動互聯網時代和信息社會的公民隱私權被侵犯的風險顯著增加,公民的自由空間也被空前壓縮。近年來崛起的互聯網平臺企業(yè),在大數據技術精準營銷和自利性市場行為的驅動之下,無形中給消費者戴上了“電子枷鎖”,個人數據成了普通公眾享受快捷便利的網絡服務的代價。在移動互聯網和信息技術高速發(fā)展的信息社會,如何控制“數字利維坦”的網絡權力和市場擴張,有效保障公民的隱私權,是世界各國面臨的世紀性難題。需要指出的是,信息時代公民隱私權的維護和保障,是一項涉及到信息技術、公民隱私保護意識、行業(yè)自律和法律規(guī)范等諸多層面的系統(tǒng)工程,并非一朝一夕所能解決。隨著智能革命和文明社會的發(fā)展,未來需要從長遠的角度整合法律規(guī)范、政府的制度性監(jiān)管和企業(yè)技術性防范的合力,在強化政府監(jiān)管的同時,加強互聯網行業(yè)自律并激活公民的自我保護意識,對互聯網企業(yè)巨頭的網絡壟斷權力加以全方位的限制、規(guī)范和監(jiān)控,限制并逐步消解“數字利維坦”企業(yè)的網絡壟斷,遏制互聯網平臺巨頭的無限制擴張,防范壟斷和擴張給公民隱私權帶來的威脅和風險,有效保障信息時代的公民隱私權。

    注釋:

    〔1〕〔2〕中國互聯網絡信息中心:《中國互聯網絡發(fā)展狀況統(tǒng)計報告》,2018年1月31日。

    〔3〕相關資料參見中華網、中商情報網、鳳凰財經、搜狐新聞、新華網等國內主流媒體公開報道;孫寶文、荊文君、何毅:《互聯網行業(yè)反壟斷管制必要性的再判斷》,《經濟學動態(tài)》2017年第7期。

    〔4〕杜峰:《網絡隱私門頻頻引爆輿論 信息安全保護焦慮漸增》,《通信信息報》2018年1月10日。

    〔5〕方海平、王俊丹、包慧:《支付寶年度賬單捆綁推廣芝麻信用遭質疑,個人隱私保護規(guī)范待解》,《21世紀經濟報道》2018 年1月5日。

    〔6〕薛慶元:《百度涉嫌侵害消費者個人信息安全被起訴 法院已立案》,《中國消費者報》2018年1月5日。

    〔7〕吳軍:《智能時代:大數據與智能革命重新定義未來》,北京:中信出版集團,2016年。

    〔8〕相關研究成果請參見S Subashini,V Kavitha,“A Survey on Security Issues in Service Delivery Models of Cloud Computing” , Journal of Network and Computer Applications,2011,34(1),pp.1-11;Samson Yoseph Esayas,“A Walk in to the Cloud and Cloudy It Remains: The Challenges and Prospects of‘Processing’and‘Transferring’Personal Data”, Computer Law & Security Review,2012,28(3),pp.662-678;Xu Heng,“A Value Sensitive Design Investigation of Privacy Enhancing Tools in Web Browsers”, Decision Support Systems,2012,54(1),pp.424-433.

    〔9〕JP Yong,SW Campbell,N Kwak,“Affect,Cognition and Reward: Predictors of Privacy Protection online”, Computers in Human Behavior,2012,28(3),pp.1019-1027.

    〔10〕W Heirman, M Walrave,K Ponnet,“Predicting Adolescents’Disclosure of Personal Information in Exchange for Commercial Incentives:An Application of an Extended Theory of Planned Behavior”, Cyberpsychology,Behavior,and Social Networking,2013,16(2),pp.81-87.

    〔11〕A Beldad,MD Jong,M Steehouder,“I Trust not Therefore It must be Risky:Determinants of the Perceived Risks of Disclosing Personal Data for E-government Transactions”, Computers in Human Behavior,2011,27(6),pp.2233-2242.

    〔12〕JJV Chen,AH Huang,A Muzzerall,“Privacy Concerns and Expectation of Control”, Human System Management,2012,31(2),pp.123-131.

    〔13〕KS Schwaig,AH Segars,V Grover,KD Fiedler,“A Model of Consumers’Perception of the Invasion of Information Privacy”, Information&Management,2013,50(1),pp.1-12.

    〔14〕J Herranz,J Nin,M Solé,“More Hybrid and Secure Protection of Statistical Data Sets”, IEEE Transactions on Dependable and Secure Computing,2012,9(5),pp.727-740.

    〔15〕G Zhang,Y Yang,J Chen,“A Historical Probability based Noise Generation Strategy for Privacy Protection in Cloud Computing”, Journal of Computer and System Sciences,2012,78(5),pp.1374-1381.

    〔16〕Xu Heng,“A Value Sensitive Design Investigation of Privacy Enhancing Tools in Web Browsers”, Decision Support Systems,2012,54(1),pp.424-433.

    〔17〕相關研究成果請參見M Yuan,L Chen,PS Yu,T Yu,“Protecting Sensitive Labels in Social Network Data Anonymization”, IEEE Transactions on Knowledge and Data Engineering,2013,25(3),pp.633-647.

    〔18〕C Wang,SSM Chow,Q Wang,K Ren,W Lou,“Privacy-Preserving Public Auditing for Secure Cloud Storage”, IEEE Transactions on Computers,2013,62(2),pp.362-375.

    〔19〕M Desai,M Drobac,M Gates,G Louer,“The FTC privacy Report and the White House Consumer Privacy Bill of Rights:Policymaking Trends and What You Need to Know in 2013”, Mobile Marketing Association,2012,7(3),pp.66-81.

    〔20〕Alexander Dix,“Built-in Privacy——No Panacea,but a Necessary Condition for Effective Privacy Protection”, Identity In the Information Society,2010,3(2),pp.257-265.

    〔21〕王銳:《云產業(yè)發(fā)展與消費者隱私權保護的平衡機制研究——基于成本—收益視角》,《商業(yè)經濟與管理》2014年第3期。

    〔22〕張茂月:《大數據時代公民個人信息數據面臨的風險及應對》,《情報理論與實踐》2015年第6期。

    〔23〕〔50〕鄭戈:《在鼓勵創(chuàng)新與保護人權之間——法律如何回應大數據技術革新的挑戰(zhàn)》,《探索與爭鳴》2016年第7期。

    〔24〕相關研究成果請參見謝遠揚:《信息論視角下個人信息的價值——兼對隱私權保護模式的檢討》,《清華法學》2015年第3期;金耀:《消費者個人信息保護規(guī)則之檢討與重塑——以隱私控制理論為基礎》,《浙江社會科學》2017年第11期。

    〔25〕方興東、張靜、劉國輝:《谷歌產品對用戶個人隱私的影響——表現、趨勢與對策》,《新聞界》2014年第11期。

    〔26〕Samuel Warren & Louis Brandeis,“The Right to Privacy”, Harvard Law Review,1890,4(5),December 15.

    〔27〕William L.Prosser,“Privacy”, California Law Review,1960,48(3),p.389.

    〔28〕〔60〕〔美〕理查德·斯皮內洛:《鐵籠還是烏托邦——網絡空間的道德與法律》,李倫等譯,北京:北京大學出版社,2007年,第143、148頁。

    〔29〕陳璞:《大數據、隱私權與自由》,《中共中央黨校學報》2016年第5期。

    〔30〕〔37〕段偉文、紀長霖:《網絡與大數據時代的隱私權》,《科學與社會》2014年第2期。

    〔31〕Jerry Kang,“Information Privacy in Cyberspace Transactions”, Stan L Rev,1998(50).

    〔32〕Charles Fried, “Privacy”, Yale L.J,1968(77).

    〔33〕Himma,Kenneth E.,Tavani,Herman T.(eds.) , The Handbook of Information and Computer Ethics,John Wiley & Sons,Inc.2008,pp.135-156.

    〔34〕徐明:《大數據時代的隱私危機及其侵權法應對》,《中國法學》2017年第1期。

    〔35〕趙思茵、李靜:《APP“瘋狂”調用權限背后 用戶隱私或暴露無遺》,《中國經營報》2017年3月18日。

    〔36〕《扎克伯格承認面簿也收集非用戶資料》,《聯合早報》2018年4月13日。

    〔38〕房雅楠:《百度該取消醫(yī)療廣告競價排名嗎?》,《中國商報》2016年5月10日。

    〔39〕〔49〕周佳念:《信息技術的發(fā)展與隱私權的保護》,《法商研究》2003年第1期。

    〔40〕張融:《試探互聯網時代的隱私權保護路徑》,《電子政務》2017年第9期。

    〔41〕李玲:《個人信息買賣黑鏈:淘寶25頁和京東3年數據僅需1元》,http://tech.sina.com.cn/i/2017-11-23/doc-ifypacti7108636.shtml。

    〔42〕Anital. Allen,“Lying to Protect Privacy”, VILL.L.Rev,1999(2),pp.161-177.

    〔43〕Somini Sengupta,“Risk and Riches in User Data for Facebook”, The New York Times, 2012-12-16.

    〔44〕王君暉:《不要讓隱私在網絡時代“裸奔”》,《證券時報》2018年1月6日。

    〔45〕丁楠、潘有能:《數據挖掘中的隱私保護:法律與技術》,《情報理論與實踐》2007年第6期。

    〔46〕孫興杰:《Facebook泄密門:大數據、班農主義與“通俄門”》,http://tech.sina.com.cn/i/2018-03-25/doc-ifysnevm8758676.shtml。

    〔47〕〔52〕鄭戈:《人工智能與法律的未來》,《探索與爭鳴》2017年第10期。

    〔48〕〔英〕喬治·奧威爾:《1984》,劉紹銘譯,北京:北京十月文藝出版社,2013年。

    〔51〕高波:《大數據:電子數據證據的挑戰(zhàn)與機遇》,《重慶大學學報(社會科學版)》2014年第3期。

    〔53〕孫泉:《解讀摩爾定律》,《集成電路應用》2004年第8期。

    〔54〕吳志攀:《“互聯網+”的興起與法律的滯后性》,《國家行政學院學報》2015年第3期。

    〔55〕范為:《大數據時代個人信息保護的路徑重構》,《環(huán)球法律評論》2016年第5期。

    〔56〕王菲:《互聯網精準營銷的隱私權保護:法律、市場、技術》,《國際新聞界》2011年第12期。

    〔57〕安寶洋、翁建定:《大數據時代網絡信息的倫理缺失及應對策略》,《自然辯證法研究》2015年第12期。

    〔58〕周漢華:《探索激勵相容的個人數據治理之道——中國個人信息保護法的立法方向》,《法學研究》2018年第2期。

    〔59〕Miguel Recio,“Data Protection Officer:The Key Figure to Ensure Data Protection and Accountability”, Eur.Data Prot.L.Rev,2017,p.114.

    〔61〕王麗萍、劉鵬:《發(fā)展與挑戰(zhàn):信息社會中的隱私權保護》,《山東大學學報(哲學社會科學版)》2009年第3期。

    猜你喜歡
    隱私權公民消費者
    論公民美育
    納稅人隱私權的確立、限制與保護
    消費者網上購物六注意
    媽媽,請把隱私權還給我
    學生天地(2019年29期)2019-08-25 08:52:12
    谷歌尊重雕像“隱私權”的啟示
    華人時刊(2018年17期)2018-11-19 00:41:21
    知識付費消費者
    悄悄偷走消費者的創(chuàng)意
    隱私保護也是公民一種“獲得感”
    悄悄偷走消費者的創(chuàng)意
    十二公民
    電影(2015年4期)2015-11-29 07:32:17
    69精品国产乱码久久久| 法律面前人人平等表现在哪些方面| 我的亚洲天堂| 黄色 视频免费看| 精品一品国产午夜福利视频| 欧美精品人与动牲交sv欧美| 一级片'在线观看视频| 在线观看舔阴道视频| 一区二区三区激情视频| 中文字幕人妻丝袜一区二区| 桃红色精品国产亚洲av| 淫妇啪啪啪对白视频| 亚洲五月色婷婷综合| 精品久久久久久,| 91成年电影在线观看| 午夜福利在线观看吧| 777米奇影视久久| 香蕉久久夜色| 色在线成人网| 日本a在线网址| e午夜精品久久久久久久| 成人精品一区二区免费| 自线自在国产av| 亚洲精品美女久久av网站| 人成视频在线观看免费观看| 国内久久婷婷六月综合欲色啪| 757午夜福利合集在线观看| 男人舔女人的私密视频| 大陆偷拍与自拍| 日本一区二区免费在线视频| 亚洲欧美一区二区三区久久| 亚洲国产毛片av蜜桃av| 亚洲国产精品一区二区三区在线| 国产成人啪精品午夜网站| 亚洲va日本ⅴa欧美va伊人久久| 91字幕亚洲| 19禁男女啪啪无遮挡网站| 国产黄色免费在线视频| 亚洲情色 制服丝袜| 在线观看66精品国产| 日韩欧美一区视频在线观看| 99riav亚洲国产免费| svipshipincom国产片| 欧美激情久久久久久爽电影 | 精品第一国产精品| 亚洲欧美精品综合一区二区三区| 免费在线观看影片大全网站| 丝袜在线中文字幕| 在线观看一区二区三区激情| 黄色视频不卡| 大香蕉久久成人网| 十分钟在线观看高清视频www| 黑人欧美特级aaaaaa片| 黑人操中国人逼视频| 亚洲三区欧美一区| 国产免费av片在线观看野外av| 亚洲九九香蕉| 18禁美女被吸乳视频| bbb黄色大片| av一本久久久久| 欧美精品啪啪一区二区三区| 国产无遮挡羞羞视频在线观看| 日韩欧美国产一区二区入口| 亚洲国产精品sss在线观看 | 捣出白浆h1v1| 国产成人av教育| 亚洲精品av麻豆狂野| 国产精品综合久久久久久久免费 | 中文亚洲av片在线观看爽 | 一区二区三区国产精品乱码| 丝瓜视频免费看黄片| 美女高潮到喷水免费观看| 欧美日韩福利视频一区二区| 咕卡用的链子| 日韩精品免费视频一区二区三区| 一级片免费观看大全| 熟女少妇亚洲综合色aaa.| 国产精品久久久久成人av| 免费黄频网站在线观看国产| 国产精品久久久久久人妻精品电影| 成人国语在线视频| av免费在线观看网站| 国产av一区二区精品久久| 亚洲国产欧美一区二区综合| 国产高清videossex| 欧美成人午夜精品| 国产一卡二卡三卡精品| 99国产综合亚洲精品| 国产日韩欧美亚洲二区| 91国产中文字幕| 黄色 视频免费看| 精品国产国语对白av| 精品少妇久久久久久888优播| 免费在线观看日本一区| 窝窝影院91人妻| 91老司机精品| 高清欧美精品videossex| videos熟女内射| 99国产综合亚洲精品| 狂野欧美激情性xxxx| 天天躁日日躁夜夜躁夜夜| 欧美人与性动交α欧美软件| 欧美日韩国产mv在线观看视频| 老司机深夜福利视频在线观看| 看片在线看免费视频| 国产人伦9x9x在线观看| 黑人操中国人逼视频| 91成人精品电影| 免费观看人在逋| 精品午夜福利视频在线观看一区| 中文亚洲av片在线观看爽 | 日韩欧美在线二视频 | 精品熟女少妇八av免费久了| 精品久久久精品久久久| avwww免费| 国产黄色免费在线视频| 啦啦啦视频在线资源免费观看| 99久久人妻综合| 狠狠婷婷综合久久久久久88av| 人妻久久中文字幕网| 国产乱人伦免费视频| 国产一卡二卡三卡精品| 久久香蕉激情| 午夜福利影视在线免费观看| a级片在线免费高清观看视频| 国产色视频综合| 亚洲色图综合在线观看| 丁香欧美五月| 久久午夜亚洲精品久久| 国产亚洲精品一区二区www | 啦啦啦视频在线资源免费观看| 国产男靠女视频免费网站| 国产成人精品无人区| 黄色丝袜av网址大全| 欧美日韩黄片免| 久久香蕉国产精品| 欧美成人免费av一区二区三区 | 亚洲性夜色夜夜综合| 久久草成人影院| 国产精品免费视频内射| 露出奶头的视频| 亚洲第一欧美日韩一区二区三区| 国产成人欧美| 精品国产乱码久久久久久男人| 欧美中文综合在线视频| 精品国产超薄肉色丝袜足j| 国产三级黄色录像| 91麻豆av在线| 午夜两性在线视频| 精品国产一区二区三区久久久樱花| 精品欧美一区二区三区在线| 飞空精品影院首页| 最近最新中文字幕大全免费视频| 久久青草综合色| 精品亚洲成a人片在线观看| 99国产精品一区二区蜜桃av | 国产欧美亚洲国产| 国产97色在线日韩免费| 国产精品亚洲一级av第二区| 天天添夜夜摸| 久久午夜综合久久蜜桃| 久久久国产欧美日韩av| 母亲3免费完整高清在线观看| 国产aⅴ精品一区二区三区波| 午夜视频精品福利| 一夜夜www| 大片电影免费在线观看免费| 午夜视频精品福利| 亚洲精华国产精华精| 黄色怎么调成土黄色| 国产深夜福利视频在线观看| 视频在线观看一区二区三区| 一区二区三区国产精品乱码| 国产不卡av网站在线观看| 在线观看免费午夜福利视频| 国产精品98久久久久久宅男小说| 老司机影院毛片| 日韩欧美在线二视频 | 亚洲第一欧美日韩一区二区三区| 女人被躁到高潮嗷嗷叫费观| 中文字幕另类日韩欧美亚洲嫩草| 久久青草综合色| 国产一区有黄有色的免费视频| 男女免费视频国产| 91精品国产国语对白视频| 国产在线观看jvid| 99香蕉大伊视频| 99国产精品一区二区三区| 亚洲第一青青草原| 亚洲精品乱久久久久久| 亚洲国产欧美日韩在线播放| 国产精品 国内视频| 国产成人av激情在线播放| 新久久久久国产一级毛片| 最近最新免费中文字幕在线| 男男h啪啪无遮挡| 久久国产精品男人的天堂亚洲| 久久精品亚洲av国产电影网| 91在线观看av| 99国产精品免费福利视频| 久久精品国产99精品国产亚洲性色 | 国产亚洲精品第一综合不卡| 国产免费现黄频在线看| 久久亚洲真实| 老司机午夜福利在线观看视频| 亚洲国产欧美网| 女同久久另类99精品国产91| 欧美在线黄色| 91成年电影在线观看| 一级作爱视频免费观看| 久久热在线av| 侵犯人妻中文字幕一二三四区| 十八禁高潮呻吟视频| 精品亚洲成a人片在线观看| 一进一出好大好爽视频| 1024香蕉在线观看| 国产黄色免费在线视频| 在线播放国产精品三级| 又紧又爽又黄一区二区| av欧美777| 久久亚洲真实| 男女高潮啪啪啪动态图| 亚洲一区中文字幕在线| 精品久久久久久电影网| 99精品在免费线老司机午夜| 午夜视频精品福利| 亚洲av熟女| 丁香六月欧美| 丰满的人妻完整版| 久久草成人影院| 老司机靠b影院| 亚洲av日韩在线播放| 久久青草综合色| 精品一品国产午夜福利视频| 国产精品亚洲av一区麻豆| 亚洲精品一卡2卡三卡4卡5卡| 亚洲第一av免费看| 另类亚洲欧美激情| 精品国产乱码久久久久久男人| 欧美精品人与动牲交sv欧美| 69精品国产乱码久久久| 国内久久婷婷六月综合欲色啪| 黑人操中国人逼视频| 热re99久久精品国产66热6| 男女床上黄色一级片免费看| 久久精品国产亚洲av高清一级| 波多野结衣一区麻豆| 脱女人内裤的视频| 三上悠亚av全集在线观看| 天堂动漫精品| 后天国语完整版免费观看| 9色porny在线观看| 黄网站色视频无遮挡免费观看| 亚洲,欧美精品.| 久久精品亚洲av国产电影网| 9色porny在线观看| 国产精品久久久久久精品古装| 19禁男女啪啪无遮挡网站| 亚洲人成电影免费在线| 在线国产一区二区在线| 涩涩av久久男人的天堂| 黑丝袜美女国产一区| 精品无人区乱码1区二区| 精品少妇久久久久久888优播| 老熟妇仑乱视频hdxx| 美女高潮喷水抽搐中文字幕| 国产精品久久视频播放| 成人国语在线视频| 一本大道久久a久久精品| 免费黄频网站在线观看国产| 少妇裸体淫交视频免费看高清 | 每晚都被弄得嗷嗷叫到高潮| 日韩欧美三级三区| 国产极品粉嫩免费观看在线| 少妇猛男粗大的猛烈进出视频| 国产在线一区二区三区精| 亚洲性夜色夜夜综合| 亚洲一区高清亚洲精品| 久久久久国产精品人妻aⅴ院 | 人妻久久中文字幕网| 久热爱精品视频在线9| 国产有黄有色有爽视频| 91精品国产国语对白视频| a级片在线免费高清观看视频| 欧美成人免费av一区二区三区 | 中文欧美无线码| 美女国产高潮福利片在线看| 51午夜福利影视在线观看| 日日摸夜夜添夜夜添小说| 91麻豆精品激情在线观看国产 | 不卡av一区二区三区| 欧美激情极品国产一区二区三区| 精品少妇久久久久久888优播| 两个人免费观看高清视频| 国产单亲对白刺激| 亚洲美女黄片视频| e午夜精品久久久久久久| 少妇粗大呻吟视频| 69精品国产乱码久久久| 美女视频免费永久观看网站| 久久九九热精品免费| 成年版毛片免费区| 亚洲七黄色美女视频| 国产成人精品久久二区二区免费| 大香蕉久久网| 国产激情欧美一区二区| 亚洲av成人av| 淫妇啪啪啪对白视频| 黄色女人牲交| 人妻久久中文字幕网| 国产野战对白在线观看| 亚洲欧美激情综合另类| 91字幕亚洲| 波多野结衣一区麻豆| 久久香蕉精品热| 99国产精品一区二区蜜桃av | 日韩大码丰满熟妇| 在线观看66精品国产| 亚洲av熟女| 一本大道久久a久久精品| 99热国产这里只有精品6| 激情视频va一区二区三区| 高清黄色对白视频在线免费看| 精品久久久精品久久久| 国内毛片毛片毛片毛片毛片| 亚洲 欧美一区二区三区| 黄片小视频在线播放| 午夜久久久在线观看| 亚洲国产精品sss在线观看 | 欧洲精品卡2卡3卡4卡5卡区| 精品一品国产午夜福利视频| 多毛熟女@视频| 啦啦啦免费观看视频1| 夜夜夜夜夜久久久久| 欧美+亚洲+日韩+国产| 99香蕉大伊视频| 婷婷成人精品国产| 波多野结衣一区麻豆| 久久久精品区二区三区| 国产精品成人在线| 久久婷婷成人综合色麻豆| 桃红色精品国产亚洲av| 精品国产亚洲在线| 午夜精品在线福利| 国产高清视频在线播放一区| 午夜精品在线福利| 一进一出抽搐gif免费好疼 | 欧美最黄视频在线播放免费 | 黄色视频,在线免费观看| 日日摸夜夜添夜夜添小说| 亚洲精品美女久久av网站| 久久人人爽av亚洲精品天堂| 在线免费观看的www视频| 亚洲精品国产色婷婷电影| 国产主播在线观看一区二区| 免费av中文字幕在线| 午夜福利乱码中文字幕| svipshipincom国产片| av欧美777| 高清av免费在线| 午夜福利视频在线观看免费| 久久久国产成人精品二区 | 久久中文字幕人妻熟女| 免费一级毛片在线播放高清视频 | 91大片在线观看| 99热网站在线观看| 久久久久国产精品人妻aⅴ院 | 精品第一国产精品| 村上凉子中文字幕在线| 欧美乱妇无乱码| www日本在线高清视频| 日韩三级视频一区二区三区| 亚洲avbb在线观看| 纯流量卡能插随身wifi吗| 亚洲黑人精品在线| 精品卡一卡二卡四卡免费| 国产不卡av网站在线观看| 性少妇av在线| 亚洲精品在线美女| 免费女性裸体啪啪无遮挡网站| 两个人看的免费小视频| 免费少妇av软件| 欧美日韩一级在线毛片| 两性午夜刺激爽爽歪歪视频在线观看 | 国产精品欧美亚洲77777| 亚洲伊人色综图| 国产色视频综合| av电影中文网址| 日韩视频一区二区在线观看| 一本大道久久a久久精品| 一夜夜www| 岛国在线观看网站| 中国美女看黄片| 亚洲成人免费电影在线观看| 后天国语完整版免费观看| 黄色 视频免费看| 别揉我奶头~嗯~啊~动态视频| 每晚都被弄得嗷嗷叫到高潮| 精品久久久久久电影网| 精品久久久久久,| 精品欧美一区二区三区在线| 日韩欧美一区视频在线观看| 男女高潮啪啪啪动态图| 欧美黑人欧美精品刺激| 91精品国产国语对白视频| 国产精品一区二区在线观看99| 91在线观看av| 高清黄色对白视频在线免费看| 欧美日韩精品网址| 久久性视频一级片| 三上悠亚av全集在线观看| 精品国产一区二区久久| 国产成人系列免费观看| 亚洲国产中文字幕在线视频| 亚洲视频免费观看视频| 高潮久久久久久久久久久不卡| 久久久久精品人妻al黑| 亚洲午夜理论影院| 在线看a的网站| 九色亚洲精品在线播放| 欧美成狂野欧美在线观看| 婷婷成人精品国产| x7x7x7水蜜桃| 国产成人系列免费观看| 男女高潮啪啪啪动态图| 国产欧美日韩精品亚洲av| 真人做人爱边吃奶动态| 欧美日韩乱码在线| 久热爱精品视频在线9| 久久精品亚洲av国产电影网| 伊人久久大香线蕉亚洲五| 99久久精品国产亚洲精品| 日韩成人在线观看一区二区三区| √禁漫天堂资源中文www| 久久天堂一区二区三区四区| 国产精品电影一区二区三区 | 手机成人av网站| 久久精品91无色码中文字幕| 亚洲国产欧美日韩在线播放| 两人在一起打扑克的视频| 亚洲第一av免费看| 91大片在线观看| 99在线人妻在线中文字幕 | 高清黄色对白视频在线免费看| 久久精品91无色码中文字幕| 亚洲精品在线美女| 很黄的视频免费| 免费少妇av软件| 高清在线国产一区| 99re6热这里在线精品视频| 一级毛片高清免费大全| 国产亚洲精品久久久久5区| 手机成人av网站| 男人的好看免费观看在线视频 | 人人妻人人爽人人添夜夜欢视频| 精品高清国产在线一区| 亚洲av熟女| 久久香蕉精品热| 欧美日韩一级在线毛片| 亚洲欧美色中文字幕在线| 午夜成年电影在线免费观看| 天堂动漫精品| 国产亚洲精品一区二区www | 亚洲全国av大片| 国产亚洲欧美98| av在线播放免费不卡| 精品第一国产精品| 国产精品一区二区在线观看99| 热99国产精品久久久久久7| 一边摸一边抽搐一进一小说 | 精品久久蜜臀av无| 午夜免费观看网址| 精品高清国产在线一区| cao死你这个sao货| 不卡一级毛片| 国产欧美日韩综合在线一区二区| 亚洲欧美色中文字幕在线| 久久久久精品国产欧美久久久| 老汉色av国产亚洲站长工具| 女人爽到高潮嗷嗷叫在线视频| 亚洲aⅴ乱码一区二区在线播放 | 一进一出好大好爽视频| 搡老乐熟女国产| 热99久久久久精品小说推荐| 老司机午夜福利在线观看视频| 91字幕亚洲| 欧美日韩成人在线一区二区| 成年人午夜在线观看视频| 国产精品九九99| 正在播放国产对白刺激| av中文乱码字幕在线| 桃红色精品国产亚洲av| 黄色成人免费大全| 亚洲av日韩在线播放| 香蕉久久夜色| 女性生殖器流出的白浆| 人人澡人人妻人| 国产精品香港三级国产av潘金莲| 中文欧美无线码| 亚洲精品一卡2卡三卡4卡5卡| 国产精华一区二区三区| 国产日韩欧美亚洲二区| 国产片内射在线| 亚洲精品粉嫩美女一区| 老司机亚洲免费影院| 视频在线观看一区二区三区| 嫩草影视91久久| 日本vs欧美在线观看视频| 新久久久久国产一级毛片| bbb黄色大片| 国产无遮挡羞羞视频在线观看| 国产精品久久久久久人妻精品电影| 91九色精品人成在线观看| 欧美黄色片欧美黄色片| 熟女少妇亚洲综合色aaa.| 飞空精品影院首页| 十八禁人妻一区二区| 大型黄色视频在线免费观看| 人妻久久中文字幕网| 亚洲熟妇中文字幕五十中出 | 纯流量卡能插随身wifi吗| 亚洲成国产人片在线观看| 亚洲成人国产一区在线观看| netflix在线观看网站| 亚洲精华国产精华精| 男人舔女人的私密视频| 欧洲精品卡2卡3卡4卡5卡区| 亚洲av日韩精品久久久久久密| 成年版毛片免费区| 69精品国产乱码久久久| 日韩 欧美 亚洲 中文字幕| xxxhd国产人妻xxx| 亚洲一码二码三码区别大吗| 12—13女人毛片做爰片一| 91麻豆av在线| 久久久水蜜桃国产精品网| 757午夜福利合集在线观看| 国产欧美日韩一区二区精品| 精品一区二区三卡| 中文字幕av电影在线播放| 久久99一区二区三区| 12—13女人毛片做爰片一| 成人三级做爰电影| 亚洲精品国产精品久久久不卡| 757午夜福利合集在线观看| 久久香蕉激情| 久久精品熟女亚洲av麻豆精品| 视频在线观看一区二区三区| 午夜免费成人在线视频| 国产日韩一区二区三区精品不卡| 久久人妻福利社区极品人妻图片| 在线观看www视频免费| 欧美黄色淫秽网站| 免费在线观看完整版高清| 国产免费男女视频| 国产欧美日韩一区二区精品| 精品视频人人做人人爽| 一区二区三区国产精品乱码| 免费看十八禁软件| 午夜影院日韩av| 精品一区二区三区av网在线观看| 51午夜福利影视在线观看| 免费在线观看影片大全网站| 人妻久久中文字幕网| 亚洲精品国产精品久久久不卡| 午夜激情av网站| 久久久精品国产亚洲av高清涩受| 亚洲视频免费观看视频| 久久精品亚洲精品国产色婷小说| 后天国语完整版免费观看| 国产又色又爽无遮挡免费看| 美女福利国产在线| 最新的欧美精品一区二区| 村上凉子中文字幕在线| 精品国产乱子伦一区二区三区| 男女免费视频国产| 大型黄色视频在线免费观看| 国产人伦9x9x在线观看| 中文字幕另类日韩欧美亚洲嫩草| 丝袜在线中文字幕| 夫妻午夜视频| 日韩视频一区二区在线观看| 动漫黄色视频在线观看| 自拍欧美九色日韩亚洲蝌蚪91| av有码第一页| 久久香蕉精品热| 中出人妻视频一区二区| 美女高潮到喷水免费观看| 亚洲欧美日韩另类电影网站| 首页视频小说图片口味搜索| 国产欧美亚洲国产| 侵犯人妻中文字幕一二三四区| 欧美黄色淫秽网站| 亚洲熟妇熟女久久| 久久国产精品影院| 亚洲精品乱久久久久久| 亚洲精品粉嫩美女一区| 麻豆成人av在线观看| 国产97色在线日韩免费| 日本黄色日本黄色录像| 九色亚洲精品在线播放| 国产区一区二久久| 一二三四社区在线视频社区8| 欧美精品亚洲一区二区| 夜夜夜夜夜久久久久| 日本黄色日本黄色录像| 变态另类成人亚洲欧美熟女 | 69精品国产乱码久久久| 国产av一区二区精品久久| 欧美乱色亚洲激情| 久99久视频精品免费| 宅男免费午夜| 女性被躁到高潮视频| 亚洲人成伊人成综合网2020| 欧美黄色片欧美黄色片|