• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能背景下數(shù)據(jù)安全犯罪的刑法規(guī)制思路

    2019-02-04 03:22:58王倩云
    法學(xué)論壇 2019年2期
    關(guān)鍵詞:計算機(jī)信息數(shù)據(jù)安全刑法

    王倩云

    (中國海洋大學(xué) 法學(xué)院,山東青島 266100)

    長期以來,網(wǎng)絡(luò)犯罪主要包含兩大類已經(jīng)得到國際社會的廣泛認(rèn)可。第一類是以網(wǎng)絡(luò)設(shè)施或計算機(jī)信息系統(tǒng)為犯罪對象實施的侵犯此類新型法益的犯罪行為,如非法控制計算機(jī)信息系統(tǒng)罪,第二類是利用網(wǎng)絡(luò)設(shè)施或計算機(jī)信息系統(tǒng)實施的侵犯傳統(tǒng)法益的犯罪行為,如利用計算機(jī)實施的網(wǎng)絡(luò)詐騙行為。[注]盧堯:《計算機(jī)與網(wǎng)絡(luò)犯罪含義的法律視角探析》,載《北京郵電大學(xué)學(xué)報(社會科學(xué)版)》2010年第1期。然而在立法層面,各國仍然不能就網(wǎng)絡(luò)犯罪的內(nèi)涵和外延達(dá)成一致意見。特別是進(jìn)入大數(shù)據(jù)時代,數(shù)據(jù)越來越多的被竊取和濫用,已經(jīng)成為了犯罪行為的目標(biāo),數(shù)據(jù)竊取或濫用行為逐漸演變成為了類型化的侵犯數(shù)據(jù)安全的行為,即數(shù)據(jù)安全犯罪。數(shù)據(jù)安全犯罪依托于網(wǎng)絡(luò)設(shè)施和計算機(jī)信息系統(tǒng)實施的本質(zhì)使其成為新生代網(wǎng)絡(luò)犯罪。具體而言,數(shù)據(jù)安全犯罪指在人工智能高速發(fā)展的技術(shù)環(huán)境下,“以大數(shù)據(jù)技術(shù)即數(shù)字化形式進(jìn)行技術(shù)處理的一切數(shù)據(jù)為犯罪對象或犯罪工具的行為,包括以賬戶、訪問控制數(shù)據(jù)為核心,并發(fā)散至電子痕跡、生活行為、城市管理等各種非結(jié)構(gòu)化數(shù)據(jù)和半結(jié)構(gòu)化數(shù)據(jù),以及從計算機(jī)數(shù)據(jù)延伸到物聯(lián)網(wǎng)、智能手機(jī)、可穿戴設(shè)備等多終端數(shù)據(jù)的犯罪”。[注]于志剛、李源粒:《大數(shù)據(jù)時代數(shù)據(jù)犯罪的制裁思路》,載《中國社會科學(xué)》2014年第 10期。數(shù)據(jù)安全犯罪的行為方式一方面包括以數(shù)據(jù)為對象的行為,如對網(wǎng)絡(luò)設(shè)施或計算機(jī)信息系統(tǒng)上存儲、處理和傳輸?shù)臄?shù)據(jù)進(jìn)行增刪和干擾,一方面包括利用此間設(shè)施上的數(shù)據(jù)進(jìn)行監(jiān)聽、過度挖掘、惡意盜用等行為,并通過這些行為危害個人、社會、國家多個層面的安全。

    一、數(shù)據(jù)安全犯罪的類型化

    (一)數(shù)據(jù)安全犯罪類型化的推力:人工智能帶來的技術(shù)革新以及權(quán)利人對數(shù)據(jù)和信息管控力的下降

    人工智能被普遍認(rèn)為是基于大數(shù)據(jù)和云計算技術(shù)實現(xiàn)的,而大數(shù)據(jù)和云計算實際上均削弱了權(quán)利人對數(shù)據(jù)和信息的管控能力。

    首先,大數(shù)據(jù)技術(shù)是人工智能的前提。隨著算法和計算機(jī)運(yùn)算能力日趨成熟,人工智能的發(fā)展主要依賴于數(shù)據(jù)增量。[注]參見李學(xué)龍、龔海剛:《大數(shù)據(jù)系統(tǒng)綜述》,載《中國科學(xué):信息科學(xué)》2015年第1期。具體而言,人工智能的發(fā)展可以分為三個階段:關(guān)鍵詞階段、算法階段和大數(shù)據(jù)階段。[注]同①。以國際象棋電腦“深藍(lán)”和能夠自主深度學(xué)習(xí)的人工智能圍棋程序“阿爾法狗”的研發(fā)為例:深藍(lán)是第一和第二階段的集大成系統(tǒng),其系統(tǒng)的運(yùn)算能力和算法能夠打敗所有人類國際象棋好手。在關(guān)鍵詞階段,技術(shù)人員主要是向深藍(lán)系統(tǒng)輸入以數(shù)據(jù)作為形式的國際象棋規(guī)則和優(yōu)秀棋手的對局。在這一階段,囿于計算機(jī)運(yùn)算水平,深藍(lán)在接受了這些規(guī)則和對局后僅能夠按照已有“記憶”(或者說既有數(shù)據(jù))一步步下棋。在第二階段算法階段,由于計算機(jī)運(yùn)算能力和算法的更新,深藍(lán)能夠在下棋時計算及預(yù)估隨后的12步棋,這一能力高于人類象棋大師可預(yù)估的10步。在此階段,深藍(lán)依舊只是一個按照已有棋路進(jìn)行搜索和估算的系統(tǒng),并非完全意義上的人工智能。阿爾法狗最后一個階段的主要代表,其依據(jù)大數(shù)據(jù)技術(shù)進(jìn)行“深度學(xué)習(xí)”的能力即人工智能。具體而言,阿爾法狗的運(yùn)算程序不再是線性的,而是大量矩陣數(shù)字形成的神經(jīng)網(wǎng)絡(luò)。如同生物的大腦神經(jīng)一樣,當(dāng)“神經(jīng)網(wǎng)絡(luò)”接收到信號時,整個神經(jīng)網(wǎng)絡(luò)都會被激活,對于阿爾法狗來說,就是它會同時運(yùn)算出多種可行的棋路,然后再根據(jù)預(yù)先輸入的規(guī)則和對手下棋偏好選擇合適的棋路??梢哉f,人工智能系統(tǒng)并非僅按照已有棋路進(jìn)行簡單的搜索和估算,而是可以通過學(xué)習(xí)對手的棋路分析對手的下棋偏好,選擇能夠最大可能獲勝的棋路。這個系統(tǒng)將大量隨機(jī)元素納入運(yùn)算范圍,根據(jù)對手的每一步棋調(diào)整自己對對手的下棋偏好的評估以及自己與之對弈時的棋路,以此做到“深度學(xué)習(xí)”。可見,這種“深度學(xué)習(xí)”是以大量數(shù)據(jù),也就是對手對弈棋局為基礎(chǔ)的。簡而言之,所謂人工智能,即是先通過輸入數(shù)據(jù)得出一定規(guī)律,并通過不斷搜索、聯(lián)想、挖掘、并合數(shù)據(jù)而對規(guī)律進(jìn)行修正的系統(tǒng),也就是人腦的學(xué)習(xí)過程,即對數(shù)據(jù)和信息進(jìn)行再創(chuàng)造的過程,是以大數(shù)據(jù)為基礎(chǔ)和前提得以實現(xiàn)的。然而,技術(shù)革新隨之而來的問題在于,數(shù)據(jù)和信息的權(quán)利人和管理者對其的掌控變得愈加薄弱,且由于人工智能系統(tǒng)對數(shù)據(jù)的搜索、聯(lián)想、挖掘和并合在很多情況下是自主進(jìn)行,存儲于計算機(jī)系統(tǒng)和網(wǎng)絡(luò)終端上的數(shù)據(jù)將更有可能被無權(quán)竊取、盜用,乃至修改、監(jiān)聽??梢哉f,人工智能技術(shù)的發(fā)展將對數(shù)據(jù)的需求急劇提升,數(shù)據(jù)將愈加有價值,同時愈加成為犯罪分子的目標(biāo)。

    其次,云計算技術(shù)的出現(xiàn)使得處理海量數(shù)據(jù)成為可能。云計算是基于互聯(lián)網(wǎng)的計算資源共享池,即對于網(wǎng)絡(luò)、服務(wù)器、應(yīng)用軟件、存儲和處理等資源進(jìn)行多方共享的技術(shù)。[注]參見邵澤云、劉正岐:《云計算與虛擬化技術(shù)研究》,載《數(shù)據(jù)技術(shù)與應(yīng)用》2014年第1期?;谶@一技術(shù),數(shù)十萬臺乃至數(shù)百萬臺計算機(jī)系統(tǒng)和服務(wù)器得以共享運(yùn)算能力,實現(xiàn)對海量數(shù)據(jù)的快速處理。簡而言之,云計算賦予了用戶聞所未聞的強(qiáng)大數(shù)據(jù)處理能力,數(shù)十萬臺乃至數(shù)百萬臺計算機(jī)系統(tǒng)能夠同時服務(wù)于同一個或幾個數(shù)據(jù)處理目的。在這樣的互聯(lián)網(wǎng)上,每一臺計算機(jī)系統(tǒng)都是互聯(lián)網(wǎng)上的一環(huán),都是傳統(tǒng)意義上互聯(lián)網(wǎng)的“中心”。當(dāng)存在成萬上億個“中心”時,所謂的“中心”也將不復(fù)存在。這一發(fā)展的現(xiàn)實效果是每一個數(shù)據(jù)都具有了價值。[注]參見羅輝林、唐琳琳:《共享思維-互聯(lián)網(wǎng)下的去中心化商業(yè)革命》,電子工業(yè)出版社2017年版,第267-276頁。從傳統(tǒng)媒體時代開始,信息的流傳形式是從傳播節(jié)點到傳播節(jié)點,這些節(jié)點就是“中心”,電視、廣播、報紙、雜志等媒體都是信息的傳播節(jié)點。[注]參見彭蘭:《從“大眾門戶”到“個人門戶”——網(wǎng)絡(luò)傳播模式的關(guān)鍵變革》,載《國際新聞界》2011年第10期。傳統(tǒng)的信息傳播節(jié)點很明確,控制也比較方便。監(jiān)管部門一聲令下,不符合國家政策和法律、法規(guī)的信息就消失了。到了大數(shù)據(jù)時代,信息更多的依靠數(shù)據(jù)進(jìn)行傳播,而數(shù)據(jù)依靠計算機(jī)信息系統(tǒng)和網(wǎng)絡(luò)設(shè)施進(jìn)行傳輸。當(dāng)同樣的數(shù)據(jù)可能運(yùn)算或存儲于數(shù)十萬臺計算機(jī)系統(tǒng)上時,大到各新聞門戶網(wǎng)站和數(shù)據(jù)處理中心,小到“自媒體”運(yùn)營者乃至單個網(wǎng)民,都不再局限于單純的信息接受方,而同時成為了信息提供方,也就是傳統(tǒng)媒體中的信息傳播節(jié)點。因此,信息對于媒體中所謂的傳播節(jié)點的依賴性越來越弱。[注]參見黃典林:《“互聯(lián)網(wǎng)+”如何重構(gòu)傳播》,載《光明日報》2015年10月16日。加上搜索引擎關(guān)鍵字的導(dǎo)入控制和關(guān)鍵詞聯(lián)想技術(shù),監(jiān)管部門對數(shù)據(jù)和信息傳播節(jié)點的嚴(yán)格把控實質(zhì)上已不復(fù)存在。監(jiān)管的不到位使數(shù)據(jù)安全犯罪的類型化成為可能。

    (二)數(shù)據(jù)安全犯罪類型化的動因:數(shù)據(jù)背后的利益

    在人工智能技術(shù)下,數(shù)據(jù)不僅成為了智能機(jī)器人的“神經(jīng)元細(xì)胞”,并以肉眼可見的速度成為個人、企業(yè)、國家據(jù)以預(yù)測和決策的基礎(chǔ)和依據(jù)。大到國家制定外交策略、中到商場制定營銷戰(zhàn)略、小到公民使用網(wǎng)上銀行進(jìn)行網(wǎng)購,都需要數(shù)據(jù)及其承載的信息作支撐,數(shù)據(jù)的意義和價值不可謂不高。通過對數(shù)據(jù)的收集、分析和挖掘,個體、企業(yè)和國家甚至可以進(jìn)行預(yù)測性分析。個體可以通過分析他人的網(wǎng)絡(luò)購買記錄獲取他人的購買習(xí)慣和偏好,更以此預(yù)測他人的經(jīng)濟(jì)狀況;企業(yè)可以通過分析其用戶的數(shù)據(jù)預(yù)測其需求、偏好和使用習(xí)慣,并據(jù)此對決策作出調(diào)整;國家更可以通過對數(shù)據(jù)的整合和分析勘察輿情,并獲取關(guān)鍵情報,摸清國家經(jīng)濟(jì)和社會動向。例如,洛杉磯警方運(yùn)用大數(shù)據(jù)預(yù)測犯罪的發(fā)生并采取預(yù)防措施,[注]《警務(wù)大數(shù)據(jù)案例:大數(shù)據(jù)預(yù)測分析與犯罪預(yù)防》,載IT經(jīng)理網(wǎng)2014-5-7,https://www.ctocio.com/ccnews/15551.html.多個城市規(guī)劃設(shè)計院嘗試?yán)檬謾C(jī)定位數(shù)據(jù)和交通數(shù)據(jù)進(jìn)行城市規(guī)劃,[注]《大數(shù)據(jù)如何改變城市規(guī)劃》,載網(wǎng)絡(luò)大數(shù)據(jù)2016-6-16,http://www.raincent.com/content-10-6665-1.html.淘寶通過用戶瀏覽和購買記錄分析用戶的身份和性格特征。[注]參見王永周、鄧燕:《于大數(shù)據(jù)預(yù)測的消費(fèi)者購買決策行為分析》,載《商業(yè)時代》2016年第23期。在此背景下,對數(shù)據(jù)進(jìn)行深入挖掘和利用的大數(shù)據(jù)技術(shù),更是被稱為未來的“新石油”。麥肯錫咨詢公司曾于2013年預(yù)測,在全球范圍內(nèi),大數(shù)據(jù)每年將創(chuàng)造3萬億至5萬億美元的價值,[注]參見Stefan Biesdorf, David Court & Paul Willmott:《Big Data: What’s Your Plan》,McKinsey & Company2013年報告。Gartner公司更預(yù)測截至2020年,因特網(wǎng)數(shù)據(jù)的體量將在現(xiàn)有基礎(chǔ)上翻三十倍,而對因特網(wǎng)數(shù)據(jù)的銷售和使用將產(chǎn)生1.9萬億美元的利潤。[注]《Gartner Says the Internet of Things Installed Base Will Grow to 26 Billion Units By 2020》,載Gartner 2013-12-12,http://www.gartner.com/newsroom/id/2636073.可見,通過對數(shù)據(jù)的收集和挖掘,大數(shù)據(jù)可以幫助人們獲取未知信息,并據(jù)此帶來巨大的經(jīng)濟(jì)效益。

    不僅如此,看似不重要且離散的信息可能在搜索、聯(lián)想、挖掘、并合后產(chǎn)生重要信息,他甚至可能與特定的國家政府部門或軍事部門的信息有關(guān)。而涉及公民個人隱私方面的數(shù)據(jù)和信息也隨時面臨巨大風(fēng)險,如某網(wǎng)商通過分析其用戶數(shù)據(jù)和購買經(jīng)歷做出的各省/地區(qū)網(wǎng)民購物偏好和付款習(xí)慣推廣視頻,以及屢次發(fā)生的QQ用戶名及密碼大規(guī)模泄露事件。正如麥肯錫咨詢公司在其2016年的報告中指出的,大數(shù)據(jù)正成為創(chuàng)新和競爭的新戰(zhàn)線,同時,也正成為經(jīng)濟(jì)的巨大推動力量。

    二、數(shù)據(jù)安全犯罪的刑法回應(yīng)

    數(shù)據(jù)安全犯罪已成規(guī)模化已基本成為一個共識,基于此,于2009年頒布的《刑法修正案(七)》中的第9條將非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)的行為規(guī)定為了犯罪。隨后,2011年兩高《關(guān)于辦理危害計算機(jī)信息系統(tǒng)安全刑事案件應(yīng)用法律若干問題的解釋》(以下簡稱《解釋》)通過司法解釋的方式對數(shù)據(jù)及數(shù)據(jù)安全予以了解釋。總體來說,數(shù)據(jù)具有雙重屬性:一方面數(shù)據(jù)作為信息的載體出現(xiàn),其本質(zhì)是信息傳輸工具,故而具有信息的非物質(zhì)性特征;一方面數(shù)據(jù)作為計算機(jī)系統(tǒng)的處理對象,是計算機(jī)系統(tǒng)的內(nèi)容和必要部分。與數(shù)據(jù)的雙重特征對應(yīng),我國《刑法》和司法解釋中對于數(shù)據(jù)安全犯罪的處置規(guī)則也可概括為兩種路徑:一是基于數(shù)據(jù)的本質(zhì)屬性、將其作為信息以非無權(quán)形式加以保護(hù);一是依據(jù)數(shù)據(jù)的技術(shù)特性、將其作為計算機(jī)系統(tǒng)的內(nèi)在組成部分加以保護(hù)。

    (一)依據(jù)數(shù)據(jù)的本質(zhì)特征,將數(shù)據(jù)作為信息以非物權(quán)形式加以保護(hù)

    非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)罪,是指“違反國家規(guī)定,侵入國家事務(wù)、國防建設(shè)、尖端科學(xué)技術(shù)領(lǐng)域以外的計算機(jī)信息系統(tǒng)或者采用其他技術(shù)手段,獲取該計算機(jī)信息系統(tǒng)中存儲、處理或者傳輸?shù)臄?shù)據(jù),情節(jié)嚴(yán)重”的行為。這一罪名直接規(guī)制以數(shù)據(jù)為犯罪對象的行為,在范圍上涵蓋將數(shù)據(jù)作為犯罪對象的行為。在計算機(jī)技術(shù)領(lǐng)域,數(shù)據(jù)是指“輸入到計算機(jī)信息系統(tǒng)并能被計算機(jī)信息系統(tǒng)處理的數(shù)字、文字、符號、聲音和圖像等”。[注]黃良永、徐雨明:《大學(xué)計算機(jī)基礎(chǔ)教程》,電子科技大學(xué)出版社2008年版,第5頁。而刑法中所稱的計算機(jī)信息系統(tǒng)中存儲、處理或傳輸?shù)臄?shù)據(jù),是指“在計算機(jī)信息系統(tǒng)中實際處理的一切文字、符號、聲音、圖像等內(nèi)容有意義的組合”。[注]高銘暄、馬克昌:《刑法學(xué)》,北京大學(xué)出版社2011年版,第536頁。因此,與其說這一罪名保護(hù)的是計算機(jī)系統(tǒng)上處理、存儲、傳輸?shù)臄?shù)據(jù),不如說保護(hù)的是數(shù)據(jù)所承載的信息,也就是一系列內(nèi)容有意義的信息。誠然,數(shù)據(jù)是信息的表現(xiàn)形式和載體,信息是數(shù)據(jù)的內(nèi)涵。數(shù)據(jù)記載著文字、符號、聲音等眾多信息,其本身并沒有實質(zhì)意義,“只有被轉(zhuǎn)換為信息后才具有意義”。[注]參見黃良永、徐雨明:《大學(xué)計算機(jī)基礎(chǔ)教程》,電子科技大學(xué)出版社2008年版,第5頁。特別是隨著大數(shù)據(jù)技術(shù)的出現(xiàn)和應(yīng)用,對于數(shù)據(jù)所承載的信息的保護(hù)也越來越受到關(guān)注。全國人大常委會于2012年出臺的《關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》等法律文件更是昭示著信息安全是數(shù)據(jù)安全的內(nèi)涵,保護(hù)數(shù)據(jù)安全的最終目的就是保護(hù)信息安全。正如學(xué)者指出的,我國目前“正經(jīng)歷著從‘計算機(jī)信息系統(tǒng)’保護(hù)到‘公民網(wǎng)絡(luò)個人信息’保護(hù)再到‘人與數(shù)據(jù)’保護(hù)的轉(zhuǎn)變,即‘信息系統(tǒng)防護(hù)—個人信息安全防護(hù)—大數(shù)據(jù)的整體性防護(hù)’”。[注]于志剛:《“大數(shù)據(jù)”時代計算機(jī)數(shù)據(jù)的財產(chǎn)化與刑法保護(hù)》,載《青海社會科學(xué)》2013年第3期。由此可見,在我國《刑法》的語境下,保護(hù)數(shù)據(jù)即保護(hù)信息。數(shù)據(jù)是信息的載體,其承載的文字、聲音、圖像等都是信息,而涉及個人隱私、商業(yè)秘密以及國家機(jī)密的信息應(yīng)當(dāng)保密,故而承載這些信息的數(shù)據(jù)亦應(yīng)當(dāng)保密,即免被他人獲取。

    司法實踐中的部分做法亦暗合了對數(shù)據(jù)和信息的此種理解。如兩高發(fā)布的《解釋》中將《刑法》第285條第2款非法獲取計算機(jī)信息系統(tǒng)罪中的“情節(jié)嚴(yán)重”規(guī)定為包含“(一)獲取支付結(jié)算、證券交易、期貨交易等網(wǎng)絡(luò)金融服務(wù)的身份認(rèn)證信息十組以上的”和“(二)獲取第(一)項以外的身份認(rèn)證信息五百組以上的”兩項情節(jié)的行為說明,非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)罪的對象并非計算機(jī)信息系統(tǒng)上存儲、處理和傳輸?shù)娜繑?shù)據(jù),而僅指涉及“支付結(jié)算、證券交易、期貨交易等網(wǎng)絡(luò)金融服務(wù)的身份認(rèn)證信息”。同時,《解釋》第11條將“身份認(rèn)證信息”解釋為“用于確認(rèn)用戶在計算機(jī)信息系統(tǒng)上操作權(quán)限的數(shù)據(jù),包括賬號、口令、密碼、數(shù)字證書等”。可見,在司法機(jī)關(guān)的解釋中,被刑法所保護(hù)的數(shù)據(jù)指的是信息,而且僅指能夠用于確認(rèn)用戶在計算機(jī)信息系統(tǒng)上操作權(quán)限的信息。其它存儲于計算機(jī)信息系統(tǒng)上的數(shù)據(jù),以及其上處理的數(shù)據(jù),無論是結(jié)構(gòu)化數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù)還是半結(jié)構(gòu)化數(shù)據(jù),只要不涉及用戶在計算機(jī)系統(tǒng)上的操作權(quán)限信息,并不能作為《刑法》意義上的“數(shù)據(jù)”予以保護(hù)。

    根據(jù)保護(hù)數(shù)據(jù)即保護(hù)信息這一路徑,即便與計算機(jī)系統(tǒng)操作權(quán)限信息無關(guān)的數(shù)據(jù),雖不能作為“數(shù)據(jù)”通過刑法加以保護(hù),卻可以作為“信息”為刑法所涵蓋。正如《刑法修正案(七)》除增設(shè)非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)罪外還同時增設(shè)了出售、非法提供公民個人信息罪這一事實所暗含的,當(dāng)被獲取且出售的數(shù)據(jù)所包含的內(nèi)容屬于公民的個人信息時,該行為涉嫌出售公民個人信息罪。而當(dāng)被獲取的信息涉及商業(yè)秘密或國家機(jī)密時,該行為便以侵犯商業(yè)秘密罪或非法獲取國家秘密罪等罪名論處。此亦為我國《刑法》將“數(shù)據(jù)”依托于信息這一非無權(quán)形式進(jìn)行保護(hù)之佐證,而對于獲取數(shù)據(jù)行為的定性,主要取決于所獲取的數(shù)據(jù)承載的信息的性質(zhì)。

    (二)依據(jù)數(shù)據(jù)的技術(shù)特性,將其作為計算機(jī)信息系統(tǒng)的內(nèi)在組成部分加以保護(hù)

    數(shù)據(jù)是計算機(jī)的處理對象,且其存在和處理必須依托計算機(jī)信息系統(tǒng)進(jìn)行。故而,我國《刑法》還存在另外一個處置數(shù)據(jù)安全犯罪的路徑,即將數(shù)據(jù)視作計算機(jī)系統(tǒng)的一個組成部分加以保護(hù),因而,我國刑法語境下的數(shù)據(jù)是計算機(jī)系統(tǒng)處理的一切有意義的電子脈沖信號的集合。這里的“數(shù)據(jù)”是以其技術(shù)特性進(jìn)行限定的。

    在增設(shè)非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)罪之初,由于技術(shù)水平的發(fā)展,絕大多數(shù)真正有價值的數(shù)據(jù)僅能存在于計算機(jī)系統(tǒng)上,故其范圍與計算機(jī)信息系統(tǒng)的邊界基本一致。[注]參見于志剛、李源粒:《大數(shù)據(jù)時代數(shù)據(jù)犯罪的制裁思路》,載《中國社會科學(xué)》2014年第10期。但是,隨著數(shù)據(jù)傳輸、存儲、挖掘、并合等技術(shù)的發(fā)展,無論是數(shù)據(jù)的存儲設(shè)備還是數(shù)據(jù)的處理和傳輸設(shè)備都發(fā)生了巨大的變化,一方面使得數(shù)據(jù)在技術(shù)層面的存在設(shè)備越來越多樣,一方面使得越來越多的數(shù)據(jù)具有了價值,這兩方面使得數(shù)據(jù)逐漸成為犯罪行為侵害的對象。為了應(yīng)對這一技術(shù)發(fā)展及其對數(shù)據(jù)安全造成的隱患,司法機(jī)關(guān)對“計算機(jī)信息系統(tǒng)”這一概念進(jìn)行了擴(kuò)大解釋?!督忉尅返?1條將“計算機(jī)信息系統(tǒng)”(以及“計算機(jī)系統(tǒng)”)定義為“具備自動數(shù)據(jù)處理功能的系統(tǒng),包括計算機(jī)、網(wǎng)絡(luò)設(shè)備、通信設(shè)備自動化控制設(shè)備等”。這一定義的核心語詞是“自動數(shù)據(jù)處理”,即,是否具備自動數(shù)據(jù)處理功能是界定計算機(jī)(信息)系統(tǒng)的重點之所在。這一定義雖然沒有明確界定“數(shù)據(jù)”的概念和外延,但是其通過將數(shù)據(jù)與計算機(jī)(信息)系統(tǒng)在技術(shù)層面等同,在實質(zhì)上確認(rèn)了便攜式網(wǎng)絡(luò)終端,包括計算機(jī)、手機(jī)、平板電腦、家用智能電器等能夠自動處理數(shù)據(jù)的機(jī)器被非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)罪所保護(hù),這從另一個側(cè)面反映出凡是這些終端上存儲、處理和傳輸?shù)挠幸饬x的內(nèi)容即可能被認(rèn)定為“數(shù)據(jù)”,從而受到刑法保護(hù)。也就是說,根據(jù)這一司法解釋,最高人民法院和最高檢通過擴(kuò)張“計算機(jī)(信息)系統(tǒng)”的范圍來擴(kuò)張“數(shù)據(jù)”的范圍。換句話說,通過保護(hù)計算機(jī)(信息)系統(tǒng)以保護(hù)數(shù)據(jù)。

    比較當(dāng)前立法和司法中對“數(shù)據(jù)”以及“計算機(jī)信息系統(tǒng)”的定義和解釋可以發(fā)現(xiàn),二者是互為定義的關(guān)系?!皵?shù)據(jù)”依托于“計算機(jī)信息系統(tǒng)”而得以存儲、傳輸和處理;另一方面,“計算機(jī)信息系統(tǒng)”的界定取決于是否具備自動數(shù)據(jù)處理功能。鑒于此,中國刑法語境下的計算機(jī)(信息)系統(tǒng)與數(shù)據(jù)似乎是同一物事的不同側(cè)面:二者為內(nèi)容和載體的關(guān)系,數(shù)據(jù)是計算機(jī)系統(tǒng)的內(nèi)容,而計算機(jī)系統(tǒng)是數(shù)據(jù)的載體。同時,二者又是不同語詞的不同階段:在技術(shù)發(fā)展的前期階段,犯罪行為多針對計算機(jī)系統(tǒng),即“容器”。而隨著技術(shù)的發(fā)展,“內(nèi)容物”,也就是數(shù)據(jù),逐漸具備了價值,并且其價值甚至超過了計算機(jī)系統(tǒng)自身,并進(jìn)而成為了犯罪行為的對象。故而,“數(shù)據(jù)”是信息技術(shù)發(fā)展所帶來的產(chǎn)物,其實質(zhì)上是“計算機(jī)(信息)系統(tǒng)”的高階表現(xiàn)形式,二者指代的其實是同一物品,具有相同本質(zhì)。無疑,這種思路在客觀上造成了數(shù)據(jù)概念與計算機(jī)(信息)系統(tǒng)概念的重疊和混淆。

    三、當(dāng)前刑法回應(yīng)中“數(shù)據(jù)”概念與信息和計算機(jī)信息系統(tǒng)的重疊和混淆

    在現(xiàn)行刑法和司法解釋中,“數(shù)據(jù)”這一技術(shù)性名詞的定位與含義不甚明確,與“信息”和“計算機(jī)信息系統(tǒng)”二名詞之關(guān)系模糊不清。上文指出,為應(yīng)對不斷增多的數(shù)據(jù)安全犯罪以及保護(hù)數(shù)據(jù)安全,立法和司法機(jī)關(guān)在部分法條中將“數(shù)據(jù)”與“信息”等同,又在另一部分法條中將“數(shù)據(jù)”與“計算機(jī)(信息)系統(tǒng)”等同。這兩種回應(yīng)之間的不一致使得數(shù)據(jù)在刑法語境下的定位愈加模糊。究其原因,兩種路徑都是對數(shù)據(jù)某種特性的回應(yīng),而完整的、體系化的思考“數(shù)據(jù)”及“數(shù)據(jù)安全”在刑法中應(yīng)當(dāng)具備的地位以及應(yīng)當(dāng)處于刑法體系中的哪一環(huán)節(jié)仍然缺失。這一缺失造成理論和實踐層面的應(yīng)對失序,以及法條與侵犯數(shù)據(jù)安全的不同行為之間的應(yīng)對失序。

    (一)數(shù)據(jù)、信息與計算機(jī)(信息)系統(tǒng)

    一方面,固然,數(shù)據(jù)是信息的載體,信息是數(shù)據(jù)的內(nèi)涵。然而,二者無論是在范疇上還是在本質(zhì)上均有區(qū)別?!缎谭ā芬饬x上的數(shù)據(jù)主要是指非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)罪的對象,僅指用于確認(rèn)用戶在計算機(jī)信息系統(tǒng)上操作權(quán)限的身份認(rèn)證信息,其它保護(hù)信息免被非法獲取或公布的刑法條文雖然能間接對承載相關(guān)信息的數(shù)據(jù)提供保護(hù),其范疇仍然有限。在大數(shù)據(jù)時代下,數(shù)據(jù)在范圍、種類和數(shù)量上都發(fā)生了根本性的變革,不僅數(shù)據(jù)的存儲和處理設(shè)備發(fā)生了根本性的變革,數(shù)據(jù)所承載的信息的內(nèi)容也發(fā)生了根本變化。數(shù)據(jù)已經(jīng)在范疇上與信息,特別是當(dāng)前《刑法》所保護(hù)的信息,區(qū)別了開來。例如,隨著數(shù)據(jù)存儲和處理技術(shù)的發(fā)展,云存儲和云計算已經(jīng)深入日常生產(chǎn)生活。對企業(yè)來說,上級用企業(yè)統(tǒng)一分配的郵箱傳達(dá)工作內(nèi)容和事務(wù),日常處理的文件、報表等也需要存儲于企業(yè)使用的存儲器和網(wǎng)絡(luò)終端以備查看。對個人來說,為免于攜帶存儲設(shè)備以及防止存儲于私人電腦或存儲設(shè)備上的文件丟失,很多網(wǎng)民已習(xí)慣于將重要文件存儲于網(wǎng)絡(luò)云端硬盤。數(shù)據(jù)顯示,僅2015年12月一個月中網(wǎng)絡(luò)云盤的活躍用戶數(shù)就超過5億,[注]《2015年移動云盤市場:百度云月活躍用戶數(shù)居首》,中國軟件資訊網(wǎng)2016-3-9,http://www.cnsoftnews.com/news/201603/43225.html.而能夠多網(wǎng)絡(luò)終端同步保存數(shù)據(jù)的Evernote系列軟件用戶量早已過1億。[注]《印象筆記用戶數(shù)量達(dá) 1 億里程碑》,36氪2014-5-14,http://36kr.com/p/211942.html.而這些數(shù)據(jù)并非刑法意義上被保護(hù)的數(shù)據(jù),其不僅有以文檔、音頻等形式保存下來的半結(jié)構(gòu)化數(shù)據(jù),更有相對混亂無序、難以用數(shù)據(jù)庫存儲的非結(jié)構(gòu)化數(shù)據(jù)。[注]參見謝華成、陳向東:《面向云存儲的非結(jié)構(gòu)化數(shù)據(jù)存取》,載《計算機(jī)應(yīng)用》2012年第7期。這些數(shù)據(jù)可能并不關(guān)涉用戶的個人身份認(rèn)證信息,可能僅僅指向某類信息的描述性文檔,甚至可能是運(yùn)行這些文檔所需要的宏文件。離散的此類數(shù)據(jù)并不能恢復(fù)成有意義的信息,因而價值較小。然而,這些看似簡單且雜亂的數(shù)據(jù)經(jīng)過成規(guī)模的收集和處理后,可能展示出重要的信息。例如,近些年流行的運(yùn)動手環(huán)和運(yùn)動App,其上記錄的運(yùn)動信息和運(yùn)動路徑等數(shù)據(jù)可用于分析使用人的日?;顒臃秶吐窂?,為后續(xù)實施侵犯人身或財產(chǎn)安全的犯罪行為提供重要信息。保存于手機(jī)、平板電腦等便攜網(wǎng)絡(luò)終端設(shè)備中的數(shù)據(jù)亦能夠用于獲取工作和家庭地址、通訊信息、網(wǎng)上購物消費(fèi)情況、出行信息等。而這些數(shù)據(jù)都未被我國《刑法》所涵蓋。

    另一方面,與數(shù)據(jù)與信息的關(guān)系相類似,計算機(jī)系統(tǒng)是數(shù)據(jù)的載體,而數(shù)據(jù)是計算機(jī)系統(tǒng)的內(nèi)容,但是,二者之間也存在本質(zhì)區(qū)別。首先,計算機(jī)(信息)系統(tǒng)是指“具備自動數(shù)據(jù)處理功能的系統(tǒng)”。由這一定義可以得出,計算機(jī)(信息)系統(tǒng)的本質(zhì)在于其數(shù)據(jù)處理功能,即動態(tài)的對數(shù)據(jù)的運(yùn)算、傳輸、存儲等處理過程,而數(shù)據(jù)則是靜態(tài)的被計算機(jī)處理的對象。結(jié)合我國《刑法》中關(guān)于非法控制計算機(jī)信息系統(tǒng)罪與關(guān)于非法破壞計算機(jī)信息系統(tǒng)罪的規(guī)定,《刑法》保護(hù)的并非計算機(jī)(信息)系統(tǒng)這個物,或者說,并非是靜態(tài)的作為數(shù)據(jù)載體的計算機(jī)(信息)系統(tǒng),而在于其動態(tài)的處理數(shù)據(jù)的能力:若其處理數(shù)據(jù)的能力被“盜用”或者非法破壞,則成立上述兩個罪名,與其上存儲的數(shù)據(jù)是否被破壞沒有關(guān)系。換句話說,數(shù)據(jù)之于計算機(jī)(信息)系統(tǒng)如同珠和櫝,無論是珠還是櫝均有其價值,因而都可能單獨成為犯罪分子的對象。例如,行為人可以在不影響計算機(jī)(信息)系統(tǒng)運(yùn)行的情況下偷取其上存儲、處理的數(shù)據(jù),亦可以通過邏輯病毒等形式破壞計算機(jī)(信息)系統(tǒng)的運(yùn)行,而即便計算機(jī)因為其系統(tǒng)功能被破壞而不能夠繼續(xù)運(yùn)行,保存在硬盤上的數(shù)據(jù)是可以不受影響的,只要連接到另一臺計算機(jī)即可讀取。只不過不同之處在于,無論是偷珠還是偷櫝都成立盜竊罪,而偷取數(shù)據(jù)或破壞計算機(jī)(信息)系統(tǒng)成立不同罪名,前者涉嫌非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)罪,后者則涉嫌非法控制或者破壞計算機(jī)信息系統(tǒng)罪。

    再者,行為人對于數(shù)據(jù)的權(quán)限可能區(qū)別于對于計算機(jī)(信息)系統(tǒng)的權(quán)限。例如,公司雇員可以使用企業(yè)配發(fā)的計算機(jī)(信息)系統(tǒng),但是其只對自己賬號上存儲的數(shù)據(jù)享有權(quán)限,對于計算機(jī)(信息)系統(tǒng)上存儲的其它賬戶數(shù)據(jù)并不享有權(quán)限。在這種情況下,若公司雇員甲通過非法手段獲取了公司雇員乙存儲在該公司系統(tǒng)上的數(shù)據(jù),亦具有非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)的性質(zhì)。這就相當(dāng)于公司的保潔人員可以進(jìn)入員工的辦公室打掃衛(wèi)生,但是將員工放在辦公室的物品拿走的行為則涉嫌盜竊。與這一情形對應(yīng),行為人可能對某一些存儲于云端的數(shù)據(jù)有權(quán)限,但不對某臺計算機(jī)(信息)系統(tǒng)有權(quán)限。如,行為人通過借用的計算機(jī)在其云盤上下載了一些數(shù)據(jù),而這些數(shù)據(jù)包含計算機(jī)監(jiān)聽軟件。在行為人歸還計算機(jī)后,其通過軟件秘密獲取了存儲于該計算機(jī)(信息)系統(tǒng)上的全部數(shù)據(jù)。

    由上述分析可以看出,在大數(shù)據(jù)時代,信息很大程度上依賴數(shù)據(jù)得以傳播,且數(shù)據(jù)依托于計算機(jī)(信息)系統(tǒng)得以傳輸、運(yùn)算和存儲,因而數(shù)據(jù)的概念無法完全脫離“信息”或“計算機(jī)(信息)系統(tǒng)”,三者密切相關(guān),但又相互獨立。因此,數(shù)據(jù)安全、信息安全與計算機(jī)(信息)系統(tǒng)安全三者也密切相關(guān),卻又相互獨立。

    (二)數(shù)據(jù)安全、信息安全與計算機(jī)(信息)系統(tǒng)安全

    前文指出,當(dāng)前《刑法》對數(shù)據(jù)的保護(hù)主要有兩種路徑,一為將數(shù)據(jù)安全類比為信息安全的非物權(quán)保護(hù)模式,一為將數(shù)據(jù)安全視作計算機(jī)(信息)系統(tǒng)安全的物權(quán)保護(hù)模式。二種路徑均看似合理實則存在問題。

    首先,將數(shù)據(jù)安全類比為信息安全這一路徑的根源在于,數(shù)據(jù)同信息一樣,權(quán)限人對其的權(quán)限并不排他,即同一段數(shù)據(jù)或信息可以同時為多人所享有和使用,且這種享有和使用并不以削減他人對該段數(shù)據(jù)或信息的享有或使用為前提。具言之,無論是數(shù)據(jù)還是信息,都不是有形的、可以看到或觸摸到的存在,行為人可以將數(shù)據(jù)或信息無限制的復(fù)制并傳播而不損害本源數(shù)據(jù)或信息存在的狀態(tài)。一段數(shù)據(jù)或信息被一人所享有與被100人所享有,該數(shù)據(jù)仍然是該數(shù)據(jù),該信息也仍然是該信息,除非在復(fù)制傳播的過程中出現(xiàn)錯誤,否則第100條數(shù)據(jù)或信息的價值與本源數(shù)據(jù)或信息的價值不存在區(qū)別。本源數(shù)據(jù)或信息的權(quán)利人也不能因其持有本源數(shù)據(jù)或信息而要求其它99位刪除其享有的內(nèi)容。這就是數(shù)據(jù)權(quán)限和信息權(quán)限的非排他性。如果不能排除“占有”,那么數(shù)據(jù)權(quán)限和信息權(quán)限對應(yīng)的權(quán)利是什么呢?其體現(xiàn)為權(quán)利主體知悉數(shù)據(jù)或信息內(nèi)容的權(quán)利,這實際上是一種“能夠知悉的狀態(tài)”,而無權(quán)利的人則實際上處于權(quán)利人對數(shù)據(jù)或信息設(shè)置的“保密狀態(tài)”中。我國《刑法》中關(guān)于獲取數(shù)據(jù)或信息規(guī)定中的“非法”,實際上就是指沒有知悉權(quán)利的人獲得了本應(yīng)對其保密的數(shù)據(jù)或者信息,即破壞了數(shù)據(jù)或信息權(quán)利人對其設(shè)置的保密狀態(tài)。[注]參見楊秀:《大數(shù)據(jù)時代定向廣告中的個人信息保護(hù)——〈中國互聯(lián)網(wǎng)定向廣告用戶信息保護(hù)行業(yè)框架標(biāo)準(zhǔn)分析〉》,載《國際新聞界》2015年第5期。我國《刑法》對數(shù)據(jù)和信息予以的保護(hù)也正是權(quán)利人“能夠知悉的狀態(tài)”和因而設(shè)置的“保密狀態(tài)”。

    然而,數(shù)據(jù)安全與信息安全的不同之處在于,為了保護(hù)權(quán)利人對數(shù)據(jù)和信息的“能夠知悉的狀態(tài)”,信息作為徹底的無形物只須要處于“保密狀態(tài)”,即不被他人知悉。但是對于雖然看不見卻可通過技術(shù)手段進(jìn)行處理的數(shù)據(jù)來說,行為人除了可以通過拷貝、散播等行為破壞其保密狀態(tài)外,還可以通過刪除、壓縮等行為破壞數(shù)據(jù)能夠被知悉的狀態(tài)。換言之,信息類犯罪的行為方式是超出行為人權(quán)限的獲取、披露、使用或允許他人使用信息,侵犯的是信息的保密性,而數(shù)據(jù),雖然其本質(zhì)是信息,或者說是有意義的內(nèi)容,其對應(yīng)的權(quán)益卻并非僅為保密性。除不被非權(quán)限人獲取或使用外,為了保護(hù)數(shù)據(jù)權(quán)限人對數(shù)據(jù)的權(quán)利,數(shù)據(jù)還應(yīng)當(dāng)是完整的和能夠被權(quán)限人獲取的,也即應(yīng)當(dāng)保護(hù)數(shù)據(jù)免于被無權(quán)獲取、刪改、壓縮或者使用。

    其次,根據(jù)計算機(jī)(信息)系統(tǒng)的定義可知,計算機(jī)(信息)系統(tǒng)安全實際上是指計算機(jī)信息系統(tǒng)的自動處理數(shù)據(jù)的功能能夠安全運(yùn)行。又根據(jù)非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)罪的法條,處理數(shù)據(jù)的功能包括存儲、處理和傳輸數(shù)據(jù)三項功能。因此,計算機(jī)信息系統(tǒng)安全指計算機(jī)信息系統(tǒng)能夠正常的、符合計算機(jī)信息系統(tǒng)操作人預(yù)期的存儲、處理和傳輸數(shù)據(jù)。即,計算機(jī)信息系統(tǒng)安全實質(zhì)上包括三方面:存儲數(shù)據(jù)安全、處理數(shù)據(jù)安全和傳輸數(shù)據(jù)安全。換句話說,我國《刑法》中計算機(jī)類犯罪條文保護(hù)的是計算機(jī)信息系統(tǒng)存儲、處理和傳輸數(shù)據(jù)的能力,保護(hù)的是計算機(jī)信息系統(tǒng)的運(yùn)行過程安全,這一過程是動態(tài)的。關(guān)于數(shù)據(jù)安全,工信部曾在其于2014年發(fā)布的一篇報告中將數(shù)據(jù)安全區(qū)分為三類,分別是存儲數(shù)據(jù)安全、剩余數(shù)據(jù)安全和傳輸數(shù)據(jù)安全。[注]《云計算安全及對策》,工信部網(wǎng)站,http://www.miit.gov.cn/n11293472/n11293832/n15214847/n15218234/15475208.html.其中,存儲數(shù)據(jù)安全是指在數(shù)據(jù)的存儲過程中,存儲時間的先后以及存儲位置等的分配遵守規(guī)范,未發(fā)生存儲過程中數(shù)據(jù)丟失等后果。剩余數(shù)據(jù)安全是指當(dāng)云計算或云存儲服務(wù)終止時,仍然存儲于云端服務(wù)器上的數(shù)據(jù)應(yīng)當(dāng)被徹底清除,后續(xù)租戶不能利用數(shù)據(jù)恢復(fù)軟件非法獲取前用戶的數(shù)據(jù)并造成數(shù)據(jù)泄露等問題。數(shù)據(jù)傳輸安全是指數(shù)據(jù)在傳輸?shù)倪^程中不能被非法獲取、增改、刪除或壓縮,造成數(shù)據(jù)泄露或無法使用。然而,工信部的這一理解并非數(shù)據(jù)安全的應(yīng)有之意。這三類安全,特別是存儲數(shù)據(jù)安全和傳輸數(shù)據(jù)安全的落腳點是存儲和處理過程的安全,是動態(tài)的計算機(jī)信息系統(tǒng)存儲和處理數(shù)據(jù)的功能安全,而非被存儲和處理的數(shù)據(jù)本身安全。工信部的這一理解實際上暗合了司法機(jī)關(guān)在實踐中通過擴(kuò)張解釋計算機(jī)信息系統(tǒng)以規(guī)制數(shù)據(jù)安全犯罪的做法,即將計算機(jī)信息系統(tǒng)安全等同于數(shù)據(jù)安全,而并不僅將數(shù)據(jù)看作是計算機(jī)信息系統(tǒng)的存儲和處理對象。然而,這樣做將導(dǎo)致作為動態(tài)的計算機(jī)信息系統(tǒng)運(yùn)行過程與被計算機(jī)信息系統(tǒng)存儲、處理和傳輸?shù)臄?shù)據(jù)之間的混淆不清,并最終導(dǎo)致破壞計算機(jī)信息系統(tǒng)功能的行為與破壞數(shù)據(jù)保密性、完整性與數(shù)據(jù)權(quán)利人可獲取性的行為的混淆不清。

    事實上,由于數(shù)據(jù)依賴計算機(jī)得以運(yùn)算和存儲,誠然在很多情況下一旦計算機(jī)(信息)系統(tǒng)被破壞了其上處理的數(shù)據(jù)也同樣會被破壞,或者破壞了計算機(jī)(信息)系統(tǒng)上處理的數(shù)據(jù),其功能也將被破壞。但是隨著數(shù)據(jù)運(yùn)算和存儲技術(shù)的發(fā)展,數(shù)據(jù)已經(jīng)在技術(shù)層面與計算機(jī)(信息)系統(tǒng)區(qū)分開來。第一,如前所述,數(shù)據(jù)的損害與計算機(jī)(信息)系統(tǒng)的損害并不一定同時發(fā)生,因而,數(shù)據(jù)安全與計算機(jī)(信息)系統(tǒng)安全并不一定同時被侵犯。以《刑法》第285條第1款非法侵入計算機(jī)信息系統(tǒng)罪為例,這一罪名規(guī)制的實際上是“電腦間諜”行為,即行為人侵入計算機(jī)進(jìn)(信息)系統(tǒng)后不對其做任何修改,僅為獲取其上存儲的保密性數(shù)據(jù)。根據(jù)《計算機(jī)解釋》對于計算機(jī)信息系統(tǒng)的定義,這種電腦間諜行為很難被認(rèn)定為侵害了計算機(jī)信息系統(tǒng)處理數(shù)據(jù)的功能。事實上,類似行為以不侵害功能為特點,因為若影響乃至破壞了計算機(jī)信息系統(tǒng)的功能,該侵入行為馬上會被發(fā)現(xiàn),系統(tǒng)將馬上啟動相應(yīng)程序以防止其上處理的數(shù)據(jù)被非法獲取。因此,在類似情形下,被侵害的并非計算機(jī)(信息)系統(tǒng)的安全,而是數(shù)據(jù)安全,具言之,是數(shù)據(jù)的保密性。

    第二,我國《刑法》對計算機(jī)(信息)系統(tǒng)的保護(hù)是以物權(quán)為基礎(chǔ)的,即權(quán)利主體對計算機(jī)(信息)系統(tǒng)享有占有、使用、收益、處分等權(quán)利,且這些權(quán)利是排他的。而如上文所述,數(shù)據(jù)的權(quán)利人對數(shù)據(jù)不存在“所有”或“占有”的狀態(tài),不存在排他性的使用權(quán),僅存在“能夠知悉”的權(quán)利。二者相比,對于數(shù)據(jù)權(quán)利的侵犯必然是永久的、完全的;但對于所有權(quán)的侵犯可以是暫時的,也可以是永久的,可以是完全的破壞,也可以是“使用盜竊”。簡言之,對于數(shù)據(jù)的支配權(quán)利而言,僅存在破壞與否的區(qū)別,不存在程度的區(qū)分。但對計算機(jī)(信息)系統(tǒng)安全而言,既存在破壞與否的區(qū)別,又存在程度的區(qū)分。例如,針對數(shù)據(jù)所實施的行為,無論是非法獲取、使用還是刪改、壓縮,也無論獲取、刪改、壓縮、使用了全部數(shù)據(jù)或者部分?jǐn)?shù)據(jù),數(shù)據(jù)的保密性、完整性、與權(quán)利人可獲取性被永久的、完全的破壞了,無法恢復(fù)為破壞之前的狀態(tài);而針對計算機(jī)(信息)系統(tǒng)安全而言,刑法針對影響計算機(jī)運(yùn)行的行為和徹底破壞計算機(jī)運(yùn)行的行為分別規(guī)定了非法控制計算機(jī)(信息)系統(tǒng)罪和破壞計算機(jī)(信息)系統(tǒng)罪,二個罪名的區(qū)別即在于對計算機(jī)實施了非法控制還是使計算機(jī)不能正常運(yùn)行,對計算機(jī)(信息)系統(tǒng)安全的侵犯可能只是延緩了計算機(jī)系統(tǒng)的響應(yīng)時間而未徹底破壞其響應(yīng)能力,待侵害停止計算機(jī)(信息)系統(tǒng)的運(yùn)行就可恢復(fù)正常,其安全也可恢復(fù)為未被侵害的狀態(tài)。

    縱觀我國當(dāng)前對于數(shù)據(jù)安全犯罪的規(guī)制路徑,無論是以信息為主的非物權(quán)模式還是以計算機(jī)(信息)系統(tǒng)為主的物權(quán)模式,其根本都在于對現(xiàn)有規(guī)制路徑的擴(kuò)張和突破。若繼續(xù)堅持此種擴(kuò)張思路規(guī)制數(shù)據(jù)安全犯罪,乃至以后出現(xiàn)的所有科技類犯罪,在立法和司法層面都將面臨“網(wǎng)絡(luò)犯罪”范圍過廣從而在實質(zhì)上已不必要存在的境況。例如,當(dāng)前計算機(jī)犯罪的類型大體可分為三類,第一類是以計算機(jī)的運(yùn)算處理能力和技術(shù)資源為對象的犯罪,第二類是以計算機(jī)上存儲的數(shù)據(jù)為對象的犯罪,第三類是非法利用計算機(jī)和數(shù)據(jù)實施的侵害其它法益的行為。[注]參見于志剛、李源粒:《大數(shù)據(jù)時代數(shù)據(jù)犯罪的類型化與制裁思路》,載《政治與法律》 2016年第 9期??紤]到當(dāng)前幾乎所有的計算機(jī)犯罪都需要通過網(wǎng)絡(luò)實施,計算機(jī)犯罪已經(jīng)在實質(zhì)上成為網(wǎng)絡(luò)犯罪。若繼續(xù)擴(kuò)張“計算機(jī)”和“數(shù)據(jù)”這二概念的外延以應(yīng)對司法實踐中遇到的刑法罪名不足問題,那么幾乎所有的犯罪都可以成為網(wǎng)絡(luò)犯罪,或者至少,幾乎所有的犯罪都能夠借助網(wǎng)絡(luò)獲得更多的犯罪目標(biāo)和犯罪機(jī)會,從而,幾乎所有的犯罪都可以被認(rèn)為是網(wǎng)絡(luò)犯罪。屆時,網(wǎng)絡(luò)犯罪這一概念將失去應(yīng)有之意,而對于網(wǎng)絡(luò)犯罪的討論又將回歸原始,即,是否真正存在網(wǎng)絡(luò)犯罪這一概念,抑或所謂的網(wǎng)絡(luò)犯罪只是傳統(tǒng)犯罪的新方法或新平臺而已。

    為避免這一現(xiàn)象,需要以立法方式對數(shù)據(jù)作為信息載體這一本質(zhì)特性和依賴計算機(jī)系統(tǒng)得以處理這一技術(shù)特性的雙重性進(jìn)行規(guī)制,構(gòu)建更為精細(xì)合理的網(wǎng)絡(luò)犯罪罪名體系。

    四、數(shù)據(jù)安全犯罪的規(guī)制思路:計算機(jī)犯罪、數(shù)據(jù)犯罪、信息犯罪三線并舉

    探究當(dāng)前中國對數(shù)據(jù)安全犯罪刑法回應(yīng)的缺陷及其原因,蓋因我國對數(shù)據(jù)安全這一新法益的保護(hù)不夠周延,僅依托于既有的信息安全和計算機(jī)信息系統(tǒng)安全二法益對數(shù)據(jù)安全這一新法益進(jìn)行保護(hù)。這無異于在計算機(jī)犯罪誕生之初借助傳統(tǒng)法益保護(hù)計算機(jī)信息系統(tǒng)安全。實踐證明,以過去的刑法條文規(guī)制侵犯了新法益的犯罪行為這一做法是行不通的。因而,須要厘清數(shù)據(jù)、信息與計算機(jī)(信息)系統(tǒng)三者之間的關(guān)系以及對應(yīng)法益之間的相互關(guān)系,以此確定數(shù)據(jù)安全在刑事罪名體系之中的位置,設(shè)立合適的數(shù)據(jù)犯罪罪名,細(xì)化計算機(jī)犯罪、數(shù)據(jù)犯罪與信息犯罪罪名體系,實現(xiàn)三體系間的相互補(bǔ)充,完善我國刑事立法體系。

    數(shù)據(jù)安全犯罪的常見樣態(tài)為,行為人先通過破壞計算機(jī)A防護(hù)軟件為手段侵入計算機(jī)系統(tǒng),隨后或向系統(tǒng)發(fā)送一段可以自動將計算機(jī)A上處理的數(shù)據(jù)傳輸?shù)筋A(yù)設(shè)的計算機(jī)B上,以實現(xiàn)非法獲取計算機(jī)A上處理的數(shù)據(jù)的目的,并在實現(xiàn)這一目的之后,將所獲取的數(shù)據(jù)經(jīng)過破解、聯(lián)想、挖掘、并合數(shù)據(jù)等方式還原為信息并利用信息實施違法行為;或通過遠(yuǎn)程操控對計算機(jī)A上處理的數(shù)據(jù)進(jìn)行刪改、壓縮等行為。在這一動態(tài)的犯罪鏈條中,破壞計算機(jī)A防護(hù)軟件的行為侵害的是計算機(jī)(信息)系統(tǒng)安全,獲取、挖掘等將數(shù)據(jù)還原為信息以及刪改、壓縮數(shù)據(jù)等的行為侵害的是數(shù)據(jù)安全,而對信息進(jìn)行非法使用的行為侵害的是信息安全。通過這一常見樣態(tài)可以看出,行為人對計算機(jī)安全與數(shù)據(jù)安全的侵害雖然存在先后關(guān)系,但二者實際處于同等地位的,即對于計算機(jī)(信息)系統(tǒng)安全的侵犯與對數(shù)據(jù)安全的侵犯是具有同等嚴(yán)重性、不能相互吸收的;對于信息安全的侵害實質(zhì)上發(fā)生在侵害計算機(jī)(信息)系統(tǒng)安全和/或數(shù)據(jù)安全之后,且刪改、壓縮計算機(jī)上處理的數(shù)據(jù)的行為并未侵害信息安全。根據(jù)一行為對計算機(jī)(信息)系統(tǒng)安全、數(shù)據(jù)安全與信息安全三者施加侵害的本質(zhì)特征與動態(tài)步驟分割,計算機(jī)罪名體系、數(shù)據(jù)安全罪名體系與信息安全罪名體系三者間的關(guān)系,可以計算機(jī)犯罪與數(shù)據(jù)犯罪的雙切入點體系為基礎(chǔ),以信息安全罪名體系對后續(xù)信息使用行為加以規(guī)制。

    (一)計算機(jī)犯罪與數(shù)據(jù)犯罪的雙切入點體系

    前文大量論述和事實已經(jīng)表明,數(shù)據(jù)并非是計算機(jī)(信息)系統(tǒng)在大數(shù)據(jù)時代的高階表現(xiàn)形式,二者也并不是一體兩面的關(guān)系;相反,二者實乃具有不同本質(zhì)的不同物品,分別具有各自的法益,而隨著數(shù)據(jù)價值的增加,數(shù)據(jù)安全犯罪與計算機(jī)犯罪的錯位越來越明顯,《刑法》規(guī)制與數(shù)據(jù)安全犯罪樣態(tài)之間的脫節(jié)也越來越明顯。因此,我國當(dāng)前規(guī)制計算機(jī)犯罪與數(shù)據(jù)安全犯罪的路徑不在于繼續(xù)擴(kuò)張計算機(jī)(信息)系統(tǒng)或數(shù)據(jù)的概念,而在于以立法方式確認(rèn)計算機(jī)(信息)系統(tǒng)和數(shù)據(jù)的雙切入點模式,將靜態(tài)的數(shù)據(jù)安全從動態(tài)的計算機(jī)(信息)系統(tǒng)功能安全中獨立出來,正如在20世紀(jì)90年代計算機(jī)犯罪出現(xiàn)之初將計算機(jī)安全從傳統(tǒng)法益中獨立出來。

    我國自1997年《刑法》即開始對計算機(jī)安全加以保護(hù),歷經(jīng)多次修正與解釋,至今已經(jīng)形成了成梯度、成網(wǎng)狀的計算機(jī)罪名體系,用以保護(hù)計算機(jī)(信息)系統(tǒng)自動處理數(shù)據(jù)的功能能夠按照計算機(jī)所有人的預(yù)期正常運(yùn)行,在此不再多加贅述。本部分將主要討論數(shù)據(jù)安全罪名體系的設(shè)立。

    在分析數(shù)據(jù)安全與信息安全、計算機(jī)(信息)系統(tǒng)安全時本文提到,數(shù)據(jù)一方面是信息的載體,其法益呈現(xiàn)出信息安全的特征,一方面依賴計算機(jī)系統(tǒng)得以處理,其法益應(yīng)當(dāng)具有技術(shù)性的色彩。因此,多國刑法體系將數(shù)據(jù)安全的含義規(guī)定為保密性(confidentiality)、完整性(integrity)和權(quán)利人可獲取性(availability)。[注]參見歐洲委員會:《網(wǎng)絡(luò)犯罪公約》,European Treaty Series - No. 185。保密性對應(yīng)的是數(shù)據(jù)的信息特性,即數(shù)據(jù)權(quán)利人享有的“知悉狀態(tài)”和據(jù)此而設(shè)立的排除他人知悉的“保密狀態(tài)”;完整性和權(quán)利人可獲取性則對應(yīng)數(shù)據(jù)的技術(shù)特性,完整性是指數(shù)據(jù)應(yīng)當(dāng)保持原樣、不被刪改,即數(shù)據(jù)沒有被非法刪除或改動;數(shù)據(jù)權(quán)利人可獲取性是指數(shù)據(jù)不能被非法壓縮或粉碎,即不能侵害數(shù)據(jù)權(quán)利人獲取或使用該數(shù)據(jù)的權(quán)利。由數(shù)據(jù)的雙重特性引出了數(shù)據(jù)安全罪名體系的兩個基本罪名:以數(shù)據(jù)保密性為法益的非法獲取、持有、使用數(shù)據(jù)罪和以數(shù)據(jù)完整性、權(quán)利人可獲取性為法益的非法破壞、刪改、壓縮數(shù)據(jù)罪。

    1.數(shù)據(jù)犯罪體系罪名之一:非法獲取、持有、使用數(shù)據(jù)罪。通過數(shù)據(jù)安全犯罪的典型樣態(tài)可以看出,數(shù)據(jù)安全犯罪的整個過程可以分為三步:(1)獲取數(shù)據(jù),如通過軟件將被感染的計算機(jī)上處理的數(shù)據(jù)傳輸至目標(biāo)計算機(jī)上;(2)持有數(shù)據(jù),如通過正常業(yè)務(wù)行為獲得的數(shù)據(jù),應(yīng)當(dāng)刪除而未予刪除;(3)使用數(shù)據(jù)進(jìn)行后續(xù)活動,如通過對數(shù)據(jù)的聯(lián)想搜索、挖掘、并合,從一組無法被還原為信息的非結(jié)構(gòu)化數(shù)據(jù)發(fā)展為能夠還原出信息的數(shù)據(jù)。簡單來說,此三步可以概括為對數(shù)據(jù)的非法獲取、持有和使用。其中,非法獲取數(shù)據(jù)即所謂通過技術(shù)手段獲取存儲、處理、傳輸于電子設(shè)備上的數(shù)據(jù)的行為;非法持有數(shù)據(jù)指行為人通過正常經(jīng)營活動獲得數(shù)據(jù),法律規(guī)定應(yīng)當(dāng)刪除而未予刪除或應(yīng)對數(shù)據(jù)進(jìn)行加密以保證不被他人知悉而未加密的行為;非法使用數(shù)據(jù)則指將通過多種渠道獲得的非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行比對和挖掘,或提供給他人進(jìn)行比對和挖掘,將大量數(shù)據(jù)進(jìn)行整合并還原為有意義的信息的行為。很明顯,從現(xiàn)實中三類行為對公民的侵害和刑法規(guī)制的可行性上來說,這三類行為均應(yīng)當(dāng)被納入《刑法》的規(guī)制范疇。

    2.數(shù)據(jù)犯罪體系罪名之二:非法破壞、刪改、壓縮數(shù)據(jù)罪。我國《刑法》第286條第2款將“對計算機(jī)信息系統(tǒng)中存儲、處理或者傳輸?shù)臄?shù)據(jù)和應(yīng)用程序進(jìn)行刪除、修改、增加的操作,后果嚴(yán)重的”行為作為非法破壞計算機(jī)信息系統(tǒng)罪進(jìn)行規(guī)制。實際上,這一條款規(guī)制的行為即為非法破壞、刪改、壓縮數(shù)據(jù)的行為,然而由于我國《刑法》并未將數(shù)據(jù)安全作為獨立法益加以保護(hù),故當(dāng)前第286條第2款僅作為破壞計算機(jī)信息系統(tǒng)罪的一種表現(xiàn)方式而存在,仍然體現(xiàn)出我國刑法分則將靜態(tài)的數(shù)據(jù)安全與動態(tài)的計算機(jī)系統(tǒng)功能安全混淆的現(xiàn)狀。在這一方面,歐洲委員會的《網(wǎng)絡(luò)犯罪公約》(以下簡稱《公約》)可以提供部分借鑒。具體而言,第4條將無權(quán)破壞、刪除、修改或壓縮計算機(jī)信息系統(tǒng)上存儲的數(shù)據(jù)的行為規(guī)定為了犯罪,第5條則規(guī)定締約國應(yīng)當(dāng)將在無權(quán)情況下故意影響計算機(jī)信息系統(tǒng)正常功能的行為作為犯罪處理,影響計算機(jī)信息系統(tǒng)的方式可以是大量輸入、傳輸、修改、刪除或壓縮數(shù)據(jù)。比較這兩條可以看出,《公約》第4條保護(hù)的是靜態(tài)的數(shù)據(jù)庫,[注]參見歐洲委員會:《網(wǎng)絡(luò)犯罪公約解釋性報告》,Budapest, 23. XI. 2001. 第60條。而第5條雖然規(guī)定了犯罪的實施方式可以是破壞計算機(jī)上的數(shù)據(jù),但其保護(hù)的則是動態(tài)的計算機(jī)信息系統(tǒng)功能。[注]參見歐洲委員會:《網(wǎng)絡(luò)犯罪公約》,European Treaty Series-No. 185。換句話說,基于《公約》的規(guī)定,行為人可以通過破壞靜態(tài)的數(shù)據(jù)庫安全侵害動態(tài)的計算機(jī)信息系統(tǒng)安全,也可以通過破壞動態(tài)的計算機(jī)信息系統(tǒng)安全破壞靜態(tài)的數(shù)據(jù)庫安全,但二種行為的本質(zhì)并不相同,也觸犯了不同的法律條文。這一做法表明《公約》在計算機(jī)信息系統(tǒng)運(yùn)行過程的動態(tài)性和數(shù)據(jù)安全的靜態(tài)性這一區(qū)別上的支持立場。根據(jù)當(dāng)前數(shù)據(jù)安全犯罪的高發(fā)案量,《公約》的此種立法無疑對我國有借鑒意義,是一條可行路徑。

    (二)以信息安全罪名體系保護(hù)信息的合法使用

    鑒于保護(hù)的法益不同,當(dāng)前我國《刑法》對于信息犯罪的制裁罪名分別位于不同章節(jié),主要包括第111條為境外竊取、刺探、收買、非法提供國家秘密、情報罪,第219條侵犯商業(yè)秘密罪,第253條之一侵犯公民個人信息,第282條第1款非法獲取國家秘密罪,第389條故意泄露國家秘密罪、過失泄露國家秘密罪,第431條第1款非法獲取軍事秘密罪,第432條故意泄露軍事秘密罪、過失泄露軍事秘密罪等。雖然這些罪名涉及的犯罪對象包括國家秘密、商業(yè)秘密、公民個人信息、軍事秘密等,但這些對象的法益都是信息的“知悉狀態(tài)”,或者說由“知悉狀態(tài)”所設(shè)置的“保密狀態(tài)”。換句話說,這些條文都是保障其所規(guī)定的信息不被沒有知悉權(quán)利的人知悉,這就是信息安全罪名體系的根本法益。而信息安全罪名體系與數(shù)據(jù)安全罪名體系的銜接之處也在于此。前文說過,侵犯數(shù)據(jù)信息特性的犯罪行為可以分為三步:非法獲取-非法持有-非法使用,而在非法使用階段行為人將難以還原成有效信息的非結(jié)構(gòu)化數(shù)據(jù)通過聯(lián)想搜索、挖掘、并合等方式整合成為能還原成有效信息的數(shù)據(jù)。隨后,若還原出的信息為上述信息安全罪名所保護(hù)的對象,則行為人同時涉嫌相對應(yīng)的信息安全罪名,若在獲取信息后又故意公開或泄露了該信息,亦應(yīng)當(dāng)為其故意公開或泄露的行為承擔(dān)相應(yīng)的刑事責(zé)任。如,行為人通過非法手段獲取了多個網(wǎng)站的大量用戶信息,并通過聯(lián)想比對,將不同網(wǎng)站的用戶信息進(jìn)行配對,最終獲得5000名用戶的信息,其中包括5000名用戶在不同網(wǎng)站的用戶名、密碼、手機(jī)號、工作、住址乃至身份證號、駕駛證號等內(nèi)容。之后,行為人將獲得的用戶信息出售給了他人。此時,行為人前期獲取、并合數(shù)據(jù)的行為侵犯了數(shù)據(jù)安全,而之后將并合得出的信息出售的行為侵害了信息安全,應(yīng)當(dāng)數(shù)罪并罰。

    猜你喜歡
    計算機(jī)信息數(shù)據(jù)安全刑法
    BIM時代計算機(jī)信息技術(shù)在建筑工程中的應(yīng)用
    過度刑法化的傾向及其糾正
    法律方法(2021年4期)2021-03-16 05:35:02
    上海萬欣計算機(jī)信息科技有限公司
    云計算中基于用戶隱私的數(shù)據(jù)安全保護(hù)方法
    電子制作(2019年14期)2019-08-20 05:43:42
    建立激勵相容機(jī)制保護(hù)數(shù)據(jù)安全
    “大數(shù)據(jù)”時代的計算機(jī)信息處理方法闡述
    電子測試(2018年10期)2018-06-26 05:54:32
    大數(shù)據(jù)云計算環(huán)境下的數(shù)據(jù)安全
    電子制作(2017年20期)2017-04-26 06:57:48
    計算機(jī)信息處理技術(shù)
    電子測試(2017年23期)2017-04-04 05:07:48
    刑法適用與刑法教義學(xué)的向度
    刑法論叢(2016年3期)2016-06-01 12:15:17
    大數(shù)據(jù)安全搜索與共享
    久久人人精品亚洲av| 国产视频一区二区在线看| 国产伦一二天堂av在线观看| 国产精品人妻久久久久久| 日韩大尺度精品在线看网址| 日韩欧美国产在线观看| 国产综合懂色| 午夜免费男女啪啪视频观看 | 99久国产av精品| 极品教师在线视频| 天堂影院成人在线观看| 99热精品在线国产| 国产激情偷乱视频一区二区| 91狼人影院| 中文亚洲av片在线观看爽| 国产三级在线视频| 国产男人的电影天堂91| 淫秽高清视频在线观看| 日韩av在线大香蕉| 欧美成人一区二区免费高清观看| 免费搜索国产男女视频| 给我免费播放毛片高清在线观看| 欧美黑人巨大hd| 欧美黑人巨大hd| 午夜精品久久久久久毛片777| 97超级碰碰碰精品色视频在线观看| 如何舔出高潮| 精品久久久久久久久久久久久| 大又大粗又爽又黄少妇毛片口| 韩国av一区二区三区四区| 老熟妇乱子伦视频在线观看| 免费观看在线日韩| 男人舔奶头视频| 亚洲精品成人久久久久久| 国产私拍福利视频在线观看| 成人特级av手机在线观看| 一夜夜www| a级一级毛片免费在线观看| 欧美人与善性xxx| 人妻夜夜爽99麻豆av| 亚洲精品日韩av片在线观看| 91麻豆精品激情在线观看国产| 男女边吃奶边做爰视频| 国内毛片毛片毛片毛片毛片| 亚洲精品影视一区二区三区av| 国产麻豆成人av免费视频| 女的被弄到高潮叫床怎么办 | 日日啪夜夜撸| 18禁黄网站禁片免费观看直播| 美女黄网站色视频| 99久久中文字幕三级久久日本| 我的女老师完整版在线观看| 国产av不卡久久| 超碰av人人做人人爽久久| 啪啪无遮挡十八禁网站| 最后的刺客免费高清国语| 亚洲成人久久爱视频| 欧美丝袜亚洲另类 | 中文字幕av成人在线电影| 亚洲精品日韩av片在线观看| avwww免费| 天堂动漫精品| 一级毛片久久久久久久久女| 欧美在线一区亚洲| 精品欧美国产一区二区三| 色视频www国产| 天堂影院成人在线观看| 色综合婷婷激情| 欧美最新免费一区二区三区| 国产极品精品免费视频能看的| 精品不卡国产一区二区三区| 日本免费一区二区三区高清不卡| 婷婷色综合大香蕉| 久久久成人免费电影| 黄色视频,在线免费观看| 欧美zozozo另类| 国产成人影院久久av| 一级av片app| 色尼玛亚洲综合影院| 久久久久免费精品人妻一区二区| 色5月婷婷丁香| 国产精品98久久久久久宅男小说| 国产白丝娇喘喷水9色精品| 最近在线观看免费完整版| 搡老妇女老女人老熟妇| 18禁黄网站禁片午夜丰满| 国产aⅴ精品一区二区三区波| 久久久久免费精品人妻一区二区| 亚洲成人免费电影在线观看| 午夜影院日韩av| 国产男人的电影天堂91| 亚洲va在线va天堂va国产| 国产麻豆成人av免费视频| 一本精品99久久精品77| 国产av麻豆久久久久久久| 一个人看的www免费观看视频| 亚洲人成网站在线播放欧美日韩| 12—13女人毛片做爰片一| ponron亚洲| 久久欧美精品欧美久久欧美| 久久久国产成人精品二区| 亚洲熟妇熟女久久| 97热精品久久久久久| 成人性生交大片免费视频hd| 欧美国产日韩亚洲一区| 搡老熟女国产l中国老女人| 人妻夜夜爽99麻豆av| 亚洲成人中文字幕在线播放| 日韩强制内射视频| 亚洲最大成人手机在线| 岛国在线免费视频观看| 久久国内精品自在自线图片| 久久99热6这里只有精品| 三级毛片av免费| 国产精品人妻久久久影院| 免费高清视频大片| 国产精品av视频在线免费观看| 久久久成人免费电影| 我要看日韩黄色一级片| 一级毛片久久久久久久久女| 亚洲狠狠婷婷综合久久图片| 91av网一区二区| 国国产精品蜜臀av免费| 69人妻影院| 九九热线精品视视频播放| 欧美黑人欧美精品刺激| 欧美精品国产亚洲| 久久这里只有精品中国| 欧美精品国产亚洲| 日韩高清综合在线| 久久精品国产99精品国产亚洲性色| 成人欧美大片| 精品人妻一区二区三区麻豆 | 久9热在线精品视频| 老司机福利观看| 欧美一级a爱片免费观看看| 免费看光身美女| 亚洲av中文av极速乱 | 欧美一级a爱片免费观看看| 亚洲最大成人中文| 久久热精品热| 国产中年淑女户外野战色| 色播亚洲综合网| xxxwww97欧美| 麻豆一二三区av精品| 又黄又爽又免费观看的视频| 白带黄色成豆腐渣| 国产老妇女一区| 欧美区成人在线视频| 别揉我奶头 嗯啊视频| 久久人妻av系列| 国产激情偷乱视频一区二区| 窝窝影院91人妻| 伊人久久精品亚洲午夜| 不卡一级毛片| 搡老岳熟女国产| 日韩强制内射视频| 麻豆国产av国片精品| 特大巨黑吊av在线直播| 欧美一级a爱片免费观看看| 国内精品一区二区在线观看| 日本-黄色视频高清免费观看| 无遮挡黄片免费观看| 亚洲av免费在线观看| 亚洲欧美日韩卡通动漫| 99热这里只有是精品在线观看| 成人鲁丝片一二三区免费| 看免费成人av毛片| 91麻豆精品激情在线观看国产| 夜夜爽天天搞| 国产在线精品亚洲第一网站| 动漫黄色视频在线观看| 有码 亚洲区| 国产亚洲欧美98| 亚洲最大成人中文| 亚洲综合色惰| 国产精品一区www在线观看 | 一a级毛片在线观看| 成人午夜高清在线视频| 校园春色视频在线观看| 精品不卡国产一区二区三区| 亚洲自偷自拍三级| 午夜激情欧美在线| 日韩精品中文字幕看吧| 婷婷六月久久综合丁香| 日韩高清综合在线| 麻豆一二三区av精品| 欧美又色又爽又黄视频| 狂野欧美激情性xxxx在线观看| 欧美中文日本在线观看视频| 老熟妇乱子伦视频在线观看| 精品久久久久久久久亚洲 | 欧美一区二区精品小视频在线| 久久久久久久午夜电影| 亚洲精品456在线播放app | 国产淫片久久久久久久久| 窝窝影院91人妻| 亚洲美女黄片视频| 97热精品久久久久久| 成人欧美大片| 一a级毛片在线观看| 在现免费观看毛片| 天天一区二区日本电影三级| 亚洲精品色激情综合| 欧美丝袜亚洲另类 | 九九热线精品视视频播放| 性欧美人与动物交配| 天天一区二区日本电影三级| 国产精品免费一区二区三区在线| 好男人在线观看高清免费视频| 国产伦在线观看视频一区| 国内揄拍国产精品人妻在线| 男人和女人高潮做爰伦理| 18+在线观看网站| 在线观看一区二区三区| 亚洲五月天丁香| 日日夜夜操网爽| 日韩欧美精品v在线| 天天躁日日操中文字幕| 日本一本二区三区精品| 此物有八面人人有两片| 成人午夜高清在线视频| 亚洲在线自拍视频| 国产av在哪里看| 男女视频在线观看网站免费| 中文字幕久久专区| 免费看a级黄色片| 欧美成人a在线观看| 直男gayav资源| 国产精品国产三级国产av玫瑰| 成人特级黄色片久久久久久久| 国产亚洲精品综合一区在线观看| 在线观看舔阴道视频| 一进一出抽搐gif免费好疼| eeuss影院久久| 观看美女的网站| 18禁黄网站禁片午夜丰满| 免费在线观看日本一区| 女同久久另类99精品国产91| 亚洲国产精品sss在线观看| 国产精品女同一区二区软件 | 欧美人与善性xxx| 中文字幕av成人在线电影| 国产一区二区亚洲精品在线观看| 男人和女人高潮做爰伦理| 色尼玛亚洲综合影院| .国产精品久久| 美女高潮喷水抽搐中文字幕| 日本 欧美在线| 国产麻豆成人av免费视频| 亚洲人成伊人成综合网2020| 联通29元200g的流量卡| 亚洲专区国产一区二区| avwww免费| 在线观看一区二区三区| 久久久久久久久久黄片| 亚洲av日韩精品久久久久久密| 18禁在线播放成人免费| 深爱激情五月婷婷| 校园人妻丝袜中文字幕| 成人特级av手机在线观看| 成人国产麻豆网| 国产精品国产三级国产av玫瑰| 村上凉子中文字幕在线| 美女免费视频网站| av国产免费在线观看| 久久久久久久久久黄片| 又黄又爽又免费观看的视频| 免费在线观看成人毛片| 美女高潮的动态| 蜜桃亚洲精品一区二区三区| 51国产日韩欧美| 成熟少妇高潮喷水视频| 国产视频一区二区在线看| 国产一区二区三区av在线 | 一级黄片播放器| 国产精品99久久久久久久久| 亚洲成人免费电影在线观看| 亚洲精品成人久久久久久| 午夜亚洲福利在线播放| 亚洲美女搞黄在线观看 | 国产午夜福利久久久久久| 久久婷婷人人爽人人干人人爱| 中亚洲国语对白在线视频| 麻豆精品久久久久久蜜桃| 亚洲人成伊人成综合网2020| 欧美人与善性xxx| 国产真实伦视频高清在线观看 | 中文字幕高清在线视频| 99久久久亚洲精品蜜臀av| 我的女老师完整版在线观看| 国产亚洲av嫩草精品影院| 麻豆av噜噜一区二区三区| 精品不卡国产一区二区三区| 丰满的人妻完整版| 亚洲va在线va天堂va国产| 久久久国产成人免费| 尤物成人国产欧美一区二区三区| 成年女人看的毛片在线观看| 一级毛片久久久久久久久女| 九九爱精品视频在线观看| 伦理电影大哥的女人| 亚洲欧美日韩无卡精品| 亚洲欧美日韩卡通动漫| 免费黄网站久久成人精品| av福利片在线观看| 99久久精品热视频| 无人区码免费观看不卡| 少妇的逼水好多| 免费看a级黄色片| 美女xxoo啪啪120秒动态图| 国产单亲对白刺激| 22中文网久久字幕| 观看美女的网站| 国产色爽女视频免费观看| 22中文网久久字幕| 黄片wwwwww| 一区二区三区四区激情视频 | 天天一区二区日本电影三级| 麻豆成人av在线观看| 丰满人妻一区二区三区视频av| 精品免费久久久久久久清纯| 午夜免费激情av| 免费在线观看日本一区| 亚洲专区国产一区二区| 舔av片在线| 日本一二三区视频观看| 黄色欧美视频在线观看| 成人国产综合亚洲| 欧美区成人在线视频| 国产私拍福利视频在线观看| 午夜福利视频1000在线观看| 欧美日韩中文字幕国产精品一区二区三区| 男插女下体视频免费在线播放| a级一级毛片免费在线观看| 国产高清视频在线播放一区| 久久中文看片网| 简卡轻食公司| 欧美绝顶高潮抽搐喷水| 国内少妇人妻偷人精品xxx网站| 看免费成人av毛片| 999久久久精品免费观看国产| 久久婷婷人人爽人人干人人爱| 高清毛片免费观看视频网站| 啦啦啦观看免费观看视频高清| 此物有八面人人有两片| 岛国在线免费视频观看| 亚洲美女搞黄在线观看 | 男女那种视频在线观看| 极品教师在线免费播放| 搡老妇女老女人老熟妇| 麻豆av噜噜一区二区三区| 国产探花在线观看一区二区| a在线观看视频网站| 尤物成人国产欧美一区二区三区| 午夜日韩欧美国产| 国内揄拍国产精品人妻在线| 一本久久中文字幕| 国产精品野战在线观看| 国产精品综合久久久久久久免费| 久久久精品欧美日韩精品| 美女 人体艺术 gogo| 国产精品久久电影中文字幕| 我的老师免费观看完整版| 国产男靠女视频免费网站| 一个人观看的视频www高清免费观看| 亚洲欧美精品综合久久99| 国产精品99久久久久久久久| 午夜免费成人在线视频| 丝袜美腿在线中文| 国产淫片久久久久久久久| 级片在线观看| 1024手机看黄色片| 真实男女啪啪啪动态图| 在线观看av片永久免费下载| 有码 亚洲区| 久久午夜亚洲精品久久| 校园春色视频在线观看| 国产精品乱码一区二三区的特点| 99久久中文字幕三级久久日本| 亚洲va在线va天堂va国产| 中文字幕免费在线视频6| 在线a可以看的网站| 麻豆国产97在线/欧美| 亚洲av免费高清在线观看| av专区在线播放| 国产高清视频在线播放一区| 18禁在线播放成人免费| 国产色爽女视频免费观看| 变态另类成人亚洲欧美熟女| 搞女人的毛片| 亚洲,欧美,日韩| 亚洲国产欧美人成| 少妇人妻精品综合一区二区 | 免费人成在线观看视频色| ponron亚洲| 亚洲七黄色美女视频| 国产综合懂色| 日日啪夜夜撸| 色综合站精品国产| 麻豆精品久久久久久蜜桃| 成人永久免费在线观看视频| 婷婷色综合大香蕉| or卡值多少钱| 毛片女人毛片| 日韩大尺度精品在线看网址| av国产免费在线观看| 给我免费播放毛片高清在线观看| 如何舔出高潮| 国产高清不卡午夜福利| 久久久精品欧美日韩精品| 欧美另类亚洲清纯唯美| 精品福利观看| 久久人人爽人人爽人人片va| 男人狂女人下面高潮的视频| 婷婷亚洲欧美| 国产亚洲91精品色在线| 九九爱精品视频在线观看| 欧美区成人在线视频| 欧美精品国产亚洲| 直男gayav资源| 嫩草影视91久久| 啪啪无遮挡十八禁网站| 欧美+日韩+精品| 99在线人妻在线中文字幕| 欧美国产日韩亚洲一区| 3wmmmm亚洲av在线观看| 久99久视频精品免费| 白带黄色成豆腐渣| 亚洲av一区综合| 国内久久婷婷六月综合欲色啪| 国产一区二区三区视频了| 色精品久久人妻99蜜桃| 久久精品国产亚洲av涩爱 | 国产伦精品一区二区三区四那| 国产91精品成人一区二区三区| 中出人妻视频一区二区| 国产精品无大码| 麻豆精品久久久久久蜜桃| 成人av一区二区三区在线看| 美女cb高潮喷水在线观看| 网址你懂的国产日韩在线| 国产精品女同一区二区软件 | 少妇裸体淫交视频免费看高清| 亚洲av中文字字幕乱码综合| 亚洲内射少妇av| 欧美最黄视频在线播放免费| 日本精品一区二区三区蜜桃| 国内精品美女久久久久久| 国产亚洲av嫩草精品影院| 我要搜黄色片| 午夜精品久久久久久毛片777| 国产在线精品亚洲第一网站| 成人鲁丝片一二三区免费| 婷婷亚洲欧美| 亚洲成人精品中文字幕电影| 国产一区二区三区在线臀色熟女| 国产精品福利在线免费观看| 久久6这里有精品| 成年女人毛片免费观看观看9| 欧美潮喷喷水| 男人舔奶头视频| 免费观看的影片在线观看| 99热精品在线国产| 日韩欧美精品v在线| 我要看日韩黄色一级片| 国产精品一区二区三区四区久久| 国产亚洲av嫩草精品影院| 成人综合一区亚洲| 97超级碰碰碰精品色视频在线观看| 国产精品99久久久久久久久| 综合色av麻豆| 69av精品久久久久久| 欧美成人一区二区免费高清观看| 午夜免费男女啪啪视频观看 | 在现免费观看毛片| 亚洲无线观看免费| 少妇裸体淫交视频免费看高清| 免费av观看视频| 最近视频中文字幕2019在线8| 中文字幕高清在线视频| 夜夜看夜夜爽夜夜摸| 中亚洲国语对白在线视频| 国产免费男女视频| 变态另类丝袜制服| 99久久精品国产国产毛片| 精华霜和精华液先用哪个| 嫩草影院新地址| 欧美最黄视频在线播放免费| 免费av毛片视频| 成年免费大片在线观看| 国产免费一级a男人的天堂| 亚洲三级黄色毛片| 日本黄大片高清| 欧美日韩瑟瑟在线播放| 久久人人精品亚洲av| eeuss影院久久| 91久久精品国产一区二区成人| 久久久久久国产a免费观看| 欧美色视频一区免费| 18禁黄网站禁片午夜丰满| 中国美女看黄片| 可以在线观看的亚洲视频| 国产精品不卡视频一区二区| 日韩,欧美,国产一区二区三区 | 我的女老师完整版在线观看| 亚洲av熟女| 亚洲一区高清亚洲精品| 国产精品永久免费网站| 亚洲天堂国产精品一区在线| 小蜜桃在线观看免费完整版高清| 在线观看一区二区三区| or卡值多少钱| 国产单亲对白刺激| 日本黄色视频三级网站网址| www.色视频.com| 久久天躁狠狠躁夜夜2o2o| 99久久无色码亚洲精品果冻| 黄色女人牲交| 美女 人体艺术 gogo| 高清在线国产一区| .国产精品久久| 亚洲五月天丁香| 免费观看精品视频网站| 日韩欧美精品v在线| 色精品久久人妻99蜜桃| 成人永久免费在线观看视频| 欧美bdsm另类| 特大巨黑吊av在线直播| 久久久午夜欧美精品| 最近在线观看免费完整版| 亚洲av五月六月丁香网| 舔av片在线| 亚洲中文日韩欧美视频| 美女高潮喷水抽搐中文字幕| 桃红色精品国产亚洲av| 人妻制服诱惑在线中文字幕| 少妇裸体淫交视频免费看高清| 国产精品伦人一区二区| 99热精品在线国产| 色在线成人网| 欧美一区二区亚洲| 国产aⅴ精品一区二区三区波| 老熟妇乱子伦视频在线观看| 欧美xxxx黑人xx丫x性爽| 欧美日本视频| 嫩草影视91久久| 麻豆av噜噜一区二区三区| 色哟哟哟哟哟哟| 亚洲精品国产成人久久av| 亚洲精品乱码久久久v下载方式| 久久久久国产精品人妻aⅴ院| 五月玫瑰六月丁香| 日本撒尿小便嘘嘘汇集6| 最好的美女福利视频网| a级毛片a级免费在线| 国产亚洲欧美98| 日韩一本色道免费dvd| 免费人成视频x8x8入口观看| 国产综合懂色| 动漫黄色视频在线观看| 欧美一区二区国产精品久久精品| 成年免费大片在线观看| 国产白丝娇喘喷水9色精品| 床上黄色一级片| 人妻久久中文字幕网| 欧美一区二区精品小视频在线| 亚洲欧美日韩高清专用| 欧美高清成人免费视频www| 国产免费一级a男人的天堂| 亚洲av免费高清在线观看| 亚洲avbb在线观看| 1000部很黄的大片| 欧美日韩中文字幕国产精品一区二区三区| 窝窝影院91人妻| 成人国产麻豆网| 精品人妻一区二区三区麻豆 | 亚洲精品一区av在线观看| 国产成人影院久久av| 国产 一区 欧美 日韩| 国产爱豆传媒在线观看| 国产亚洲av嫩草精品影院| 亚洲三级黄色毛片| 日本色播在线视频| 亚洲一区高清亚洲精品| 两个人的视频大全免费| 别揉我奶头~嗯~啊~动态视频| 99久久九九国产精品国产免费| a级毛片a级免费在线| 日日摸夜夜添夜夜添av毛片 | 日韩亚洲欧美综合| 97碰自拍视频| 天天躁日日操中文字幕| 欧美+日韩+精品| 亚洲黑人精品在线| 天堂网av新在线| 色综合亚洲欧美另类图片| 精品午夜福利视频在线观看一区| av天堂中文字幕网| 国模一区二区三区四区视频| 亚洲经典国产精华液单| 免费大片18禁| 国产精品99久久久久久久久| 波多野结衣高清作品| 女的被弄到高潮叫床怎么办 | 99久久久亚洲精品蜜臀av| 一区二区三区四区激情视频 | 国产亚洲精品av在线| 免费搜索国产男女视频| 永久网站在线| xxxwww97欧美| 一区福利在线观看| 成人美女网站在线观看视频| 亚洲专区国产一区二区| 99精品久久久久人妻精品|