• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)據(jù)安全與數(shù)據(jù)利用平衡的法治保障

    2023-04-26 22:48:12鄭智航
    關(guān)鍵詞:數(shù)據(jù)安全

    【摘要】數(shù)據(jù)安全是數(shù)據(jù)流通和使用的前提和基礎(chǔ)。以維護數(shù)據(jù)主權(quán)為由阻礙數(shù)據(jù)利用、擴大數(shù)據(jù)安全審查范圍、過分強調(diào)數(shù)據(jù)靜態(tài)安全,是數(shù)據(jù)安全與數(shù)據(jù)利用失衡的重要表現(xiàn)形式。從數(shù)據(jù)靜態(tài)安全轉(zhuǎn)變?yōu)閿?shù)據(jù)動態(tài)安全、強調(diào)多元主體共治、實現(xiàn)法律的后置模式到前置模式的轉(zhuǎn)變,是數(shù)據(jù)安全與數(shù)據(jù)利用平衡的主要發(fā)展動向。從數(shù)字經(jīng)濟發(fā)展的基本規(guī)律和法治運行的規(guī)律出發(fā),妥善處理數(shù)據(jù)主權(quán)與數(shù)據(jù)自由流通、技術(shù)治理與法律治理、數(shù)據(jù)整體保護與數(shù)據(jù)具體保護三對主要關(guān)系,是實現(xiàn)數(shù)據(jù)安全與數(shù)據(jù)利用平衡的法治路徑。

    【關(guān)鍵詞】數(shù)字法學(xué)? 數(shù)據(jù)安全? 數(shù)據(jù)利用? 數(shù)字法治

    【中圖分類號】D922.16? ? ? ? ? ? ? ? ? ? ? ? ?【文獻標(biāo)識碼】A

    【DOI】10.16619/j.cnki.rmltxsqy.2023.06.007

    隨著信息科學(xué)、大數(shù)據(jù)和人工智能技術(shù)的發(fā)展,數(shù)據(jù)的價值愈發(fā)凸顯。數(shù)據(jù)作為一種新的生產(chǎn)要素,正在快速融入生產(chǎn)、交換、分配和消費各個環(huán)節(jié)。數(shù)據(jù)應(yīng)用快速改變著生產(chǎn)方式并大幅提升活動效率,與此同時,數(shù)據(jù)基礎(chǔ)設(shè)施遭受攻擊、數(shù)據(jù)泄露、個人數(shù)據(jù)濫用、數(shù)據(jù)霸權(quán)現(xiàn)象等一系列數(shù)據(jù)安全問題如影隨形。對此,各國都采取了一定的措施,強化對數(shù)據(jù)安全的保護。然而,過分強調(diào)數(shù)據(jù)安全極有可能導(dǎo)致數(shù)據(jù)安全與利用之間的價值失衡,增加數(shù)據(jù)利用成本,影響數(shù)字社會的發(fā)展。因此,如何有效平衡數(shù)據(jù)安全與數(shù)據(jù)利用、統(tǒng)籌數(shù)據(jù)安全與數(shù)據(jù)產(chǎn)業(yè)發(fā)展的關(guān)系,是當(dāng)下數(shù)字社會發(fā)展亟須解決的一個重要問題。

    數(shù)據(jù)安全與數(shù)據(jù)利用失衡的表現(xiàn)形式

    數(shù)據(jù)在技術(shù)創(chuàng)新進一步嵌入、社會分工進一步深化、經(jīng)濟時空進一步延展等方面都具有高度的價值屬性,人們能夠通過數(shù)據(jù)利用來提升社會活動的效率和效益。[1]然而,數(shù)據(jù)利用具有高度的專業(yè)性、技術(shù)性和隱蔽性,從而在一定程度上滋生出一種具有高度支配性的平臺權(quán)力。這種平臺權(quán)力突破了國家權(quán)力專屬性質(zhì),容易增加國家治理負(fù)荷和侵害公民權(quán)益的風(fēng)險。因此,強調(diào)數(shù)據(jù)安全既有必要性,也有正當(dāng)性。但在實踐中過分強調(diào)數(shù)據(jù)安全容易引起數(shù)據(jù)安全與數(shù)據(jù)利用的失衡,從而影響數(shù)字社會的發(fā)展。具體而言,數(shù)據(jù)安全與數(shù)據(jù)利用的失衡主要體現(xiàn)在以下方面。

    運用數(shù)據(jù)主權(quán)阻礙數(shù)據(jù)利用。數(shù)據(jù)的流動性和穿透性致使數(shù)據(jù)利用極有可能逃逸于主權(quán)國家的監(jiān)管,進而影響國家利益和社會利益。在此背景下,以管制主義為核心的數(shù)據(jù)主權(quán)理論愈加強化。根據(jù)數(shù)據(jù)主權(quán)的相關(guān)理論,計算機硬件設(shè)備是數(shù)據(jù)和互聯(lián)網(wǎng)的載體,設(shè)備必然有安置地,而且存儲于某地設(shè)備中的數(shù)據(jù)往往是因特定地點的人、事和物而產(chǎn)生的,因此,數(shù)據(jù)便天然歸屬到了相關(guān)設(shè)備的所在地國——數(shù)據(jù)主權(quán)由此產(chǎn)生。[2]數(shù)據(jù)的利用絕不是要排除政府的干預(yù),它和其他領(lǐng)域的自由一樣,都需要受到政府某種形式的控制。[3]近年來,世界各國出于國家安全考量,紛紛強化“數(shù)據(jù)主權(quán)”理念,并采取多種措施加強對數(shù)據(jù)利用的管制。例如,2018年,美國通過《澄清域外合法使用數(shù)據(jù)法案》,明確了美國執(zhí)法機構(gòu)在法定條件下調(diào)取美國公民存儲在域外服務(wù)器中的電子郵件、文檔和其他通信內(nèi)容的規(guī)則,企圖將美國“長臂管轄”權(quán)擴展到網(wǎng)絡(luò)空間數(shù)據(jù)領(lǐng)域,并對外國機構(gòu)獲取美國境內(nèi)個人信息設(shè)定了比美國機構(gòu)更為嚴(yán)苛的條件。2021年,日本個人信息保護委員會頒布了《跨境數(shù)據(jù)流動指南》,強調(diào)在嚴(yán)格保護網(wǎng)絡(luò)安全的前提下,推動工業(yè)、健康等領(lǐng)域中非個人、匿名、有用信息的自由流動。英國、德國等國家也以保護數(shù)據(jù)安全為由,打壓其域外國家技術(shù)與App的應(yīng)用。[4]這些過于強調(diào)數(shù)據(jù)安全的措施和手段極易滋生數(shù)據(jù)利用中的不對等現(xiàn)象。不同國家的數(shù)據(jù)處理能力不同,數(shù)據(jù)處理能力強的國家極有可能以國家安全為理由,繞開其它國家的法律制度而單方面獲取一些數(shù)據(jù),造成國家之間在利用他國數(shù)據(jù)方面的實質(zhì)不對等。

    數(shù)據(jù)安全審查的擴大化。數(shù)據(jù)安全審查是一個國家依托專門機構(gòu)按照嚴(yán)格的數(shù)據(jù)審查啟動程序和審查運行程序?qū)χ匾獢?shù)據(jù)進行審查以維護國家數(shù)據(jù)主權(quán)、公共數(shù)據(jù)安全和個人數(shù)據(jù)安全的一項重要措施。盡管數(shù)據(jù)安全審查能夠在一定程度上維護數(shù)據(jù)安全,但是政府在實踐中容易濫用數(shù)據(jù)安全審查阻礙數(shù)據(jù)信息的正常傳遞、流動和利用。例如,2022年,美國政府就以數(shù)據(jù)安全為由,對阿里巴巴云存儲業(yè)務(wù)進行審查,關(guān)注阿里巴巴是否收集和存儲了美國用戶數(shù)據(jù),并對阿里巴巴是否將這些數(shù)據(jù)開放給中國政府進行了重點審查。[5]具體而言,政府安全審查擴大化的主要方式包括:第一,違反數(shù)據(jù)安全審查程序。數(shù)據(jù)安全審查理應(yīng)遵循數(shù)據(jù)安全案件的受理程序、數(shù)據(jù)安全是否被侵犯的初步篩查程序、數(shù)據(jù)審查者就數(shù)據(jù)安全案件的審理程序、數(shù)據(jù)安全審查機構(gòu)的決定程序等一系列的復(fù)雜程序。[6]這些程序為數(shù)據(jù)安全與數(shù)據(jù)利用的平衡提供了重要的形式保障,但在實踐中數(shù)據(jù)安全審查機構(gòu)容易違反上述程序。第二,擴大數(shù)據(jù)安全審查的范圍。隨著數(shù)據(jù)價值的日益凸顯,各國都在加強對數(shù)據(jù)安全的審查并進一步擴大數(shù)據(jù)安全審查的范圍。例如,美國除了將農(nóng)業(yè)、受控技術(shù)信息、關(guān)鍵基礎(chǔ)設(shè)施、應(yīng)急管理、出口控制、金融、地理產(chǎn)品信息等界定為重要數(shù)據(jù)并規(guī)定其需要接受審查外,還將持有美國公民敏感個人數(shù)據(jù)的外資背景公司納入審查范圍。[7]第三,用定量審查標(biāo)準(zhǔn)代替定性審查標(biāo)準(zhǔn)。數(shù)據(jù)安全審查標(biāo)準(zhǔn)是一個相當(dāng)復(fù)雜的標(biāo)準(zhǔn)體系,涉及定量因素與定性因素的有效結(jié)合。然而,為了操作便利,政府在監(jiān)管實踐中往往會用定量標(biāo)準(zhǔn)來代替定性標(biāo)準(zhǔn)。例如,有專家認(rèn)為,國家網(wǎng)信辦于2022年7月出臺的《數(shù)據(jù)出境安全評估辦法》將“累計向境外提供10萬人個人信息或者1萬人敏感個人信息的數(shù)據(jù)處理者向境外提供個人信息”作為需申報數(shù)據(jù)出境安全評估的情形之一,這在一定程度上忽略了個人信息的性質(zhì)、用途、處理方式、信息主體身份、是否可公開獲得等定性因素。[8]

    數(shù)據(jù)靜態(tài)安全保護。從理論上講,數(shù)據(jù)安全主要包括數(shù)據(jù)占有意義上的安全和數(shù)據(jù)流通利用中的安全兩個層面。前者強調(diào)的是數(shù)據(jù)靜態(tài)安全,后者強調(diào)的是數(shù)據(jù)動態(tài)安全。從數(shù)據(jù)安全保護的制度設(shè)置來看,數(shù)據(jù)靜態(tài)安全側(cè)重于通過物權(quán)制度來實現(xiàn);數(shù)據(jù)動態(tài)安全則側(cè)重于通過債權(quán)制度來實現(xiàn)。隨著數(shù)字經(jīng)濟的快速發(fā)展,以數(shù)據(jù)流通利用為核心的數(shù)據(jù)動態(tài)安全的價值進一步凸顯。在數(shù)據(jù)價值化的過程中,數(shù)據(jù)被吸附進數(shù)據(jù)化體系以后,被數(shù)據(jù)處理技術(shù)創(chuàng)造轉(zhuǎn)化出新的關(guān)系化信息,數(shù)據(jù)處理技術(shù)又會再次將這種關(guān)系化的信息重新數(shù)據(jù)化,產(chǎn)生出更新的關(guān)系化信息。[9]只有在不斷“關(guān)系化”的過程中,數(shù)據(jù)才能實現(xiàn)增值,因此,應(yīng)當(dāng)更進一步強化數(shù)據(jù)的動態(tài)安全觀念。然而,為追求風(fēng)險控制和社會管理的便利,政府在監(jiān)管實踐中更強調(diào)數(shù)據(jù)靜態(tài)安全,傾向于采取“一刀切”的作法并利用信息刪除、屏蔽和封號等技術(shù)手段對被認(rèn)為是有害的某些信息和數(shù)據(jù)進行監(jiān)管。這種作法忽視了數(shù)據(jù)的價值辯識過程是一個復(fù)雜的交互過程,極有可能阻礙有價值的數(shù)據(jù)和信息的流通和利用。

    數(shù)據(jù)安全與數(shù)據(jù)利用平衡的基本取向

    數(shù)據(jù)安全和數(shù)據(jù)利用是數(shù)字經(jīng)濟發(fā)展的一體兩翼。數(shù)字經(jīng)濟的健康發(fā)展不僅強調(diào)數(shù)據(jù)安全,而且強調(diào)數(shù)據(jù)的流通和利用。因此,保持?jǐn)?shù)據(jù)安全與數(shù)據(jù)流通利用的適度平衡是數(shù)字經(jīng)濟持續(xù)健康發(fā)展的前提。面對當(dāng)前數(shù)據(jù)安全與數(shù)據(jù)利用出現(xiàn)的上述失衡現(xiàn)象,我們需要在一定程度上轉(zhuǎn)變價值觀念,逐步樹立數(shù)據(jù)動態(tài)安全觀念,強調(diào)多元主體共治,實現(xiàn)法律介入的后置模式到前置模式的轉(zhuǎn)變。

    從數(shù)據(jù)靜態(tài)安全到數(shù)據(jù)動態(tài)安全。前已敘及,數(shù)字經(jīng)濟發(fā)展的過程是利用數(shù)字技術(shù)充分挖掘數(shù)據(jù)價值,并將數(shù)據(jù)植入一定的數(shù)據(jù)化體系,從而實現(xiàn)數(shù)據(jù)增值的過程。倘若將數(shù)據(jù)完全置入靜態(tài)狀態(tài),數(shù)據(jù)的絕對安全的確能夠?qū)崿F(xiàn),但是,這將極大阻礙數(shù)據(jù)的流通價值和交換價值的實現(xiàn)。因此,我們既要強調(diào)數(shù)據(jù)的靜態(tài)安全,又要強調(diào)數(shù)據(jù)的動態(tài)安全價值,確立一種數(shù)據(jù)動態(tài)安全觀。

    所謂數(shù)據(jù)動態(tài)安全,強調(diào)數(shù)據(jù)安全不僅局限于數(shù)據(jù)占有上的絕對安全,還應(yīng)確保數(shù)據(jù)流通利用過程中的安全,其核心在于構(gòu)建一套盡可能有助于數(shù)據(jù)資源有序流通利用的基本規(guī)則。這也是數(shù)據(jù)作為一種新型生產(chǎn)要素,快速融入數(shù)字經(jīng)濟活動的重要前提。因此,數(shù)據(jù)動態(tài)安全理念強調(diào)債權(quán)保護理念和制度在確保數(shù)據(jù)安全方面的重要作用,這也符合現(xiàn)代市場經(jīng)濟發(fā)展的基本規(guī)律。日本著名學(xué)者我妻榮從所有權(quán)的發(fā)展歷史與支配作用角度分析認(rèn)為,在現(xiàn)代市場經(jīng)濟社會中,所有權(quán)色彩愈來愈弱,而債權(quán)色彩愈來愈強,甚至債權(quán)在現(xiàn)代法律中具有優(yōu)越地位。因為在僅依物權(quán)形成財產(chǎn)關(guān)系、僅以物權(quán)作為財產(chǎn)客體的時代,人類可以說只能生活在過去和現(xiàn)在。但是,經(jīng)濟價值不是暫時靜止地存在于物權(quán),而是從一個債權(quán)向另一個債權(quán)不停地移動。承認(rèn)債權(quán)制度就可以使將來的給付預(yù)約變?yōu)楝F(xiàn)在的給付對價價值。[10]從數(shù)據(jù)的增值過程來看,它本是大量零亂的信息被技術(shù)化手段處理后而創(chuàng)造轉(zhuǎn)化出新價值的過程。在此過程中,數(shù)據(jù)的所有權(quán)歸屬問題很難界定,平臺上的數(shù)據(jù)既可以被認(rèn)為是個人所有、平臺所有、個人與平臺共有,也可以被認(rèn)為是互聯(lián)網(wǎng)空間的公共數(shù)據(jù)。[11]因此,從數(shù)據(jù)的靜態(tài)所有權(quán)意義上來確保數(shù)據(jù)安全難度很大,而應(yīng)當(dāng)從動態(tài)的流通使用意義上來認(rèn)識數(shù)據(jù)安全問題,通過構(gòu)建符合市場經(jīng)濟運行基本規(guī)律的數(shù)據(jù)要素流通和交易制度來促進數(shù)據(jù)動態(tài)安全的實現(xiàn)。

    此外,數(shù)據(jù)動態(tài)安全也強調(diào)一種場景化的分析思路。從這一思路出發(fā),數(shù)據(jù)要素面臨的安全問題具有較大的不確定性,需要逐步細(xì)化,并進行類型化和模式化,同時需要結(jié)合安全領(lǐng)域技術(shù)對場景進行賦能,從而沉淀更多的數(shù)據(jù)場景。[12]因此,需要結(jié)合具體的情勢認(rèn)識和分析數(shù)據(jù)安全問題。

    從政府管控到多元主體共治。深受數(shù)據(jù)主權(quán)理念的影響,各國都強調(diào)政府應(yīng)當(dāng)運用行政權(quán)力確保數(shù)據(jù)安全的實現(xiàn),并逐步形成了一種政府管控的理念。這種理念主要存在以下局限:第一,忽視了數(shù)字生活領(lǐng)域逐步形成的“政府—平臺—商戶”“公權(quán)力—社會權(quán)力—私權(quán)利”的三元結(jié)構(gòu)。數(shù)據(jù)技術(shù)往往與算法技術(shù)結(jié)合,并產(chǎn)生了一種信息權(quán)力。[13]這種信息權(quán)力改變了政府與個人的關(guān)系及公權(quán)力與私權(quán)利的關(guān)系,將傳統(tǒng)國家與社會、公權(quán)力與私權(quán)利的消極對抗關(guān)系轉(zhuǎn)變?yōu)楣餐献麝P(guān)系,政府權(quán)力也由傳統(tǒng)的“高專斷性”轉(zhuǎn)變?yōu)椤昂献餍浴?。在平衡?shù)據(jù)安全與數(shù)據(jù)利用的過程中,數(shù)據(jù)平臺和社會第三方因為具備技術(shù)優(yōu)勢,在事實上扮演著愈來愈重要的角色。第二,不利于數(shù)據(jù)的流通利用,影響數(shù)字經(jīng)濟的發(fā)展。政府管控的理念具有較強的集權(quán)主義色彩,它強調(diào)政府在數(shù)據(jù)領(lǐng)域的嚴(yán)格管控,不斷擴大政府在數(shù)據(jù)相關(guān)領(lǐng)域的管轄范圍和管轄權(quán)力,將越來越多的數(shù)據(jù)資源分配權(quán)和行政審批權(quán)掌握在自己手中。[14]而這種監(jiān)管模式帶來的負(fù)面影響會在一定程度上降低數(shù)據(jù)流通和利用的效率,增加數(shù)字經(jīng)濟的交易成本。第三,忽視政府在科技領(lǐng)域存在知識不足這一客觀現(xiàn)實。數(shù)字經(jīng)濟的核心在于利用信息技術(shù)挖掘數(shù)據(jù)要素的潛能,而這個過程具有高度的技術(shù)性、專業(yè)性和隱蔽性。受制于知識的有限性,政府必須借助數(shù)據(jù)平臺和社會第三方的力量來對數(shù)據(jù)安全與數(shù)據(jù)利用進行有效平衡。

    因此,我們應(yīng)當(dāng)堅持政府主導(dǎo)下的多元主體共治的基本理念。該理念強調(diào)在平衡數(shù)據(jù)安全和數(shù)據(jù)利用的過程中,應(yīng)當(dāng)充分考慮國家安全需要,并在政府主導(dǎo)下廣泛吸收社會多元力量參與,從而形成一種多元主體合作共治的格局。這種理念既要求反對虛化數(shù)據(jù)主權(quán)、徹底拋棄國家主權(quán)觀念,任由數(shù)字經(jīng)濟自生自發(fā)的作法;又要求反對利用本國網(wǎng)絡(luò)和數(shù)據(jù)技術(shù)的優(yōu)勢及地位控制整個數(shù)據(jù)流通和使用過程的進攻性數(shù)據(jù)霸權(quán)行為以及政府以維護國家安全為由無限擴大管控范圍和管控強度的作法。

    從法律介入的后置模式到前置模式的轉(zhuǎn)變。在傳統(tǒng)安全領(lǐng)域,法律往往是以后置模式介入的。這種后置模式以危害或行為發(fā)生以后進行追責(zé)、處理、修復(fù)和救濟為核心。[15]然而,這種后置模式在數(shù)字經(jīng)濟中難以奏效。一方面,數(shù)字經(jīng)濟往往和互聯(lián)網(wǎng)聯(lián)系緊密,互聯(lián)網(wǎng)不但為數(shù)字經(jīng)濟提供了物質(zhì)基礎(chǔ),也為數(shù)字經(jīng)濟提供了大量的數(shù)據(jù)資源。然而,互聯(lián)網(wǎng)具有顯著的跨時間性和跨空間性,從而在實質(zhì)上形成了一種新質(zhì)的共在模式,它實現(xiàn)了人機交互的生存方式,使人的心智與計算機的高性能得以良好嵌合。這種人網(wǎng)合一的嵌合結(jié)構(gòu)使人的實踐能力發(fā)生了質(zhì)的飛躍,社會實踐因人與工具的交互作用產(chǎn)生倍增之效。[16]這種新的方式增加了法律關(guān)系的不確定性,模糊了行為與結(jié)果之間的因果關(guān)系,從而增加了事后處置的難度。另一方面,互聯(lián)網(wǎng)的互聯(lián)互通增加了數(shù)據(jù)流通和利用的安全風(fēng)險,而且,這種安全風(fēng)險具有系統(tǒng)性、不確定性、不可控性和難以恢復(fù)性等特點。例如,2020年,萬豪國際酒店泄露了大約520萬名客人的姓名、通訊地址、會員賬號等個人信息。這是該酒店繼2018年發(fā)生信息泄露事件以后又一次發(fā)生大規(guī)模個人信息泄露事件。這些信息涉及人數(shù)多、范圍廣,給相關(guān)個人造成了難以挽回的巨大損失。此次泄露事件也給萬豪國際酒店自身帶來了巨大損失,僅2020年4月1日一天,萬豪國際股價大跌,市值蒸發(fā)約18.34億美元。[17]盡管啟動事后追責(zé)的法律后置處置程序,能夠在一定程度上彌補當(dāng)事人的損失,但是,個人隱私性信息已經(jīng)被他人知曉。由此可見,財產(chǎn)權(quán)受到損害后可以通過事后的修復(fù)或賠償恢復(fù),使財產(chǎn)恢復(fù)到未受到損害前的狀態(tài),但在數(shù)據(jù)領(lǐng)域卻難以通過這一法律處置模式彌補被侵權(quán)人的損失。

    鑒于法律后置模式在數(shù)據(jù)安全領(lǐng)域的失靈和降效,我們應(yīng)當(dāng)進一步強調(diào)以風(fēng)險預(yù)防和法律代碼化為核心的法律前置模式。在法律前置模式下,數(shù)據(jù)安全事件一但發(fā)生,就會給當(dāng)事人帶來無法挽回的損失,法律應(yīng)當(dāng)聚焦于行為發(fā)生之前,通過對人們行為的事前規(guī)訓(xùn)、塑造以及對不法與違法行為的阻卻來減少數(shù)據(jù)安全事件的發(fā)生。[18]因此,我們應(yīng)當(dāng)進一步發(fā)揮法律在數(shù)據(jù)流通和使用過程中的風(fēng)險預(yù)防功能。與此同時,算法在數(shù)字社會中扮演著越來越重要的角色,推動實現(xiàn)法律規(guī)則的算法化,并使法律規(guī)則的自動執(zhí)行成為可能。法律的前置模式強調(diào)將數(shù)據(jù)安全與數(shù)據(jù)利用平衡相關(guān)的法律規(guī)則和理念預(yù)先嵌入數(shù)據(jù)運用的算法形成過程中,并能夠推動實現(xiàn)自動化執(zhí)行。

    數(shù)據(jù)安全與數(shù)據(jù)利用平衡的實現(xiàn)路徑

    面對數(shù)據(jù)安全與數(shù)據(jù)利用的失衡狀況,我們需要認(rèn)真審視二者之間的關(guān)系,在強化數(shù)據(jù)安全保障的同時,加快構(gòu)建以數(shù)據(jù)流動和利用為核心的數(shù)字經(jīng)濟發(fā)展格局。這也要求我們從數(shù)字經(jīng)濟發(fā)展的基本規(guī)律和法治運行的規(guī)律出發(fā),妥善處理好數(shù)據(jù)主權(quán)與數(shù)據(jù)自由流通、技術(shù)治理與法律治理、數(shù)據(jù)整體保護與數(shù)據(jù)具體保護三對主要關(guān)系。

    數(shù)據(jù)主權(quán)的法律構(gòu)造。過分強調(diào)數(shù)據(jù)主權(quán)理念極有可能造成數(shù)據(jù)安全與數(shù)據(jù)利用的失衡,但是,數(shù)據(jù)主權(quán)觀念仍然是我們應(yīng)當(dāng)秉持的基本理念,而不能如網(wǎng)絡(luò)自由主義所主張的那樣否定國家對運行在網(wǎng)絡(luò)中的數(shù)據(jù)擁有主權(quán)和政府對數(shù)據(jù)領(lǐng)域的必要干預(yù)。[19]盡管主權(quán)觀念是起源于物理邊界的觀念,但是,主權(quán)本身是一個不斷發(fā)展的概念。隨著技術(shù)的進步與發(fā)展,國家的控制力愈來愈強,實質(zhì)邊界也因此愈來愈大,并逐步突破物理邊界的概念,向虛擬的網(wǎng)絡(luò)世界延展。另一方面,虛擬的網(wǎng)絡(luò)世界會產(chǎn)生一些沖突和矛盾,而這些沖突和矛盾不可能完全靠自生自發(fā)的規(guī)則來化解,這種情況就需要國家主權(quán)的界入,此外,網(wǎng)絡(luò)的無中心性使得人們的行為從地緣空間擴展到無形的網(wǎng)絡(luò)空間,而對無形的網(wǎng)絡(luò)空間的監(jiān)管必然要求政府的權(quán)力超越地域因素的限制。數(shù)據(jù)作為網(wǎng)絡(luò)空間中最重要的資源,自然屬于國家主權(quán)的管轄范圍。因此,數(shù)據(jù)主權(quán)觀念應(yīng)運而生,該觀念強調(diào)國家對內(nèi)擁有對數(shù)據(jù)進行管轄的權(quán)力,而對外則擁有獨立處理數(shù)據(jù)相關(guān)事務(wù)的權(quán)力。然而,數(shù)字主權(quán)也不是法國政治思想家讓·博丹“主權(quán)學(xué)說”定義下的絕對性意義的主權(quán)。一方面,它強調(diào)主權(quán)是在“政府—平臺—商戶”“公權(quán)力—社會權(quán)力—私權(quán)利”的三元結(jié)構(gòu)中實現(xiàn)的。政府需要和網(wǎng)絡(luò)運營商以及數(shù)據(jù)技術(shù)專家共同進行數(shù)據(jù)治理。另一方面,它強調(diào)數(shù)據(jù)主權(quán)應(yīng)當(dāng)在一種開放的世界結(jié)構(gòu)中實現(xiàn)。數(shù)據(jù)主權(quán)的行使并不是要在國家與國家之間建立阻隔數(shù)據(jù)流通和利用的藩籬。相反,實現(xiàn)公正的數(shù)據(jù)開放與共享,才是行使數(shù)據(jù)主權(quán)的初衷。因此,從數(shù)據(jù)安全與數(shù)據(jù)利用平衡的角度出發(fā),數(shù)據(jù)主權(quán)應(yīng)當(dāng)包括以下幾種主要的權(quán)力形態(tài)。

    第一,數(shù)據(jù)保護權(quán)。該項權(quán)力賦予政府保護該國所擁有的數(shù)據(jù)的職責(zé)和權(quán)力。它既強調(diào)政府應(yīng)當(dāng)維護公民的個人數(shù)據(jù)信息,防止他國政府和個人對本國公民個人數(shù)據(jù)的侵害,又強調(diào)政府有權(quán)采取措施阻止他國獲得、利用本國敏感或重要數(shù)據(jù)以保障國家的安全利益。[20]在此需要強調(diào)的是,在行使數(shù)據(jù)保護權(quán)的實踐中,我們應(yīng)當(dāng)進一步明確國家安全利益的范圍。美國對國家安全利益的范圍采取一種模糊的態(tài)度,甚至拒絕對國家安全利益的范圍作出詳細(xì)解釋,泛化、濫用國家安全概念,侵害了其他國家正常的數(shù)據(jù)利用活動。2018年以來,美國以保護國家安全為由,對中國展開“301調(diào)查”,并阻止華為、騰訊等公司在美國的經(jīng)營活動。[21]因此,明確國家安全利益的范圍是政府對外行使數(shù)據(jù)保護權(quán)的一個重要前提。

    第二,數(shù)據(jù)管理權(quán)。該項權(quán)力強調(diào)國家有權(quán)對數(shù)據(jù)生成、收集、存儲、傳播、處理和使用等數(shù)據(jù)活動行為進行管理。[22]在多元主體共治的理念下,政府的數(shù)據(jù)管理權(quán)需要廣泛吸收社會主體參與,賦予社會自治組織一定的數(shù)據(jù)管理參與權(quán),并使其代表一般公眾管理部分公共數(shù)據(jù)。[23]為了實現(xiàn)數(shù)據(jù)安全與數(shù)據(jù)利用的平衡,促進多元主體共治理念在數(shù)據(jù)管理權(quán)行使實踐中得以落實,《中共中央 國務(wù)院關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》中強調(diào):“支持第三方機構(gòu)、中介服務(wù)組織加強數(shù)據(jù)采集和質(zhì)量評估標(biāo)準(zhǔn)制定,推動數(shù)據(jù)產(chǎn)品標(biāo)準(zhǔn)化,發(fā)展數(shù)據(jù)分析、數(shù)據(jù)服務(wù)等產(chǎn)業(yè)?!盵24]

    第三,數(shù)據(jù)發(fā)展權(quán)。張文木研究認(rèn)為,自保權(quán)是國家主權(quán)在國際關(guān)系中的安全保證,國家安全的最高目標(biāo)則是保衛(wèi)國家主權(quán);而保衛(wèi)國家主權(quán)的最高表現(xiàn)則是保衛(wèi)國家的生存權(quán)和發(fā)展權(quán)。[25]從內(nèi)容上看,發(fā)展權(quán)本身就是一個不斷發(fā)展的概念,特別是數(shù)字社會的縱深發(fā)展正在推動數(shù)據(jù)發(fā)展權(quán)的興起。數(shù)據(jù)發(fā)展權(quán)除了要求國家主動尊重、保護、滿足和促進數(shù)據(jù)發(fā)展權(quán)之外,還要求發(fā)展中國家能夠有效抵抗政治上的數(shù)據(jù)霸權(quán)主義、經(jīng)濟上的數(shù)據(jù)殖民主義以及文化上的數(shù)據(jù)達爾文主義。[26]

    第四,數(shù)據(jù)合作權(quán)。網(wǎng)絡(luò)社會的發(fā)展使全球形成了一個網(wǎng)絡(luò)空間命運共同體,數(shù)據(jù)主權(quán)的行使往往也是在網(wǎng)絡(luò)空間中。這意味著數(shù)據(jù)主權(quán)的行使“需要堅持網(wǎng)絡(luò)空間命運共同體的基本理念和重要內(nèi)涵,以開放平等的姿態(tài)參與到國際社會共同治理中去。對網(wǎng)絡(luò)數(shù)據(jù)的規(guī)制更需要多國的共同合作?!盵27]因此,各國應(yīng)當(dāng)在維護本國數(shù)據(jù)安全的同時,積極開展數(shù)據(jù)治理和數(shù)據(jù)利用方面的合作,最大限度地實現(xiàn)數(shù)據(jù)領(lǐng)域的共享與合作。

    數(shù)據(jù)安全與數(shù)據(jù)利用平衡的技術(shù)治理機制。在多元主體共治的基本理念下,數(shù)據(jù)安全與數(shù)據(jù)利用平衡問題不僅是一個法律治理問題,而且是一個技術(shù)治理問題。它既需要運用法律蘊含的價值和法律治理的有關(guān)手段對技術(shù)治理進行有效歸化,又需要通過技術(shù)治理水平的提升來為法律治理手段、邊界和治理結(jié)構(gòu)的調(diào)整提供動力和可持續(xù)的約束力。[28]特別是隨著法律介入的后置模式逐漸轉(zhuǎn)變?yōu)榍爸媚J?,法律的代碼化和代碼的法律化趨勢愈來愈明顯。在此過程中,技術(shù)治理機制的作用必將愈發(fā)凸顯。因此,推動數(shù)據(jù)安全與數(shù)據(jù)利用平衡需要進一步發(fā)揮技術(shù)治理機制的作用。當(dāng)下我們需要從以下兩個方面來提升技術(shù)治理水平。

    一方面,加強對數(shù)據(jù)加密技術(shù)的法律歸化。數(shù)據(jù)加密技術(shù)是有效確保數(shù)據(jù)安全的重要技術(shù)手段。它通過鏈路加密、節(jié)點加密、端到端加密等方式來確保數(shù)據(jù)安全。然而在實踐中,一些軟件濫用數(shù)據(jù)加密技術(shù)來損害用戶的數(shù)據(jù)權(quán)利、阻礙數(shù)據(jù)流通和利用。例如,一款名為“魔哭”的蠕蟲勒索軟件就曾通過加密受害者電腦內(nèi)的重要文件來勒索用戶。因此,提高數(shù)據(jù)從業(yè)人員的數(shù)字素養(yǎng),加強法律價值和法治精神對于加密技術(shù)運用的歸化具有重要意義。

    另一方面,加強隱私計算技術(shù)在數(shù)據(jù)安全立法中的嵌入。所謂隱私計算技術(shù),主要是指“通過對各方主體個人數(shù)據(jù)處理行為的中和和計算,量化隱私的安全狀態(tài),避免在大數(shù)據(jù)關(guān)聯(lián)分析和深度挖掘過程中可能出現(xiàn)的隱私泄露問題,以技術(shù)流程平衡確保數(shù)據(jù)流動與數(shù)據(jù)安全的同向性?!盵29]這種技術(shù)能夠廣泛地運用于金融風(fēng)險評估、智能醫(yī)療問診和政府?dāng)?shù)據(jù)開放等諸多領(lǐng)域,以有效地實現(xiàn)數(shù)據(jù)隱私安全與數(shù)據(jù)高效使用之間的平衡。然而在實踐中,隱私計算技術(shù)存在數(shù)據(jù)源違規(guī),自動化決策可能存在差別化,數(shù)據(jù)提供方、結(jié)果使用方、技術(shù)提供方等多方主體法律定性不清楚等問題。[30]因此,我們應(yīng)當(dāng)加強對隱私計算技術(shù)的法律監(jiān)管,強化數(shù)據(jù)處理活動的定期合規(guī)審計義務(wù),建立數(shù)據(jù)各方之間的對話機制。

    數(shù)據(jù)分類分級的保護與利用。實現(xiàn)數(shù)據(jù)安全與數(shù)據(jù)利用之間的平衡是一項場景化的工作,它需要結(jié)合數(shù)據(jù)流通和使用的具體場景,采取一種相對實用主義的方法來提出制度化的解決方案。數(shù)據(jù)分類分級的保護和利用制度就體現(xiàn)了這種場景化的思路,《中華人民共和國數(shù)據(jù)安全法》中明確規(guī)定“建立數(shù)據(jù)分類分級保護制度”,這無疑對實現(xiàn)數(shù)據(jù)安全與數(shù)據(jù)利用之間的平衡具有重要推動作用。但是,數(shù)據(jù)分類分級制度的法律地位還需要提升、數(shù)據(jù)分類分級制度制定主體還需要明確統(tǒng)一、數(shù)據(jù)分類分級的基本思路還需要完善。[31]

    就目前來看,盡管《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國網(wǎng)絡(luò)安全法》和部分地方性法律法規(guī)明確了數(shù)據(jù)分類分級制度的相關(guān)規(guī)定,但是,這些規(guī)定往往都是將數(shù)據(jù)分類分級制度作為強化數(shù)據(jù)安全的其中一項制度。然而,數(shù)據(jù)分類分級應(yīng)當(dāng)是數(shù)據(jù)收集、處理、流通和利用的一項基本原則,應(yīng)當(dāng)明確其在整個數(shù)據(jù)法律體系中的基礎(chǔ)性地位。因為人類社會的數(shù)據(jù)種類紛繁復(fù)雜,不同類型數(shù)據(jù)對人的重要性也不盡相同,數(shù)據(jù)分類分級制度既是維護數(shù)據(jù)安全的要求,也是數(shù)據(jù)收集、處理、流通和利用的前提。

    出于數(shù)據(jù)的復(fù)雜性和數(shù)據(jù)行業(yè)仍是個新生事物的現(xiàn)實,我國相關(guān)立法在制定數(shù)據(jù)分類分級保護制度時,往往以概括授權(quán)的方式規(guī)定由各地區(qū)、各部門來確定相應(yīng)的重要數(shù)據(jù)具體目錄,而“各地區(qū)”“各部門”這種概念具有高度的概括性,由此造成了制定主體的廣泛性。在具體實踐中,各地區(qū)和各部門對數(shù)據(jù)行業(yè)的認(rèn)識存在較大差異,所制定的分類分級標(biāo)準(zhǔn)也可能不一致。這一制度制定模式和數(shù)據(jù)所具有的跨時空性、穿透性不相符合,也不利于構(gòu)建數(shù)據(jù)要素流通和交易制度。因此,應(yīng)進一步明確數(shù)據(jù)分類分級制度的制定主體,逐步探尋建立區(qū)域性的和全國統(tǒng)一性的數(shù)據(jù)分類分級標(biāo)準(zhǔn)。

    在數(shù)據(jù)分類分級的基本思路上,我們可以結(jié)合數(shù)據(jù)主體與數(shù)據(jù)使用場景,將數(shù)據(jù)劃分為公民個人、公共管理、信息傳播、行業(yè)領(lǐng)域、組織經(jīng)營等類型。然后,結(jié)合每種類型的實際場景需要,對數(shù)據(jù)作出更為詳細(xì)的劃分。此外,我們還應(yīng)當(dāng)進一步推動數(shù)據(jù)影響對象和影響程度的明確化、具體化,并著重完善數(shù)據(jù)定級的流程與步驟、數(shù)據(jù)識別的規(guī)則與標(biāo)準(zhǔn)以及數(shù)據(jù)審查與保護的方式。政府也應(yīng)當(dāng)對數(shù)據(jù)分類分級規(guī)則進行定期審查,并根據(jù)時空條件、政策條件、行業(yè)條件等的具體變化,進行適時的動態(tài)調(diào)整。

    結(jié)語

    實現(xiàn)數(shù)據(jù)安全與數(shù)據(jù)利用的有效平衡,是充分發(fā)揮我國海量數(shù)據(jù)規(guī)模優(yōu)勢和豐富應(yīng)用場景優(yōu)勢,激活數(shù)據(jù)要素潛能、做強做優(yōu)做大數(shù)字經(jīng)濟的前提。然而,數(shù)據(jù)產(chǎn)業(yè)是一種新生事物,人們對數(shù)據(jù)產(chǎn)業(yè)的認(rèn)識還處于起步階段,難免存在認(rèn)識不到位、認(rèn)識不清楚等問題。因此,推動數(shù)據(jù)安全與數(shù)據(jù)利用之間的平衡是一個持續(xù)的、動態(tài)化的過程。這一過程需要充分發(fā)揮政府在推動數(shù)據(jù)安全與數(shù)據(jù)利用平衡中的主導(dǎo)性作用,并激發(fā)多元主體參與的積極性,統(tǒng)籌數(shù)據(jù)安全與數(shù)據(jù)產(chǎn)業(yè)發(fā)展,并根據(jù)具體社會情勢的變化不斷調(diào)整兩者之間平衡點。

    (本文系山東大學(xué)人文社會科學(xué)創(chuàng)新團隊資助項目“全面依法治國戰(zhàn)略實施中的數(shù)據(jù)運用與數(shù)據(jù)治理創(chuàng)新團隊”的階段性成果)

    注釋

    [1]肖旭、戚聿東:《數(shù)據(jù)要素的價值屬性》,《經(jīng)濟與管理研究》,2021年第7期。

    [2]郭爍:《云存儲的數(shù)據(jù)主權(quán)維護——以阻斷法案規(guī)制“長臂管轄”為例》,《中國法律評論》,2022年第6期。

    [3]勞倫斯·萊斯格:《代碼2.0:網(wǎng)絡(luò)空間中的法律》,李旭、沈偉偉譯,北京:清華大學(xué)出版社,2009年,第4頁。

    [4]彭誠信:《數(shù)據(jù)安全與利用雙翼驅(qū)動》,《檢察風(fēng)云》,2020年第19期。

    [5]D. Goodison, "China's Alibaba Cloud Focus Of U.S. Government Probe: Report," 18 January 2022, https://www.crn.com/news/cloud/china-s-alibaba-cloud-focus-of-u-s-government-probe-report.

    [6]朱軍:《數(shù)據(jù)安全治理背景下數(shù)據(jù)安全審查制度的定位、功能與實踐》,《西部法學(xué)評論》,2022年第6期。

    [7]劉金瑞:《美國外資安全審查改革中的數(shù)據(jù)安全審查及其對我國的啟示》,《中國信息安全》,2021年第7期。

    [8]許可:《2023年中國數(shù)據(jù)治理前瞻:數(shù)據(jù)安全與利用的再平衡》,2023年2月6日,https://www.sohu.com/a/637842480_121124370。

    [9]蘇今:《大數(shù)據(jù)時代信息集合上的財產(chǎn)性權(quán)利之賦權(quán)基礎(chǔ)——以數(shù)據(jù)和信息在大數(shù)據(jù)生命周期中的“關(guān)系化”為出發(fā)點》,《清華知識產(chǎn)權(quán)評論》,2017年第1輯。

    [10]我妻榮:《債權(quán)在近代法中的優(yōu)越地位》,王書江、張雷譯,北京:中國大百科全書出版社,1999年,第6頁。

    [11]丁曉東:《數(shù)據(jù)到底屬于誰?——從網(wǎng)絡(luò)爬蟲看平臺數(shù)據(jù)權(quán)屬與數(shù)據(jù)保護》,《華東政法大學(xué)學(xué)報》,2019年第5期。

    [12]《解決數(shù)據(jù)安全問題須緊密結(jié)合用戶場景》,《貴陽日報》,2021年5月28日,第A02版。

    [13]劉少杰:《網(wǎng)絡(luò)化時代的權(quán)力結(jié)構(gòu)變遷》,《江淮論壇》,2011年第5期。

    [14]楊宏山:《從精英驅(qū)動到互動創(chuàng)設(shè):中國政策議程設(shè)置的制度發(fā)展》,《國家治理》,2019年第2期。

    [15][18]齊延平:《數(shù)智化社會的法律調(diào)控》,《中國法學(xué)》,2022年第1期。

    [16]何明升:《中國網(wǎng)絡(luò)治理的定位及現(xiàn)實路徑》,《中國社會科學(xué)》,2016年第7期。

    [17]《萬豪酒店再現(xiàn)信息泄露:傳涉及520萬人 股價年內(nèi)腰斬過半》,2020年4月2日,https://m.sohu.com/a/385056419_430923/。

    [19]鄭智航:《網(wǎng)絡(luò)社會中傳統(tǒng)主權(quán)模式的消解與重構(gòu)》,《國家檢察官學(xué)院學(xué)報》,2018年第5期。

    [20][22]朱雅妮:《數(shù)據(jù)主權(quán)及其在〈數(shù)據(jù)安全法〉的體現(xiàn)》,《浙江工業(yè)大學(xué)學(xué)報》(社會科學(xué)版),2021年第4期。

    [21]彭德雷、周圍歡、楊國華:《國際貿(mào)易中的“國家安全”審視——基于美國“232調(diào)查”的考察》,《國際經(jīng)貿(mào)探索》,2018年第5期。

    [23]蔣佳妮:《數(shù)據(jù)要素確權(quán)需“分而治之”》,《科技日報》,2022年7月25日。

    [24]《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度 更好發(fā)揮數(shù)據(jù)要素作用的意見》,2022年12月19日,http://www.gov.cn/zhengce/2022-12/19/content_5732695.htm。

    [25]張文木:《發(fā)展權(quán):中國國家安全的戰(zhàn)略支點》,《經(jīng)濟導(dǎo)刊》,2014年第3期。

    [26]胡錦華、夏錦文:《作為新興權(quán)利的數(shù)據(jù)發(fā)展權(quán)證立及其實現(xiàn)》,《南京社會科學(xué)》,2022年第12期。

    [27]張曉君:《數(shù)據(jù)主權(quán)規(guī)則建設(shè)的模式與借鑒——兼論中國數(shù)據(jù)主權(quán)的規(guī)則構(gòu)建》,《現(xiàn)代法學(xué)》,2020年第6期。

    [28]鄭智航:《網(wǎng)絡(luò)社會法律治理與技術(shù)治理的二元共治》,《中國法學(xué)》,2018年第2期。

    [29]趙精武、周瑞鈺:《隱私計算技術(shù):數(shù)據(jù)流動與數(shù)據(jù)安全的協(xié)同保護規(guī)則構(gòu)建》,《信息通信技術(shù)與政策》,2021年第7期。

    [30]閆樹、仵姣姣:《〈數(shù)據(jù)安全法〉實施對隱私計算的影響分析》,《通信世界》,2021年第23期。

    [31]陳兵、郭光坤:《數(shù)據(jù)分類分級制度的定位與定則》,《中國特色社會主義研究》,2022年第3期。

    責(zé) 編∕包 鈺

    猜你喜歡
    數(shù)據(jù)安全
    高速公路ETC用戶隱私數(shù)據(jù)安全保護策略
    我國5G數(shù)據(jù)安全保護供給不足,“四步”拉動產(chǎn)業(yè)發(fā)展
    云計算中基于用戶隱私的數(shù)據(jù)安全保護方法
    電子制作(2019年14期)2019-08-20 05:43:42
    建立激勵相容機制保護數(shù)據(jù)安全
    大數(shù)據(jù)云計算環(huán)境下的數(shù)據(jù)安全
    電子制作(2017年20期)2017-04-26 06:57:48
    大數(shù)據(jù)安全和隱私保護技術(shù)架構(gòu)研究
    實時數(shù)據(jù)庫系統(tǒng)數(shù)據(jù)安全采集方案
    云環(huán)境中數(shù)據(jù)安全去重研究進展
    數(shù)據(jù)安全重刪系統(tǒng)與關(guān)鍵技術(shù)研究
    大數(shù)據(jù)安全搜索與共享
    亚洲三区欧美一区| 少妇人妻久久综合中文| 日韩一区二区视频免费看| 热re99久久国产66热| 老女人水多毛片| 久久精品国产亚洲av高清一级| 久热久热在线精品观看| 一本久久精品| 亚洲国产欧美在线一区| 精品人妻偷拍中文字幕| 大香蕉久久网| 九九爱精品视频在线观看| 国产精品一二三区在线看| 丝袜美足系列| 国产日韩一区二区三区精品不卡| 久久99精品国语久久久| 90打野战视频偷拍视频| 亚洲,欧美,日韩| 国产xxxxx性猛交| 亚洲av综合色区一区| 国产乱来视频区| 男男h啪啪无遮挡| 免费不卡的大黄色大毛片视频在线观看| 91午夜精品亚洲一区二区三区| 亚洲视频免费观看视频| 99久久人妻综合| 丰满少妇做爰视频| 我的亚洲天堂| 免费不卡的大黄色大毛片视频在线观看| 色网站视频免费| 不卡视频在线观看欧美| 久久狼人影院| 免费黄频网站在线观看国产| 在现免费观看毛片| 最近中文字幕高清免费大全6| 丝袜人妻中文字幕| 永久免费av网站大全| 看十八女毛片水多多多| 18+在线观看网站| 妹子高潮喷水视频| 午夜91福利影院| 男女边吃奶边做爰视频| 日韩中字成人| 欧美+日韩+精品| 欧美成人精品欧美一级黄| 精品国产国语对白av| 国产亚洲午夜精品一区二区久久| 亚洲精品久久久久久婷婷小说| 国产成人精品福利久久| 精品少妇内射三级| 国产一区二区三区av在线| 另类亚洲欧美激情| 国产精品香港三级国产av潘金莲 | 青青草视频在线视频观看| 久久亚洲国产成人精品v| 国产老妇伦熟女老妇高清| 在线看a的网站| 最近中文字幕2019免费版| www.av在线官网国产| 国产日韩欧美在线精品| 亚洲精品av麻豆狂野| 午夜福利视频精品| 久久久久国产一级毛片高清牌| 午夜av观看不卡| 亚洲人成电影观看| 久久久久久久久久久久大奶| 深夜精品福利| 亚洲国产精品999| 午夜福利一区二区在线看| 国产免费又黄又爽又色| 精品人妻一区二区三区麻豆| 婷婷成人精品国产| 精品人妻在线不人妻| 看十八女毛片水多多多| 在线看a的网站| 又大又黄又爽视频免费| 黑人猛操日本美女一级片| 亚洲一级一片aⅴ在线观看| 日本wwww免费看| av免费在线看不卡| 午夜av观看不卡| 日韩中字成人| 日本色播在线视频| freevideosex欧美| 午夜日本视频在线| 一区二区三区精品91| 中文字幕人妻熟女乱码| 91国产中文字幕| 中文字幕人妻熟女乱码| 欧美日韩精品成人综合77777| 电影成人av| 色哟哟·www| av片东京热男人的天堂| 少妇的丰满在线观看| 又粗又硬又长又爽又黄的视频| 99热网站在线观看| 人人妻人人澡人人看| 国产成人91sexporn| 只有这里有精品99| 天天操日日干夜夜撸| 亚洲精品自拍成人| 午夜福利网站1000一区二区三区| 你懂的网址亚洲精品在线观看| 亚洲成av片中文字幕在线观看 | 人妻系列 视频| 亚洲国产欧美网| 综合色丁香网| 国产精品欧美亚洲77777| 一级片'在线观看视频| 日韩中文字幕视频在线看片| 精品久久久久久电影网| 亚洲人成电影观看| 日韩人妻精品一区2区三区| 2022亚洲国产成人精品| 久久免费观看电影| 欧美精品一区二区大全| 欧美激情高清一区二区三区 | 午夜福利一区二区在线看| 久久精品熟女亚洲av麻豆精品| 亚洲三级黄色毛片| 在线观看免费视频网站a站| av在线app专区| 国产免费又黄又爽又色| 久久狼人影院| 亚洲男人天堂网一区| 久久女婷五月综合色啪小说| 日韩熟女老妇一区二区性免费视频| 国产一区二区三区综合在线观看| 日韩在线高清观看一区二区三区| 精品人妻在线不人妻| 日韩在线高清观看一区二区三区| 18+在线观看网站| 欧美+日韩+精品| 亚洲精品美女久久av网站| 国产精品一区二区在线观看99| 看十八女毛片水多多多| 伦理电影大哥的女人| 国产在线视频一区二区| 亚洲在久久综合| 午夜福利乱码中文字幕| 久久久久精品人妻al黑| 人体艺术视频欧美日本| 美女脱内裤让男人舔精品视频| 夫妻性生交免费视频一级片| 狠狠婷婷综合久久久久久88av| 精品国产乱码久久久久久男人| 日韩熟女老妇一区二区性免费视频| 人人妻人人爽人人添夜夜欢视频| 成年人免费黄色播放视频| 日韩,欧美,国产一区二区三区| 国产精品二区激情视频| 性高湖久久久久久久久免费观看| videosex国产| 大陆偷拍与自拍| 国产成人精品久久二区二区91 | 99久国产av精品国产电影| 亚洲欧美一区二区三区久久| 高清欧美精品videossex| 亚洲精品成人av观看孕妇| 美女视频免费永久观看网站| 男女午夜视频在线观看| 亚洲欧美成人精品一区二区| 亚洲精品一二三| 亚洲美女搞黄在线观看| 亚洲精品中文字幕在线视频| 自线自在国产av| 亚洲三区欧美一区| 丝袜在线中文字幕| 热99国产精品久久久久久7| 97人妻天天添夜夜摸| 在线 av 中文字幕| 婷婷成人精品国产| 天天躁狠狠躁夜夜躁狠狠躁| 久久久精品免费免费高清| 国产在线视频一区二区| 熟女电影av网| 伊人亚洲综合成人网| 男人操女人黄网站| 免费不卡的大黄色大毛片视频在线观看| 日韩不卡一区二区三区视频在线| 菩萨蛮人人尽说江南好唐韦庄| 日韩大片免费观看网站| 欧美精品av麻豆av| 久久综合国产亚洲精品| 校园人妻丝袜中文字幕| 日韩免费高清中文字幕av| 黄色视频在线播放观看不卡| 国产精品久久久久久久久免| 波多野结衣av一区二区av| 一本—道久久a久久精品蜜桃钙片| 成人黄色视频免费在线看| 中国三级夫妇交换| 国产综合精华液| 欧美 亚洲 国产 日韩一| 国产精品久久久久成人av| 久久久久久久国产电影| 999久久久国产精品视频| 丁香六月天网| 18禁国产床啪视频网站| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 亚洲伊人色综图| 国产精品香港三级国产av潘金莲 | 成人影院久久| 精品卡一卡二卡四卡免费| 亚洲国产精品成人久久小说| 天天躁日日躁夜夜躁夜夜| 亚洲欧美一区二区三区国产| 久久久久久人妻| 成年动漫av网址| 欧美黄色片欧美黄色片| 色网站视频免费| 五月伊人婷婷丁香| 日本wwww免费看| www.熟女人妻精品国产| 亚洲av电影在线观看一区二区三区| 一级毛片电影观看| 一本大道久久a久久精品| 亚洲精品成人av观看孕妇| 新久久久久国产一级毛片| 日韩欧美一区视频在线观看| 久久久欧美国产精品| 亚洲男人天堂网一区| 狠狠婷婷综合久久久久久88av| 精品福利永久在线观看| 欧美人与性动交α欧美精品济南到 | 亚洲精品美女久久久久99蜜臀 | 国产精品久久久久久精品电影小说| 亚洲五月色婷婷综合| 波多野结衣av一区二区av| 久久久国产精品麻豆| 2022亚洲国产成人精品| 极品人妻少妇av视频| 成人影院久久| 在现免费观看毛片| 免费看av在线观看网站| 久热这里只有精品99| 亚洲av电影在线进入| 又大又黄又爽视频免费| xxxhd国产人妻xxx| 九色亚洲精品在线播放| 精品国产一区二区三区四区第35| 人人妻人人爽人人添夜夜欢视频| 黄频高清免费视频| 一区二区av电影网| 日韩成人av中文字幕在线观看| 精品少妇内射三级| 香蕉精品网在线| 18禁国产床啪视频网站| 天天躁夜夜躁狠狠久久av| 久久精品国产自在天天线| 亚洲情色 制服丝袜| 午夜激情av网站| 精品亚洲成国产av| 亚洲男人天堂网一区| 一级片免费观看大全| 日本vs欧美在线观看视频| 免费观看性生交大片5| 少妇 在线观看| 老女人水多毛片| 亚洲国产精品999| 满18在线观看网站| 亚洲国产av新网站| 亚洲欧洲精品一区二区精品久久久 | 久久久久久人人人人人| 考比视频在线观看| 免费观看在线日韩| 少妇被粗大猛烈的视频| 中文字幕最新亚洲高清| 久久久久网色| 涩涩av久久男人的天堂| 亚洲精品美女久久久久99蜜臀 | 色婷婷久久久亚洲欧美| 如何舔出高潮| 在线观看免费视频网站a站| 国产高清不卡午夜福利| 免费高清在线观看视频在线观看| 成人国语在线视频| 国产日韩一区二区三区精品不卡| 精品久久久精品久久久| 国产精品久久久av美女十八| 久久久久久久久久人人人人人人| 亚洲精品aⅴ在线观看| 国产国语露脸激情在线看| 搡老乐熟女国产| 亚洲一区中文字幕在线| 精品亚洲成a人片在线观看| 国产免费现黄频在线看| 成人黄色视频免费在线看| 国产视频首页在线观看| 国产精品嫩草影院av在线观看| 晚上一个人看的免费电影| 老司机影院成人| 成年av动漫网址| 人妻 亚洲 视频| 精品国产乱码久久久久久男人| 久久精品久久久久久噜噜老黄| 国产精品欧美亚洲77777| 午夜激情av网站| 在线观看一区二区三区激情| 国产熟女欧美一区二区| 日韩中字成人| 国产精品一区二区在线不卡| 少妇 在线观看| 国产av一区二区精品久久| 肉色欧美久久久久久久蜜桃| 桃花免费在线播放| 亚洲国产欧美网| 波多野结衣av一区二区av| 成人免费观看视频高清| 91aial.com中文字幕在线观看| √禁漫天堂资源中文www| a 毛片基地| 欧美变态另类bdsm刘玥| 亚洲一码二码三码区别大吗| 色婷婷av一区二区三区视频| 午夜老司机福利剧场| 国产一区有黄有色的免费视频| 人成视频在线观看免费观看| 日韩三级伦理在线观看| 亚洲五月色婷婷综合| 成人免费观看视频高清| 一边亲一边摸免费视频| 欧美精品亚洲一区二区| 国产又色又爽无遮挡免| 婷婷色麻豆天堂久久| 欧美少妇被猛烈插入视频| 少妇 在线观看| 国产毛片在线视频| 国产精品无大码| 国产男人的电影天堂91| 精品国产国语对白av| 欧美成人午夜免费资源| 免费大片黄手机在线观看| 国产精品国产三级专区第一集| 桃花免费在线播放| av不卡在线播放| 日韩电影二区| 一级,二级,三级黄色视频| 欧美少妇被猛烈插入视频| 在线免费观看不下载黄p国产| 日韩精品免费视频一区二区三区| 欧美黄色片欧美黄色片| 欧美精品一区二区免费开放| xxxhd国产人妻xxx| 久久人人97超碰香蕉20202| 老司机影院毛片| 久久久久国产一级毛片高清牌| 久久韩国三级中文字幕| 国产爽快片一区二区三区| 精品少妇黑人巨大在线播放| av免费观看日本| 最近中文字幕高清免费大全6| 韩国av在线不卡| 高清视频免费观看一区二区| 制服诱惑二区| 卡戴珊不雅视频在线播放| 欧美成人精品欧美一级黄| 亚洲精品久久成人aⅴ小说| 免费人妻精品一区二区三区视频| 国产一区二区 视频在线| 一二三四在线观看免费中文在| 午夜影院在线不卡| 精品人妻偷拍中文字幕| 日韩大片免费观看网站| 777久久人妻少妇嫩草av网站| 午夜福利一区二区在线看| 久久久久久久久久久久大奶| 免费久久久久久久精品成人欧美视频| 久久国内精品自在自线图片| 久久久a久久爽久久v久久| 永久网站在线| 大码成人一级视频| 久久久久国产精品人妻一区二区| 蜜桃在线观看..| 欧美精品一区二区免费开放| 一区二区三区四区激情视频| 黑人巨大精品欧美一区二区蜜桃| 欧美老熟妇乱子伦牲交| 国产黄频视频在线观看| 啦啦啦在线免费观看视频4| 亚洲伊人色综图| 亚洲一码二码三码区别大吗| 国产精品欧美亚洲77777| 麻豆精品久久久久久蜜桃| 十八禁网站网址无遮挡| 欧美精品一区二区免费开放| 少妇猛男粗大的猛烈进出视频| 欧美成人午夜免费资源| 国产女主播在线喷水免费视频网站| 夫妻午夜视频| 国产欧美日韩一区二区三区在线| 国产av码专区亚洲av| 男女高潮啪啪啪动态图| 久久久久久久大尺度免费视频| 亚洲人成77777在线视频| www.精华液| 婷婷色av中文字幕| 九草在线视频观看| 最新中文字幕久久久久| 欧美 亚洲 国产 日韩一| 1024香蕉在线观看| 一级,二级,三级黄色视频| 久久国产亚洲av麻豆专区| 欧美在线黄色| 成人手机av| 欧美 亚洲 国产 日韩一| 亚洲精华国产精华液的使用体验| 国产 一区精品| 少妇猛男粗大的猛烈进出视频| 丁香六月天网| 精品人妻偷拍中文字幕| 高清不卡的av网站| 一区福利在线观看| 亚洲av男天堂| 在线 av 中文字幕| 国产白丝娇喘喷水9色精品| 国产一区二区在线观看av| 国产精品久久久久久精品电影小说| kizo精华| 日韩精品有码人妻一区| 国产免费一区二区三区四区乱码| 日本欧美视频一区| 制服诱惑二区| 老司机影院成人| 国产精品二区激情视频| 中文精品一卡2卡3卡4更新| 欧美日韩av久久| 久久久久国产精品人妻一区二区| 亚洲第一青青草原| 美女国产视频在线观看| 日韩 亚洲 欧美在线| 亚洲精品美女久久久久99蜜臀 | 不卡av一区二区三区| 欧美黄色片欧美黄色片| 一本色道久久久久久精品综合| 欧美日韩精品网址| 国产精品.久久久| 久久久久视频综合| 国产无遮挡羞羞视频在线观看| 波野结衣二区三区在线| 欧美精品国产亚洲| 丝袜在线中文字幕| 边亲边吃奶的免费视频| 一区二区三区四区激情视频| 一区福利在线观看| 日本vs欧美在线观看视频| 99热全是精品| 伦理电影大哥的女人| 高清av免费在线| 亚洲国产成人一精品久久久| 一级片免费观看大全| 日韩欧美精品免费久久| 秋霞伦理黄片| av免费在线看不卡| 97人妻天天添夜夜摸| 国产精品一区二区在线观看99| 久久久精品94久久精品| 女人高潮潮喷娇喘18禁视频| 久久久久精品久久久久真实原创| 精品国产超薄肉色丝袜足j| 91午夜精品亚洲一区二区三区| 亚洲欧美成人精品一区二区| 免费播放大片免费观看视频在线观看| 亚洲精品国产av成人精品| 捣出白浆h1v1| 久久午夜综合久久蜜桃| 国产精品久久久av美女十八| 亚洲一码二码三码区别大吗| 亚洲婷婷狠狠爱综合网| 一区二区日韩欧美中文字幕| 久久久久久伊人网av| 久久人人爽人人片av| 丝袜美腿诱惑在线| 国产精品免费大片| 久久久国产欧美日韩av| 91aial.com中文字幕在线观看| av电影中文网址| 九草在线视频观看| av网站在线播放免费| 亚洲图色成人| 国产免费福利视频在线观看| 天堂8中文在线网| 久久婷婷青草| 极品人妻少妇av视频| 亚洲国产欧美日韩在线播放| 亚洲精品久久久久久婷婷小说| 一区二区三区乱码不卡18| 欧美人与善性xxx| xxx大片免费视频| 亚洲精品一区蜜桃| 免费人妻精品一区二区三区视频| 国产在视频线精品| 亚洲成av片中文字幕在线观看 | 王馨瑶露胸无遮挡在线观看| 亚洲久久久国产精品| 久久久久国产一级毛片高清牌| 久久人人97超碰香蕉20202| 日本av免费视频播放| 麻豆乱淫一区二区| 午夜福利在线观看免费完整高清在| 亚洲 欧美一区二区三区| 国产精品国产av在线观看| 国产亚洲午夜精品一区二区久久| 精品亚洲乱码少妇综合久久| 街头女战士在线观看网站| 一级a爱视频在线免费观看| 国产av码专区亚洲av| 午夜福利视频精品| 久久久久国产网址| 大片电影免费在线观看免费| 极品少妇高潮喷水抽搐| 日韩一区二区三区影片| 久久久久久久久久久免费av| 色哟哟·www| 国产乱人偷精品视频| 亚洲精品久久久久久婷婷小说| 色婷婷久久久亚洲欧美| 香蕉丝袜av| 高清欧美精品videossex| 久久精品人人爽人人爽视色| 天美传媒精品一区二区| 深夜精品福利| 亚洲情色 制服丝袜| a级片在线免费高清观看视频| 国产精品一国产av| 久久久久国产精品人妻一区二区| 叶爱在线成人免费视频播放| 天堂8中文在线网| 国产伦理片在线播放av一区| 可以免费在线观看a视频的电影网站 | 日韩一卡2卡3卡4卡2021年| 国产一级毛片在线| 婷婷色麻豆天堂久久| 国产精品久久久久久精品电影小说| 最近中文字幕2019免费版| 亚洲成人手机| 国产在线免费精品| 人人妻人人添人人爽欧美一区卜| 美女中出高潮动态图| 在线观看三级黄色| 少妇精品久久久久久久| 亚洲av.av天堂| 中文字幕制服av| 亚洲熟女精品中文字幕| 黄网站色视频无遮挡免费观看| 中文天堂在线官网| 国产精品久久久久久精品电影小说| 老司机影院毛片| 精品久久久精品久久久| 久久这里有精品视频免费| 久久久久久伊人网av| 中文字幕制服av| 婷婷色综合www| 老汉色av国产亚洲站长工具| 伦理电影免费视频| 人妻 亚洲 视频| 制服人妻中文乱码| 国产伦理片在线播放av一区| 国产精品 欧美亚洲| 午夜激情av网站| 久久99一区二区三区| 亚洲欧美中文字幕日韩二区| 99国产综合亚洲精品| 久久97久久精品| 欧美激情极品国产一区二区三区| 我的亚洲天堂| 九草在线视频观看| 亚洲 欧美一区二区三区| 亚洲中文av在线| 黄色毛片三级朝国网站| videosex国产| 我要看黄色一级片免费的| 精品国产乱码久久久久久男人| 亚洲欧美一区二区三区久久| 国产有黄有色有爽视频| 国产片特级美女逼逼视频| 欧美xxⅹ黑人| 亚洲欧美中文字幕日韩二区| 亚洲av欧美aⅴ国产| 水蜜桃什么品种好| 18在线观看网站| 成人二区视频| 亚洲精品日韩在线中文字幕| 韩国av在线不卡| 男女边摸边吃奶| 亚洲精品成人av观看孕妇| 中文欧美无线码| 少妇熟女欧美另类| 最新的欧美精品一区二区| 欧美亚洲日本最大视频资源| 欧美人与性动交α欧美精品济南到 | 午夜日韩欧美国产| 亚洲av电影在线进入| 99久久精品国产国产毛片| 90打野战视频偷拍视频| 久久国产亚洲av麻豆专区| 99精国产麻豆久久婷婷| 免费日韩欧美在线观看| 天天操日日干夜夜撸| 日韩中文字幕欧美一区二区 | 韩国精品一区二区三区| 中文字幕色久视频| 日韩在线高清观看一区二区三区| 欧美精品av麻豆av| 日韩,欧美,国产一区二区三区| 色视频在线一区二区三区| 国产在线免费精品| 美国免费a级毛片| 午夜福利网站1000一区二区三区| 五月天丁香电影| 母亲3免费完整高清在线观看 | av在线app专区| 大码成人一级视频| 少妇的逼水好多| 日韩成人av中文字幕在线观看|