• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)的法律挑戰(zhàn)和建議

    2016-04-10 08:51:30李海英
    大數(shù)據(jù) 2016年2期
    關(guān)鍵詞:個人信息信息

    李海英

    中國信息通信研究院,北京 100191

    論壇

    大數(shù)據(jù)的法律挑戰(zhàn)和建議

    李海英

    中國信息通信研究院,北京 100191

    大數(shù)據(jù)給人們觀察世界帶來了全新的視角,也對法律制度造成了一定的影響,而大數(shù)據(jù)產(chǎn)業(yè)的持續(xù)發(fā)展則有賴于法律制度的明確、穩(wěn)定和包容。主要研究如何應(yīng)對大數(shù)據(jù)帶來的安全風(fēng)險,探討了大數(shù)據(jù)商業(yè)利用的原則和規(guī)則,建議通過加強(qiáng)國內(nèi)立法爭取在國際貿(mào)易規(guī)則制定中的話語權(quán)。

    大數(shù)據(jù);數(shù)據(jù)安全;大數(shù)據(jù)的商業(yè)利用;隱私保護(hù)

    1 數(shù)據(jù)的法律意義與現(xiàn)有立法

    “大數(shù)據(jù)”將深刻地改變社會治理、企業(yè)決策和每個人的生活,它給傳統(tǒng)法律制度帶來的挑戰(zhàn)甚至可能超越此前互聯(lián)網(wǎng)的產(chǎn)生所帶來的沖擊,在法律領(lǐng)域帶來了革命性的影響。

    1.1 “數(shù)據(jù)”和“信息”的法律意義

    “數(shù)據(jù)”具有原始性、基礎(chǔ)性。數(shù)據(jù)是對信息數(shù)字化的記錄,其本身并無意義;信息是指把數(shù)據(jù)放置到一定的背景下,對數(shù)字進(jìn)行解釋、賦予意義[1]。數(shù)據(jù)是基礎(chǔ),經(jīng)過加工成為信息和知識。

    我國目前的立法中,分別有對“數(shù)據(jù)”和“信息”的規(guī)定。2012年《全國人民代表大會常務(wù)委員會關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》(以下簡稱《人大決定》)中規(guī)定:國家保護(hù)能夠識別公民個人身份和涉及公民個人隱私的電子信息?!墩餍艠I(yè)管理條例》規(guī)定:征信機(jī)構(gòu)在中國境內(nèi)采集的信息的整理、保存和加工,應(yīng)當(dāng)在中國境內(nèi)進(jìn)行。在《征信業(yè)管理條例》中,這些信息包括個人信息、企業(yè)信息、政府有關(guān)部門依法已公開的信息等,同時引入信息使用者、信息主體、信息提供者等概念。工業(yè)和信息化部2013年出臺的《電信和互聯(lián)網(wǎng)用戶個人信息保護(hù)規(guī)定》對“用戶個人信息”進(jìn)行界定和保護(hù)。2009年2月通過的《中華人民共和國刑法修正案(七)》,新增了出售、非法提供公民個人信息罪、非法獲取公民個人信息罪。在2015年通過的《中華人民共和國刑法修正案(九)》中,又對此進(jìn)行了新的修訂,擴(kuò)展了犯罪主體和獲取信息的范圍,加大了處罰力度。

    關(guān)于“數(shù)據(jù)”的法律規(guī)定主要出現(xiàn)在2015年以來的立法中?!吨腥A人民共和國國家安全法》第二十五條規(guī)定:實現(xiàn)網(wǎng)絡(luò)和信息核心技術(shù)、關(guān)鍵基礎(chǔ)設(shè)施和重要領(lǐng)域信息系統(tǒng)及數(shù)據(jù)的安全可控。《中華人民共和國網(wǎng)絡(luò)安全法(草案)》規(guī)定:“維護(hù)網(wǎng)絡(luò)數(shù)據(jù)的完整性、保密性和可用性”,“防止網(wǎng)絡(luò)數(shù)據(jù)泄露或者被竊取、篡改”,“采取數(shù)據(jù)分類、重要數(shù)據(jù)備份和加密等措施”,“關(guān)鍵信息基礎(chǔ)設(shè)施的運營者應(yīng)當(dāng)在中華人民共和國境內(nèi)存儲在運營中收集和產(chǎn)生的公民個人信息等重要數(shù)據(jù)”等。2015年11月發(fā)布的《地圖管理條例》中也多次使用了“數(shù)據(jù)”,如第三十四條規(guī)定,互聯(lián)網(wǎng)地圖服務(wù)單位應(yīng)當(dāng)將存放地圖數(shù)據(jù)的服務(wù)器設(shè)在中華人民共和國境內(nèi),并制定互聯(lián)網(wǎng)地圖數(shù)據(jù)安全管理制度和保障措施。

    從這些法律規(guī)定可以看出,“數(shù)據(jù)”和“信息”在我國的立法語境下并不是通用的。從范圍上看,“數(shù)據(jù)”規(guī)范的范圍大于“信息”,數(shù)據(jù)代表著網(wǎng)絡(luò)上產(chǎn)生的原始數(shù)據(jù),而信息本身則包含、代表一定的意義,例如,工業(yè)和信息化部《電信和互聯(lián)網(wǎng)用戶個人信息保護(hù)規(guī)定》中對“用戶個人信息”進(jìn)行了界定:“用戶個人信息,是指電信業(yè)務(wù)經(jīng)營者和互聯(lián)網(wǎng)信息服務(wù)提供者在提供服務(wù)的過程中收集的用戶姓名、出生日期、身份證件號碼、住址、電話號碼、賬號和密碼等能夠單獨或者與其他信息結(jié)合識別用戶的信息以及用戶使用服務(wù)的時間、地點等信息。”從立法時間來看,將“數(shù)據(jù)”一詞引入立法主要是2015年,這表明大數(shù)據(jù)的發(fā)展已經(jīng)使“數(shù)據(jù)”的安全問題提上立法日程;從立法目的上看,“信息”相關(guān)規(guī)則的立法目的更側(cè)重于保護(hù),更多是對私權(quán)利的保護(hù),而“數(shù)據(jù)”相關(guān)制度則更偏重于安全管理的維度,是公權(quán)力的體現(xiàn)。

    從國外的立法情況看,全球出臺個人信息保護(hù)法的地區(qū)和國家,有的使用“data(數(shù)據(jù))”,如歐盟1995年的《保護(hù)個人享有的與個人數(shù)據(jù)處理有關(guān)的權(quán)利以及個人數(shù)據(jù)自由流動的指令》及即將發(fā)布的《數(shù)據(jù)保護(hù)總體規(guī)則》,英國、德國、新加坡、馬來西亞等國家都是《個人數(shù)據(jù)保護(hù)法》;有的使用“information(信息)”,如加拿大《個人信息保護(hù)和電子文件法》、《個人健康信息保護(hù)法》等。在國外個人信息保護(hù)相關(guān)立法和實踐中,對“數(shù)據(jù)”和“信息”應(yīng)該是通用的,在很多情況下也是可以替換的,其意義相當(dāng)于我國前述立法中的“信息”。

    1.2 適用于大數(shù)據(jù)的現(xiàn)有法律規(guī)定

    “數(shù)據(jù)”具有資產(chǎn)性,這一點已經(jīng)在一定程度上形成共識。最早提出通過財產(chǎn)權(quán)來保護(hù)個人數(shù)據(jù)的是美國人勞倫斯·萊斯格教授,早在他的第一版《代碼(Code)》中就已經(jīng)提出了這樣的觀點:“財產(chǎn)制度鼓勵用戶利用財產(chǎn)權(quán)的方式來保護(hù)適當(dāng)?shù)脑S可。利用相應(yīng)的技術(shù),用戶可以創(chuàng)設(shè)許可?!眲趥愃埂とR斯格教授認(rèn)為:“財產(chǎn)制度能讓用戶自由選擇不同的價值觀,這種價值觀的個人化也是法律所保護(hù)的”[2]。同樣,數(shù)據(jù)對于不同的主體具有不同的價值屬性。數(shù)據(jù)所具有的資產(chǎn)屬性要求保護(hù)其所代表的經(jīng)濟(jì)利益以及背后的基本權(quán)利,同時也要關(guān)注數(shù)據(jù)的安全,既包括個人和企業(yè)數(shù)據(jù)的安全,也包括國家層面的網(wǎng)絡(luò)安全、信息資源的安全。

    數(shù)據(jù)在處理過程中涉及很多環(huán)節(jié),數(shù)據(jù)最初的產(chǎn)生、收集、存儲,后續(xù)的處理、傳輸和分析,把它們籠統(tǒng)地分為兩個階段,即數(shù)據(jù)的收集階段和數(shù)據(jù)的使用階段,如圖11所示。

    圖1 數(shù)據(jù)的處理環(huán)節(jié)

    我國目前關(guān)于“數(shù)據(jù)”規(guī)范的立法,主要集中在個人“信息”的保護(hù)領(lǐng)域。這些立法對于個人信息的收集和使用有類似的原則性規(guī)定,即主要包括個人信息收集的合法、正當(dāng)、必要原則,經(jīng)被收集者同意原則,收集、使用規(guī)則公開,明示收集使用信息的目的、方式、范圍,不得用于服務(wù)之外的目的,不得違反法律法規(guī)的約定和雙方規(guī)定等。這些原則與國際上通行的個人信息保護(hù)原則基本上是一致的?!度舜鬀Q定》是目前我國關(guān)于個人電子信息保護(hù)的最主要法律規(guī)范,其中規(guī)定了上述原則,在《人大決定》的基礎(chǔ)上,2013年工業(yè)和信息化部發(fā)布的《電信和互聯(lián)網(wǎng)用戶個人信息保護(hù)規(guī)定》進(jìn)一步要求:“電信業(yè)務(wù)經(jīng)營者、互聯(lián)網(wǎng)信息服務(wù)提供者在用戶終止使用電信服務(wù)或者互聯(lián)網(wǎng)信息服務(wù)后,應(yīng)當(dāng)停止對用戶個人信息的收集和使用,并為用戶提供注銷號碼或者賬號的服務(wù)。”在傳統(tǒng)的立法中,也在不斷增加關(guān)于個人信息保護(hù)的相關(guān)規(guī)定,如2013年修改的《中華人民共和國消費者權(quán)益保護(hù)法》中,增加了關(guān)于“經(jīng)營者收集、使用消費者個人信息,應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則,明示收集、使用信息的目的、方式和范圍,并經(jīng)消費者同意。經(jīng)營者收集、使用消費者個人信息,應(yīng)當(dāng)公開其收集、使用規(guī)則,不得違反法律、法規(guī)的規(guī)定和雙方的約定收集、使用信息”的要求。

    在明確信息收集和使用原則的基礎(chǔ)上,一些立法對個人信息的收集和使用還有一些專門的規(guī)定。在信息收集方面,在一些具有特殊敏感性的行業(yè),如醫(yī)療衛(wèi)生、金融、快遞等有專門的法律規(guī)定。例如,國家衛(wèi)生和計劃生育委員會《人口健康信息管理辦法(試行)》第八條規(guī)定,責(zé)任單位應(yīng)當(dāng)按照“一數(shù)一源、最少夠用”的原則采集人口健康信息,所采集的信息應(yīng)當(dāng)符合業(yè)務(wù)應(yīng)用和管理要求,保證服務(wù)和管理對象在本單位信息系統(tǒng)中身份標(biāo)識的唯一性和基本數(shù)據(jù)項的一致性,所采集的信息應(yīng)當(dāng)嚴(yán)格實行信息復(fù)核程序,避免重復(fù)采集、多頭采集。《征信業(yè)管理條例》還規(guī)定了禁止采集的情形,第十四條規(guī)定,禁止征信機(jī)構(gòu)采集個人的宗教信仰、基因、指紋、血型、疾病和病史信息以及法律、行政法規(guī)規(guī)定禁止采集的其他個人信息。征信機(jī)構(gòu)不得采集個人的收入、存款、有價證券、商業(yè)保險、不動產(chǎn)的信息和納稅數(shù)額信息。

    在信息存儲方面,《人口健康信息管理辦法(試行)》規(guī)定了人口健康信息實行分級存儲的原則,同時規(guī)定“不得將人口健康信息存儲在境外的服務(wù)器中,不得托管、租賃在境外的服務(wù)器”?!墩餍艠I(yè)管理條例》也規(guī)定,征信機(jī)構(gòu)在中國境內(nèi)采集的信息的整理、保存和加工,應(yīng)當(dāng)在中國境內(nèi)進(jìn)行。正在進(jìn)行的《中華人民共和國網(wǎng)絡(luò)安全法(草案)》立法中,其草案的第三十一條也規(guī)定:“關(guān)鍵信息基礎(chǔ)設(shè)施的運營者應(yīng)當(dāng)在中華人民共和國境內(nèi)存儲在運營中收集和產(chǎn)生的公民個人信息等重要數(shù)據(jù);因業(yè)務(wù)需要,確需在境外存儲或者向境外的組織或者個人提供的,應(yīng)當(dāng)按照國家網(wǎng)信部門會同國務(wù)院有關(guān)部門制定的辦法進(jìn)行安全評估。法律、行政法規(guī)另有規(guī)定的從其規(guī)定”。這一規(guī)定受到了國內(nèi)外的廣泛關(guān)注。

    在個人信息的使用方面,對個人信息的非法出售或者非法提供,是個人信息使用過程中的紅線。2015年9月發(fā)布的《中華人民共和國刑法修正案(九)》第二百五十三條之一“侵犯公民個人信息罪”,對違反國家有關(guān)規(guī)定,向他人出售或者提供公民個人信息,違反國家有關(guān)規(guī)定,將在履行職責(zé)或者提供服務(wù)過程中獲得的公民個人信息,出售或者提供給他人的以及竊取或者以其他方法非法獲取公民個人信息的,規(guī)定了刑事責(zé)任。

    此外,與大數(shù)據(jù)相關(guān)的法律制度還有數(shù)據(jù)泄露通知制度、數(shù)據(jù)留存制度以及政府?dāng)?shù)據(jù)開放制度等。在數(shù)據(jù)泄露通知方面,由于云計算的發(fā)展,服務(wù)中斷和數(shù)據(jù)泄露的規(guī)模大大增加,使數(shù)據(jù)泄露成為云計算、大數(shù)據(jù)時代最主要的安全風(fēng)險之一。在2013年《電信和互聯(lián)網(wǎng)用戶個人信息保護(hù)規(guī)定》中規(guī)定了數(shù)據(jù)泄露的報告制度:“電信業(yè)務(wù)經(jīng)營者、互聯(lián)網(wǎng)信息服務(wù)提供者保管的用戶個人信息發(fā)生或者可能發(fā)生泄露、毀損、丟失的,應(yīng)當(dāng)立即采取補(bǔ)救措施;造成或者可能造成嚴(yán)重后果的,應(yīng)當(dāng)立即向準(zhǔn)予其許可或者備案的電信管理機(jī)構(gòu)報告,配合相關(guān)部門進(jìn)行調(diào)查處理?!痹跉W盟即將發(fā)布的數(shù)據(jù)保護(hù)新規(guī)中,規(guī)定在數(shù)據(jù)泄露事故發(fā)生之后,沒有及時通知監(jiān)管機(jī)構(gòu),最高將被處以全球營業(yè)總額的2%的罰款。在數(shù)據(jù)留存方面,《互聯(lián)網(wǎng)信息服務(wù)管理辦法》規(guī)定,互聯(lián)網(wǎng)信息服務(wù)提供者和互聯(lián)網(wǎng)接入服務(wù)提供者的記錄備份應(yīng)當(dāng)保存60日,并在國家有關(guān)機(jī)關(guān)依法查詢時,予以提供。公安部制定的《互聯(lián)網(wǎng)安全保護(hù)技術(shù)措施規(guī)定》中也提出互聯(lián)網(wǎng)服務(wù)提供者記錄并留存用戶登錄和退出時間、主叫號碼、賬號、互聯(lián)網(wǎng)地址或域名、系統(tǒng)維護(hù)日志的技術(shù)措施等要求。而在國際上呈現(xiàn)兩種不同的立法趨勢,2014年4月,歐洲法院宣布2006年開始實施的《關(guān)于存留因提供電子通信服務(wù)或者公共通信網(wǎng)絡(luò)而產(chǎn)生或處理的數(shù)據(jù)修訂第2002/58/EC號指令的數(shù)據(jù)存留指令》(要求互聯(lián)網(wǎng)和電話公司為打擊犯罪保留用戶通信元數(shù)據(jù))因侵犯個人私生活基本權(quán)利無效。而2015年澳大利亞和德國卻在數(shù)據(jù)留存方面有新的法律規(guī)定,澳大利亞修訂電信(攔截和訪問)修正案(數(shù)據(jù)保留)法,規(guī)定相關(guān)信息要保存到涉及相關(guān)信息的賬戶銷戶后2年為止;德國規(guī)定電信公司、互聯(lián)網(wǎng)服務(wù)提供商和其他接入運營商對所有公民的通信數(shù)據(jù)存儲10周,移動服務(wù)的位置信息必須保存4周。在政府?dāng)?shù)據(jù)開放方面,由于政府和公共機(jī)構(gòu)的數(shù)據(jù)開放是大數(shù)據(jù)開發(fā)利用中的重要環(huán)節(jié),很多國家已經(jīng)對此出臺了相關(guān)的立法。我國目前主要是《中華人民共和國政府信息公開法》與此相關(guān),但是信息公開的要求、哪些信息要公開、公開的原則是什么,與大數(shù)據(jù)利用的要求還有比較大的差距。新出臺的《地圖管理條例》對地理信息數(shù)據(jù)的開放共享進(jìn)行了規(guī)定,是一個比較可喜的突破:“縣級以上人民政府測繪地理信息行政主管部門應(yīng)當(dāng)采取有效措施,及時獲取、處理、更新基礎(chǔ)地理信息數(shù)據(jù),通過地理信息公共服務(wù)平臺向社會提供地理信息公共服務(wù),實現(xiàn)地理信息數(shù)據(jù)開放共享”。

    2 大數(shù)據(jù)帶來的法律挑戰(zhàn)

    技術(shù)的發(fā)展帶來了難題,同時又開出了藥方。大數(shù)據(jù)給人類帶來了挑戰(zhàn),也帶來了新時代的曙光。人類終將受益于技術(shù)的發(fā)展和進(jìn)步,在即將到來的智能時代獲得更大的自由和解放[3]。法律帶來的是穩(wěn)定的預(yù)期和權(quán)利義務(wù)關(guān)系的平衡,而革命性的新技術(shù)的出現(xiàn),將會改變甚至打破現(xiàn)有的秩序和平衡,從而給原有法律制度帶來影響和變革,大數(shù)據(jù)正是這樣一種技術(shù)。

    2.1 安全方面的挑戰(zhàn)

    2015年,世界經(jīng)濟(jì)論壇發(fā)布的《全球風(fēng)險報告》指出,隨著越來越多的實物連接到互聯(lián)網(wǎng)上以及日益敏感的個人信息(包括健康和財務(wù))被企業(yè)存儲到云端設(shè)備中,網(wǎng)絡(luò)攻擊和超級連接變得日趨復(fù)雜。世界經(jīng)濟(jì)論壇所做的2013-2014年全球風(fēng)險認(rèn)知調(diào)查結(jié)果顯示,大規(guī)模網(wǎng)絡(luò)攻擊和數(shù)據(jù)的欺詐或竊取,是在影響力和發(fā)生概率兩方面超出平均水平的風(fēng)險。

    大數(shù)據(jù)的發(fā)展也面臨網(wǎng)絡(luò)安全與數(shù)據(jù)安全兩方面的挑戰(zhàn)。2015年,iCloud服務(wù)器出現(xiàn)多次中斷,影響面甚廣,而“棱鏡”計劃曝光的美國進(jìn)行的大規(guī)模網(wǎng)絡(luò)監(jiān)控更是觸目驚心,未經(jīng)授權(quán)的數(shù)據(jù)訪問、數(shù)據(jù)竊取與泄露等安全風(fēng)險對法律制度提出了新的訴求。要求加強(qiáng)網(wǎng)絡(luò)安全防護(hù)、引入關(guān)鍵信息基礎(chǔ)設(shè)施保護(hù)制度、加強(qiáng)網(wǎng)絡(luò)世界與真實世界的連接安全等。2015年7月出臺的《中華人民共和國國家安全法》中提出建立國家安全審查制度:“國家建立國家安全審查和監(jiān)管的制度和機(jī)制,對影響或者可能影響國家安全的外商投資、特定物項和關(guān)鍵技術(shù)、網(wǎng)絡(luò)信息技術(shù)產(chǎn)品和服務(wù)、涉及國家安全事項的建設(shè)項目以及其他重大事項和活動,進(jìn)行國家安全審查,有效預(yù)防和化解國家安全風(fēng)險”。這對于有效防范來自產(chǎn)品、設(shè)備、服務(wù)、外國投資的安全風(fēng)險具有非常重要的意義,但是在具體行業(yè)領(lǐng)域中的安全審查制度還有待進(jìn)一步建立和完善。

    在數(shù)據(jù)安全方面,最早在國務(wù)院辦公廳2004年發(fā)布的《關(guān)于加強(qiáng)信息資源開發(fā)利用工作的若干意見》中就指出:“信息資源作為生產(chǎn)要素、無形資產(chǎn)和社會財富,與能源、材料資源同等重要,在經(jīng)濟(jì)社會資源結(jié)構(gòu)中具有不可替代的地位,已成為經(jīng)濟(jì)全球化背景下國際競爭的一個重點”。習(xí)近平在2014年初中央網(wǎng)絡(luò)安全和信息化領(lǐng)導(dǎo)小組第一次會議的重要講話中也提到:“信息資源日益成為重要生產(chǎn)要素和社會財富,信息掌握的多寡成為國家軟實力和競爭力的重要標(biāo)志”。2015年8月,國務(wù)院發(fā)布的《促進(jìn)大數(shù)據(jù)發(fā)展行動綱要》進(jìn)一步指出:數(shù)據(jù)已成為國家基礎(chǔ)性戰(zhàn)略資源。對于數(shù)據(jù)資源的本地存儲、利用、控制、管轄等是網(wǎng)絡(luò)空間國家主權(quán)的必然要求。在制度建設(shè)上,需要通過對網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)監(jiān)控的防范來保護(hù)整個數(shù)據(jù)資源的安全,同時,增強(qiáng)國內(nèi)網(wǎng)絡(luò)設(shè)施和產(chǎn)品的競爭力,防范通過產(chǎn)品和服務(wù)設(shè)備進(jìn)行數(shù)據(jù)收集,更重要的是加強(qiáng)數(shù)據(jù)資源的開放、開發(fā)和利用,進(jìn)一步實現(xiàn)數(shù)據(jù)資源所蘊(yùn)藏的經(jīng)濟(jì)價值,增強(qiáng)國家的競爭力。

    2.2 大數(shù)據(jù)商業(yè)利用的挑戰(zhàn)

    大數(shù)據(jù)已經(jīng)成為驅(qū)動新一輪經(jīng)濟(jì)增長最重要的引擎,人類即將進(jìn)入一個全新的時代——智能化時代,而這個智能化時代也是數(shù)據(jù)驅(qū)動的[3]。但是,大數(shù)據(jù)的商業(yè)利用也給監(jiān)管和法律帶來了新的挑戰(zhàn)。大數(shù)據(jù)產(chǎn)業(yè)的發(fā)展中,數(shù)據(jù)分析者、數(shù)據(jù)提供者以及數(shù)據(jù)驅(qū)動的創(chuàng)新企業(yè)等構(gòu)成大數(shù)據(jù)生態(tài)系統(tǒng)中的主要部分,而數(shù)據(jù)交易平臺也是新興的主體之一。目前,產(chǎn)業(yè)界已經(jīng)在探索交易平臺的各種規(guī)則,中關(guān)村大數(shù)據(jù)交易產(chǎn)業(yè)聯(lián)盟、貴陽大數(shù)據(jù)交易所等已經(jīng)開展了很好的產(chǎn)業(yè)實踐。

    2015年7月,國際電信聯(lián)盟(ITU)發(fā)布了2015年電信改革趨勢報告——《做好迎接數(shù)字經(jīng)濟(jì)的準(zhǔn)備》,這是繼2014年ITU提出數(shù)字時代的第四代監(jiān)管之后,電信改革趨勢報告繼續(xù)關(guān)注數(shù)字經(jīng)濟(jì)問題,并專門以一章分析了大數(shù)據(jù)的機(jī)遇和挑戰(zhàn)。報告認(rèn)為,大數(shù)據(jù)對公司的商業(yè)運營意義重大,商業(yè)實體收集、分析和存儲數(shù)據(jù)有幾個重要的原則。例如,數(shù)據(jù)保留:在數(shù)據(jù)完成原始的目的后將數(shù)據(jù)存儲更長時間,以便它再利用。數(shù)據(jù)收集:商業(yè)實體傾向于更多地收集數(shù)據(jù),即使它暫時不能用于特定的目的,但是可能對于那些還沒有被認(rèn)識到的目的有價值。數(shù)據(jù)優(yōu)先:數(shù)據(jù)具有價值,并且那些擁有數(shù)據(jù)的人或者能訪問數(shù)據(jù)的人有能力提取這些價值,而那些沒有數(shù)據(jù)的人則不行。數(shù)據(jù)專家:從數(shù)據(jù)中提取隱藏價值的專門技術(shù)十分重要,而目前在這一領(lǐng)域的專家還是有短板的,因此對數(shù)據(jù)科學(xué)家有很高的需求。數(shù)據(jù)思維:在分析大數(shù)據(jù)問題時,比技術(shù)專家更為重要的是在特定數(shù)據(jù)領(lǐng)域的戰(zhàn)略能力,這就是為什么一個小的(但不斷增長)大數(shù)據(jù)企業(yè)能夠從起步到取得連續(xù)的成功,甚至進(jìn)入相對擁擠的市場空間中。數(shù)據(jù)的非線性可擴(kuò)展性:擁有更多數(shù)據(jù)將不成比例地提升數(shù)據(jù)的價值,這是大數(shù)據(jù)的網(wǎng)絡(luò)效應(yīng),更多的數(shù)據(jù)意味著更多的價值。降低進(jìn)入壁壘:大數(shù)據(jù)初始公司不需要大量投資于技術(shù)基礎(chǔ)設(shè)施以處理和存儲數(shù)據(jù)。它們可以使用其他公司提供的彈性的云數(shù)據(jù)處理能力,這大大減少了進(jìn)入的壁壘,而且當(dāng)那些大公司變得更大時,小公司仍然有成功的機(jī)會。數(shù)據(jù)的效用擴(kuò)展:例如一個電信服務(wù)提供商可能發(fā)現(xiàn)可以使用它自己的網(wǎng)絡(luò)數(shù)據(jù)提供天氣數(shù)據(jù)平臺/服務(wù),或者一個汽車制造商可以將它自己變?yōu)橐粋€旅游數(shù)據(jù)平臺。這意味著傳統(tǒng)行業(yè)的公司可以進(jìn)入其他部門,并且基于他們獲取和分析數(shù)據(jù)的能力而增加新的收入。

    盡管大數(shù)據(jù)有如此多的商業(yè)利用機(jī)會,但是在監(jiān)管和法律方面仍面臨著重大的挑戰(zhàn):一是數(shù)據(jù)資源開放的挑戰(zhàn),目前我國還沒有政府?dāng)?shù)據(jù)開放的相關(guān)立法,大量的數(shù)據(jù)資源掌握在政府和公共機(jī)構(gòu)手中,還沒有得到有效的開發(fā)利用;二是缺乏普遍適用的數(shù)據(jù)交易、流通規(guī)則,業(yè)界雖然已有探索,但對于數(shù)據(jù)的所有權(quán)、數(shù)據(jù)交易中相關(guān)主體的權(quán)利義務(wù)、數(shù)據(jù)的定價等還沒有法律的明確指引;三是可能的數(shù)據(jù)壟斷,目前大量的數(shù)據(jù)集中在大企業(yè)手里,數(shù)據(jù)集中化趨勢不斷出現(xiàn),如何打破數(shù)據(jù)集中化趨勢,使企業(yè)進(jìn)一步地開放數(shù)據(jù),使其他的數(shù)據(jù)運營者能夠以公平、合理的條件接入和訪問這些數(shù)據(jù),并且利用和分析這些數(shù)據(jù),也是一個新的挑戰(zhàn);四是數(shù)據(jù)濫用的挑戰(zhàn),例如,利用數(shù)據(jù)科學(xué)來分析處理健康狀況博客、瀏覽習(xí)慣、社交媒體和數(shù)據(jù)代理商提供的檔案資料,可以發(fā)現(xiàn)最有可能患糖尿病或抑郁癥的人[4],那么在推銷保險時,是否會將這些人全部排除在外?這是數(shù)據(jù)歧視的挑戰(zhàn)。

    除此之外,最重要的就是大數(shù)據(jù)對隱私保護(hù)帶來的挑戰(zhàn)。在數(shù)據(jù)的收集階段,用戶知情同意的原則要求數(shù)據(jù)獲取及使用目的要征求用戶同意,但是大數(shù)據(jù)的發(fā)展使這種“同意”難以實現(xiàn),因為大數(shù)據(jù)的價值不再單純來源于它的基本用途,而更多源于它的二次利用[5],而這些二次利用的用途是收集時難以告知用戶的;在數(shù)據(jù)的使用階段,很多數(shù)據(jù)在收集時并無意用作其他用途,而最終卻產(chǎn)生了很多創(chuàng)新性的用途,因此無法滿足目的明示及不得用于服務(wù)之外目的的原則。近年來,各國在政策和技術(shù)上對于“匿名化”做了很多努力,但是因為更多的數(shù)據(jù)每天被采集,并且有更多或更強(qiáng)大的工具來聯(lián)系這些數(shù)據(jù),“匿名化”的效果不一定能夠達(dá)到。

    2.3 國際規(guī)則與國際立法的挑戰(zhàn)

    在大數(shù)據(jù)時代,已經(jīng)很難只把目光聚焦在國內(nèi)的立法和政策的領(lǐng)域,全球新的服務(wù)貿(mào)易規(guī)則正在形成。在剛剛公布全文的《跨太平洋伙伴關(guān)系協(xié)定》的“電子商務(wù)”章節(jié)規(guī)定,不得將設(shè)立數(shù)據(jù)中心作為締約方企業(yè)進(jìn)入本國市場的前提條件(第14.13條),將在保障個人信息等合法公共政策目標(biāo)的前提下,確保全球信息和數(shù)據(jù)自由流動(第14.11條)??梢?,數(shù)據(jù)的跨境自由流動和本地存儲已經(jīng)成為國際規(guī)則制定中新的博弈點。

    國內(nèi)立法是影響國際規(guī)則、在國際規(guī)則制定中體現(xiàn)本國意志的前提條件。《中共中央關(guān)于制定國民經(jīng)濟(jì)和社會發(fā)展第十三個五年規(guī)劃的建議》提出,要積極參與全球經(jīng)濟(jì)治理。積極參與網(wǎng)絡(luò)、深海、極地、空天等新領(lǐng)域國際規(guī)則制定。要進(jìn)一步地積極參與網(wǎng)絡(luò)方面的國際規(guī)則制定,爭取國際規(guī)則制定的話語權(quán),重要的前提就是國內(nèi)立法的完善,包括個人信息保護(hù)法、數(shù)據(jù)境內(nèi)存儲與跨境傳輸?shù)囊?guī)則、外資安全審查制度等,這些國內(nèi)立法都會影響我國在國際規(guī)則談判中的立場和主張。在國際規(guī)則制定中,考慮到我國的產(chǎn)業(yè)發(fā)展和競爭力水平,如何制定數(shù)據(jù)本地化的規(guī)則,在跨境服務(wù)的負(fù)面清單中如何對新業(yè)務(wù)保留采取措施的權(quán)利以及充分利用安全例外原則,建立本身的安全措施和規(guī)則,這些都是目前面臨的新挑戰(zhàn)。

    3 思考和建議

    大數(shù)據(jù)以及它給政治、經(jīng)濟(jì)、社會帶來的深刻挑戰(zhàn),終將影響到法律制度的建設(shè),像互聯(lián)網(wǎng)剛剛出現(xiàn)時一樣,對于大數(shù)據(jù)是否需要制定一部全新的立法,還是在原來的法律規(guī)則基礎(chǔ)上進(jìn)行修改完善,這個問題還需要更深入地探索。

    對于大數(shù)據(jù)的相關(guān)立法,要平衡釋放數(shù)據(jù)經(jīng)濟(jì)活力,規(guī)范商業(yè)利用與數(shù)據(jù)資源安全和隱私保護(hù)之間的關(guān)系,重點針對數(shù)據(jù)的收集和使用環(huán)節(jié)建立規(guī)則,明確大數(shù)據(jù)生態(tài)中不同主體的責(zé)任,促進(jìn)網(wǎng)絡(luò)基礎(chǔ)設(shè)施的發(fā)展,開放數(shù)據(jù)資源,加強(qiáng)網(wǎng)絡(luò)安全與隱私保護(hù)。

    應(yīng)對網(wǎng)絡(luò)安全與數(shù)據(jù)安全挑戰(zhàn),要進(jìn)一步關(guān)注大數(shù)據(jù)等新技術(shù)新業(yè)務(wù)帶來的網(wǎng)絡(luò)安全問題,與實體經(jīng)濟(jì)安全相結(jié)合進(jìn)行統(tǒng)籌處理,建立關(guān)鍵信息基礎(chǔ)設(shè)施安全管理制度,對互聯(lián)網(wǎng)平臺的義務(wù)、責(zé)任予以明確。而對于數(shù)據(jù)安全,建立對數(shù)據(jù)安全風(fēng)險的評估機(jī)制,從關(guān)注數(shù)據(jù)本身到關(guān)注數(shù)據(jù)資源整體的安全,同時,加強(qiáng)對處理數(shù)據(jù)主體的關(guān)注,限制特定類型的主體從事相關(guān)數(shù)據(jù)分析。

    建立大數(shù)據(jù)商業(yè)利用的原則。大數(shù)據(jù)的商業(yè)利用以國家安全為前提,以隱私保護(hù)為基礎(chǔ)。促進(jìn)政府及公共機(jī)構(gòu)數(shù)據(jù)開放,建立健全數(shù)據(jù)資源交易機(jī)制和定價機(jī)制,規(guī)范交易行為。破除數(shù)據(jù)壟斷,探索將標(biāo)準(zhǔn)專利領(lǐng)域的FRAND(公平、合理、非歧視)原則引入大數(shù)據(jù)的管理中,即占有數(shù)據(jù)的主體不能利用其在數(shù)據(jù)上的優(yōu)勢地位限制競爭,收取的費用應(yīng)與在競爭環(huán)境下所能收取的費用一致,對于擁有同等條件的數(shù)據(jù)使用者以相同或相等的條件進(jìn)行許可。避免和規(guī)制數(shù)據(jù)濫用,在可能帶來負(fù)面影響的領(lǐng)域,謹(jǐn)慎使用大數(shù)據(jù)預(yù)測的結(jié)果,不能使人為了未來可能的行為受到處罰,這些使用要進(jìn)行嚴(yán)格的審查。在企業(yè)應(yīng)用大數(shù)據(jù)預(yù)測對目標(biāo)客戶進(jìn)行分類時,規(guī)定哪些領(lǐng)域可以進(jìn)行歧視性的利用,而哪些領(lǐng)域不允許等。

    隱私保護(hù)是整個大數(shù)據(jù)的發(fā)展和商業(yè)利用的一個非常重要的基礎(chǔ)性問題,需要在整個大數(shù)據(jù)發(fā)展利用過程中權(quán)衡考慮。在政府?dāng)?shù)據(jù)開放、大數(shù)據(jù)商業(yè)利用的各個環(huán)節(jié)都要加入隱私分析。同時,要加強(qiáng)使用前評估和保障措施,對用戶個人信息的新使用,必須評估其潛在危害和對隱私保護(hù)的影響,在使用之前,針對潛在威脅制定相應(yīng)的保障措施并且到位,加強(qiáng)事后的責(zé)任追究。

    [1] 涂子沛. 大數(shù)據(jù)[M]. 桂林: 廣西師范大學(xué)出版社, 2012: 35. TU Z P. Big Data[M]. Guilin: Guangxi Normal University Press, 2012: 35.

    [2] 勞倫斯·萊斯格. 代碼2.0:網(wǎng)絡(luò)空間中的法律[M]. 李旭, 沈偉偉, 譯. 北京: 清華大學(xué)出版社, 2009: 248. L E S S I G L. C o d e Ve r s i o n 2.0[M]. Translated by LI X, SHEN W W. Beijing: Tsinghua University Press, 2009: 248.

    [3] 涂子沛. 數(shù)據(jù)之巔:大數(shù)據(jù)革命,歷史、現(xiàn)實與未來[M]. 北京: 中信出版社, 2014: 300. TU Z P. Big Data History, Reality and Future[M]. Beijing: CITIC Press, 2014: 300.

    [4] 史蒂夫·洛爾. 大數(shù)據(jù)主義[M]. 胡小銳, 朱勝超,譯. 北京: 中信出版社, 2015: 277. STEVE L. DATA-ISM: The Revolution Transforming Decision Making, Consumer Behavior, and Almost Everything Else [M]. Translated by HU X R, ZHU S C. Beijing: CITIC Press, 2015: 277.

    [5] 維克托·邁爾-舍恩伯格,肯尼思·庫克耶. 大數(shù)據(jù)時代——生活工作與思維的大變革[M].盛楊燕, 周濤, 譯. 杭州:浙江人民出版社,2013: 197. M AY ER-S C H ? N B ER G ER V, C U K I ER K. Big Data: A Revolution that Will Transform How We Live, Work, and Think [M]. Translated by SHENG Y Y, ZHOU T. Hangzhou: Zhejiang People’s Publishing House, 2013: 197.

    * 本文為2015中國大數(shù)據(jù)技術(shù)大會(BDTC)演講約稿

    Legal challenges and recommendations for big data

    Big data offers a new perspective on the world, and therefore will affect the legislation. The sustained development of big data industry depends on the clear, stable and inclusive legal system. The method to deal with security risks caused by big data was discussed, and the principles and rules of commercial exploitation of big data were introduced. China should strengthen national legislation so as to strive for the right to speak of international trade rules.

    big data, data security, commercialization of big data, privacy protection

    D920.1

    A

    10.11959/j.issn.2096-0271.2016023

    2016-01-06

    LI Haiying

    China Academy of Information and Communications Technology, Beijing 100191, China

    李海英(1976-),女,中國信息通信研究院互聯(lián)網(wǎng)法律研究中心主任,中國互聯(lián)網(wǎng)協(xié)會互聯(lián)網(wǎng)法治工作委員會副秘書長,主要從事互聯(lián)網(wǎng)法律制度、國際服務(wù)貿(mào)易規(guī)則和電信市場開放等方面的研究工作。

    猜你喜歡
    個人信息信息
    評刊表
    課外閱讀(2025年2期)2025-02-20 00:00:00
    如何保護(hù)勞動者的個人信息?
    工會博覽(2022年16期)2022-07-16 05:53:54
    個人信息保護(hù)進(jìn)入“法時代”
    警惕個人信息泄露
    綠色中國(2019年14期)2019-11-26 07:11:44
    訂閱信息
    中華手工(2017年2期)2017-06-06 23:00:31
    展會信息
    中外會展(2014年4期)2014-11-27 07:46:46
    個人信息保護(hù)等6項通信行業(yè)標(biāo)準(zhǔn)征求意見
    信息
    健康信息
    祝您健康(1987年3期)1987-12-30 09:52:32
    健康信息(九則)
    祝您健康(1987年2期)1987-12-30 09:52:28
    一二三四在线观看免费中文在| 久久久久国产精品人妻一区二区| 两性午夜刺激爽爽歪歪视频在线观看 | 日韩中文字幕视频在线看片| 国产在视频线精品| 18禁观看日本| 热99久久久久精品小说推荐| 欧美精品人与动牲交sv欧美| 午夜激情久久久久久久| 亚洲午夜精品一区,二区,三区| 新久久久久国产一级毛片| 久久精品aⅴ一区二区三区四区| 性色av乱码一区二区三区2| 亚洲国产av影院在线观看| 丰满迷人的少妇在线观看| 五月天丁香电影| 97在线人人人人妻| 欧美xxⅹ黑人| 一本—道久久a久久精品蜜桃钙片| 免费在线观看日本一区| 成年av动漫网址| 亚洲精品美女久久久久99蜜臀| 又大又爽又粗| 淫妇啪啪啪对白视频 | 老司机影院毛片| 精品国产乱码久久久久久小说| 国产成人av激情在线播放| 少妇 在线观看| 日韩电影二区| 国产成人影院久久av| 亚洲欧洲日产国产| 丝袜脚勾引网站| 日韩 欧美 亚洲 中文字幕| 狠狠婷婷综合久久久久久88av| 日本wwww免费看| 亚洲色图综合在线观看| 国产高清视频在线播放一区 | 黑人操中国人逼视频| 悠悠久久av| 亚洲久久久国产精品| 亚洲五月婷婷丁香| 中文字幕av电影在线播放| 丝袜在线中文字幕| 91成年电影在线观看| 18禁黄网站禁片午夜丰满| 国产av国产精品国产| 精品国产超薄肉色丝袜足j| 国产91精品成人一区二区三区 | www.熟女人妻精品国产| 丰满饥渴人妻一区二区三| 亚洲国产精品999| a在线观看视频网站| 正在播放国产对白刺激| 亚洲欧美激情在线| 国产一卡二卡三卡精品| 制服诱惑二区| 真人做人爱边吃奶动态| av线在线观看网站| 欧美激情高清一区二区三区| 成人三级做爰电影| 亚洲五月色婷婷综合| 少妇被粗大的猛进出69影院| 国产色视频综合| 午夜免费鲁丝| www.自偷自拍.com| 国产免费福利视频在线观看| 伦理电影免费视频| 亚洲精品国产区一区二| 国产av精品麻豆| av片东京热男人的天堂| 国产老妇伦熟女老妇高清| 亚洲精品日韩在线中文字幕| 两个人看的免费小视频| 老汉色∧v一级毛片| 国产一区二区三区综合在线观看| 制服诱惑二区| 天天躁日日躁夜夜躁夜夜| 极品少妇高潮喷水抽搐| 日本a在线网址| 自拍欧美九色日韩亚洲蝌蚪91| 超碰成人久久| 久久久精品免费免费高清| 中国美女看黄片| 亚洲精品国产色婷婷电影| 亚洲五月色婷婷综合| 欧美激情 高清一区二区三区| 黄片大片在线免费观看| 中文字幕高清在线视频| 在线观看人妻少妇| 亚洲精华国产精华精| 免费av中文字幕在线| 老熟妇乱子伦视频在线观看 | 国产极品粉嫩免费观看在线| 国产在视频线精品| 欧美变态另类bdsm刘玥| 后天国语完整版免费观看| av国产精品久久久久影院| 国产欧美日韩一区二区三区在线| 91av网站免费观看| 91麻豆av在线| 黑人巨大精品欧美一区二区mp4| kizo精华| 精品国产乱码久久久久久小说| 亚洲成人手机| 丝袜喷水一区| 亚洲精品日韩在线中文字幕| 午夜福利视频精品| 久久久国产欧美日韩av| 美女大奶头黄色视频| 一级毛片电影观看| 亚洲专区中文字幕在线| 天堂中文最新版在线下载| 一本—道久久a久久精品蜜桃钙片| 老司机影院成人| 亚洲精品久久成人aⅴ小说| 久久精品成人免费网站| 国产av国产精品国产| 人人妻,人人澡人人爽秒播| 欧美激情高清一区二区三区| av一本久久久久| 热re99久久精品国产66热6| 欧美日本中文国产一区发布| 操美女的视频在线观看| 精品少妇一区二区三区视频日本电影| 国产在线免费精品| 777米奇影视久久| 97人妻天天添夜夜摸| 18禁国产床啪视频网站| 极品人妻少妇av视频| 超碰成人久久| 亚洲精品美女久久久久99蜜臀| 热99re8久久精品国产| 搡老熟女国产l中国老女人| 亚洲国产毛片av蜜桃av| 国产精品 国内视频| 精品一区二区三区av网在线观看 | 国产亚洲精品第一综合不卡| 男女边摸边吃奶| xxxhd国产人妻xxx| 久久狼人影院| 最黄视频免费看| 天天躁日日躁夜夜躁夜夜| 久久狼人影院| 黄色片一级片一级黄色片| 亚洲专区字幕在线| 一本一本久久a久久精品综合妖精| 欧美日韩福利视频一区二区| 国产精品熟女久久久久浪| 国产又色又爽无遮挡免| 三级毛片av免费| www日本在线高清视频| 亚洲成人国产一区在线观看| 十分钟在线观看高清视频www| 水蜜桃什么品种好| 亚洲av电影在线进入| 午夜激情久久久久久久| 久久久久久久国产电影| 欧美精品一区二区大全| 午夜日韩欧美国产| 久久天堂一区二区三区四区| 少妇人妻久久综合中文| 欧美激情久久久久久爽电影 | 一级,二级,三级黄色视频| 日本av手机在线免费观看| 国产精品影院久久| 日韩人妻精品一区2区三区| 青青草视频在线视频观看| www.自偷自拍.com| 超色免费av| 99久久综合免费| 国产精品久久久av美女十八| 成人黄色视频免费在线看| 99久久99久久久精品蜜桃| 欧美在线黄色| 日本一区二区免费在线视频| 久久久久国产精品人妻一区二区| 美女脱内裤让男人舔精品视频| 国产精品免费大片| 嫩草影视91久久| 永久免费av网站大全| 国产精品一区二区免费欧美 | 国产成人啪精品午夜网站| 丝袜在线中文字幕| 亚洲精品中文字幕一二三四区 | 韩国高清视频一区二区三区| 欧美激情高清一区二区三区| 久久青草综合色| 国产精品麻豆人妻色哟哟久久| 亚洲精品自拍成人| 黑人操中国人逼视频| 日韩欧美一区二区三区在线观看 | 日韩,欧美,国产一区二区三区| 操美女的视频在线观看| 国产一级毛片在线| 日韩欧美免费精品| 日日爽夜夜爽网站| 宅男免费午夜| 大码成人一级视频| 另类精品久久| av网站免费在线观看视频| 啦啦啦在线免费观看视频4| 国产又爽黄色视频| 制服诱惑二区| 久久久久国产精品人妻一区二区| 91av网站免费观看| 真人做人爱边吃奶动态| 人妻一区二区av| 亚洲免费av在线视频| 亚洲精品一卡2卡三卡4卡5卡 | 91大片在线观看| 黑人巨大精品欧美一区二区蜜桃| 国产成人影院久久av| 99九九在线精品视频| av免费在线观看网站| 国产一区二区激情短视频 | 一二三四社区在线视频社区8| 最新在线观看一区二区三区| 999精品在线视频| 成年美女黄网站色视频大全免费| 91精品伊人久久大香线蕉| 久久久精品免费免费高清| 三级毛片av免费| 一级黄色大片毛片| 黄频高清免费视频| 国产成人精品久久二区二区免费| 日韩欧美一区视频在线观看| 国产97色在线日韩免费| 999久久久国产精品视频| 狠狠狠狠99中文字幕| 精品国产乱子伦一区二区三区 | 亚洲情色 制服丝袜| 97在线人人人人妻| 免费在线观看黄色视频的| 国产精品99久久99久久久不卡| 女性生殖器流出的白浆| 50天的宝宝边吃奶边哭怎么回事| 国产在线观看jvid| 波多野结衣一区麻豆| 老司机亚洲免费影院| www.999成人在线观看| 成年女人毛片免费观看观看9 | 免费在线观看日本一区| kizo精华| 国产成人啪精品午夜网站| av线在线观看网站| 最黄视频免费看| 国产精品1区2区在线观看. | av天堂在线播放| 国产精品偷伦视频观看了| 高清欧美精品videossex| 一二三四社区在线视频社区8| 一级片'在线观看视频| 老熟妇仑乱视频hdxx| 亚洲av欧美aⅴ国产| 精品高清国产在线一区| www.999成人在线观看| 国产精品免费大片| 搡老岳熟女国产| 日本一区二区免费在线视频| 黄色 视频免费看| 亚洲黑人精品在线| 欧美精品啪啪一区二区三区 | 成人18禁高潮啪啪吃奶动态图| 丁香六月天网| 精品久久久久久电影网| 久久久久久久大尺度免费视频| 精品福利永久在线观看| 咕卡用的链子| 成人亚洲精品一区在线观看| 中文字幕av电影在线播放| 1024香蕉在线观看| 中文字幕色久视频| 乱人伦中国视频| 欧美成狂野欧美在线观看| 老司机在亚洲福利影院| 在线看a的网站| 王馨瑶露胸无遮挡在线观看| av有码第一页| 啦啦啦中文免费视频观看日本| 另类亚洲欧美激情| 美女扒开内裤让男人捅视频| 男人添女人高潮全过程视频| 菩萨蛮人人尽说江南好唐韦庄| 丰满饥渴人妻一区二区三| 精品福利永久在线观看| 亚洲专区字幕在线| 亚洲九九香蕉| 精品少妇内射三级| 成年人免费黄色播放视频| 一级毛片电影观看| 久热这里只有精品99| av片东京热男人的天堂| 精品亚洲乱码少妇综合久久| 一区二区av电影网| 嫩草影视91久久| 亚洲色图 男人天堂 中文字幕| 狂野欧美激情性bbbbbb| 电影成人av| av不卡在线播放| 久久久国产精品麻豆| 色视频在线一区二区三区| 国产精品久久久人人做人人爽| 成人国语在线视频| videos熟女内射| 一进一出抽搐动态| 三上悠亚av全集在线观看| 欧美亚洲 丝袜 人妻 在线| 9热在线视频观看99| 免费观看av网站的网址| 国产在视频线精品| 中文字幕人妻丝袜制服| 一区二区三区乱码不卡18| av有码第一页| 在线观看免费高清a一片| a级片在线免费高清观看视频| 亚洲精品国产一区二区精华液| av在线老鸭窝| 可以免费在线观看a视频的电影网站| 丝瓜视频免费看黄片| 美女主播在线视频| 女人被躁到高潮嗷嗷叫费观| 中文字幕人妻熟女乱码| 国产亚洲一区二区精品| 亚洲精华国产精华精| 国产老妇伦熟女老妇高清| 香蕉丝袜av| 9191精品国产免费久久| 精品国产一区二区三区久久久樱花| 啦啦啦视频在线资源免费观看| 少妇被粗大的猛进出69影院| 亚洲欧洲精品一区二区精品久久久| 国产xxxxx性猛交| 国产精品亚洲av一区麻豆| 国产在线一区二区三区精| 国产欧美日韩综合在线一区二区| 亚洲精品国产av蜜桃| 久9热在线精品视频| 亚洲熟女毛片儿| 一级片免费观看大全| 欧美激情久久久久久爽电影 | 中文字幕色久视频| 久久国产精品男人的天堂亚洲| 在线av久久热| 国产一区有黄有色的免费视频| av片东京热男人的天堂| tube8黄色片| 欧美黄色淫秽网站| 少妇精品久久久久久久| 777米奇影视久久| 亚洲欧美色中文字幕在线| 一本—道久久a久久精品蜜桃钙片| 精品亚洲乱码少妇综合久久| 十分钟在线观看高清视频www| 十八禁高潮呻吟视频| 日韩制服骚丝袜av| 97在线人人人人妻| 一本色道久久久久久精品综合| 91成人精品电影| 性少妇av在线| 欧美精品高潮呻吟av久久| 18禁裸乳无遮挡动漫免费视频| 女人高潮潮喷娇喘18禁视频| 成人国语在线视频| 美女午夜性视频免费| 老司机福利观看| 欧美97在线视频| 国产亚洲欧美精品永久| 国产av一区二区精品久久| 黑人猛操日本美女一级片| 午夜免费观看性视频| 国产精品欧美亚洲77777| 亚洲精品久久成人aⅴ小说| 亚洲avbb在线观看| 欧美黑人精品巨大| 青春草亚洲视频在线观看| 他把我摸到了高潮在线观看 | 一边摸一边做爽爽视频免费| 桃红色精品国产亚洲av| 蜜桃国产av成人99| 久久精品久久久久久噜噜老黄| 男人舔女人的私密视频| 国产一区二区在线观看av| www.自偷自拍.com| 在线av久久热| 日韩精品免费视频一区二区三区| 伦理电影免费视频| 欧美黑人欧美精品刺激| 啦啦啦在线免费观看视频4| www.av在线官网国产| av在线播放精品| 免费女性裸体啪啪无遮挡网站| 超碰成人久久| 日韩人妻精品一区2区三区| 一级a爱视频在线免费观看| 麻豆av在线久日| 国产精品国产三级国产专区5o| 十八禁人妻一区二区| 亚洲精品在线美女| 久久精品久久久久久噜噜老黄| 嫩草影视91久久| 99热网站在线观看| 精品一区二区三卡| 久久ye,这里只有精品| 欧美黄色片欧美黄色片| 窝窝影院91人妻| 女性生殖器流出的白浆| 国产成+人综合+亚洲专区| 亚洲欧美精品自产自拍| 久久久久国产精品人妻一区二区| 欧美精品一区二区免费开放| 老熟妇仑乱视频hdxx| 亚洲欧美成人综合另类久久久| 乱人伦中国视频| 成人国语在线视频| 国产主播在线观看一区二区| 国产日韩一区二区三区精品不卡| 一二三四社区在线视频社区8| 高清在线国产一区| 国产真人三级小视频在线观看| 亚洲国产av影院在线观看| 欧美 日韩 精品 国产| 亚洲精华国产精华精| 精品久久久精品久久久| 美女高潮到喷水免费观看| 精品一区在线观看国产| 国产淫语在线视频| 亚洲免费av在线视频| 天堂俺去俺来也www色官网| 国产成人精品无人区| 天天躁狠狠躁夜夜躁狠狠躁| 国产有黄有色有爽视频| tocl精华| 欧美成人午夜精品| 国产av精品麻豆| 看免费av毛片| 两个人免费观看高清视频| 黄片大片在线免费观看| 欧美日韩精品网址| 成人亚洲精品一区在线观看| 久久热在线av| av在线app专区| 桃红色精品国产亚洲av| 欧美精品啪啪一区二区三区 | 十八禁网站免费在线| 91麻豆av在线| 十八禁高潮呻吟视频| 99香蕉大伊视频| 亚洲熟女毛片儿| 久久天躁狠狠躁夜夜2o2o| 夜夜骑夜夜射夜夜干| 国产免费现黄频在线看| 久久青草综合色| 99精品欧美一区二区三区四区| 久久久精品94久久精品| 免费女性裸体啪啪无遮挡网站| 亚洲综合色网址| av天堂在线播放| 三级毛片av免费| 久久久精品区二区三区| 久久精品成人免费网站| 精品国产国语对白av| 美女高潮到喷水免费观看| 久久99热这里只频精品6学生| kizo精华| 久久久久精品国产欧美久久久 | 丝袜美腿诱惑在线| 亚洲精品国产av成人精品| 日本黄色日本黄色录像| 久久国产精品人妻蜜桃| 国产精品香港三级国产av潘金莲| 国产成人一区二区三区免费视频网站| 亚洲成人免费电影在线观看| 男女下面插进去视频免费观看| 中文字幕精品免费在线观看视频| 黄色视频不卡| 少妇的丰满在线观看| av天堂在线播放| 午夜老司机福利片| 麻豆乱淫一区二区| 久久精品国产亚洲av高清一级| 午夜91福利影院| 国产在线免费精品| 人人澡人人妻人| 国产又色又爽无遮挡免| 久久久精品94久久精品| 欧美精品高潮呻吟av久久| 黄色片一级片一级黄色片| 亚洲精品在线美女| 亚洲精品日韩在线中文字幕| 成年人午夜在线观看视频| 国产伦人伦偷精品视频| 老司机深夜福利视频在线观看 | 精品国内亚洲2022精品成人 | 日本猛色少妇xxxxx猛交久久| 女人高潮潮喷娇喘18禁视频| 两人在一起打扑克的视频| 涩涩av久久男人的天堂| 后天国语完整版免费观看| 婷婷成人精品国产| 又大又爽又粗| 午夜激情av网站| 久久精品国产亚洲av高清一级| 老司机深夜福利视频在线观看 | 丝袜美足系列| 91麻豆精品激情在线观看国产 | 热re99久久国产66热| 亚洲中文av在线| 丁香六月欧美| 国产三级黄色录像| 日日夜夜操网爽| 久久av网站| 亚洲情色 制服丝袜| 丝袜喷水一区| 成年女人毛片免费观看观看9 | 久久这里只有精品19| 韩国精品一区二区三区| 国产成人一区二区三区免费视频网站| 三上悠亚av全集在线观看| 免费在线观看黄色视频的| 在线亚洲精品国产二区图片欧美| 久久久国产成人免费| 97精品久久久久久久久久精品| 欧美精品人与动牲交sv欧美| 狠狠精品人妻久久久久久综合| 午夜激情久久久久久久| www.av在线官网国产| 成年人午夜在线观看视频| 久久久国产成人免费| 日韩视频在线欧美| 亚洲色图综合在线观看| 交换朋友夫妻互换小说| 国产高清视频在线播放一区 | 国产在线视频一区二区| av不卡在线播放| 制服诱惑二区| 精品国产一区二区三区四区第35| 久久青草综合色| 国产成人精品无人区| 久久久久久久大尺度免费视频| 亚洲综合色网址| 在线天堂中文资源库| 美女国产高潮福利片在线看| 日本一区二区免费在线视频| 国产av一区二区精品久久| 午夜日韩欧美国产| 亚洲人成电影观看| 天天躁狠狠躁夜夜躁狠狠躁| 日本av手机在线免费观看| 国产福利在线免费观看视频| 午夜视频精品福利| 波多野结衣一区麻豆| 搡老岳熟女国产| 国产99久久九九免费精品| 99国产精品一区二区蜜桃av | 建设人人有责人人尽责人人享有的| 极品人妻少妇av视频| 宅男免费午夜| 亚洲自偷自拍图片 自拍| 亚洲天堂av无毛| 国产又爽黄色视频| 久久 成人 亚洲| a级毛片在线看网站| 丝瓜视频免费看黄片| 国产高清国产精品国产三级| 中文字幕人妻丝袜制服| 亚洲精品国产区一区二| 亚洲avbb在线观看| 国产精品一区二区在线观看99| 日韩一区二区三区影片| 可以免费在线观看a视频的电影网站| 国产欧美日韩一区二区三 | 美女高潮到喷水免费观看| 亚洲精品一卡2卡三卡4卡5卡 | 午夜视频精品福利| 免费av中文字幕在线| 最近中文字幕2019免费版| 超碰97精品在线观看| 人妻久久中文字幕网| 国产精品九九99| av免费在线观看网站| 桃花免费在线播放| 老汉色av国产亚洲站长工具| 欧美精品亚洲一区二区| 国产成人免费观看mmmm| 久久久久精品人妻al黑| av免费在线观看网站| 操美女的视频在线观看| 99国产精品免费福利视频| 一边摸一边抽搐一进一出视频| 久久这里只有精品19| 亚洲av美国av| 亚洲一区中文字幕在线| 亚洲国产av影院在线观看| 深夜精品福利| 老熟妇乱子伦视频在线观看 | 午夜视频精品福利| av一本久久久久| 免费观看av网站的网址| 久久久久久久国产电影| 91大片在线观看| 51午夜福利影视在线观看| 狠狠精品人妻久久久久久综合| av天堂久久9| 久久精品国产亚洲av高清一级| 亚洲 国产 在线| 91大片在线观看| 国产成人精品无人区| av天堂在线播放| 看免费av毛片| 国产黄色免费在线视频| 国产成人系列免费观看| 中文字幕av电影在线播放| 超色免费av| 日韩精品免费视频一区二区三区| 欧美日韩国产mv在线观看视频|