• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)據(jù)要素市場培育發(fā)展的倫理問題及其規(guī)制

    2022-11-21 19:53:23劉云雷
    倫理學(xué)研究 2022年3期
    關(guān)鍵詞:倫理要素培育

    劉云雷,劉 磊

    黨的十八屆五中全會首次提出要實施“國家大數(shù)據(jù)戰(zhàn)略”,這標(biāo)志著大數(shù)據(jù)的發(fā)展已經(jīng)上升到國家發(fā)展戰(zhàn)略的高度。2020 年4 月,中共中央、國務(wù)院發(fā)布《關(guān)于構(gòu)建更加完善的要素市場化配置體制機制的意見》(以下簡稱《意見》),明確將數(shù)據(jù)作為市場要素配置的一個重要方面,并明確了加快培育數(shù)據(jù)要素市場的三大內(nèi)容,即“推進政府?dāng)?shù)據(jù)開放共享、提升社會數(shù)據(jù)資源價值、加強數(shù)據(jù)資源整合和安全保護”[1]。培育發(fā)展數(shù)據(jù)要素市場應(yīng)以我國大數(shù)據(jù)產(chǎn)業(yè)為基礎(chǔ),健全完善相關(guān)法律制度,提升數(shù)據(jù)流動和價值發(fā)掘的質(zhì)量和效率。然而,“由于大數(shù)據(jù)技術(shù)具有強大的收集、存儲和處理數(shù)據(jù)的能力,它們?nèi)菀滓l(fā)諸多值得關(guān)注的倫理問題,如侵犯隱私權(quán)和知識產(chǎn)權(quán),危及信息安全”[2](100)。因此,筆者嘗試從倫理學(xué)的角度針對這些問題進行倫理分析、歸因,進而提出相應(yīng)的倫理規(guī)制建議。

    一、數(shù)據(jù)要素市場培育發(fā)展中的倫理問題

    身份、隱私、名譽和所有權(quán)是大數(shù)據(jù)倫理的四個基本要素。所以,本文將以此為分析框架,對數(shù)據(jù)要素市場培育發(fā)展中的倫理問題進行逐一梳理。

    1.數(shù)字身份危機

    社會關(guān)系的多元性決定了人的身份是多方面的,一般情況下很難從總體上對其進行概括總結(jié)。如果身份是多方面的,那么跟身份有關(guān)的價值觀和倫理關(guān)系也是多方面的。大數(shù)據(jù)技術(shù)通過數(shù)據(jù)挖掘等,對散落在網(wǎng)絡(luò)上的個人數(shù)據(jù)進行整理(organise)和集聚(aggregation),對個人的數(shù)字形象進行精準(zhǔn)刻畫,使之與個人身份密切關(guān)聯(lián)。各種各樣的用戶身份畫像被商家用于定向廣告投放,影響其消費行為。

    在大數(shù)據(jù)時代,數(shù)據(jù)主義將人看作數(shù)據(jù)或者信息的總和,人成了“信息人”,人們可以通過數(shù)據(jù)塑造的“信息人”跨時空交流,“數(shù)字身份”成了人的另一重身份。我們在網(wǎng)絡(luò)上使用“數(shù)字身份”活動,“數(shù)字身份”真實地代表著現(xiàn)實中個人的利益,既然現(xiàn)實中的個人是權(quán)利的主體,那么個人的“數(shù)字身份”也應(yīng)得到尊重和保護。然而,我們通過“數(shù)字身份”應(yīng)該獲得的權(quán)利卻沒有得到同步實現(xiàn)。大數(shù)據(jù)技術(shù)導(dǎo)致個人身份不再被個人控制,身份盜用成為網(wǎng)絡(luò)犯罪的常見案件。2010 年美國有近千萬網(wǎng)民遭到身份盜用,為此,2012 年美國國家標(biāo)準(zhǔn)與技術(shù)研究院(National Institute of Standards and Technology,NIST)開啟了針對在線身份認證和隱私保護技術(shù)的項目資助。伴隨數(shù)據(jù)要素市場培育中加強數(shù)據(jù)資源整合的發(fā)展要求,個人“數(shù)字身份”危機勢必更甚。

    2.隱私焦慮

    隱私是人的一種基本權(quán)利,“是指私人生活安寧不受他人非法干擾,私人信息秘密不受他人非法搜集、刺探和公開等”[3](7),蘊含了人的尊嚴、人格和羞恥心等倫理維度。在大數(shù)據(jù)時代,大數(shù)據(jù)技術(shù)的應(yīng)用就是建立在對數(shù)據(jù)的搜集、整理和共享的基礎(chǔ)之上的,而其中個人的信息數(shù)據(jù)是其技術(shù)應(yīng)用的重要基點。

    隨著信息技術(shù)的發(fā)展,對個人數(shù)據(jù)的獲取已經(jīng)沒有了技術(shù)上的障礙。在市場行為中,資本的逐利本性為大數(shù)據(jù)技術(shù)不斷獲取更多、更全面的信息提供持續(xù)動力,使海量的個人數(shù)據(jù)在互聯(lián)網(wǎng)中迅速地傳播和共享。其中,作為最具利益價值的個人隱私數(shù)據(jù)成為各大市場利益主體競相角逐的對象。因此,在大數(shù)據(jù)時代,數(shù)據(jù)的開發(fā)和利用與個人隱私信息保護之間就產(chǎn)生了沖突,進而逐步演化成影響數(shù)據(jù)要素市場培育發(fā)展的制約力量。它具體表現(xiàn)在:一是數(shù)據(jù)挖掘致使個人隱私被多次利用。數(shù)據(jù)挖掘技術(shù)和算法技術(shù)的不斷發(fā)展,使個體在網(wǎng)絡(luò)使用過程中遺留下的無序、雜亂的使用痕跡與包含個人隱私的信息被收集和整理,為互聯(lián)網(wǎng)企業(yè)或組織所利用,在這一過程中個人喪失了對自身隱私信息的控制權(quán)。二是數(shù)據(jù)監(jiān)控使個人隱私透明化。大數(shù)據(jù)時代,互聯(lián)網(wǎng)逐漸變?yōu)椤俺壢氨O(jiān)獄”[4](127)。人們在互聯(lián)網(wǎng)上的行為無不被采集和監(jiān)控,個體在大數(shù)據(jù)面前逐漸變?yōu)椤巴该魅恕?,大量的個人隱私信息被暴露、被評價,個體的人格、尊嚴受到了侵犯。三是數(shù)據(jù)預(yù)測導(dǎo)致個人隱私被探知。大數(shù)據(jù)技術(shù)通過人們在互聯(lián)網(wǎng)中的使用習(xí)慣、偏好等建立起數(shù)據(jù)的關(guān)聯(lián),進而預(yù)測個人隱私。一方面,數(shù)據(jù)預(yù)測容易導(dǎo)致個體的行為決策自主權(quán)的喪失,因為“這種對個體偏好的預(yù)測與迎合可能損害公民個體的自主性”,“可能使個體困于信息繭房”[5](139)。另一方面,數(shù)據(jù)預(yù)測可以對個人隱私信息進行評估預(yù)測,如個人身體健康狀況、信用等級等,這直接影響到個人的名譽,而“名譽不受個體控制的情況顯然與人的自主性原則背道而馳,并昭示著人的尊嚴未能受到應(yīng)有的尊重”[6](144)。因此,如何平衡大數(shù)據(jù)創(chuàng)新帶來的利益與共享更多數(shù)據(jù)所蘊藏的隱私風(fēng)險之間的關(guān)系,成為數(shù)據(jù)要素市場發(fā)展過程中亟須解決的問題。

    3.名譽管理的雙重挑戰(zhàn)

    名譽是對個體的品德、聲望、才能、信用等的社會評價,是個體人格的重要方面。在互聯(lián)網(wǎng)活動中,以數(shù)據(jù)形式存在的網(wǎng)絡(luò)名譽同樣體現(xiàn)為個體人格,這主要是因為個人數(shù)據(jù)“與個人隱私呈交叉的關(guān)系”[7](69)而被賦予人格性。因此,在一定程度上可以說,對數(shù)據(jù)的管理就是對名譽的管理。本文所討論的名譽管理包括機構(gòu)名譽管理和個人名譽管理。大數(shù)據(jù)時代的核心突出問題就是個體和數(shù)據(jù)機構(gòu)之間數(shù)據(jù)流動的問題,之所以名譽管理成為大數(shù)據(jù)時代影響數(shù)據(jù)要素市場培育發(fā)展的重要因素,就是因為名譽在大數(shù)據(jù)技術(shù)的挾持下越來越不受個體或機構(gòu)的控制,這違背了兩者的自主性原則,導(dǎo)致個體的人格不受尊重,機構(gòu)的合法權(quán)益得不到維護,迫使數(shù)據(jù)要素市場的培育發(fā)展面臨來自個體和機構(gòu)名譽管理的雙重挑戰(zhàn)。

    在大數(shù)據(jù)時代,名譽管理的主要方式是限制負面的互聯(lián)網(wǎng)搜索結(jié)果,強化積極的搜索結(jié)果。具體而言,名譽管理涉及監(jiān)控個人或品牌在互聯(lián)網(wǎng)上的聲譽和社會評價,刪除可能對其造成損害的數(shù)據(jù)信息,用正面積極的評價去提升個人或品牌聲譽。隨著社會信用體系的建立,不管是個人還是組織機構(gòu)都愈漸重視自身的社會評價,而在大數(shù)據(jù)技術(shù)的不斷發(fā)展過程中,一些名譽管理的做法引發(fā)了不小的倫理爭議,如“西班牙谷歌案”[8](94-95)。該案是被遺忘權(quán)首次得到法律肯定、認可和保護的標(biāo)志性案件。當(dāng)事人岡薩雷斯出于個人名譽管理的目的,希望將早年關(guān)于自己因欠繳社保而被拍賣房產(chǎn)的信息在互聯(lián)網(wǎng)上刪除。他認為該信息未被刪除對其個人聲譽造成了不利影響。后該案件經(jīng)過審理,最終裁定谷歌西班牙公司敗訴,需刪除相關(guān)搜索鏈接。為此,谷歌在2011 年推出一個工具集,供用戶監(jiān)控他們的在線身份并請求刪除不需要的內(nèi)容。企業(yè)在名譽管理中進行數(shù)據(jù)造假的情況也屢見不鮮,如2018 年中國知名的旅游網(wǎng)站馬蜂窩被報道利用爬蟲機器人大量抄襲大眾點評、攜程等競爭對手的用戶評價信息,導(dǎo)致其商業(yè)估值暴跌[9]。

    在大數(shù)據(jù)時代,隱私保護和數(shù)據(jù)安全也逐漸成為企業(yè)名譽管理的重要內(nèi)容。歐盟的《通用數(shù)據(jù)保護條例》(GDPR)強調(diào)企業(yè)的信息披露義務(wù),即在發(fā)生個人數(shù)據(jù)泄露時,企業(yè)至少應(yīng)當(dāng)在知道之時起72 小時內(nèi)向監(jiān)管機構(gòu)和個人進行通報、披露。數(shù)據(jù)泄露披露機制是企業(yè)名譽管理的一項重要內(nèi)容,它可以保障個人用戶的知情權(quán),能夠盡量避免企業(yè)名譽下降、用戶信任危機頻發(fā)等問題的產(chǎn)生。隨著市場競爭加劇,有效地保護個人用戶的數(shù)據(jù)已成為企業(yè)的一項核心競爭力,不斷成為企業(yè)的品牌價值而逐步外溢。

    4.所有權(quán)之爭

    數(shù)據(jù)權(quán)屬是數(shù)據(jù)要素市場的邏輯起點,決定數(shù)據(jù)權(quán)益的分配方式。只有把數(shù)據(jù)權(quán)屬界定清楚,才能為數(shù)據(jù)要素市場發(fā)展提供一個堅實的基礎(chǔ)。數(shù)據(jù)所有權(quán)具有一般產(chǎn)權(quán)的內(nèi)涵,包括占有權(quán)、收益權(quán)、使用權(quán)等。大數(shù)據(jù)技術(shù)賦予數(shù)據(jù)以財產(chǎn)屬性,數(shù)據(jù)財產(chǎn)作為一種新型財產(chǎn),“包含形式要素和實質(zhì)要素兩個部分,數(shù)據(jù)符號所依附的介質(zhì)為其形式要素,數(shù)據(jù)財產(chǎn)所承載的有價值的信息為其實質(zhì)要素”[10](255)。2011 年世界經(jīng)濟論壇將個人數(shù)據(jù)指定為“新資產(chǎn)類別”[11]。

    數(shù)據(jù)所有權(quán)不同于傳統(tǒng)的物權(quán),物權(quán)是排他的,但數(shù)據(jù)所有權(quán)在數(shù)據(jù)全生命周期中可有不同的支配主體,或由提供者支配,或產(chǎn)生之初便被數(shù)據(jù)收集者支配,或在處理階段被各類數(shù)據(jù)主體支配。在大數(shù)據(jù)產(chǎn)業(yè)發(fā)展中,由數(shù)據(jù)所有權(quán)引發(fā)的沖突不斷,包括用戶和企業(yè)之間的沖突、不同企業(yè)之間的沖突甚至還有國家之間的沖突。從宏觀上看,數(shù)據(jù)所有權(quán)應(yīng)包括個人數(shù)據(jù)所有權(quán)、企業(yè)機構(gòu)所有權(quán)和國家數(shù)據(jù)主權(quán)三個方面。個人數(shù)據(jù)權(quán)是指個人擁有對自身數(shù)據(jù)的控制權(quán),以保護“個人擁有自身隱私、敏感信息不受侵犯的權(quán)利”[12](49)。目前,個人數(shù)據(jù)的所有權(quán)歸用戶所有已逐漸成為共識,企業(yè)收集用戶的數(shù)據(jù)需要經(jīng)過用戶的知情同意授權(quán),用戶有權(quán)利要求企業(yè)刪除已收集的個人數(shù)據(jù)。個人數(shù)據(jù)所有權(quán)可以成為用戶保護個人隱私和安全的有效手段。但是,經(jīng)由企業(yè)處理加工過的個人數(shù)據(jù)是歸個人所有還是企業(yè)所有,這一點仍需繼續(xù)探討。數(shù)據(jù)已經(jīng)成為企業(yè)的核心競爭力,企業(yè)與企業(yè)之間的數(shù)據(jù)所有權(quán)沖突時有發(fā)生。2018 年發(fā)生的“華為騰訊數(shù)據(jù)之爭”,便是由數(shù)據(jù)所有權(quán)引發(fā)的爭端。華為通過榮耀Magic 智能手機收集用戶活動信息,包括用戶的微信聊天記錄。騰訊認為華為是在奪取應(yīng)屬于騰訊的數(shù)據(jù),并且侵犯了微信用戶的隱私[13](79-80)。《意見》肯定“數(shù)據(jù)產(chǎn)權(quán)”,就是旨在加強對企業(yè)這一最重要的數(shù)據(jù)持有者的商業(yè)數(shù)據(jù)的保護[14]。這就需要對數(shù)據(jù)進行確權(quán),由此,數(shù)據(jù)才能當(dāng)作可以交易的資產(chǎn)。在全球化背景下,數(shù)據(jù)跨境流動是客觀存在且無法避免的,這給國家安全帶來新的挑戰(zhàn)。目前,發(fā)達國家和發(fā)展中國家的數(shù)據(jù)鴻溝日益擴大,數(shù)據(jù)霸權(quán)在世界范圍內(nèi)廣泛存在并逐步成為數(shù)據(jù)要素市場培育發(fā)展的重要阻礙。為反對數(shù)據(jù)霸權(quán),有學(xué)者提出了數(shù)據(jù)主權(quán)的概念,認為“數(shù)據(jù)主權(quán)是指國家對其政權(quán)管轄地域內(nèi)的數(shù)據(jù)享有生成、傳播、管理、控制、利用和保護的權(quán)力”[15](68)。實際上,維護數(shù)據(jù)主權(quán)是數(shù)據(jù)要素在國際市場間合理配置的基本前提,這對反對數(shù)據(jù)霸權(quán)、維護國家信息和數(shù)據(jù)安全起著不可替代的作用。

    二、數(shù)據(jù)要素市場培育發(fā)展中倫理問題的成因

    從“人本主義數(shù)據(jù)倫理”[16](105)的立場出發(fā),數(shù)據(jù)要素市場培育發(fā)展中的諸多倫理問題可以歸因為共享倫理的缺位、數(shù)據(jù)主義的激進、個體數(shù)據(jù)權(quán)利與機構(gòu)數(shù)據(jù)權(quán)力的失衡等方面。

    1.共享倫理的缺位

    數(shù)據(jù)共享是培育發(fā)展數(shù)據(jù)要素市場的重要基礎(chǔ)。數(shù)據(jù)所有權(quán)沖突、數(shù)據(jù)孤島、數(shù)字鴻溝的根源是數(shù)據(jù)不共享,存在共享倫理的缺位。

    以“開放、自由、共享”作為基本精神的互聯(lián)網(wǎng)蓬勃發(fā)展了數(shù)十年,人類生活、社會發(fā)展已經(jīng)離不開互聯(lián)網(wǎng),但是共享的基本理念仍未在人們的心中扎根。與傳統(tǒng)對“物”的占有具有排他性特點不同,數(shù)據(jù)作為一種無形的資源,對它們的占有不具有排他性,而是具有共享性。然而,目前人們依然過分強調(diào)物權(quán)觀念,這導(dǎo)致共享觀念在大數(shù)據(jù)時代無法充分發(fā)揮其引領(lǐng)作用。目前,部分企業(yè)企圖通過數(shù)據(jù)積累建立商業(yè)壁壘,若缺乏共享的倫理精神,那么各個企業(yè)就成為數(shù)據(jù)的孤島,彼此間互不聯(lián)通。占據(jù)大量數(shù)據(jù)的企業(yè)具有商業(yè)壟斷的可能,為了獲得盡可能多的商業(yè)利益而不惜損害消費者的權(quán)益和社會的公共利益。缺少數(shù)據(jù)的企業(yè),為了實現(xiàn)商業(yè)模式的盈利,可能會通過各種方式不擇手段地獲得數(shù)據(jù),數(shù)據(jù)黑產(chǎn)應(yīng)際而生。數(shù)據(jù)黑產(chǎn)對個人隱私和數(shù)據(jù)安全是一個重大威脅,對數(shù)據(jù)要素市場的合理配置也是一個巨大阻礙。各互聯(lián)網(wǎng)企業(yè)掌握的數(shù)據(jù)涉及民生、社會和產(chǎn)業(yè)的各個方面,只有數(shù)據(jù)的開放共享,才能使原本沒有關(guān)聯(lián)的數(shù)據(jù)流動起來,數(shù)據(jù)的價值得以釋放,從而激發(fā)數(shù)據(jù)產(chǎn)業(yè)的創(chuàng)新活力,其開放共享的進程對數(shù)據(jù)要素市場培育發(fā)展起著關(guān)鍵作用。

    培育發(fā)展數(shù)據(jù)要素市場離不開數(shù)據(jù)共享,而數(shù)據(jù)共享需要更多地關(guān)注公共利益,需要共享倫理發(fā)揮觀念引領(lǐng)和規(guī)范約束作用。隨著大數(shù)據(jù)產(chǎn)業(yè)的不斷發(fā)展,政府作為巨量數(shù)據(jù)的擁有者,開始積極推廣數(shù)據(jù)共享的理念,探索數(shù)據(jù)共享的實現(xiàn)路徑。2019 年10 月,上海市頒布我國第一部政府公共數(shù)據(jù)開放的地方性法規(guī)《上海市公共數(shù)據(jù)開放暫行辦法》[17],這充分體現(xiàn)了數(shù)據(jù)共享的倫理精神。推進政府?dāng)?shù)據(jù)開放共享、打破企業(yè)間的數(shù)據(jù)孤島、建立數(shù)據(jù)共享是培育發(fā)展數(shù)據(jù)要素市場的重要任務(wù)。

    2.數(shù)據(jù)主義的激進

    在數(shù)據(jù)要素市場培育發(fā)展過程中,激進的數(shù)據(jù)主義暗流涌動。數(shù)據(jù)主義是一種一切以數(shù)據(jù)為中心的世界觀,其“最高價值就是‘信息流’”[18](346)。赫拉利在《未來簡史》中指出,“數(shù)據(jù)主義最重要的一條誡命是要連接越來越多的媒體,產(chǎn)生和使用越來越多的信息,讓數(shù)據(jù)流最大化……它的第二條誡命,就是要把一切連接到系統(tǒng),就連那些不想連入的異端也不能例外”[18](347)。數(shù)據(jù)主義的激進之處在于,企圖將信息社會的價值標(biāo)的從人變成數(shù)據(jù),使人的自由讓位于數(shù)據(jù)(信息)自由?!皩?shù)據(jù)主義來說,信息自由就是最高的善?!保?8](347-348)

    毋庸置疑,數(shù)據(jù)要素市場培育發(fā)展需要盡可能多的數(shù)據(jù)以及數(shù)據(jù)的自由流通。數(shù)據(jù)要素市場培育發(fā)展的初衷是為了服務(wù)于國民經(jīng)濟發(fā)展和人民福祉。然而,數(shù)據(jù)主義的激進將一切視為算法,“將人類體驗等同于數(shù)據(jù)模式”,破壞了人的權(quán)威和意義來源,否定了人的自由,最終使人淪為數(shù)據(jù)和算法操縱的玩偶。在人本主義者看來,數(shù)據(jù)主義是對人本主義的背離,如果不加以規(guī)約和引導(dǎo),必定會“將人數(shù)據(jù)化,將人理解為‘算法’,將人的一切交給‘算法’,(這)不是在提升人類,而是在矮化人類”[19](168)。

    因此,培育發(fā)展數(shù)據(jù)要素市場要警惕數(shù)據(jù)主義激進思潮的影響,在此過程中應(yīng)堅持以人為本和平衡的原則,警惕數(shù)據(jù)濫用,規(guī)范地進行數(shù)據(jù)共享。有學(xué)者認為,“平衡原則是處理創(chuàng)新與風(fēng)險的基本原則,平衡原則的具體化是建立隱私權(quán)和信息安全倫理保護機制的基本路徑。平衡創(chuàng)新與風(fēng)險,建立隱私權(quán)、信息安全的倫理保護機制是目前最為緊迫的任務(wù)”[20](3)。《意見》中的“制定數(shù)據(jù)隱私保護制度和安全審查制度……加強對政務(wù)數(shù)據(jù)、企業(yè)商業(yè)秘密和個人數(shù)據(jù)的保護”[1],便是對激進的數(shù)據(jù)主義的直接回應(yīng)。

    3.個人數(shù)據(jù)權(quán)利與機構(gòu)數(shù)據(jù)權(quán)力的失衡

    大數(shù)據(jù)時代,數(shù)據(jù)作為一種資源,常被人看作是“新石油”,由此可見數(shù)據(jù)所蘊含的巨大經(jīng)濟價值,而這其中,最基本、最具價值的是個人的互聯(lián)網(wǎng)行為痕跡這種原始數(shù)據(jù)。大數(shù)據(jù)時代對數(shù)據(jù)的收集、整理等是通過算法實現(xiàn)的,可以說,沒有算法技術(shù),數(shù)據(jù)或許就沒有價值可言。數(shù)據(jù)收集機構(gòu)通過算法暗箱獲得數(shù)據(jù)收集和整理的主動權(quán),而這種主動權(quán)的獲得通常是以犧牲原始數(shù)據(jù)的提供者——個人——的數(shù)據(jù)權(quán)利為代價的。算法暗箱體現(xiàn)了個體用戶數(shù)據(jù)權(quán)利與數(shù)據(jù)收集機構(gòu)權(quán)力的失衡狀態(tài)。這是因為,一方面,數(shù)據(jù)和算法的所屬主體是不同的,算法是機構(gòu)的算法,數(shù)據(jù)則是個人的數(shù)據(jù),在互聯(lián)網(wǎng)行為中,兩者之間是主動與被動的不對等關(guān)系。另一方面,對個人用戶而言,數(shù)據(jù)是固定的、遮蔽的,而對于機構(gòu)而言,數(shù)據(jù)在算法監(jiān)視下則是流動的、透明的。因此,若沒有基于個人數(shù)據(jù)權(quán)利的倫理主張,則勢必會導(dǎo)致個人數(shù)據(jù)的無限濫用,進而加劇這種失衡狀態(tài)。

    在互聯(lián)網(wǎng)行為中,雖然互聯(lián)網(wǎng)機構(gòu)是在個人用戶獲得相關(guān)服務(wù)的過程中通過與其簽訂用戶協(xié)議和隱私保護政策來進行數(shù)據(jù)收集和整理的授權(quán),但事實上,個人用戶并沒有自主決定權(quán)。一是由于個人用戶如果不同意則無法獲取相關(guān)服務(wù);二是個人用戶在同意的情況下,就會對自身數(shù)據(jù)喪失控制權(quán),既不知道多少數(shù)據(jù)被收集,也不知道這些數(shù)據(jù)的使用去向以及如何被使用。在這個意義上,個人數(shù)據(jù)權(quán)利和機構(gòu)數(shù)據(jù)權(quán)力之間就產(chǎn)生一種難以逾越的“數(shù)據(jù)鴻溝”,“倘若不能充分地保護個人數(shù)據(jù)權(quán)利,就很容易出現(xiàn)非法收集、出售和利用個人數(shù)據(jù),侵害個人人格權(quán)、財產(chǎn)權(quán)的問題”[21](103)。大數(shù)據(jù)時代,如果沒有對個人數(shù)據(jù)的收集、整理和使用,數(shù)據(jù)技術(shù)就會停滯不前,個人就無法獲得更好的大數(shù)據(jù)服務(wù);而如果數(shù)據(jù)機構(gòu)大肆低成本甚至毫無成本地收集和使用個人數(shù)據(jù),個人的數(shù)據(jù)權(quán)利就無法得到保障,這勢必會導(dǎo)致大數(shù)據(jù)之困,成為數(shù)據(jù)要素市場培育發(fā)展的重要障礙。

    培育發(fā)展數(shù)據(jù)要素市場應(yīng)尊重和保護個人的數(shù)據(jù)權(quán)利。歐盟的GDPR 通過賦予個人充分的數(shù)據(jù)權(quán)利,使其能夠與機構(gòu)的數(shù)據(jù)權(quán)力相抗衡,以期達到保護個人數(shù)據(jù)的目的。我國《個人信息保護法》立法也在2020 年啟動,這對我國保護個人隱私、信息安全等數(shù)據(jù)權(quán)利的法律體系建設(shè)具有里程碑意義。

    三、數(shù)據(jù)要素市場培育發(fā)展的倫理規(guī)制

    為了應(yīng)對大數(shù)據(jù)發(fā)展中的倫理問題,世界各國相應(yīng)出臺了治理方案。歐盟的GDPR 因其首發(fā)優(yōu)勢成為世界各國在個人數(shù)據(jù)保護立法方面的重要參考。但是GDPR 實施近三年以來,也受到了不少質(zhì)疑。首先,過于強調(diào)對個人數(shù)據(jù)權(quán)利的保護而阻礙了技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展;其次,企業(yè)與監(jiān)管機構(gòu)之間的對立,使政府承擔(dān)了巨大的監(jiān)管壓力和成本。結(jié)合大數(shù)據(jù)產(chǎn)業(yè)發(fā)展現(xiàn)狀,借鑒國外先進的治理理念和制度,我國可以建立起一套適用于數(shù)據(jù)要素市場培育發(fā)展的倫理規(guī)制體系和法律保障體系。本文針對我國數(shù)據(jù)要素市場培育發(fā)展中的倫理問題及其成因,圍繞政府、企業(yè)和個人三方主體提出如下倫理規(guī)制建議。培育發(fā)展數(shù)據(jù)要素市場,需要先厘清這三方主體的關(guān)系,以及數(shù)據(jù)的產(chǎn)生與流向,從而確定各自的權(quán)利和義務(wù)。個人是最大的數(shù)據(jù)生產(chǎn)主體,在享受政府和企業(yè)服務(wù)時,既要充分行使自身的合法權(quán)利,保護自身數(shù)據(jù)的隱私與安全,但又不能“妨害數(shù)據(jù)的流動、分享與利用”[21](122),同時還應(yīng)積極參與監(jiān)督,切實維護自身權(quán)益,避免數(shù)據(jù)濫用。政府是最主要的數(shù)據(jù)控制者,掌握有大量的個人數(shù)據(jù)和企業(yè)數(shù)據(jù)。在數(shù)據(jù)要素市場培育發(fā)展中,政府應(yīng)當(dāng)在促進數(shù)據(jù)共享中起到積極作用,發(fā)揮監(jiān)管和保護的職能,執(zhí)行監(jiān)管企業(yè)行為的職責(zé),承擔(dān)保護公民基本權(quán)利的義務(wù)。企業(yè)是數(shù)據(jù)科技創(chuàng)新和產(chǎn)業(yè)發(fā)展的原動力,是數(shù)據(jù)要素市場培育發(fā)展的重要力量。企業(yè)從個人、政府兩方獲得數(shù)據(jù),同時也向政府和其他企業(yè)提供數(shù)據(jù),企業(yè)應(yīng)承擔(dān)數(shù)據(jù)合規(guī)和保護個人數(shù)據(jù)權(quán)利的義務(wù)。

    1.建立基于人本主義數(shù)據(jù)倫理的共享機制

    人本主義數(shù)據(jù)倫理主張以人為本,支持有序有度的數(shù)據(jù)共享。政府應(yīng)當(dāng)堅持以人為本的核心發(fā)展理念,堅持政府和企業(yè)數(shù)據(jù)開放共享的戰(zhàn)略方向,推動數(shù)據(jù)共享倫理觀念的普及,形成符合數(shù)字經(jīng)濟發(fā)展規(guī)律的數(shù)據(jù)權(quán)屬觀念,強化規(guī)范的數(shù)據(jù)共享頂層設(shè)計,針對行業(yè)特征和數(shù)據(jù)應(yīng)用場景制定合理的數(shù)據(jù)共享標(biāo)準(zhǔn),解決由于共享倫理缺失、數(shù)據(jù)主義激進思潮以及個人數(shù)據(jù)權(quán)利和機構(gòu)數(shù)據(jù)權(quán)力失衡而導(dǎo)致的數(shù)據(jù)孤島、數(shù)據(jù)濫用、侵犯個人數(shù)據(jù)權(quán)利等問題,優(yōu)化數(shù)據(jù)要素市場結(jié)構(gòu),保障數(shù)據(jù)要素市場健康發(fā)展。

    政府要促進數(shù)據(jù)共享,就必須制定完善的政府和行業(yè)數(shù)據(jù)開放政策,設(shè)立政府和行業(yè)數(shù)據(jù)開放相關(guān)責(zé)任機構(gòu),協(xié)調(diào)各部門機構(gòu)和市場主體,保障數(shù)據(jù)開放工作順利實施;規(guī)范數(shù)據(jù)開放的范圍和類型,建立數(shù)據(jù)開放標(biāo)準(zhǔn);建立健全政府和行業(yè)數(shù)據(jù)開放法律法規(guī),加強政府部門和企業(yè)在數(shù)據(jù)采集、存儲、應(yīng)用等數(shù)據(jù)層面的規(guī)范保障,規(guī)定數(shù)據(jù)開放主體以及社會各組織機構(gòu)、企業(yè)、個人等的權(quán)利和義務(wù);設(shè)計高效的政府和行業(yè)數(shù)據(jù)開放運行機制,將分散的各部門數(shù)據(jù)和企業(yè)數(shù)據(jù)進行整合,建立統(tǒng)一的數(shù)據(jù)開放平臺,進行數(shù)據(jù)共享;進行多方協(xié)作,對政府部門與行業(yè)企業(yè)之間的數(shù)據(jù)開放建立清晰明確的合作制度,包含內(nèi)容、流程以及責(zé)任分配等,對數(shù)據(jù)開放進行有效監(jiān)督與實時審核,防止數(shù)據(jù)濫用、侵犯個人數(shù)據(jù)權(quán)益等問題;進行評價反饋,對數(shù)據(jù)開放工作進行評價和診斷,進一步提升數(shù)據(jù)的完整性、可獲取性及互操作性。如2020 年山東省出臺的《山東省健康醫(yī)療大數(shù)據(jù)管理辦法》[22](1-4)就明確指出,由政府主導(dǎo)并授權(quán)的健康醫(yī)療大數(shù)據(jù)管理機構(gòu)來統(tǒng)一建設(shè)運營健康醫(yī)療大數(shù)據(jù)平臺,政府醫(yī)療衛(wèi)生服務(wù)機構(gòu)有義務(wù)將醫(yī)療相關(guān)數(shù)據(jù)匯聚到健康醫(yī)療大數(shù)據(jù)平臺,并鼓勵其他醫(yī)療數(shù)據(jù)生產(chǎn)單位將產(chǎn)生的健康醫(yī)療數(shù)據(jù)匯聚到健康醫(yī)療大數(shù)據(jù)平臺上進行開放共享。

    2.尊重和保護個人的數(shù)據(jù)權(quán)利,提高全民數(shù)據(jù)素養(yǎng)

    大數(shù)據(jù)技術(shù)創(chuàng)新和數(shù)據(jù)要素市場的發(fā)展應(yīng)始終以人民福祉為核心,任何行動都“應(yīng)根據(jù)不傷害人和有益于人的倫理原則給予評價”[23](45)。數(shù)據(jù)要素市場的培育發(fā)展應(yīng)當(dāng)以尊重和保護個人的數(shù)據(jù)權(quán)利為前提。個人的數(shù)據(jù)權(quán)利主要包括隱私權(quán)、訪問權(quán)、修改權(quán)、刪除或遺忘權(quán)、可攜帶權(quán)、決定權(quán)等,這些權(quán)利應(yīng)當(dāng)在國家的法律法規(guī)體系中得到明確,同時在國家執(zhí)法、司法監(jiān)管中得到保護。政府應(yīng)將尊重和保護個人的數(shù)據(jù)權(quán)利作為企業(yè)進入數(shù)據(jù)要素市場的準(zhǔn)入要求之一,激發(fā)企業(yè)保護個人數(shù)據(jù)權(quán)利的主觀能動性。大數(shù)據(jù)時代,個人應(yīng)從自身出發(fā)提高數(shù)據(jù)素養(yǎng),培養(yǎng)共享觀念,不斷提升保護個人數(shù)據(jù)權(quán)利、隱私和數(shù)據(jù)安全的意識和能力,主動維護自身的數(shù)據(jù)權(quán)利,對政府和企業(yè)進行相應(yīng)的監(jiān)督。因此,政府有關(guān)部門應(yīng)組織開展大數(shù)據(jù)倫理教育,普及數(shù)據(jù)倫理觀念,進行面向企業(yè)和社會公眾的大數(shù)據(jù)專題講座和培訓(xùn),“幫助公眾樹立‘?dāng)?shù)據(jù)就是資源,數(shù)據(jù)就是財富’的科技理念。只有公眾的數(shù)據(jù)信息素養(yǎng)得到普遍提升,我們才能更加自信地迎接‘?dāng)?shù)據(jù)化生存’時代的到來,并利用大數(shù)據(jù)為人類創(chuàng)造新的福祉”[24](46),以縮小甚至消除個人數(shù)據(jù)權(quán)利和機構(gòu)數(shù)據(jù)權(quán)力的失衡。

    3.建立大數(shù)據(jù)算法的透明審查機制

    算法是大數(shù)據(jù)、人工智能技術(shù)的核心,數(shù)據(jù)的收集、處理、分析、應(yīng)用和共享流通都是由算法支撐實現(xiàn)的。激進的數(shù)據(jù)主義崇尚算法黑箱,主張算法的權(quán)力高于個人的利益,導(dǎo)致大數(shù)據(jù)殺熟、算法歧視等事件頻頻發(fā)生。而人本主義數(shù)據(jù)倫理則主張算法應(yīng)具有透明性,反對算法暗箱。在數(shù)據(jù)要素市場培育發(fā)展中,大數(shù)據(jù)和人工智能技術(shù)的創(chuàng)新和應(yīng)用應(yīng)當(dāng)注重算法的透明性和可理解性,使用戶能夠清晰知道個人數(shù)據(jù)被收集、處理、分析、應(yīng)用和共享流通等各個環(huán)節(jié)的具體情況。“將選擇權(quán)回歸個人,有助于在大數(shù)據(jù)的應(yīng)用中減少風(fēng)險推論的冒險性?!保?5](47)算法通常作為企業(yè)的商業(yè)機密秘而不宣,因此需要建立大數(shù)據(jù)算法的透明審查機制,在知識產(chǎn)權(quán)保護和算法透明之間實現(xiàn)平衡。我們可以參考藥品說明書。藥品說明書不僅包含藥品名稱、規(guī)格、生產(chǎn)企業(yè)、有效期、主要成分、適應(yīng)證、用法用量等基本藥品信息,甚至包含藥理作用、藥代動力學(xué)、不良反應(yīng)、注意事項、禁忌證、警示語等重要信息[26](870),以保障患者對藥物的知情權(quán)。同樣,算法說明書可以包括功能描述、主要方法、輸入?yún)?shù)、輸出結(jié)果、邏輯原理等主要內(nèi)容,這一方面保障了用戶的知情權(quán),另一方面也保護了企業(yè)機構(gòu)的商業(yè)秘密。

    4.建立大數(shù)據(jù)行業(yè)的道德自律機制和監(jiān)督平臺

    企業(yè)是數(shù)據(jù)要素市場的主體。行業(yè)和企業(yè)道德自律對于解決數(shù)據(jù)要素市場培育發(fā)展中的倫理問題有積極作用,是數(shù)據(jù)要素市場健康發(fā)展的重要保障。目前,“在相關(guān)倫理規(guī)范相對滯后的大數(shù)據(jù)發(fā)展階段,如果不加強道德自律建設(shè),大數(shù)據(jù)技術(shù)就有可能會引發(fā)災(zāi)難性的后果……因此,我們必須從現(xiàn)在開始加強大數(shù)據(jù)利益相關(guān)者的道德自律建設(shè)”[27](49)。

    政府采取政策引導(dǎo),行業(yè)和企業(yè)積極響應(yīng),建立大數(shù)據(jù)行業(yè)的道德自律機制和共同監(jiān)督平臺,可以從以下四方面著手。一是成立大數(shù)據(jù)行業(yè)倫理委員會。倫理委員會承擔(dān)倫理標(biāo)準(zhǔn)制定、對企業(yè)進行倫理審查評估、對從業(yè)人員進行倫理培訓(xùn)和道德教育等職能。二是引入數(shù)據(jù)保護官(DPO,Data Protection Officer)制度,建立大數(shù)據(jù)行業(yè)的自我約束機制。DPO 制度相當(dāng)于內(nèi)審機制,企業(yè)可以專業(yè)地、實時地進行內(nèi)審合規(guī),強化自我道德約束和法律合規(guī)。三是建立規(guī)范準(zhǔn)則和獎懲機制。政府將遵守法律法規(guī)和倫理規(guī)范納入數(shù)據(jù)要素市場的準(zhǔn)入機制中,將保護個人數(shù)據(jù)權(quán)利和數(shù)據(jù)安全納入企業(yè)社會責(zé)任之中,并建立相應(yīng)的獎懲機制。嚴格的利益獎懲機制不僅可以有效促進大數(shù)據(jù)從業(yè)者主動遵守數(shù)據(jù)倫理行為規(guī)范,還“可以有效地促使其為了自我利益而主動踐行信息倫理規(guī)范,并最終發(fā)展為主體的一種道德自覺”[24](45),有益于大數(shù)據(jù)產(chǎn)業(yè)的發(fā)展。四是促進行業(yè)內(nèi)和行業(yè)間的數(shù)據(jù)開放共享。由政府主導(dǎo)、各個行業(yè)的頭部企業(yè)牽頭引導(dǎo),在已有的數(shù)據(jù)交易中心基礎(chǔ)上成立各個行業(yè)的數(shù)據(jù)共享平臺。為了保護企業(yè)的數(shù)據(jù)產(chǎn)權(quán),應(yīng)同時鼓勵企業(yè)積極開放共享數(shù)據(jù),豐富行業(yè)內(nèi)的數(shù)據(jù)要素市場和產(chǎn)業(yè)生態(tài),確立基于行業(yè)數(shù)據(jù)共享平臺內(nèi)企業(yè)數(shù)據(jù)共享和行業(yè)數(shù)據(jù)共享平臺之間的行業(yè)數(shù)據(jù)共享雙重機制。而且,這種數(shù)據(jù)共享雙重機制也為解決數(shù)據(jù)定價和交易、數(shù)據(jù)收益分配問題提供了制度可能性。

    猜你喜歡
    倫理要素培育
    《心之死》的趣味與倫理焦慮
    掌握這6點要素,讓肥水更高效
    護生眼中的倫理修養(yǎng)
    活力(2019年19期)2020-01-06 07:37:00
    第十二道 共同的敵人
    未來或可培育無味榴蓮
    觀賞植物的色彩要素在家居設(shè)計中的應(yīng)用
    論美術(shù)中“七大要素”的辯證關(guān)系
    也談做人的要素
    山東青年(2016年2期)2016-02-28 14:25:36
    醫(yī)改莫忘構(gòu)建倫理新機制
    念好"四部經(jīng)"培育生力軍
    中國火炬(2014年3期)2014-07-24 14:44:39
    精品酒店卫生间| 久久99精品国语久久久| 国产熟女欧美一区二区| 老汉色av国产亚洲站长工具| av在线老鸭窝| 精品人妻一区二区三区麻豆| 久久久久久久国产电影| 亚洲三区欧美一区| 久久国内精品自在自线图片| 91精品伊人久久大香线蕉| 我的亚洲天堂| 激情五月婷婷亚洲| 亚洲国产欧美在线一区| 26uuu在线亚洲综合色| 欧美精品一区二区免费开放| av网站免费在线观看视频| 国产有黄有色有爽视频| 国产精品av久久久久免费| 精品少妇黑人巨大在线播放| 亚洲第一青青草原| 日韩一区二区视频免费看| 午夜福利视频在线观看免费| 丝瓜视频免费看黄片| 国产精品一二三区在线看| 侵犯人妻中文字幕一二三四区| 2021少妇久久久久久久久久久| 国产免费视频播放在线视频| 啦啦啦在线免费观看视频4| 在线观看美女被高潮喷水网站| 成人影院久久| 国产精品 欧美亚洲| 啦啦啦在线观看免费高清www| 国产熟女午夜一区二区三区| 久久人人爽人人片av| 欧美日韩国产mv在线观看视频| 久久青草综合色| 欧美日韩视频高清一区二区三区二| 夫妻午夜视频| 多毛熟女@视频| 欧美精品国产亚洲| 亚洲一级一片aⅴ在线观看| 精品一区二区三区四区五区乱码 | 高清黄色对白视频在线免费看| 国产高清不卡午夜福利| 亚洲中文av在线| 久久久久国产网址| 不卡视频在线观看欧美| 国产精品二区激情视频| 深夜精品福利| 久久亚洲国产成人精品v| 国产av一区二区精品久久| 考比视频在线观看| 午夜免费男女啪啪视频观看| 美女中出高潮动态图| 欧美在线黄色| 在线观看免费视频网站a站| 精品国产一区二区三区四区第35| 一个人免费看片子| 国产精品麻豆人妻色哟哟久久| 十八禁高潮呻吟视频| 国产精品蜜桃在线观看| 婷婷成人精品国产| 999精品在线视频| 老汉色∧v一级毛片| 亚洲国产欧美日韩在线播放| 免费看av在线观看网站| 国产亚洲一区二区精品| 97人妻天天添夜夜摸| 9热在线视频观看99| 国产精品99久久99久久久不卡 | 黄色毛片三级朝国网站| 国产精品久久久久久av不卡| 好男人视频免费观看在线| av卡一久久| 王馨瑶露胸无遮挡在线观看| 午夜91福利影院| 午夜老司机福利剧场| 一本久久精品| 2021少妇久久久久久久久久久| 亚洲精品日本国产第一区| 男人爽女人下面视频在线观看| 亚洲欧美精品综合一区二区三区 | 极品少妇高潮喷水抽搐| 国产精品三级大全| 黄色毛片三级朝国网站| 大片免费播放器 马上看| 啦啦啦视频在线资源免费观看| 男男h啪啪无遮挡| 嫩草影院入口| 高清欧美精品videossex| 免费日韩欧美在线观看| 最近手机中文字幕大全| 色婷婷久久久亚洲欧美| 丝袜脚勾引网站| 最近2019中文字幕mv第一页| 国产精品国产三级国产专区5o| 婷婷成人精品国产| 亚洲精品一区蜜桃| 亚洲av在线观看美女高潮| videos熟女内射| 国产免费又黄又爽又色| 午夜免费男女啪啪视频观看| 亚洲在久久综合| 在线天堂中文资源库| 伦理电影大哥的女人| 最近中文字幕2019免费版| 国产女主播在线喷水免费视频网站| 麻豆av在线久日| 国产熟女午夜一区二区三区| 亚洲国产av新网站| xxx大片免费视频| 一级毛片电影观看| 精品少妇久久久久久888优播| 国产av国产精品国产| 卡戴珊不雅视频在线播放| 国产精品久久久久久av不卡| 美女国产高潮福利片在线看| 人妻系列 视频| 久热久热在线精品观看| 欧美成人午夜免费资源| 国产xxxxx性猛交| 亚洲,欧美精品.| 欧美最新免费一区二区三区| 天天操日日干夜夜撸| 日韩av在线免费看完整版不卡| 国产精品成人在线| 又大又黄又爽视频免费| 精品午夜福利在线看| 男女边吃奶边做爰视频| 色视频在线一区二区三区| 少妇猛男粗大的猛烈进出视频| 2021少妇久久久久久久久久久| 亚洲精品第二区| 欧美日韩亚洲高清精品| 亚洲伊人色综图| 80岁老熟妇乱子伦牲交| 中文字幕人妻丝袜一区二区 | 蜜桃在线观看..| 亚洲国产日韩一区二区| 国产男女超爽视频在线观看| 在线看a的网站| 国产极品天堂在线| 五月伊人婷婷丁香| 国产成人免费观看mmmm| 丰满乱子伦码专区| 国产免费视频播放在线视频| 亚洲一区中文字幕在线| 亚洲精品中文字幕在线视频| 老女人水多毛片| 日韩欧美一区视频在线观看| 久久精品国产亚洲av涩爱| 国产av精品麻豆| 一级片免费观看大全| 一区在线观看完整版| 日本vs欧美在线观看视频| 97在线视频观看| 亚洲成人手机| 国产精品久久久久久精品电影小说| 国产日韩欧美视频二区| 亚洲美女搞黄在线观看| 青春草视频在线免费观看| 亚洲成av片中文字幕在线观看 | 黄片无遮挡物在线观看| 免费播放大片免费观看视频在线观看| 一本色道久久久久久精品综合| 97在线视频观看| 国产免费视频播放在线视频| 国产精品熟女久久久久浪| 黄网站色视频无遮挡免费观看| 丝瓜视频免费看黄片| 秋霞伦理黄片| 黄色配什么色好看| 免费女性裸体啪啪无遮挡网站| 亚洲精品自拍成人| 亚洲欧洲国产日韩| 成人影院久久| 夜夜骑夜夜射夜夜干| 亚洲成人一二三区av| 日韩视频在线欧美| 久久鲁丝午夜福利片| 纵有疾风起免费观看全集完整版| 欧美bdsm另类| 男女边吃奶边做爰视频| 好男人视频免费观看在线| 国产精品99久久99久久久不卡 | 超碰97精品在线观看| 欧美精品高潮呻吟av久久| 国产成人一区二区在线| 日本免费在线观看一区| 亚洲色图 男人天堂 中文字幕| 久久精品熟女亚洲av麻豆精品| 国产探花极品一区二区| 免费观看av网站的网址| 国产精品一国产av| 久久久久视频综合| 久久青草综合色| 国产 精品1| 韩国精品一区二区三区| 国产精品国产av在线观看| 国产熟女欧美一区二区| 日产精品乱码卡一卡2卡三| 少妇人妻久久综合中文| 国产视频首页在线观看| 亚洲综合精品二区| 999精品在线视频| 日韩精品免费视频一区二区三区| 老司机影院毛片| 街头女战士在线观看网站| 成人国产av品久久久| 97在线人人人人妻| 亚洲精华国产精华液的使用体验| 香蕉丝袜av| 亚洲美女黄色视频免费看| xxx大片免费视频| 美女福利国产在线| 国产精品国产三级国产专区5o| 免费黄频网站在线观看国产| 日本黄色日本黄色录像| 久久久久久久久久久久大奶| 少妇人妻久久综合中文| 久久人人爽av亚洲精品天堂| 男人爽女人下面视频在线观看| 久久精品国产a三级三级三级| kizo精华| 最近最新中文字幕大全免费视频 | 成人二区视频| 午夜福利一区二区在线看| 人体艺术视频欧美日本| 制服诱惑二区| 夫妻午夜视频| 99久久精品国产国产毛片| 九九爱精品视频在线观看| 国产伦理片在线播放av一区| 亚洲国产精品一区二区三区在线| 26uuu在线亚洲综合色| 国产人伦9x9x在线观看 | 久久女婷五月综合色啪小说| 亚洲精品日韩在线中文字幕| 亚洲国产欧美在线一区| 热re99久久国产66热| 国产无遮挡羞羞视频在线观看| 欧美97在线视频| 国产熟女欧美一区二区| 哪个播放器可以免费观看大片| av一本久久久久| 国产精品熟女久久久久浪| 丝瓜视频免费看黄片| 国产在线视频一区二区| 国产黄色免费在线视频| xxx大片免费视频| 国产成人a∨麻豆精品| 成人二区视频| 亚洲人成网站在线观看播放| 国产免费福利视频在线观看| 亚洲美女视频黄频| 国产高清国产精品国产三级| a级毛片黄视频| 日本欧美视频一区| 波野结衣二区三区在线| 日韩中字成人| 国产精品女同一区二区软件| 丝袜脚勾引网站| 欧美在线黄色| 制服丝袜香蕉在线| 精品一区二区三区四区五区乱码 | 丝袜在线中文字幕| 精品一品国产午夜福利视频| 亚洲欧美一区二区三区黑人 | 黄色 视频免费看| 亚洲,欧美精品.| 男的添女的下面高潮视频| 国产精品亚洲av一区麻豆 | 日本爱情动作片www.在线观看| 水蜜桃什么品种好| h视频一区二区三区| 制服丝袜香蕉在线| 亚洲综合色惰| 国产精品久久久久久av不卡| 亚洲国产欧美日韩在线播放| 亚洲久久久国产精品| freevideosex欧美| 丰满乱子伦码专区| a级毛片黄视频| 亚洲国产精品国产精品| 久久精品人人爽人人爽视色| 亚洲天堂av无毛| 最近中文字幕高清免费大全6| 亚洲成人一二三区av| 伦精品一区二区三区| 最新的欧美精品一区二区| 国产精品欧美亚洲77777| 亚洲国产色片| 国产免费又黄又爽又色| 欧美激情高清一区二区三区 | 亚洲熟女精品中文字幕| 久久综合国产亚洲精品| 免费黄色在线免费观看| 少妇的逼水好多| 母亲3免费完整高清在线观看 | 99久久精品国产国产毛片| 日韩电影二区| 一区二区三区精品91| 97在线视频观看| 国产精品免费视频内射| 赤兔流量卡办理| 精品人妻偷拍中文字幕| 大片电影免费在线观看免费| 国产片特级美女逼逼视频| 欧美在线黄色| 久久99一区二区三区| 亚洲综合色网址| 老司机亚洲免费影院| 亚洲国产看品久久| 天天操日日干夜夜撸| √禁漫天堂资源中文www| 狂野欧美激情性bbbbbb| kizo精华| 欧美精品一区二区免费开放| 国产综合精华液| 亚洲欧美日韩另类电影网站| 国产午夜精品一二区理论片| 久久久亚洲精品成人影院| 午夜久久久在线观看| 最近2019中文字幕mv第一页| 亚洲精华国产精华液的使用体验| 欧美日韩成人在线一区二区| 天堂8中文在线网| 精品国产超薄肉色丝袜足j| 熟女av电影| 日本av免费视频播放| 91在线精品国自产拍蜜月| 狠狠精品人妻久久久久久综合| 国产探花极品一区二区| 人人妻人人澡人人看| 精品国产国语对白av| 女人高潮潮喷娇喘18禁视频| 亚洲第一区二区三区不卡| 2018国产大陆天天弄谢| 狂野欧美激情性bbbbbb| 精品视频人人做人人爽| 中文天堂在线官网| 亚洲成国产人片在线观看| 高清欧美精品videossex| 纯流量卡能插随身wifi吗| 国产成人精品在线电影| 国产成人免费观看mmmm| 一本久久精品| 亚洲第一av免费看| 久久久久久久久久久久大奶| 91久久精品国产一区二区三区| 国产 精品1| 久久亚洲国产成人精品v| 亚洲美女黄色视频免费看| av国产精品久久久久影院| 男人舔女人的私密视频| 亚洲经典国产精华液单| 成人国语在线视频| 男人爽女人下面视频在线观看| 赤兔流量卡办理| 一区二区三区精品91| 免费观看性生交大片5| 熟妇人妻不卡中文字幕| 久久久国产精品麻豆| 色婷婷av一区二区三区视频| 日本欧美国产在线视频| 久久精品熟女亚洲av麻豆精品| 一级,二级,三级黄色视频| 国产日韩一区二区三区精品不卡| 啦啦啦啦在线视频资源| 久久鲁丝午夜福利片| 精品一区二区免费观看| 亚洲精品国产av成人精品| 精品国产一区二区三区四区第35| 男女边摸边吃奶| 日本av手机在线免费观看| 欧美成人午夜免费资源| 你懂的网址亚洲精品在线观看| av网站在线播放免费| 亚洲五月色婷婷综合| 久久鲁丝午夜福利片| 国产麻豆69| 夜夜骑夜夜射夜夜干| 赤兔流量卡办理| 看非洲黑人一级黄片| 一本久久精品| 久久精品aⅴ一区二区三区四区 | 午夜激情久久久久久久| 青春草国产在线视频| 岛国毛片在线播放| 爱豆传媒免费全集在线观看| 欧美精品亚洲一区二区| 国产午夜精品一二区理论片| 亚洲熟女精品中文字幕| 丰满少妇做爰视频| 美女中出高潮动态图| 黄片无遮挡物在线观看| 好男人视频免费观看在线| 国产淫语在线视频| 香蕉国产在线看| 精品国产国语对白av| 在线观看免费视频网站a站| 久久精品亚洲av国产电影网| 在线观看免费高清a一片| 久久狼人影院| 国产精品成人在线| 精品国产国语对白av| 久久精品aⅴ一区二区三区四区 | 免费av中文字幕在线| 老汉色∧v一级毛片| 国产av码专区亚洲av| 免费av中文字幕在线| 999久久久国产精品视频| 肉色欧美久久久久久久蜜桃| 久久ye,这里只有精品| www.自偷自拍.com| 母亲3免费完整高清在线观看 | 日韩一区二区三区影片| 国产精品一区二区在线观看99| 国产一区亚洲一区在线观看| 国产精品国产三级国产专区5o| 国产成人精品福利久久| 日韩av免费高清视频| 国产精品久久久久久精品古装| 90打野战视频偷拍视频| 伦理电影免费视频| 18禁观看日本| 永久免费av网站大全| 久久99热这里只频精品6学生| 成人免费观看视频高清| av又黄又爽大尺度在线免费看| 日韩中文字幕欧美一区二区 | 一二三四中文在线观看免费高清| 天天影视国产精品| 波多野结衣一区麻豆| 在现免费观看毛片| 精品人妻熟女毛片av久久网站| 国产在视频线精品| kizo精华| 久久久久久伊人网av| 亚洲三区欧美一区| 久久人妻熟女aⅴ| 在线观看美女被高潮喷水网站| 日日啪夜夜爽| 亚洲av中文av极速乱| videossex国产| 两个人免费观看高清视频| 视频区图区小说| 最近2019中文字幕mv第一页| 久久久久久久久久久免费av| 黑人猛操日本美女一级片| 久久人人97超碰香蕉20202| 欧美精品一区二区大全| 毛片一级片免费看久久久久| 精品人妻在线不人妻| 日韩伦理黄色片| 久久精品夜色国产| 久久久久久久久久人人人人人人| 国产亚洲最大av| 亚洲第一青青草原| 国产精品秋霞免费鲁丝片| 国产亚洲一区二区精品| 99国产综合亚洲精品| 我的亚洲天堂| 午夜福利乱码中文字幕| 极品人妻少妇av视频| 亚洲三区欧美一区| 天堂中文最新版在线下载| 亚洲 欧美一区二区三区| 久久婷婷青草| 99久久中文字幕三级久久日本| 亚洲成人一二三区av| 久久99一区二区三区| 中文字幕av电影在线播放| 久久毛片免费看一区二区三区| 亚洲欧美成人综合另类久久久| 在线观看www视频免费| 狠狠婷婷综合久久久久久88av| 日本av手机在线免费观看| 精品国产一区二区三区四区第35| 久久精品国产自在天天线| 亚洲欧美精品综合一区二区三区 | 五月伊人婷婷丁香| 韩国av在线不卡| 欧美xxⅹ黑人| 卡戴珊不雅视频在线播放| 国产成人一区二区在线| 一级片'在线观看视频| 免费黄网站久久成人精品| freevideosex欧美| 99久久精品国产国产毛片| 看十八女毛片水多多多| 男女国产视频网站| 日韩视频在线欧美| 日本wwww免费看| 999精品在线视频| a级毛片在线看网站| 99九九在线精品视频| 欧美人与善性xxx| 国产男女内射视频| 老女人水多毛片| 日韩精品有码人妻一区| 在线观看www视频免费| 一级片免费观看大全| 不卡av一区二区三区| av有码第一页| 校园人妻丝袜中文字幕| 免费看不卡的av| 最近最新中文字幕免费大全7| 18禁观看日本| 91国产中文字幕| 国产精品久久久久久精品电影小说| 女性生殖器流出的白浆| 黄色怎么调成土黄色| 国产成人午夜福利电影在线观看| 一本色道久久久久久精品综合| 免费黄网站久久成人精品| av在线观看视频网站免费| 一二三四在线观看免费中文在| 中文字幕人妻丝袜制服| 久久韩国三级中文字幕| 99国产精品免费福利视频| 熟女少妇亚洲综合色aaa.| 十八禁高潮呻吟视频| av免费观看日本| 青春草国产在线视频| 久久免费观看电影| 五月天丁香电影| 99国产综合亚洲精品| 王馨瑶露胸无遮挡在线观看| 日本黄色日本黄色录像| 亚洲欧洲精品一区二区精品久久久 | 日韩熟女老妇一区二区性免费视频| 国产一区二区 视频在线| 成人午夜精彩视频在线观看| xxx大片免费视频| 波多野结衣av一区二区av| 一区二区av电影网| 晚上一个人看的免费电影| 成人手机av| 国产乱来视频区| 日韩av在线免费看完整版不卡| av不卡在线播放| 国产av码专区亚洲av| 亚洲国产欧美网| 九草在线视频观看| 在线观看美女被高潮喷水网站| 久久亚洲国产成人精品v| 黑人猛操日本美女一级片| 一区福利在线观看| 少妇的丰满在线观看| 免费黄频网站在线观看国产| 极品人妻少妇av视频| 精品99又大又爽又粗少妇毛片| 国产黄频视频在线观看| 一区二区三区激情视频| 国产极品天堂在线| 在线免费观看不下载黄p国产| 国产成人精品久久二区二区91 | 国产精品亚洲av一区麻豆 | av在线app专区| 亚洲av成人精品一二三区| 亚洲精品中文字幕在线视频| 中文欧美无线码| 激情视频va一区二区三区| 日产精品乱码卡一卡2卡三| 国产黄色视频一区二区在线观看| 中文天堂在线官网| 欧美精品亚洲一区二区| 交换朋友夫妻互换小说| 下体分泌物呈黄色| 久久99一区二区三区| 成年人午夜在线观看视频| 男女下面插进去视频免费观看| 成年人午夜在线观看视频| 亚洲一码二码三码区别大吗| 亚洲精品日本国产第一区| 国产女主播在线喷水免费视频网站| 男人爽女人下面视频在线观看| 在线看a的网站| 中文乱码字字幕精品一区二区三区| 久久99一区二区三区| 国产片特级美女逼逼视频| 男女下面插进去视频免费观看| 亚洲国产色片| 精品人妻偷拍中文字幕| 一级a爱视频在线免费观看| 男女边摸边吃奶| 亚洲精品第二区| 国产黄频视频在线观看| 热re99久久精品国产66热6| 男人操女人黄网站| 在线亚洲精品国产二区图片欧美| 少妇被粗大猛烈的视频| 亚洲美女搞黄在线观看| 久久精品夜色国产| a级毛片在线看网站| 一级黄片播放器| 国产精品偷伦视频观看了| 亚洲精品在线美女| 亚洲熟女精品中文字幕| 国产精品蜜桃在线观看| 日韩精品有码人妻一区| 久久精品国产鲁丝片午夜精品| 女人精品久久久久毛片| 亚洲国产毛片av蜜桃av| 欧美日韩亚洲国产一区二区在线观看 | 日韩制服骚丝袜av| 十八禁高潮呻吟视频| 爱豆传媒免费全集在线观看| 美女午夜性视频免费| 亚洲精品国产一区二区精华液| 亚洲人成网站在线观看播放| 丰满迷人的少妇在线观看| 精品人妻熟女毛片av久久网站| 高清不卡的av网站|