• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)“殺熟”的法律規(guī)制研究

    2021-11-28 11:53:48陳沁瑤
    關(guān)鍵詞:經(jīng)營(yíng)者消費(fèi)者

    陳沁瑤

    (東南大學(xué) 法學(xué)院,江蘇 南京 211189)

    一、引 言

    大數(shù)據(jù)“殺熟”的實(shí)質(zhì)是互聯(lián)網(wǎng)平臺(tái)經(jīng)營(yíng)者(以下簡(jiǎn)稱平臺(tái)商家)運(yùn)用大數(shù)據(jù)和算法進(jìn)行的一種隱蔽的算法歧視。平臺(tái)商家通過利用消費(fèi)者在使用平臺(tái)軟件時(shí)遺留下的諸如姓名、電話、性別、手機(jī)號(hào)碼、身份證號(hào)碼、家庭住址、消費(fèi)記錄等個(gè)人信息結(jié)合其算法進(jìn)行特定推算,從而針對(duì)不同的消費(fèi)者實(shí)施特定推送、差別定價(jià)等行為,達(dá)到其自身利益的最大化。隨著數(shù)據(jù)收集的便捷和算法技術(shù)的成熟,平臺(tái)商家利用大數(shù)據(jù)“殺熟”進(jìn)行區(qū)別定價(jià)、特定推送的現(xiàn)象屢見不鮮,在住宿、出行、票務(wù)、電商購(gòu)物等領(lǐng)域或多或少存在大數(shù)據(jù)“殺熟”的案例。這種提供“個(gè)性化服務(wù)”的模式看起來似乎滿足了消費(fèi)者的個(gè)性化需求,但為何總是飽受詬???其根結(jié)在于這種銷售模式并不是一種遵循公平合理、誠(chéng)實(shí)信用原則的銷售模式,相反,在諸多方面侵害了消費(fèi)者的合法權(quán)益。如平臺(tái)商家在未經(jīng)消費(fèi)者允許的情況下大量收集消費(fèi)者數(shù)據(jù)并進(jìn)行算法分析,本質(zhì)上侵犯了消費(fèi)者的個(gè)人信息權(quán);針對(duì)老顧客不當(dāng)抬高價(jià)格,其實(shí)際上又侵害了消費(fèi)者的知悉真情權(quán)和公平交易權(quán);同時(shí),區(qū)別推送的行為也侵害了消費(fèi)者的自主選擇權(quán)。傳統(tǒng)部門法在應(yīng)對(duì)大數(shù)據(jù)“殺熟”問題上呈現(xiàn)出了相當(dāng)程度的滯后性和矛盾性,難以有效應(yīng)對(duì)和解決大數(shù)據(jù)“殺熟”對(duì)消費(fèi)者基本權(quán)益造成的侵害?,F(xiàn)有的研究中,大多數(shù)學(xué)者將研究重心置于大數(shù)據(jù)“殺熟”的定性之上,即大數(shù)據(jù)“殺熟”究竟是屬于“差別定價(jià)”[1]還是“價(jià)格欺詐”[2-3]。并且大多從傳統(tǒng)部門法的角度出發(fā)[4],尋求解決大數(shù)據(jù)“殺熟”法律爭(zhēng)議的路徑[5-6]。事實(shí)上,針對(duì)大數(shù)據(jù)“殺熟”這一新的法律現(xiàn)象,給其定性的意義不大,不論其屬于“差別定價(jià)”還是“價(jià)格欺詐”,其本身就是侵犯公民基本權(quán)益的違法行為。同時(shí),也不必然需要從傳統(tǒng)部門法的角度進(jìn)行規(guī)制。規(guī)制大數(shù)據(jù)“殺熟”應(yīng)當(dāng)重點(diǎn)從事前預(yù)防的角度考量,盡量從源頭上避免大數(shù)據(jù)“殺熟”的發(fā)生。即使發(fā)生,也可針對(duì)特定領(lǐng)域大數(shù)據(jù)“殺熟”的特定情形制定部門規(guī)章,從而,執(zhí)法部門區(qū)分不同領(lǐng)域執(zhí)法,避免職能交叉、相互推諉的情況發(fā)生。

    二、大數(shù)據(jù)“殺熟”行為的違法性界定

    大數(shù)據(jù)“殺熟”的違法性顯而易見。從消費(fèi)者個(gè)人信息保護(hù)的角度出發(fā),大數(shù)據(jù)“殺熟”侵害了消費(fèi)者的個(gè)人信息權(quán);從消費(fèi)者應(yīng)當(dāng)全面了解商品或者服務(wù)信息的角度出發(fā),大數(shù)據(jù)“殺熟”侵害了消費(fèi)者的知悉真情權(quán)和自主選擇權(quán);從消費(fèi)者應(yīng)當(dāng)以公平合理的價(jià)格與經(jīng)營(yíng)者進(jìn)行交易的角度出發(fā),大數(shù)據(jù)“殺熟”侵害了消費(fèi)者的公平交易權(quán)。因此,平臺(tái)商家利用大數(shù)據(jù)“殺熟”的行為在本質(zhì)上屬于侵犯消費(fèi)者合法權(quán)益的違法行為。

    (一)侵害了消費(fèi)者的個(gè)人信息權(quán)

    大數(shù)據(jù)時(shí)代使得數(shù)據(jù)成為一筆寶貴的財(cái)富,誰擁有數(shù)據(jù)誰就能在競(jìng)爭(zhēng)中贏得先機(jī),而對(duì)于互聯(lián)網(wǎng)平臺(tái)商家來說,消費(fèi)者的購(gòu)買使用記錄以及地址、電話等個(gè)人信息就構(gòu)成了對(duì)其最具效益也最具有競(jìng)爭(zhēng)力的數(shù)據(jù)基礎(chǔ)。平臺(tái)商家在大量收集消費(fèi)者的數(shù)據(jù)之后,利用算法進(jìn)行精準(zhǔn)預(yù)測(cè),進(jìn)而利用大數(shù)據(jù)“殺熟”。精確預(yù)測(cè)即使不是對(duì)消費(fèi)者行為習(xí)慣和隱私的窺探,也極易引起反感,令人產(chǎn)生受到侵犯的感覺。當(dāng)個(gè)人數(shù)據(jù)已經(jīng)不可避免地成為有價(jià)值的資產(chǎn)時(shí),法律可能需要作出調(diào)整[7]。

    對(duì)于個(gè)人而言,個(gè)人信息數(shù)據(jù)的價(jià)值似乎微乎其微,但是當(dāng)這些數(shù)據(jù)被平臺(tái)商家利用技術(shù)進(jìn)行整合、通過算法進(jìn)行測(cè)算后,這些數(shù)據(jù)的價(jià)值就會(huì)被無限地放大,甚至有可能對(duì)我們的自由產(chǎn)生威脅。換言之,個(gè)人信息的利用若不是合理合法,將有極大的可能侵害個(gè)人信息安全、損害信息主體的權(quán)益、帶來名譽(yù)榮譽(yù)的損害,甚至是給信息主體造成人身和財(cái)產(chǎn)的威脅[8]。涂子沛在其著作中描述道:有很多小的、獨(dú)立的信息,這些信息就單個(gè)而言,它們可能無關(guān)痛癢,但一旦把它們通過技術(shù)整合連接起來,它們就會(huì)漸漸蠶食消費(fèi)者的個(gè)人自由,這才是真正的危險(xiǎn)[9]。平臺(tái)商家利用收集到的消費(fèi)者個(gè)人信息數(shù)據(jù)進(jìn)行加工處理、精準(zhǔn)預(yù)測(cè),大多數(shù)情況是在消費(fèi)者不知情的狀態(tài)下進(jìn)行的。同時(shí),平臺(tái)商家利用整合的數(shù)據(jù)對(duì)消費(fèi)者進(jìn)行“用戶畫像”,實(shí)施精準(zhǔn)定位和分析,是消費(fèi)者所不愿意接受的。在違背消費(fèi)者意愿的前提下對(duì)消費(fèi)者個(gè)人信息數(shù)據(jù)進(jìn)行收集處理,其本質(zhì)上即構(gòu)成對(duì)消費(fèi)者個(gè)人信息權(quán)的嚴(yán)重侵犯。

    (二)侵害了消費(fèi)者的知悉真情權(quán)

    知悉真情權(quán)是指消費(fèi)者享有知悉其購(gòu)買、使用的商品或者接受的服務(wù)的真實(shí)情況的權(quán)利,同時(shí)也是網(wǎng)購(gòu)消費(fèi)者諸多權(quán)利中一項(xiàng)需要重點(diǎn)保護(hù)的基礎(chǔ)性權(quán)利[10]。因?yàn)榛ヂ?lián)網(wǎng)平臺(tái)具有虛擬性特質(zhì),消費(fèi)者無法像在現(xiàn)實(shí)空間消費(fèi)時(shí)那樣能夠仔細(xì)甄別、實(shí)際挑選其想要購(gòu)買的商品或者想要獲取的服務(wù)。在網(wǎng)絡(luò)平臺(tái)上,雙方對(duì)于商品或服務(wù)信息的掌握是極其不對(duì)稱的。這在無形中將保障消費(fèi)者知悉商品或服務(wù)真實(shí)情況的義務(wù)賦予了平臺(tái)商家,并且這種義務(wù)應(yīng)當(dāng)比對(duì)線下的商家要求更高。

    對(duì)知悉真情權(quán)的重點(diǎn)保護(hù)符合互聯(lián)網(wǎng)這一特定交易環(huán)境。在互聯(lián)網(wǎng)平臺(tái)上,消費(fèi)者對(duì)產(chǎn)品或服務(wù)的了解是作出合理選擇、正確使用產(chǎn)品和享受服務(wù)的前提。但是在平臺(tái)商家利用大數(shù)據(jù)進(jìn)行“殺熟”的情形下,平臺(tái)商家針對(duì)不同的消費(fèi)者區(qū)別定價(jià)、區(qū)別推送,甚至針對(duì)老客戶刻意抬高價(jià)格的行為,已經(jīng)完全侵害了消費(fèi)者的知悉真情權(quán)。因此,大數(shù)據(jù)“殺熟”屬于對(duì)消費(fèi)者知悉真情權(quán)的嚴(yán)重侵犯,這對(duì)形成公平有序的網(wǎng)絡(luò)消費(fèi)市場(chǎng)環(huán)境也是極其不利的。

    (三)侵害了消費(fèi)者的自主選擇權(quán)

    消費(fèi)者享有自主選擇商品或者服務(wù)的權(quán)利。消費(fèi)者有權(quán)自主選擇提供商品或者服務(wù)的經(jīng)營(yíng)者,自主選擇商品品種或者服務(wù)方式,自主決定購(gòu)買或者不購(gòu)買任何一種商品、接受或者不接受任何一項(xiàng)服務(wù)。知悉真情權(quán)是自主選擇權(quán)的基礎(chǔ),只有在充分了解商品或服務(wù)信息的基礎(chǔ)上,消費(fèi)者才能進(jìn)行自主選擇,否則所謂的自主選擇也只能是一句空話或者消費(fèi)者自我安慰的口號(hào)而已。

    大數(shù)據(jù)“殺熟”嚴(yán)重侵害了消費(fèi)者的自主選擇權(quán),其充分表現(xiàn)在以下幾點(diǎn):一方面,平臺(tái)商家利用算法對(duì)不同的用戶進(jìn)行“精準(zhǔn)畫像”,測(cè)算出不同用戶的消費(fèi)習(xí)慣、價(jià)格承受能力,從而針對(duì)不同的用戶推薦不同的產(chǎn)品,這使得消費(fèi)者很難全面了解所有商品或服務(wù)的信息來進(jìn)行自主選擇;另一方面,對(duì)于平臺(tái)商家的老客戶而言,平臺(tái)基于他們的消費(fèi)習(xí)慣已經(jīng)對(duì)其消費(fèi)偏好進(jìn)行了更為準(zhǔn)確的預(yù)測(cè),從而使得這些熟客不自覺地在平臺(tái)推薦的商品或服務(wù)中進(jìn)行選擇,更加喪失自主選擇的機(jī)會(huì)。

    (四)侵害了消費(fèi)者的公平交易權(quán)

    消費(fèi)者享有公平交易的權(quán)利,即消費(fèi)者在購(gòu)買商品或者接受服務(wù)時(shí),有權(quán)獲得質(zhì)量保障、價(jià)格合理、計(jì)量正確等公平交易條件。在交易中,消費(fèi)者作為單個(gè)個(gè)體相較于經(jīng)營(yíng)者很明顯處于一種弱勢(shì)地位,尤其是在互聯(lián)網(wǎng)平臺(tái)交易中,由于信息的不對(duì)稱性,消費(fèi)者往往容易遭受不公平對(duì)待。因此,法律也對(duì)互聯(lián)網(wǎng)平臺(tái)上消費(fèi)者的公平交易權(quán)進(jìn)行了特別的規(guī)定。

    大數(shù)據(jù)“殺熟”,顧名思義,“殺”的就是“熟人”“老客戶”。對(duì)于平臺(tái)商家的老客戶來說,基于對(duì)平臺(tái)商家的信任和過往的消費(fèi)習(xí)慣,往往在購(gòu)物或選擇服務(wù)時(shí)并不會(huì)花時(shí)間仔細(xì)甄別。但是在這種情況下,老客戶購(gòu)買與普通客戶相同的產(chǎn)品或者選擇相同的服務(wù)時(shí),卻可能被以高出給予普通客戶的價(jià)格與平臺(tái)商家進(jìn)行了交易。這對(duì)于他們而言,是極其不公平的。因此,這些利用大數(shù)據(jù)“殺熟”的平臺(tái)商家當(dāng)然也侵害了消費(fèi)者的公平交易權(quán)。

    三、現(xiàn)有相關(guān)法律體系存在的問題

    在應(yīng)對(duì)大數(shù)據(jù)“殺熟”的問題上,傳統(tǒng)的法規(guī)呈現(xiàn)出一定程度的矛盾性和滯后性。一方面,現(xiàn)有規(guī)定存在相互沖突、法條競(jìng)合的情形,另一方面又存在相當(dāng)大的局限,不足以應(yīng)對(duì)大數(shù)據(jù)“殺熟”帶來的法律問題。同時(shí),法律規(guī)定競(jìng)合也會(huì)導(dǎo)致執(zhí)法主體沖突,存在各執(zhí)法主體之間相互推諉監(jiān)管責(zé)任的可能。

    (一)依據(jù)《消費(fèi)者權(quán)益保護(hù)法》,但舉證目的難以實(shí)現(xiàn)

    《消費(fèi)者權(quán)益保護(hù)法》(以下簡(jiǎn)稱《消法》)是維護(hù)消費(fèi)者合法權(quán)益的重要保障,其對(duì)于消費(fèi)者的知悉真情權(quán)、自主選擇權(quán)、公平交易權(quán)都有相關(guān)規(guī)定,然而在面對(duì)大數(shù)據(jù)“殺熟”產(chǎn)生的問題上,《消法》還是顯得有些“束手無策”。

    首先,在《消法》中關(guān)于消費(fèi)者基本權(quán)益保障的原則性條款難以直接適用,而其中關(guān)于互聯(lián)網(wǎng)平臺(tái)侵權(quán)的規(guī)定也較為籠統(tǒng),缺乏針對(duì)大數(shù)據(jù)“殺熟”的具體規(guī)定。其次,由于在大數(shù)據(jù)“殺熟”的個(gè)案中,如果按照《消法》規(guī)定保障消費(fèi)者自身權(quán)益,必然要用向執(zhí)法機(jī)關(guān)申訴或向法院提起訴訟的方式加以解決,然而在個(gè)案中,消費(fèi)者的受損利益較小而訴訟成本較大,從經(jīng)濟(jì)利益的角度考量,消費(fèi)者維權(quán)的成本較高。最后,也是極為重要的一點(diǎn),即消費(fèi)者很難實(shí)現(xiàn)自身的舉證目的,《消法》中規(guī)定的維權(quán)事項(xiàng)往往需要消費(fèi)者自身舉證,然而由于在互聯(lián)網(wǎng)消費(fèi)中,沒有實(shí)物憑證,很多證據(jù)都是電子形式的,經(jīng)營(yíng)者比較容易篡改或銷毀,從而增加了消費(fèi)者的舉證難度[11]。舉證的難題導(dǎo)致在大數(shù)據(jù)“殺熟”中尋求《消法》的保護(hù)存在較大的困境。

    (二)依據(jù)《電子商務(wù)法》,但處罰事項(xiàng)難以明確

    在電子商務(wù)方面,平臺(tái)商家通過對(duì)有關(guān)用戶特征的大容量面板數(shù)據(jù)的深度分析和挖掘,可以快速發(fā)掘消費(fèi)者一般和特定的行為習(xí)慣,從而為定向電子營(yíng)銷創(chuàng)造條件[12]?!峨娮由虅?wù)法》雖然對(duì)定向電子營(yíng)銷進(jìn)行了一定的規(guī)制,但其主要規(guī)定在差別推送方面,其中明確要求平臺(tái)商家不應(yīng)當(dāng)針對(duì)消費(fèi)者的個(gè)人特征進(jìn)行商品或服務(wù)的推送,即使按照其消費(fèi)習(xí)慣推薦相應(yīng)的產(chǎn)品或服務(wù),同時(shí)也需要提供其他不具備個(gè)人指向性的類型給消費(fèi)者。這是針對(duì)大數(shù)據(jù)“殺熟”的區(qū)別推送行為最為直接的法律規(guī)制。但是關(guān)于大數(shù)據(jù)“殺熟”中最常見的差別定價(jià)的情形,該法規(guī)沒有直接對(duì)其進(jìn)行規(guī)制的條款。

    由于《電子商務(wù)法》的規(guī)定是針對(duì)搜索結(jié)果而言,實(shí)踐中的“殺熟”現(xiàn)象難以與《電子商務(wù)法》進(jìn)行有效對(duì)接,導(dǎo)致法律的實(shí)效性不強(qiáng),難以遏制大數(shù)據(jù)“殺熟”行為[1]56。因此,要想利用《電子商務(wù)法》對(duì)平臺(tái)商家區(qū)別定價(jià)的行為進(jìn)行相應(yīng)的處罰是很難做到的,處罰的事由和事項(xiàng)均難以有效對(duì)應(yīng)商家的大數(shù)據(jù)“殺熟”行為。

    (三)依據(jù)《反壟斷法》,但壟斷主體難以界定

    對(duì)于差別定價(jià)的問題,《反壟斷法》第十七條進(jìn)行了規(guī)定,明確禁止了具有市場(chǎng)支配地位的經(jīng)營(yíng)者在交易價(jià)格上實(shí)施差別對(duì)待。然而問題的關(guān)鍵是,該法律僅針對(duì)“具有市場(chǎng)支配地位的經(jīng)營(yíng)者”進(jìn)行規(guī)制,但是在實(shí)際發(fā)生的大數(shù)據(jù)“殺熟”案例中,也存在大量不屬于具備壟斷主體地位的經(jīng)營(yíng)者,即普通經(jīng)營(yíng)者可以直接通過購(gòu)買算法技術(shù)的方式來實(shí)施“殺熟”行為;即使該經(jīng)營(yíng)者具備壟斷主體資格,要想對(duì)其壟斷主體地位進(jìn)行認(rèn)定也存在很大的困難。

    從媒體報(bào)道來看,大數(shù)據(jù)“殺熟”通常發(fā)生在市場(chǎng)份額高、影響力大的電子商務(wù)平臺(tái)上,且表現(xiàn)為交易條件相同的新老客戶在銷售價(jià)格上存在差別待遇[13]。實(shí)際上,市場(chǎng)份額高或者影響力大并不必然意味著具有市場(chǎng)支配地位,市場(chǎng)支配地位的認(rèn)定還需要綜合認(rèn)定經(jīng)營(yíng)者的市場(chǎng)份額、財(cái)力、技術(shù)情況等要素,對(duì)其進(jìn)行認(rèn)定是相當(dāng)嚴(yán)苛的。這就意味著在大量的大數(shù)據(jù)“殺熟”案件中,《反壟斷法》是無法直接進(jìn)行有效規(guī)制的。

    (四)依據(jù)《侵權(quán)責(zé)任法》,但過錯(cuò)責(zé)任難以認(rèn)定

    在大數(shù)據(jù)“殺熟”的情況下,若要認(rèn)定經(jīng)營(yíng)者確屬侵權(quán),根據(jù)《侵權(quán)責(zé)任法》的規(guī)定,屬“過錯(cuò)責(zé)任的劃分”,即還需要認(rèn)定經(jīng)營(yíng)者存在主觀過錯(cuò)。然而在司法實(shí)踐中,“過錯(cuò)”的認(rèn)定并不容易,經(jīng)營(yíng)者往往以“價(jià)格隨時(shí)間動(dòng)態(tài)變化、價(jià)格隨需求正常調(diào)整”為理由進(jìn)行抗辯,法院也往往因消費(fèi)者證據(jù)不足而判決消費(fèi)者敗訴。

    如在劉權(quán)訴北京三快科技有限公司運(yùn)用大數(shù)據(jù)“殺熟”侵權(quán)一案中,原告劉權(quán)于2018年7月19日11時(shí)55分通過美團(tuán)外賣平臺(tái)訂購(gòu)了一份該公司推出的套餐,當(dāng)日12時(shí)08分,劉權(quán)另一同事在該平臺(tái)上向同一商家訂購(gòu)了同一份套餐,送貨地址相同,但配送費(fèi)卻少了1元。被告北京三快科技有限公司辯稱訂單配送費(fèi)用是根據(jù)當(dāng)時(shí)商家所在商圈的多種因素影響下形成的,是一個(gè)變化值,劉權(quán)所下訂單與其同事并不是同一時(shí)間,故其配送費(fèi)不具有對(duì)比性。最終,法院的判決也是以北京三快科技有限公司根據(jù)平臺(tái)交易量對(duì)配送費(fèi)進(jìn)行動(dòng)態(tài)調(diào)整是自身的經(jīng)營(yíng)行為為由,駁回了原告的訴訟請(qǐng)求??梢?,在具體的案件中想要認(rèn)定經(jīng)營(yíng)者存在主觀過錯(cuò)還是有相當(dāng)大的難度,經(jīng)營(yíng)者以自身經(jīng)營(yíng)行為、消費(fèi)時(shí)間不同為理由來抗辯,法院就難以認(rèn)定其主觀存在過錯(cuò)。

    四、建立完備的法律規(guī)制體系

    我國(guó)現(xiàn)有的法律體系不足以有效應(yīng)對(duì)大數(shù)據(jù)“殺熟”問題,從傳統(tǒng)部門法的角度進(jìn)行規(guī)制顯然具有相當(dāng)大的局限性。因此,規(guī)制大數(shù)據(jù)“殺熟”應(yīng)當(dāng)重點(diǎn)從事前預(yù)防的角度考量,對(duì)平臺(tái)商家收集、處理個(gè)人信息及算法歧視進(jìn)行相應(yīng)的規(guī)制,盡量從源頭上規(guī)避大數(shù)據(jù)“殺熟”現(xiàn)象的發(fā)生。同時(shí),各行政部門應(yīng)盡快出臺(tái)針對(duì)特定領(lǐng)域大數(shù)據(jù)“殺熟”的部門規(guī)章,執(zhí)法部門區(qū)分不同領(lǐng)域嚴(yán)格執(zhí)法,有效化解大數(shù)據(jù)“殺熟”難以規(guī)制的困境。

    (一)事前審查評(píng)估體系

    消費(fèi)者與經(jīng)營(yíng)者之間信息不對(duì)稱,互聯(lián)網(wǎng)平臺(tái)讓這種信息不對(duì)稱達(dá)到了極致。消費(fèi)者在“線下”進(jìn)行消費(fèi)時(shí),“明碼標(biāo)價(jià)”對(duì)消費(fèi)者而言還能做到形式上的相對(duì)公平。但是在互聯(lián)網(wǎng)平臺(tái)上,平臺(tái)商家即使提供“千人千面”的價(jià)格對(duì)消費(fèi)者進(jìn)行“殺熟”,在很多情況下消費(fèi)者也無從得知。因此,建立完備的事前審查評(píng)估體系,從源頭上對(duì)大數(shù)據(jù)“殺熟”行為予以規(guī)制,以避免其發(fā)生,才是更好地解決“殺熟”問題、保障消費(fèi)者權(quán)益的有效路徑。

    1.明確“知情—同意”的數(shù)據(jù)收集處理原則

    平臺(tái)商家基于消費(fèi)者個(gè)人信息的收集建立了極富商業(yè)價(jià)值的大數(shù)據(jù)。大數(shù)據(jù)認(rèn)識(shí)論排除理論預(yù)設(shè)、以數(shù)據(jù)分析為前置,相信只要擁有足夠數(shù)據(jù),數(shù)據(jù)本身就能夠說明問題[14]。數(shù)據(jù)的價(jià)值從它最基本的用途轉(zhuǎn)變?yōu)闈撛诘奈磥碛猛荆绊懥似脚_(tái)商家評(píng)估其擁有的數(shù)據(jù),促使平臺(tái)商家改變他們的商業(yè)模式、組織看待和使用數(shù)據(jù)的方式[15]。這些對(duì)個(gè)人看起來毫無價(jià)值的數(shù)據(jù)信息在平臺(tái)商家手中逐漸能夠發(fā)揮巨大的商業(yè)價(jià)值,如大數(shù)據(jù)“殺熟”即是建立在大數(shù)據(jù)收集基礎(chǔ)上的算法歧視,因此,數(shù)據(jù)對(duì)于平臺(tái)商家而言至關(guān)重要,數(shù)據(jù)的收集對(duì)“殺熟”起到了最原始也是最為關(guān)鍵的一步。

    在當(dāng)前的線上銷售模式中,消費(fèi)者在使用平臺(tái)軟件時(shí),平臺(tái)商家默認(rèn)為消費(fèi)者勾選同意條款,或者消費(fèi)者未勾選同意條款即不可使用其應(yīng)用軟件。然而這些同意條款中往往包含平臺(tái)商家收集、使用消費(fèi)者個(gè)人信息的條款,在消費(fèi)者不經(jīng)意間,平臺(tái)商家就已獲取消費(fèi)者個(gè)人信息的使用權(quán)。在掌握了信息及處理權(quán)后,平臺(tái)商家對(duì)其進(jìn)行“殺熟”之類的商業(yè)應(yīng)用就會(huì)容易很多。

    從國(guó)外對(duì)數(shù)據(jù)收集處理的規(guī)制來看,國(guó)外立法中大多明確了“知情—同意”的數(shù)據(jù)收集處理原則,即個(gè)人信息不應(yīng)被用到信息所有者同意以外以及法律授權(quán)以外的其他方面[16]。如2018年5月25日正式生效的歐盟《通用數(shù)據(jù)保護(hù)條例》(GDPR),其中規(guī)定了收集處理個(gè)人數(shù)據(jù)必須要有合法理由,包括數(shù)據(jù)主體的同意,并且同意的認(rèn)定標(biāo)準(zhǔn)更加嚴(yán)格,即同意必須是具體的、清晰的,是用戶在充分知情的前提下自由做出的。同時(shí),該條例還明確規(guī)定若將同意數(shù)據(jù)處理作為簽訂合同的前提條件,這種數(shù)據(jù)處理事實(shí)上超出了提供服務(wù)所必需,是違反有關(guān)“同意應(yīng)當(dāng)是自由做出”的規(guī)定。日本在2017年出臺(tái)的《個(gè)人信息保護(hù)法》中也對(duì)消費(fèi)者同意的事項(xiàng)進(jìn)行了進(jìn)一步的明確,規(guī)定對(duì)于收集處理“含有政令規(guī)定的、為避免發(fā)生針對(duì)本人的人種、信條、社會(huì)身份、病歷、犯罪經(jīng)歷”等20多個(gè)事項(xiàng)的個(gè)人信息數(shù)據(jù)必須取得用戶的事前同意。

    當(dāng)前,我國(guó)的《數(shù)據(jù)安全法(草案)》以國(guó)家安全為定位,無法涵蓋公民個(gè)人信息保護(hù)的基本規(guī)則,對(duì)公民個(gè)人信息的保護(hù)主要通過《民法典》“正當(dāng)、合法、必要”的原則性規(guī)定來進(jìn)行[17]。全國(guó)人民代表大會(huì)常務(wù)委員會(huì)審議了《中華人民共和國(guó)個(gè)人信息保護(hù)法(草案)》(以下簡(jiǎn)稱《草案》),并于2020年10月21日公布并公開征求社會(huì)公眾意見,草案中也對(duì)“知情—同意”原則進(jìn)行了規(guī)定,其中信息主體的同意作為信息處理的一項(xiàng)基本原則,但該條款同時(shí)也規(guī)定了一些除外事項(xiàng),如為公共利益的需求處理個(gè)人信息,以及兜底條款即法律、行政法規(guī)規(guī)定的其他事項(xiàng)?!恫莅浮穼?duì)于除外條款及兜底條款的規(guī)定仍然需立法者認(rèn)真考量并進(jìn)一步細(xì)化,個(gè)人信息主體的同意應(yīng)當(dāng)放置在首要位置。在明確“知情—同意”的數(shù)據(jù)收集處理原則后,平臺(tái)商家在收集處理消費(fèi)者個(gè)人信息數(shù)據(jù)時(shí)就必須以明示的方式征得消費(fèi)者的同意,如此對(duì)于注重公民個(gè)人信息保護(hù)的消費(fèi)者而言,在源頭上即可避免大數(shù)據(jù)“殺熟”的發(fā)生。

    2.明確“無歧視、無偏見”的算法審查原則

    明確“知情—同意”的數(shù)據(jù)收集處理原則能夠一定程度從源頭上避免平臺(tái)商家隨意收集處理消費(fèi)者的個(gè)人信息數(shù)據(jù)。但是對(duì)于個(gè)人信息保護(hù)意識(shí)不強(qiáng)的消費(fèi)者來說,在平臺(tái)商家請(qǐng)求同意時(shí)可能就會(huì)直接予以同意,或者對(duì)于某些消費(fèi)者來說,在不勾選同意條款會(huì)導(dǎo)致消費(fèi)不便捷(如消費(fèi)者購(gòu)買商品總是要不斷地輸入姓名、住址、電話等個(gè)人信息)的情況下,也會(huì)選擇予以同意。在這些情況下,即使明確了“知情—同意”的數(shù)據(jù)收集處理原則也難以發(fā)揮作用,因此,對(duì)平臺(tái)商家的算法進(jìn)行規(guī)制也成了規(guī)制大數(shù)據(jù)“殺熟”的重心。

    算法是一種結(jié)構(gòu)化的決策過程,它采用一組規(guī)則,例如決策樹,根據(jù)數(shù)據(jù)輸入和決策參數(shù)自動(dòng)提供結(jié)果[18]。平臺(tái)商家利用算法進(jìn)行隱秘計(jì)算,從而達(dá)到其商業(yè)目的。當(dāng)算法復(fù)雜到一定程度而無法被人直觀理解,即形成“黑箱 ”時(shí),這將是危險(xiǎn)的[19]。大數(shù)據(jù)“殺熟”其實(shí)就是大數(shù)據(jù)時(shí)代常見的一種隱蔽的算法歧視類型,計(jì)算機(jī)憑借著深度學(xué)習(xí)的能力,將消費(fèi)者的數(shù)據(jù)按照算法進(jìn)行分析、計(jì)算,達(dá)到區(qū)別對(duì)待消費(fèi)者的目的。同時(shí),算法作為平臺(tái)商家的一種商業(yè)秘密和技術(shù)秘密,要求平臺(tái)商家直接予以公布的可能性不大,但在應(yīng)用過程中又往往涉及社會(huì)公共利益,必須對(duì)其進(jìn)行規(guī)制。因此,對(duì)算法的規(guī)制可以從算法審查的角度入手。

    算法審查強(qiáng)調(diào)算法應(yīng)當(dāng)經(jīng)過審查和評(píng)估以后,才能在特定數(shù)據(jù)存儲(chǔ)庫(kù)中的給定數(shù)據(jù)集上運(yùn)行,尤其是對(duì)于可能給消費(fèi)者的隱私、個(gè)人信息帶來風(fēng)險(xiǎn)領(lǐng)域的算法要進(jìn)行特定的審查。對(duì)算法的審查應(yīng)當(dāng)以一般性的“無歧視、無偏見”原則來進(jìn)行,明確規(guī)定在何種情形下對(duì)何種群體的何種行為構(gòu)成不公正對(duì)待的算法歧視,并應(yīng)當(dāng)采取何種特定性的措施進(jìn)行處罰。如美國(guó)對(duì)于算法審查與評(píng)估強(qiáng)調(diào)算法應(yīng)該得到專家、決策者和公民的驗(yàn)證,使其盡可能不受偏見和無意識(shí)歧視作用的影響[20]。2017年,美國(guó)計(jì)算機(jī)協(xié)會(huì)發(fā)布的《算法透明性和可問責(zé)性聲明》,規(guī)定了規(guī)制算法的七項(xiàng)基本原則,其中也對(duì)算法的公開、檢測(cè)和驗(yàn)證進(jìn)行了規(guī)定[4]91。

    我國(guó)當(dāng)前尚未有針對(duì)算法進(jìn)行規(guī)制的法律或行政法規(guī),對(duì)于算法的監(jiān)管也僅僅依靠網(wǎng)絡(luò)平臺(tái)運(yùn)營(yíng)者自身行業(yè)自律,但屢禁不止的大數(shù)據(jù)“殺熟”現(xiàn)象提醒我們僅依靠倡導(dǎo)和倫理上呼吁遵循算法倫理顯然是不夠的,平臺(tái)商家在面對(duì)超額利潤(rùn)的誘惑時(shí),根本就沒有遵循算法倫理的意愿和行動(dòng),而為之所付出的微乎其微的代價(jià)進(jìn)一步助長(zhǎng)了這種行為[21]。因此,必須加強(qiáng)對(duì)于算法規(guī)制的立法和執(zhí)法,以法律的剛性強(qiáng)化對(duì)算法的法治監(jiān)管。

    (二)事后責(zé)任監(jiān)管體系

    建立完備的事前審查評(píng)估體系是規(guī)制大數(shù)據(jù)“殺熟”的關(guān)鍵,但是也很難做到完全從源頭避免“殺熟”的發(fā)生。前文分析了傳統(tǒng)部門法在應(yīng)對(duì)大數(shù)據(jù)“殺熟”的事后監(jiān)管方面出現(xiàn)的滯后性,同時(shí),解決執(zhí)法主體不清、相互推諉責(zé)任的現(xiàn)象也需要建立一套新的事后歸責(zé)體系。

    1.執(zhí)法區(qū)分特定領(lǐng)域

    當(dāng)前我國(guó)傳統(tǒng)的法律體系應(yīng)對(duì)大數(shù)據(jù)“殺熟”問題不僅存在滯后性,還存在矛盾性。例如,《消費(fèi)者權(quán)益保護(hù)法》的執(zhí)法主體是市場(chǎng)監(jiān)督管理部門,《電子商務(wù)法》的執(zhí)法主體是電子商務(wù)監(jiān)督管理部門,《反壟斷法》的執(zhí)法主體是國(guó)務(wù)院反壟斷執(zhí)法機(jī)構(gòu)以及其授權(quán)的省、自治區(qū)、直轄市人民政府相應(yīng)的負(fù)責(zé)反壟斷執(zhí)法工作的有關(guān)機(jī)構(gòu)。各機(jī)構(gòu)似乎對(duì)于大數(shù)據(jù)“殺熟”有一定的監(jiān)管職責(zé)卻又不十分明確,導(dǎo)致監(jiān)管存在一定的缺位。

    針對(duì)當(dāng)前事后規(guī)制法律體系應(yīng)對(duì)大數(shù)據(jù)“殺熟”的滯后性和矛盾性,可采用針對(duì)特定領(lǐng)域大數(shù)據(jù)“殺熟”的特定情形制定部門規(guī)章的方式來予以解決。行政執(zhí)法部門區(qū)分不同領(lǐng)域執(zhí)法,也可避免發(fā)生職能交叉、互監(jiān)不嚴(yán)的情況。譬如,文化和旅游部最新公布的《在線旅游經(jīng)營(yíng)服務(wù)管理暫行規(guī)定》于2020年10月1日起正式施行,其中第十五條規(guī)定了在線旅游經(jīng)營(yíng)者不得濫用大數(shù)據(jù)分析等技術(shù)手段,不得基于旅游者消費(fèi)記錄、旅游偏好等設(shè)置不公平的交易條件。

    文化和旅游部的規(guī)定明確禁止了在線旅游經(jīng)營(yíng)者實(shí)施大數(shù)據(jù)“殺熟”行為,其他部委也可以借鑒其做法,在各自的行政職責(zé)范圍內(nèi)制定監(jiān)管、懲處大數(shù)據(jù)“殺熟”行為的部門規(guī)章。例如,國(guó)家市場(chǎng)監(jiān)督管理總局可對(duì)購(gòu)買實(shí)體商品的購(gòu)物平臺(tái)的大數(shù)據(jù)“殺熟”行為予以監(jiān)管,出臺(tái)相關(guān)規(guī)章,禁止在線購(gòu)物平臺(tái)的經(jīng)營(yíng)者利用大數(shù)據(jù)“殺熟”設(shè)置不公平的交易條件。區(qū)分不同領(lǐng)域制定大數(shù)據(jù)“殺熟”的事后規(guī)制措施,能夠有效加強(qiáng)事后監(jiān)管,確保“執(zhí)法必嚴(yán)、違法必究”。

    2.司法舉證責(zé)任倒置

    當(dāng)前針對(duì)大數(shù)據(jù)“殺熟”提起的訴訟很難獲得勝訴,主要是在司法實(shí)踐中,證據(jù)收集以及舉證責(zé)任分配上都對(duì)經(jīng)營(yíng)者有利?;趥鹘y(tǒng)的侵權(quán)責(zé)任舉證原則,即“誰主張誰舉證”,“殺熟”案件的舉證主體自然是在消費(fèi)者一方,由消費(fèi)者負(fù)責(zé)證據(jù)的收集和證明經(jīng)營(yíng)者“殺熟”的舉證。然而,算法等內(nèi)容處在平臺(tái)商家的絕對(duì)控制之下,對(duì)于消費(fèi)者而言取證存在困難。同時(shí),通過互聯(lián)網(wǎng)平臺(tái)的交易往往形成的是電子證據(jù),電子證據(jù)的獲取和固定都十分困難。消費(fèi)者即使可以舉證,也需要耗費(fèi)巨大的維權(quán)成本而得不償失[6]97。這也是當(dāng)前司法實(shí)踐中,面對(duì)大數(shù)據(jù)“殺熟”,提起訴訟的消費(fèi)者不多、訴訟成功的案例更少的主要原因,維權(quán)難也影響了司法在人民群眾中的公信力。

    面對(duì)消費(fèi)者的舉證壓力,可考慮在大數(shù)據(jù)“殺熟”的司法案件中實(shí)行對(duì)消費(fèi)者適當(dāng)傾斜的舉證規(guī)則,即實(shí)施舉證責(zé)任倒置,由平臺(tái)商家承擔(dān)自己沒有“殺熟”的舉證責(zé)任。由于平臺(tái)商家在舉證方面存在天然的優(yōu)勢(shì),由其通過公開自己的算法、交易數(shù)據(jù)等信息來證明其沒有“殺熟”更為合理和公平。如此,在司法層面做到“公正司法”,也適當(dāng)加強(qiáng)了對(duì)作為弱勢(shì)一方的消費(fèi)者合法權(quán)益的保護(hù)。

    五、結(jié) 語

    法律在面對(duì)日新月異的科學(xué)技術(shù)帶來的挑戰(zhàn)之時(shí),總是呈現(xiàn)出一定的滯后性,但是很多新問題必須以法律的剛性去應(yīng)對(duì)和處理。正如張文顯教授所言:希望法學(xué)界主動(dòng)地與科技界和企業(yè)界協(xié)同,以人類利益為目標(biāo),以人的主體性為本位,以構(gòu)建智能時(shí)代的倫理道德秩序和法律秩序?yàn)榧喝?,加?qiáng)對(duì)大數(shù)據(jù)、互聯(lián)網(wǎng)、人工智能、基因技術(shù)等的創(chuàng)新發(fā)展及風(fēng)險(xiǎn)挑戰(zhàn)的前瞻性研究和約束性引導(dǎo),確保新技術(shù)更加公正、安全、誠(chéng)信地運(yùn)用,更加有效地預(yù)防風(fēng)險(xiǎn)、控制風(fēng)險(xiǎn)、應(yīng)對(duì)風(fēng)險(xiǎn)[22]。加強(qiáng)對(duì)大數(shù)據(jù)“殺熟”的法律規(guī)制也是以法制來構(gòu)建和維護(hù)良好的社會(huì)消費(fèi)秩序的重要體現(xiàn)。通過構(gòu)建制約大數(shù)據(jù)“殺熟”的事前法律體系能夠使大數(shù)據(jù)和算法在商業(yè)領(lǐng)域的運(yùn)用更加公正、有序,有利于進(jìn)一步形成良好有序的互聯(lián)網(wǎng)消費(fèi)環(huán)境、營(yíng)商環(huán)境。

    猜你喜歡
    經(jīng)營(yíng)者消費(fèi)者
    明清珠江三角洲基塘區(qū)的田場(chǎng)與經(jīng)營(yíng)者
    廣州文博(2023年0期)2023-12-21 07:24:30
    《經(jīng)營(yíng)者》征稿啟事
    系無理取鬧?NO! 請(qǐng)為消費(fèi)者擦干眼淚
    人民交通(2019年16期)2019-12-20 07:03:52
    日化品牌怎樣才能吸引年輕消費(fèi)者?
    只用一招 讓喊產(chǎn)品貴的消費(fèi)者閉嘴
    知識(shí)付費(fèi)消費(fèi)者
    悄悄偷走消費(fèi)者的創(chuàng)意
    悄悄偷走消費(fèi)者的創(chuàng)意
    做一名聰明的集團(tuán)醫(yī)院經(jīng)營(yíng)者
    阿特拉斯·科普柯空壓機(jī)——精明采石場(chǎng)經(jīng)營(yíng)者的不二選擇
    黄片小视频在线播放| av免费在线观看网站| 亚洲精品国产一区二区精华液| 欧美黑人巨大hd| 久久久国产欧美日韩av| 少妇熟女aⅴ在线视频| 国产99久久九九免费精品| 99久久无色码亚洲精品果冻| 丰满的人妻完整版| av中文乱码字幕在线| 久久精品人妻少妇| 亚洲色图av天堂| 黑人欧美特级aaaaaa片| 色综合欧美亚洲国产小说| 午夜老司机福利片| 香蕉国产在线看| 丝袜人妻中文字幕| 午夜亚洲福利在线播放| 岛国视频午夜一区免费看| 97人妻精品一区二区三区麻豆 | 亚洲精品在线观看二区| 午夜两性在线视频| 亚洲国产精品合色在线| 亚洲va日本ⅴa欧美va伊人久久| 日韩欧美国产在线观看| 一夜夜www| 亚洲狠狠婷婷综合久久图片| 国产亚洲欧美在线一区二区| 美女高潮到喷水免费观看| 久久精品国产亚洲av香蕉五月| 啦啦啦免费观看视频1| 亚洲中文字幕一区二区三区有码在线看 | 亚洲第一欧美日韩一区二区三区| 精品欧美国产一区二区三| a在线观看视频网站| 国产成人精品久久二区二区91| 大型av网站在线播放| 最近最新中文字幕大全免费视频| 欧美zozozo另类| 色播亚洲综合网| 视频在线观看一区二区三区| 亚洲五月天丁香| 这个男人来自地球电影免费观看| 国产精品 国内视频| 在线观看午夜福利视频| 麻豆av在线久日| 麻豆国产av国片精品| 久9热在线精品视频| 午夜精品久久久久久毛片777| 女警被强在线播放| 免费在线观看黄色视频的| 国产真实乱freesex| 18禁黄网站禁片午夜丰满| 日韩一卡2卡3卡4卡2021年| 国产单亲对白刺激| 人妻久久中文字幕网| 欧美大码av| 国产精品一区二区免费欧美| 麻豆一二三区av精品| 满18在线观看网站| 国产精品久久视频播放| 在线观看午夜福利视频| 午夜福利视频1000在线观看| 国产欧美日韩一区二区精品| 国产真实乱freesex| 久久这里只有精品19| 在线看三级毛片| 国产激情久久老熟女| 久久人妻av系列| 制服人妻中文乱码| 怎么达到女性高潮| 在线国产一区二区在线| 美女国产高潮福利片在线看| 一边摸一边做爽爽视频免费| 不卡一级毛片| 久久久久久人人人人人| 2021天堂中文幕一二区在线观 | 午夜精品久久久久久毛片777| 人人妻人人澡人人看| bbb黄色大片| 最新在线观看一区二区三区| 少妇的丰满在线观看| 特大巨黑吊av在线直播 | 在线视频色国产色| 精品国产一区二区三区四区第35| 91麻豆精品激情在线观看国产| 国产主播在线观看一区二区| 18禁国产床啪视频网站| 美女高潮到喷水免费观看| 久久久精品欧美日韩精品| 俄罗斯特黄特色一大片| 大型av网站在线播放| cao死你这个sao货| 嫁个100分男人电影在线观看| 欧美色视频一区免费| 18禁黄网站禁片午夜丰满| 日韩一卡2卡3卡4卡2021年| 国产97色在线日韩免费| 99热这里只有精品一区 | 国产精品久久久久久亚洲av鲁大| 久久久久亚洲av毛片大全| 亚洲专区中文字幕在线| 丁香欧美五月| 88av欧美| 日韩视频一区二区在线观看| 日日干狠狠操夜夜爽| 日本 欧美在线| 午夜福利在线观看吧| 亚洲成av人片免费观看| 一本一本综合久久| 亚洲免费av在线视频| 色尼玛亚洲综合影院| 淫妇啪啪啪对白视频| 最新美女视频免费是黄的| 看片在线看免费视频| 波多野结衣巨乳人妻| 亚洲最大成人中文| 亚洲中文字幕一区二区三区有码在线看 | 精品久久蜜臀av无| bbb黄色大片| 欧美另类亚洲清纯唯美| 级片在线观看| 中文字幕高清在线视频| 亚洲最大成人中文| 国产99白浆流出| 韩国精品一区二区三区| 日韩 欧美 亚洲 中文字幕| 国产91精品成人一区二区三区| 哪里可以看免费的av片| 日本免费a在线| 欧美黑人巨大hd| aaaaa片日本免费| 国产片内射在线| 日日爽夜夜爽网站| 美女国产高潮福利片在线看| 亚洲国产欧美日韩在线播放| 国产三级在线视频| 深夜精品福利| 91成年电影在线观看| 色播亚洲综合网| 欧美色视频一区免费| 熟女少妇亚洲综合色aaa.| 精品国内亚洲2022精品成人| 波多野结衣巨乳人妻| 亚洲专区字幕在线| 变态另类成人亚洲欧美熟女| 亚洲精品中文字幕在线视频| 午夜福利在线在线| 日本 av在线| videosex国产| 一级片免费观看大全| 日本一区二区免费在线视频| 午夜久久久在线观看| 麻豆一二三区av精品| 国产精品国产高清国产av| 日本黄色视频三级网站网址| 色在线成人网| 午夜a级毛片| 老汉色av国产亚洲站长工具| 亚洲av日韩精品久久久久久密| 欧美久久黑人一区二区| 日韩欧美在线二视频| 免费在线观看日本一区| 在线国产一区二区在线| 又黄又爽又免费观看的视频| 成人国产综合亚洲| 妹子高潮喷水视频| 欧美+亚洲+日韩+国产| 国产主播在线观看一区二区| 久久99热这里只有精品18| 国产一区二区激情短视频| 91av网站免费观看| www.www免费av| tocl精华| 99在线视频只有这里精品首页| 热99re8久久精品国产| 午夜久久久在线观看| 精品久久久久久久人妻蜜臀av| netflix在线观看网站| 国产乱人伦免费视频| 亚洲熟女毛片儿| 日韩精品青青久久久久久| 亚洲精品久久成人aⅴ小说| 美女高潮喷水抽搐中文字幕| 国产精品久久久久久精品电影 | 欧美丝袜亚洲另类 | 中文字幕精品免费在线观看视频| 免费在线观看视频国产中文字幕亚洲| 777久久人妻少妇嫩草av网站| ponron亚洲| 国产精品香港三级国产av潘金莲| 亚洲成av片中文字幕在线观看| 国产精品av久久久久免费| 欧美成人一区二区免费高清观看 | 国产高清videossex| 啦啦啦观看免费观看视频高清| 欧美性长视频在线观看| 久久久久久九九精品二区国产 | 啦啦啦免费观看视频1| 黄色视频,在线免费观看| 亚洲成av人片免费观看| √禁漫天堂资源中文www| 亚洲专区字幕在线| 91字幕亚洲| 99精品欧美一区二区三区四区| 两个人视频免费观看高清| 女警被强在线播放| 久久热在线av| 亚洲一区中文字幕在线| 国产精品久久久久久亚洲av鲁大| 久久精品影院6| 一边摸一边抽搐一进一小说| 欧美丝袜亚洲另类 | 波多野结衣巨乳人妻| 亚洲成人免费电影在线观看| 日韩精品免费视频一区二区三区| 免费高清在线观看日韩| 久久久国产成人免费| 亚洲欧美精品综合久久99| 黄色a级毛片大全视频| 少妇 在线观看| 午夜福利18| 美女高潮到喷水免费观看| 99国产精品一区二区蜜桃av| 很黄的视频免费| 脱女人内裤的视频| 亚洲中文字幕日韩| 一区福利在线观看| a级毛片a级免费在线| 俺也久久电影网| 可以免费在线观看a视频的电影网站| 香蕉久久夜色| 欧美+亚洲+日韩+国产| 欧美黄色片欧美黄色片| 久久亚洲真实| 少妇的丰满在线观看| 男男h啪啪无遮挡| 久久久久久人人人人人| www.999成人在线观看| 色精品久久人妻99蜜桃| 成人三级做爰电影| 国产亚洲精品一区二区www| 久久精品91蜜桃| av在线播放免费不卡| 亚洲七黄色美女视频| 在线观看免费午夜福利视频| 午夜久久久久精精品| 美女国产高潮福利片在线看| 日本成人三级电影网站| 日韩欧美 国产精品| 村上凉子中文字幕在线| 男女做爰动态图高潮gif福利片| 久久久精品欧美日韩精品| 久久久国产成人免费| 日韩欧美国产在线观看| 一级a爱视频在线免费观看| 国产高清激情床上av| 99国产精品一区二区蜜桃av| 成年免费大片在线观看| 亚洲精品av麻豆狂野| 老熟妇仑乱视频hdxx| 天堂√8在线中文| 国产成人影院久久av| 国产成人欧美在线观看| 91在线观看av| 欧美激情高清一区二区三区| 国产成人av教育| 九色国产91popny在线| 黄网站色视频无遮挡免费观看| 香蕉av资源在线| 这个男人来自地球电影免费观看| 成熟少妇高潮喷水视频| 白带黄色成豆腐渣| 国产野战对白在线观看| 嫩草影院精品99| 女警被强在线播放| 久久午夜综合久久蜜桃| 少妇 在线观看| 亚洲男人天堂网一区| 男女视频在线观看网站免费 | 首页视频小说图片口味搜索| 91在线观看av| 国产男靠女视频免费网站| 黄色视频,在线免费观看| 两人在一起打扑克的视频| 亚洲av成人一区二区三| 成人av一区二区三区在线看| 国产私拍福利视频在线观看| 桃红色精品国产亚洲av| 一级毛片女人18水好多| 久久久久久人人人人人| 欧美激情极品国产一区二区三区| 99久久国产精品久久久| 成人永久免费在线观看视频| 极品教师在线免费播放| 视频在线观看一区二区三区| 男女那种视频在线观看| 999久久久精品免费观看国产| 免费高清视频大片| 免费在线观看黄色视频的| 国产成人精品久久二区二区免费| 国产精品久久久久久亚洲av鲁大| 亚洲av电影在线进入| 桃色一区二区三区在线观看| 香蕉久久夜色| 欧美黑人精品巨大| 一个人观看的视频www高清免费观看 | 夜夜爽天天搞| 色尼玛亚洲综合影院| 中文亚洲av片在线观看爽| www.999成人在线观看| 国产熟女午夜一区二区三区| 人妻丰满熟妇av一区二区三区| 18禁观看日本| 黄色视频,在线免费观看| 国产亚洲欧美精品永久| 久久国产精品影院| 亚洲激情在线av| 一级作爱视频免费观看| 久久久久久久久中文| 亚洲成人精品中文字幕电影| 18禁美女被吸乳视频| 国产av一区在线观看免费| 成人特级黄色片久久久久久久| 欧美性猛交黑人性爽| 久久精品国产99精品国产亚洲性色| 激情在线观看视频在线高清| 色综合亚洲欧美另类图片| 两性夫妻黄色片| 波多野结衣巨乳人妻| 97人妻精品一区二区三区麻豆 | 亚洲第一欧美日韩一区二区三区| 老熟妇乱子伦视频在线观看| 欧美黄色片欧美黄色片| 操出白浆在线播放| 国产成+人综合+亚洲专区| 亚洲片人在线观看| 男人的好看免费观看在线视频 | 人人妻人人看人人澡| 日本 av在线| 一边摸一边抽搐一进一小说| 国产在线精品亚洲第一网站| 999久久久精品免费观看国产| 黄色视频不卡| 免费在线观看成人毛片| 无限看片的www在线观看| 久久国产精品男人的天堂亚洲| 国产成人影院久久av| 国产1区2区3区精品| 色在线成人网| www.www免费av| 久久 成人 亚洲| 一级a爱片免费观看的视频| 日本 欧美在线| 久久久精品国产亚洲av高清涩受| 欧美激情高清一区二区三区| 久久精品人妻少妇| 91老司机精品| 后天国语完整版免费观看| 欧美性猛交╳xxx乱大交人| 亚洲精品中文字幕一二三四区| 国产成人av教育| 日韩国内少妇激情av| 国产精品二区激情视频| 亚洲欧美激情综合另类| 欧美不卡视频在线免费观看 | 国产精品一区二区三区四区久久 | 久久精品国产综合久久久| 国内揄拍国产精品人妻在线 | 亚洲人成伊人成综合网2020| 色综合婷婷激情| 18禁观看日本| 欧美黑人欧美精品刺激| x7x7x7水蜜桃| 色老头精品视频在线观看| 亚洲av美国av| 夜夜夜夜夜久久久久| 麻豆成人av在线观看| 国产一区二区激情短视频| 99久久综合精品五月天人人| 精品国产超薄肉色丝袜足j| 露出奶头的视频| 伦理电影免费视频| ponron亚洲| 99国产精品一区二区蜜桃av| 精品国内亚洲2022精品成人| 亚洲欧美日韩无卡精品| 一本久久中文字幕| 亚洲av成人一区二区三| 久久精品91蜜桃| 视频区欧美日本亚洲| 午夜久久久在线观看| 亚洲全国av大片| 亚洲黑人精品在线| 人妻丰满熟妇av一区二区三区| 男女午夜视频在线观看| 国产亚洲av嫩草精品影院| 国产精品亚洲美女久久久| 欧美黄色片欧美黄色片| 国产精品亚洲av一区麻豆| 亚洲五月色婷婷综合| 成人免费观看视频高清| 欧美另类亚洲清纯唯美| 18禁观看日本| 亚洲国产欧美一区二区综合| 真人做人爱边吃奶动态| 日本 av在线| 无人区码免费观看不卡| 国产精品一区二区精品视频观看| 国产三级黄色录像| 国产激情久久老熟女| 国内少妇人妻偷人精品xxx网站 | 欧美精品啪啪一区二区三区| 天堂动漫精品| 成人亚洲精品av一区二区| 成人av一区二区三区在线看| 欧美zozozo另类| 色综合婷婷激情| 亚洲成人国产一区在线观看| 亚洲免费av在线视频| 久热爱精品视频在线9| 亚洲人成77777在线视频| 一本精品99久久精品77| 色在线成人网| 男人的好看免费观看在线视频 | 欧美乱色亚洲激情| 99热只有精品国产| 精品欧美一区二区三区在线| 午夜视频精品福利| 精品免费久久久久久久清纯| 怎么达到女性高潮| 亚洲片人在线观看| x7x7x7水蜜桃| 身体一侧抽搐| 亚洲黑人精品在线| 久久精品国产综合久久久| 99热只有精品国产| 一卡2卡三卡四卡精品乱码亚洲| 亚洲 国产 在线| 中国美女看黄片| 岛国在线观看网站| 亚洲中文av在线| 黑人欧美特级aaaaaa片| www日本黄色视频网| 99热6这里只有精品| 亚洲成人免费电影在线观看| 亚洲av第一区精品v没综合| 丁香六月欧美| 国产欧美日韩一区二区三| 免费看日本二区| 午夜福利高清视频| 男人的好看免费观看在线视频 | 国产乱人伦免费视频| 免费高清在线观看日韩| 国产在线精品亚洲第一网站| 亚洲精品久久成人aⅴ小说| 免费在线观看亚洲国产| 黑人巨大精品欧美一区二区mp4| 久久久精品欧美日韩精品| 中文字幕久久专区| 午夜a级毛片| aaaaa片日本免费| 亚洲中文字幕日韩| 一本大道久久a久久精品| 亚洲三区欧美一区| 99久久无色码亚洲精品果冻| 老司机深夜福利视频在线观看| 国产黄a三级三级三级人| www.精华液| 男人舔奶头视频| 两性夫妻黄色片| 一二三四在线观看免费中文在| 免费女性裸体啪啪无遮挡网站| 免费一级毛片在线播放高清视频| 一进一出好大好爽视频| 国产v大片淫在线免费观看| av天堂在线播放| 国产熟女午夜一区二区三区| 国产乱人伦免费视频| 18禁美女被吸乳视频| 9191精品国产免费久久| 深夜精品福利| www.熟女人妻精品国产| 一区二区日韩欧美中文字幕| www国产在线视频色| 97碰自拍视频| 午夜精品久久久久久毛片777| 亚洲中文字幕日韩| 精品久久久久久久末码| 亚洲va日本ⅴa欧美va伊人久久| 天天添夜夜摸| 国产成人精品久久二区二区免费| 一二三四社区在线视频社区8| 一本精品99久久精品77| 亚洲精品久久成人aⅴ小说| 校园春色视频在线观看| 国产又爽黄色视频| 久久精品国产99精品国产亚洲性色| 国内少妇人妻偷人精品xxx网站 | 99久久久亚洲精品蜜臀av| 亚洲精华国产精华精| 婷婷亚洲欧美| 国产高清有码在线观看视频 | 国产单亲对白刺激| av天堂在线播放| 国产成人一区二区三区免费视频网站| 欧美三级亚洲精品| 又大又爽又粗| 激情在线观看视频在线高清| 香蕉丝袜av| 91在线观看av| av在线天堂中文字幕| 一级毛片高清免费大全| 成人免费观看视频高清| 久久 成人 亚洲| 亚洲精品国产精品久久久不卡| 日本一本二区三区精品| 18禁国产床啪视频网站| 国内久久婷婷六月综合欲色啪| 日韩欧美一区视频在线观看| 精品欧美一区二区三区在线| 天天躁狠狠躁夜夜躁狠狠躁| 桃色一区二区三区在线观看| 久久人人精品亚洲av| 国产视频内射| 2021天堂中文幕一二区在线观 | 男人舔奶头视频| 三级毛片av免费| 亚洲专区中文字幕在线| 欧美日韩福利视频一区二区| 亚洲成人久久性| 国产色视频综合| 身体一侧抽搐| 国产真实乱freesex| 久久人妻av系列| 国产av一区二区精品久久| 午夜久久久在线观看| 日韩欧美一区视频在线观看| 欧洲精品卡2卡3卡4卡5卡区| 久久99热这里只有精品18| 黄色丝袜av网址大全| 久久精品国产亚洲av香蕉五月| svipshipincom国产片| 手机成人av网站| 欧美性猛交黑人性爽| 亚洲av片天天在线观看| 亚洲无线在线观看| 波多野结衣巨乳人妻| 亚洲狠狠婷婷综合久久图片| 久久精品亚洲精品国产色婷小说| 99国产综合亚洲精品| 日韩国内少妇激情av| 亚洲一码二码三码区别大吗| 亚洲色图av天堂| 久久久久久久精品吃奶| 精品福利观看| 中国美女看黄片| 亚洲三区欧美一区| 成年人黄色毛片网站| 成人av一区二区三区在线看| 精品熟女少妇八av免费久了| 91字幕亚洲| 久久久久久亚洲精品国产蜜桃av| 亚洲自拍偷在线| 女人被狂操c到高潮| 美女午夜性视频免费| 一卡2卡三卡四卡精品乱码亚洲| avwww免费| 亚洲第一电影网av| 深夜精品福利| 看免费av毛片| 国产亚洲欧美在线一区二区| 人人妻人人看人人澡| 亚洲九九香蕉| 欧美激情久久久久久爽电影| a级毛片在线看网站| 又紧又爽又黄一区二区| 成人手机av| 天天躁夜夜躁狠狠躁躁| 在线看三级毛片| 久久国产精品男人的天堂亚洲| 国产久久久一区二区三区| 久久99热这里只有精品18| 久久热在线av| 国产一区二区激情短视频| 久久久久久久久中文| 丝袜美腿诱惑在线| www日本在线高清视频| av超薄肉色丝袜交足视频| 熟女电影av网| 操出白浆在线播放| 国产野战对白在线观看| 色综合欧美亚洲国产小说| 国产av一区二区精品久久| 日本一本二区三区精品| 19禁男女啪啪无遮挡网站| 精品国产国语对白av| 亚洲七黄色美女视频| 又紧又爽又黄一区二区| 真人一进一出gif抽搐免费| 999久久久国产精品视频| 97超级碰碰碰精品色视频在线观看| 啦啦啦免费观看视频1| 日本三级黄在线观看| 亚洲男人天堂网一区| 中文字幕高清在线视频| 国产精品自产拍在线观看55亚洲| 亚洲一区二区三区不卡视频| 国产高清有码在线观看视频 | 亚洲欧洲精品一区二区精品久久久| 日韩欧美三级三区| 91老司机精品| 亚洲av电影在线进入| 激情在线观看视频在线高清| av超薄肉色丝袜交足视频|