• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論智能算法時代下的個人數(shù)據(jù)保護(hù)

    2022-11-13 12:06:01陳宇超陳宇卓
    對外經(jīng)貿(mào) 2022年2期
    關(guān)鍵詞:算法用戶信息

    陳宇超 陳宇卓

    (1.上海對外經(jīng)貿(mào)大學(xué) 法學(xué)院,上海 200000;2.桂林理工大學(xué) 旅游與風(fēng)景園林學(xué)院,廣西 桂林 541000)

    一、算法數(shù)據(jù)獲取概述

    (一)問題的提出:智能算法對信息保護(hù)帶來全新挑戰(zhàn)

    人工智能算法在網(wǎng)絡(luò)領(lǐng)域廣為應(yīng)用,相關(guān)程序下載安裝后若想要使用,就必須同意服務(wù)商所預(yù)先擬定好的協(xié)議,其中包括獲取與程序功能本身并無關(guān)聯(lián)的通訊錄、短消息等信息權(quán)限。相關(guān)程序運行時,不僅通過收集用戶的搜索歷史、瀏覽內(nèi)容等信息來定期推送關(guān)聯(lián)廣告,而且也會將用戶的偏好信息傳遞給其他同類或關(guān)聯(lián)應(yīng)用程序。甚至存在即使沒有打開該應(yīng)用程序,其本身也會自動收集用戶日常交流中內(nèi)容的情況,軟件會對關(guān)鍵內(nèi)容進(jìn)行提取,待用戶下次啟用App 時予以廣告推送。公共領(lǐng)域中,部分商場、車行會依據(jù)店內(nèi)安裝的攝像頭,借助網(wǎng)絡(luò)、人像識別、大數(shù)據(jù)等技術(shù)知曉某位客戶之前去過的商家、來店次數(shù)、購買歷史等信息,以此區(qū)別對待,提供不同的服務(wù)。

    “智造時代”,在數(shù)據(jù)驅(qū)動的經(jīng)濟(jì)中,個人信息通常被認(rèn)為是“免費”的數(shù)字服務(wù),同時客戶數(shù)據(jù)已經(jīng)被視為商業(yè)資產(chǎn)。算法以及人工智能的應(yīng)用的確使用戶更方便地獲取到信息,對網(wǎng)絡(luò)服務(wù)商來說也提高了推送效率。但這種近乎強(qiáng)制的服務(wù)條款、不加限制的網(wǎng)絡(luò)公司之間的信息共享制度、難以發(fā)覺的信息獲取手段也使公民個人隱私保護(hù)受到新式威脅。

    算法侵權(quán)的對象是公民的個人數(shù)據(jù)或個人隱私。我國《網(wǎng)絡(luò)安全法》第76 條第五款、《個人信息保護(hù)法》第四條第一款、美國SP 800-122《保護(hù)個人身份信息的保密指南》等法條都將判斷個人信息的關(guān)鍵規(guī)定為信息是否具有與個人身份之間的特殊關(guān)聯(lián)性。但這種關(guān)聯(lián)性其實屬于一種強(qiáng)關(guān)聯(lián)性。而網(wǎng)絡(luò)環(huán)境下,個人數(shù)據(jù)的范圍正呈現(xiàn)一種擴(kuò)大化的態(tài)勢,網(wǎng)絡(luò)服務(wù)商獲取的信息用途并不一定能夠直接或間接與用戶身份相匹配,即用戶的個人具體身份屬性并不一定是服務(wù)商想要獲取的內(nèi)容,而其關(guān)注的是用戶搜索習(xí)慣、瀏覽愛好等,這種弱關(guān)聯(lián)性能否被現(xiàn)有法條所囊括至關(guān)重要。

    (二)算法數(shù)據(jù)獲取的特點

    1.授權(quán)強(qiáng)制性

    一般在應(yīng)用程序首次使用時,程序取得用戶信息使用許可有兩種方式:一是在登陸時要求用戶同意相關(guān)服務(wù)協(xié)議,在服務(wù)協(xié)議內(nèi)部設(shè)有專門的信息獲取條款,用戶在勾選同意協(xié)議即代表對內(nèi)部所有規(guī)定的同意;二是在首次進(jìn)入程序內(nèi)部后,系統(tǒng)會自動彈窗直接要求取得相關(guān)功能的權(quán)限如通訊錄、相機(jī)、短信等。無論是哪一種形式,服務(wù)商對于信息獲取都沒有做到足夠的提醒義務(wù),在第一種服務(wù)協(xié)議模式里,服務(wù)協(xié)議條款過于復(fù)雜冗長,但涉及用戶信息獲取的內(nèi)容并沒有做到明顯有效的標(biāo)注,并且用戶通常為了使用該應(yīng)用程序也幾乎不會點開協(xié)議鏈接查看具體內(nèi)容;而第二種形式中更是只說明要求取得手機(jī)相關(guān)功能的授權(quán),卻沒有說明獲取信息的授權(quán)。當(dāng)然其中最關(guān)鍵的還是如果用戶不同意服務(wù)協(xié)議或拒絕授權(quán)相關(guān)功能使用,就會導(dǎo)致用戶無法使用該應(yīng)用程序或?qū)е鲁绦蛑苯油顺?。在公共領(lǐng)域,幾乎無處不在的攝像頭更是不會經(jīng)過他人同意就能夠獲取他人的人像、位置等信息,不存在需要獲取對象的授權(quán)且實際應(yīng)用當(dāng)中也的確無法設(shè)置相應(yīng)的授權(quán)程序,這種不加約束的信息獲取已經(jīng)遠(yuǎn)遠(yuǎn)超出了一般自然人能夠控制和約束的范圍。

    2.途徑隱秘性

    傳統(tǒng)侵害隱私權(quán)的形式較為單一,比如未經(jīng)允許私自進(jìn)入他人生活、工作空間,通過偷窺、跟蹤等方法獲取他人信息、隱私。其需要行為人通過切實地與獲取對象或獲取對象的信息接觸才能夠取得。與傳統(tǒng)收集個人信息的方式不同,人工智能通過各種端口侵入個人生活,收集個人信息。會在用戶使用過程中憑借已經(jīng)獲得的權(quán)限,直接拉取手機(jī)系統(tǒng)存儲、應(yīng)用程序使用記錄等信息。上述過程不僅用戶無法發(fā)現(xiàn),系統(tǒng)也不會有任何提醒。另一方面,公共場所內(nèi)的攝像頭通過網(wǎng)絡(luò)與中央計算機(jī)連接,不僅能夠知曉目標(biāo)的位置、人像,還能夠使用計算機(jī)算法與數(shù)據(jù)庫中的既有信息進(jìn)行匹配,以獲得關(guān)于目標(biāo)的更多信息。通常情況下,即使發(fā)現(xiàn)攝像頭的存在,但對其是否會獲取自己的信息以及獲取的內(nèi)容、時間等均不得而知。相比傳統(tǒng)信息獲取方式,在網(wǎng)絡(luò)和算法的加持下,信息的選擇、收集、匹配、分析、儲存等程序十分完備,計算機(jī)運算速度的提高也使得整個過程更加高效,同時所有的流程都在后臺完成,這種遠(yuǎn)程的、虛擬的或是無接觸的手段也使其更加難以被察覺。這就意味著,此類侵權(quán)手段造成的實際侵害時間更長、影響更大,糾紛解決時的舉證證明也會更加困難。

    3.獲取內(nèi)容廣泛性

    內(nèi)容廣泛性包括獲取到的信息形式廣泛性和侵權(quán)領(lǐng)域的廣泛性兩方面。一方面,智能算法能夠收集的數(shù)據(jù)并不局限于一般的文字形式,聲音、圖片、視頻等多種類型信息都已囊括其中,更重要的軟件還能夠通過算法的識別、分析等處理后將其包含的內(nèi)容反映出來。另一方面,雖然網(wǎng)絡(luò)服務(wù)提供商可以在不損害他人合法利益的情況下,通過算法的使用來為用戶提供更優(yōu)質(zhì)好的服務(wù),或與政府部門建立相應(yīng)的系統(tǒng)保護(hù)公民人身、財產(chǎn)安全。但移動支付在國內(nèi)的普及使個人信息與銀行卡直接綁定,通過取得用戶信息就可以直接進(jìn)入支付平臺,這與線下侵權(quán)需要實際取得銀行卡及所有人的身份證明具有明顯不同。用戶信息和多種互聯(lián)網(wǎng)金融平臺、信息存儲中介的緊密關(guān)聯(lián)導(dǎo)致信息泄露內(nèi)容已不僅僅是日常隱私的范圍,更可能會涉及財產(chǎn)權(quán)領(lǐng)域。

    二、算法應(yīng)用下的具體侵權(quán)問題

    結(jié)合理論、法條和實踐,算法可能因為運用算法主體的不同、算法針對對象的不同,以及算法所涉及問題的不同而具有不同的性質(zhì)??梢詫⑺惴〝?shù)據(jù)獲取行為以行為主體進(jìn)行劃分。公主體的獲取和使用即政府有關(guān)部門或機(jī)關(guān),因公共利益的需要,例如通過聯(lián)網(wǎng)的監(jiān)控設(shè)備及其內(nèi)部算法識別并獲取行為人的相關(guān)信息。而私主體的獲取及使用則是一般網(wǎng)絡(luò)公司、服務(wù)商在提供網(wǎng)絡(luò)服務(wù)過程中對用戶的收集和使用。

    (一)公主體數(shù)據(jù)獲取不違法但應(yīng)建立必要制約機(jī)制

    公主體的使用即主要由公安、國安部門以及其他有關(guān)政府單位利用有關(guān)技術(shù)和設(shè)備來保障公民權(quán)利、維護(hù)公共治安。我國社會秩序良好,公安偵破效率逐漸提高,這與公安全國聯(lián)網(wǎng)的攝像頭監(jiān)控系統(tǒng)密不可分。同時,公安部門的防詐騙系統(tǒng)也在案件數(shù)量多、涉案金額大的電信詐騙領(lǐng)域有效運轉(zhuǎn),該系統(tǒng)能在行為人與受害人的通話、聊天中,使用算法識別語音、文字中的關(guān)鍵詞,并及時通過電話、短信等方式提醒受害人,避免損失的發(fā)生或擴(kuò)大。但也正是如此,會讓人不免產(chǎn)生自己的人像、位置等信息是否會被攝像頭記錄,電話、聊天是否會被公安部門監(jiān)聽、監(jiān)控的擔(dān)憂。我國的現(xiàn)行制度體系中,政府對公民信息的采集運用的是計算機(jī)技術(shù),是由先前編寫的算法程序?qū)π畔⑦M(jìn)行獨立處理,且政府部門的工作人員無法與公民信息直接接觸,政府信息采集的目的也是為了保護(hù)公民權(quán)利?!吨腥A人民共和國數(shù)據(jù)安全法》(下文簡稱數(shù)據(jù)安全法)第三十五、三十八條也可以看出,我國的立法方向也是允許在一定情況下政府部門有權(quán)獲取相應(yīng)數(shù)據(jù)。

    (二)私主體數(shù)據(jù)獲取行為普遍,用戶權(quán)利救濟(jì)困難

    1.現(xiàn)有法律有待繼續(xù)完善

    私主體的使用也是現(xiàn)階段主要的公民信息獲取主體,相比公主體的使用也更容易出現(xiàn)算法侵權(quán)和信息安全問題?!毒W(wǎng)絡(luò)安全法》第41—45 條從收集、提供、數(shù)據(jù)保護(hù)等角度對網(wǎng)絡(luò)運營者以及其他組織責(zé)任主體提出了一定的要求。《民法典》第1035—1039 條、以及《刑法》第253 條侵犯公民個人信息罪也有部分規(guī)定。2019 年發(fā)布實施的《App 違法違規(guī)收集使用個人信息行為認(rèn)定方法》對網(wǎng)絡(luò)環(huán)境下授權(quán)協(xié)議中的表述形式、告知形式、獲取范圍等問題作出了更為全面的回應(yīng)。2021 年發(fā)布的《移動互聯(lián)網(wǎng)應(yīng)用程序個人信息保護(hù)管理暫行規(guī)定(征求意見稿)》(下文簡稱《規(guī)定》)第三條和第七條對App 獲取用戶授權(quán)進(jìn)行了更為有力的規(guī)定,要求應(yīng)用程序不得以用戶拒絕授權(quán)就強(qiáng)制退出程序的方式逼迫用戶進(jìn)行授權(quán)。最新《個人信息保護(hù)法》的正式出臺為個人信息、數(shù)據(jù)的保護(hù)提供了較為系統(tǒng)的保護(hù)制度,以第24 條為代表的“自動化決策”也對網(wǎng)絡(luò)環(huán)境中出現(xiàn)的問題予以回應(yīng),這些能夠反映出我國司法系統(tǒng)對產(chǎn)業(yè)發(fā)展進(jìn)程中諸多熱點問題的關(guān)注。

    2.用戶個人舉證困難

    在現(xiàn)有“誰主張誰舉證”的舉證責(zé)任下,用戶需要對網(wǎng)絡(luò)服務(wù)商的侵權(quán)行為進(jìn)行舉證。但首先用戶對相關(guān)計算機(jī)技術(shù)并不了解,對法律上哪些內(nèi)容可以作為證據(jù)且證明力較強(qiáng)并不知曉。其次,基于算法數(shù)據(jù)收集、傳遞的隱秘性,用戶無法在被侵權(quán)后及時了解自己具體受損的時間和內(nèi)容,時間的拖延可能會使部分的數(shù)據(jù)資料因電子信息儲存時間的問題而滅失。同時,現(xiàn)階段對于獲取到的數(shù)據(jù)會直接保存在網(wǎng)絡(luò)服務(wù)商的服務(wù)器內(nèi)部,用戶無法直接調(diào)取內(nèi)部有關(guān)記錄,這也進(jìn)一步增加了用戶調(diào)取證據(jù)進(jìn)行舉證的難度。

    3.賠償主體范圍、責(zé)任關(guān)系有待進(jìn)一步確定

    算法數(shù)據(jù)獲取的侵權(quán)行為現(xiàn)階段多主張依據(jù)產(chǎn)品責(zé)任來確定侵權(quán)的實際主體。對這種歸責(zé)模式來說只是將算法的開發(fā)者納入其中,但對于數(shù)據(jù)的傳遞、處理、使用過程中其他參與、輔助主體沒有納入到責(zé)任承擔(dān)的范圍之內(nèi)。而實際侵權(quán)問題的產(chǎn)生很大程度上就是源自對數(shù)據(jù)的加工處理和傳遞使用。因此如何將其他參與者也納入到責(zé)任承擔(dān)的范圍之內(nèi),規(guī)范相應(yīng)行為對用戶的數(shù)據(jù)安全和權(quán)利保護(hù)十分必要?!兑?guī)定》第十一條、十二條、十三條分別加入了App 第三方服務(wù)提供者、移動智能終端生產(chǎn)企業(yè)、網(wǎng)絡(luò)接入服務(wù)提供者以及從事App個人信息處理活動相關(guān)主體的義務(wù)??梢钥闯鑫覈烧粩鄶U(kuò)大對個人數(shù)據(jù)的保護(hù)。

    4.現(xiàn)有規(guī)制方法有待進(jìn)一步加強(qiáng)

    傳統(tǒng)理論中算法公開是規(guī)制算法數(shù)據(jù)獲取的主要行為之一。但在實際應(yīng)用過程中,算法公開并不能達(dá)到有效的規(guī)制作用。一方面,即使在算法公開的情況下,算法的開發(fā)者也僅僅會公開算法計算機(jī)代碼本身,而對于代碼的含義以及算法運行模式、運算結(jié)果等關(guān)鍵內(nèi)容都不會有詳細(xì)的解釋和說明。在這樣的背景下,公開算法的源代碼和架構(gòu)并無太多意義,因為公開并不能提供有效的對算法的說明。代碼的公開對一般用戶來說并不會產(chǎn)生實際的意義,用戶依舊不了解該算法代表著什么。另一方面,為了算法運行的準(zhǔn)確性和高效性,越為智能的算法其復(fù)雜程度也必然更大,這也大大增加了研究算法本身的難度。

    三、構(gòu)建公主體、私主體、國內(nèi)、國際全方位個人數(shù)據(jù)保護(hù)機(jī)制

    (一)擴(kuò)大政府信息公開范圍,細(xì)化公開內(nèi)容

    在公主體數(shù)據(jù)獲取不認(rèn)定為違法的前提下,對公主體信息獲取的監(jiān)督需要從事前事后兩方面進(jìn)行?!稊?shù)據(jù)安全法》第三十五條也明確提出:“有關(guān)機(jī)關(guān)應(yīng)當(dāng)按照國家規(guī)定和批準(zhǔn)手續(xù)進(jìn)行”。但該條只在宏觀角度作出原則性規(guī)定,并沒有具體到應(yīng)當(dāng)按照何種規(guī)定和手續(xù)規(guī)范政府行為。

    因此在現(xiàn)有法律法規(guī)對政府部門的數(shù)據(jù)獲取沒有細(xì)化規(guī)則的情況下,有必要盡快通過部門規(guī)章等形式明確公權(quán)力主體信息收集的方式、程序、安全保障制度等。例如在獲取方式上只能通過公共場所設(shè)置的監(jiān)控攝像頭、身份識別系統(tǒng)等獲取公民的數(shù)據(jù)信息;在程序上應(yīng)當(dāng)在系統(tǒng)、程序安裝運行之前先上報有關(guān)上級機(jī)構(gòu),對應(yīng)用范圍、對象、使用周期、獲取內(nèi)容等關(guān)鍵要素提前進(jìn)行登記備案,其后應(yīng)當(dāng)按照應(yīng)用領(lǐng)域及時健全數(shù)據(jù)的儲存或刪除機(jī)制;構(gòu)建法律約束體系,不僅僅是規(guī)制政府行為、保護(hù)公民合法權(quán)益,也是在配合相關(guān)法律在實踐當(dāng)中的具體應(yīng)用。除此之外,考慮到數(shù)據(jù)獲取的對象是特定的社會公民,應(yīng)適當(dāng)將信息獲取的數(shù)量、用途等關(guān)鍵問題納入政府信息公開的范圍,由政府主動或是依公民申請后公開,建立社會監(jiān)督體制,保障公民對個人數(shù)據(jù)去向、用途最基本的知情權(quán)。從兩方面設(shè)置由法律規(guī)制和社會制約構(gòu)成的雙保險。最后,公主體收集的個人信息在懲處、調(diào)控、監(jiān)管方面具體應(yīng)遵循哪些法律適用還需進(jìn)一步明確,即針對獲取數(shù)據(jù)后,根據(jù)數(shù)據(jù)進(jìn)行的執(zhí)法程序也要進(jìn)一步細(xì)化。與信息類型多樣相對應(yīng)的,在法律適用層面也應(yīng)靈活、變通,不能單純依靠某一法律條文而對行為人的行為判定違法,例如在舉證責(zé)任、證據(jù)類型、證明標(biāo)準(zhǔn)等方面均需要在現(xiàn)有制度體系上進(jìn)行一定的調(diào)整,或者對數(shù)據(jù)本身根據(jù)現(xiàn)有的證據(jù)類型進(jìn)行一定的轉(zhuǎn)化。

    (二)規(guī)范上下游關(guān)聯(lián)行為

    在前述數(shù)據(jù)獲取算法的整個開發(fā)過程中,政府部門一般會委托專業(yè)網(wǎng)絡(luò)科技公司參與前期的研發(fā)工作,且系統(tǒng)運行后的運營、管理、維護(hù)工作也會需要相關(guān)公司的參與。考慮到相關(guān)技術(shù)具有用途上、功能上的特殊性,有必要對上下游的開發(fā)及輔助管理活動進(jìn)行監(jiān)管。即便在有知識產(chǎn)權(quán)保護(hù)制度的情況下,也可能出現(xiàn)網(wǎng)絡(luò)科技公司對先前技術(shù)進(jìn)行改進(jìn),或以此為基礎(chǔ)另行開發(fā)新系統(tǒng)后自己使用或轉(zhuǎn)賣他人;此類公司在后期運營維管中,也可能存在服務(wù)器入侵、數(shù)據(jù)盜用等問題,這些都會給公民的數(shù)據(jù)安全造成隱患,且相較直接泄漏數(shù)據(jù),技術(shù)外泄導(dǎo)致的損害結(jié)果可能會更為嚴(yán)重。從《數(shù)據(jù)安全法》第四十條可以看出,國家在制定法律時也已注意到與政府部門相接觸的其他主體可能會出現(xiàn)數(shù)據(jù)盜用、數(shù)據(jù)泄漏等安全問題。但該條只片面關(guān)注了數(shù)據(jù)本身。相比直接針對數(shù)據(jù)本身加工、儲存的法律規(guī)制,更應(yīng)當(dāng)從根本上解決關(guān)聯(lián)方對數(shù)據(jù)本身處理行為之外的數(shù)據(jù)獲取載體——算法,以及儲存介質(zhì)、管理環(huán)節(jié)中的安全問題??梢钥紤]提前與相關(guān)主體簽訂保密協(xié)議、算法開源以及程序公開等方法,將數(shù)據(jù)系統(tǒng)的控制掌握在公權(quán)力部門手中。在后期運營管理中也要與其他一般數(shù)據(jù)相分離。例如設(shè)立專用服務(wù)器并增加必要的特殊防火墻系統(tǒng);專業(yè)人員進(jìn)行維護(hù)、管理時,應(yīng)當(dāng)先經(jīng)過公權(quán)力主體的授權(quán)并進(jìn)行必要的記錄。另外,相較于人工直接操作系統(tǒng),嘗試計算機(jī)智能管理軟件的介入會使得這一過程更加穩(wěn)健。因為沒有對外授予操作權(quán)限,整個運行過程可以通過程序代碼一目了然,也就避免了人工操作的種種弊端。例如在企業(yè)會計領(lǐng)域應(yīng)用的智能財務(wù)軟件,就在一定程度上規(guī)避了由于員工利益驅(qū)動而導(dǎo)致信息泄漏和數(shù)據(jù)造假的問題。最后,在相關(guān)企業(yè)內(nèi)部設(shè)立監(jiān)督崗位,直接派駐政府人員或獨立第三人負(fù)責(zé)相關(guān)業(yè)務(wù)的監(jiān)管工作也是一個較為可行的方法。但是在這一過程中,一是要明確該崗位所處的管理層級和管理幅度,保證崗位具有監(jiān)督實權(quán),有條件切實履行崗位職責(zé);二是要注重多方的職能劃分和權(quán)利制約,杜絕單獨受控于管理層或治理層以及崗位內(nèi)部違紀(jì)的情況,強(qiáng)化監(jiān)管信息每日上報機(jī)制,切實保證公主體對個人數(shù)據(jù)的全方位管控。

    (三)行業(yè)自律為基礎(chǔ)的同時融入監(jiān)管體制

    在外部整體行業(yè)層面,現(xiàn)階段理論中將行業(yè)自律作為私主體獲取用戶數(shù)據(jù)最主要的規(guī)制途徑,實踐當(dāng)中以中國互聯(lián)網(wǎng)協(xié)會為核心,以行政區(qū)劃為單元設(shè)立各地的二級網(wǎng)絡(luò)行業(yè)協(xié)會以及專項機(jī)構(gòu)等。但以中國互聯(lián)網(wǎng)協(xié)會協(xié)會為例,協(xié)會中的會員單位,尤其是常務(wù)理事、理事單位主要由國有電信公司、大型網(wǎng)絡(luò)科技公司、知名電子科技企業(yè)擔(dān)任,而這些單位在相關(guān)領(lǐng)域一般有較大的市場影響力,較高的行業(yè)份額。其公布的行業(yè)自律文件可以發(fā)現(xiàn),協(xié)會主要的規(guī)制領(lǐng)域在不正當(dāng)競爭、網(wǎng)絡(luò)信息內(nèi)容、網(wǎng)絡(luò)服務(wù)等方面。

    因此,行業(yè)協(xié)會內(nèi)部管理決策機(jī)制就有必要重新進(jìn)行規(guī)劃和設(shè)計??梢圆捎靡黄笠黄钡臎Q策方式,保證數(shù)量眾多的中小型企業(yè)能夠聯(lián)合發(fā)表意見、影響決策,來維護(hù)自身的合法權(quán)益;也有利于根據(jù)行業(yè)內(nèi)的廣泛共識,來排除單純根據(jù)市場份額、行業(yè)地位等因素形成大型企業(yè)對相關(guān)行業(yè)標(biāo)準(zhǔn)的掌控。另外,在行業(yè)自律的基礎(chǔ)上應(yīng)當(dāng)合理、適當(dāng)?shù)厝谌牍珯?quán)利的監(jiān)管機(jī)制,其功能不在于參與行業(yè)的未來發(fā)展以及協(xié)會的日常行政實務(wù),僅當(dāng)制定有關(guān)管理協(xié)定時作為一方主體,對涉及公民權(quán)利的普遍性問題有權(quán)要求協(xié)會盡快制定自律規(guī)范,或?qū)ΜF(xiàn)有內(nèi)容進(jìn)行一定的審查;也可以在年中、年末可要求協(xié)會提供書面報告,對信息獲取、傳遞、使用等關(guān)鍵問題也有權(quán)要求協(xié)會或主要成員單位進(jìn)行答復(fù)。

    (四)聯(lián)合企業(yè)開發(fā)設(shè)置軟硬件內(nèi)部壁壘

    當(dāng)前個人信息的侵權(quán)問題基本來自于私主體,因此如何針對第三方具有隱蔽性、廣泛性的過度數(shù)據(jù)收集行為實施有效的反制手段就顯得尤為重要。無論是上層監(jiān)管還是中層制約,都需要多方的協(xié)調(diào)和參與,還需要權(quán)衡各方的利益訴求和執(zhí)行成本。這就使得相關(guān)措施在執(zhí)行過程中存在一定的不確定性,實施的效果也受多因素影響。那么,直接從底層的個人入手,強(qiáng)化保護(hù)信息來源主體隱私的能力,成為有效且相對易于開展的解決方法。從個人入手的防侵權(quán),重點就要關(guān)注個人能夠留下包含個人隱私數(shù)據(jù)的領(lǐng)域和途徑。在當(dāng)今社會,智能手機(jī)已經(jīng)成為了個人的社交中心、信息中心、資源中心,手機(jī)內(nèi)部不但留有用戶個人主動保存的數(shù)據(jù),也有集中反映用戶個性化傾向的數(shù)據(jù)?;跀?shù)據(jù)收集過程的種種特點,要求相關(guān)企業(yè)通過手機(jī)硬件或軟件的方式,使用戶了解各種應(yīng)用程序的信息收集行為,充分掌握企業(yè)獲取信息的時間、方式、內(nèi)容、用途等等,給予用戶選擇是否允許其行為的權(quán)利。當(dāng)前的海內(nèi)外市場,相關(guān)廠商通過限制登陸、彈窗提醒、沙箱運行等方式已經(jīng)實現(xiàn)了個人隱私數(shù)據(jù)的隔離。例如,蘋果公司在2020 年六月舉行的WWDC 開發(fā)者大會上就提出了“應(yīng)用追蹤透明”(App Tracking Transparency,簡稱ATT),用戶可以選擇是否允許應(yīng)用程序追蹤或跨平臺分享個人數(shù)據(jù),并在首次使用該應(yīng)用程序時以彈窗的方式提醒用戶。且該功能屬于一個全新的框架,需要應(yīng)用程序開發(fā)者與之匹配,開發(fā)者只有獲得用戶授權(quán)后才能獲取用戶的搜索習(xí)慣、經(jīng)常關(guān)注點等內(nèi)容。該功能的推送是用戶數(shù)據(jù)保護(hù)的良好開端,勢必會推動互聯(lián)網(wǎng)信息獲取的變革。但現(xiàn)在還屬于個例,其他電子信息產(chǎn)業(yè)軟件、硬件開發(fā)公司可以以此為例,適當(dāng)情況下也可以由政府有關(guān)部門通過行政指導(dǎo)的方式,聯(lián)合企業(yè)共同構(gòu)建數(shù)據(jù)保護(hù)壁壘。

    (五)以司法解釋為主要方法,細(xì)化侵權(quán)認(rèn)定標(biāo)準(zhǔn)、舉證責(zé)任、證明標(biāo)準(zhǔn)等關(guān)鍵問題

    基于算法信息獲取的方式隱秘性、時間不定性等特點,讓用戶無法在信息獲取過程中或信息獲取完成后的適當(dāng)時間內(nèi)發(fā)現(xiàn)并舉證。無論是從時間還是技術(shù)角度,用戶都很難進(jìn)行處理,即使現(xiàn)有法條對損害賠償請求權(quán)的訴訟時效是從“知道或應(yīng)當(dāng)知道”時起算,但很有可能在用戶知曉時,因為時間過長,相關(guān)數(shù)據(jù)已經(jīng)過了服務(wù)器的存儲時間,無論是用戶還是服務(wù)商都無法再對先前的信息獲取行為進(jìn)行舉證。這就需要結(jié)合電子信息產(chǎn)業(yè)的特點作出針對性的調(diào)整,應(yīng)當(dāng)從兩方面作出細(xì)化規(guī)定。一方面,基于電子信息存儲的特點,結(jié)合數(shù)據(jù)儲存時間問題,對侵權(quán)行為“知道或應(yīng)當(dāng)知道”的一般訴訟時效起算點依舊不變,而將電子信息的一般儲存時間作為從侵權(quán)行為開始時起算的最長訴訟時效。當(dāng)然,如果侵權(quán)行為是持續(xù)存在的,如一旦使用就會獲取信息,那時效的計算將隨侵權(quán)行為的存在而重新計算。考慮到電子信息行業(yè)的更新迭代快、時間成本高的特點,最長訴訟時效的存在也沒有給網(wǎng)絡(luò)公司創(chuàng)造違法的可乘之機(jī),網(wǎng)絡(luò)公司不會冒數(shù)據(jù)無用的風(fēng)險,將數(shù)據(jù)拖延到最長保護(hù)期后再進(jìn)行使用。而雙重時效的設(shè)置能夠在因時間造成的舉證不能情況中緩解法院的受案壓力,節(jié)約司法資源。另一方面,明確舉證證明責(zé)任問題應(yīng)當(dāng)考慮到網(wǎng)絡(luò)公司在其中的專業(yè)性、主導(dǎo)性的優(yōu)勢地位,在網(wǎng)絡(luò)公司對算法的開發(fā)與使用、數(shù)據(jù)的獲取與傳遞、數(shù)據(jù)儲存載體的控制與管理等內(nèi)容均明確知曉的情況下,應(yīng)將較多部分證明責(zé)任由網(wǎng)絡(luò)公司來承擔(dān),如獲取途徑、獲取內(nèi)容、信息用途、免責(zé)事由等。只要求用戶對基本內(nèi)容承擔(dān)舉證責(zé)任,如不知曉授權(quán)或被迫授權(quán)、具體損失等。

    (六)以事前設(shè)置個人數(shù)據(jù)傳遞門檻、事后司法協(xié)助雙角度謹(jǐn)防區(qū)際、國際數(shù)據(jù)侵權(quán)

    網(wǎng)絡(luò)信息傳遞的快速性、無形性致使數(shù)據(jù)在境內(nèi)外流轉(zhuǎn),境外直接對國內(nèi)進(jìn)行的國際數(shù)據(jù)侵權(quán)變得更加難以被發(fā)覺。應(yīng)當(dāng)從事前事后、國內(nèi)國際多角度去解決國際數(shù)據(jù)侵權(quán)問題。不同于政府?dāng)?shù)據(jù),于境外針對個人數(shù)據(jù)實施的侵權(quán)行為不構(gòu)成對國家主權(quán)的侵犯,其受害主體一般只是用戶。相較于政府?dāng)?shù)據(jù)的境內(nèi)外傳遞需要審批、備案等程序,對個人數(shù)據(jù)國際保護(hù)的關(guān)鍵在于知情、同意、權(quán)利救濟(jì)等內(nèi)容。2018 年美國通過《開放政府?dāng)?shù)據(jù)法案》,大力平衡數(shù)據(jù)跨境流動與安全因素。同年,歐盟通過《非個人數(shù)據(jù)在歐盟境內(nèi)自由流動框架條例》,消除各成員國數(shù)據(jù)本地化要求,保障專業(yè)機(jī)構(gòu)自由遷移數(shù)據(jù),保障數(shù)據(jù)可攜帶權(quán)充分的靈活自由度。同時,中國香港地區(qū)也在積極運用《跨境資料轉(zhuǎn)移條例》《跨境資料轉(zhuǎn)移指引》,通過“合規(guī)—問責(zé)—倫理道德監(jiān)督”的機(jī)制,保障個人數(shù)據(jù)跨境流通的安全。

    考慮到授權(quán)的現(xiàn)狀,即使網(wǎng)絡(luò)公司為了獲得反饋數(shù)據(jù)優(yōu)化產(chǎn)品,但區(qū)際、國際之間的信息傳遞已經(jīng)超過了正常優(yōu)化產(chǎn)品的需求,且國際之間的信息交換造成的不利結(jié)果更加不可控制,救濟(jì)也更加困難。因此,應(yīng)當(dāng)在基礎(chǔ)授權(quán)之外單獨另設(shè)授權(quán)條款,用更為醒目的方式進(jìn)行標(biāo)注,且拒絕授權(quán)該條款不得影響功能的正常使用,將區(qū)際、國際數(shù)據(jù)交換單獨進(jìn)行規(guī)制。權(quán)利救濟(jì)方面首先應(yīng)當(dāng)從管轄入手,協(xié)議管轄條款應(yīng)取消現(xiàn)有網(wǎng)絡(luò)服務(wù)協(xié)議格式條款中由公司住所地法院管轄,轉(zhuǎn)而傾向用戶,由用戶戶籍地或經(jīng)常居所地法院管轄。跨境數(shù)據(jù)傳遞門檻可由行業(yè)協(xié)會制定規(guī)章的方式進(jìn)行規(guī)定,不以法律條文的形式體現(xiàn)。

    完善相應(yīng)司法協(xié)助體系,在侵權(quán)行為實際發(fā)生后,當(dāng)事人提起訴訟并可向法院申請,法院依據(jù)雙邊、多邊司法協(xié)助條款對事實認(rèn)定、證據(jù)取得、財產(chǎn)保全、文書送達(dá)等內(nèi)容通過有關(guān)程序,在該國有關(guān)部門的幫助下進(jìn)行。若特殊情況下如果受害群體多、受害結(jié)果重大,影響到互聯(lián)網(wǎng)行業(yè)有序發(fā)展的則可由政府有關(guān)部門以破壞網(wǎng)絡(luò)秩序、或侵害公民信息罪等提起訴訟并通過行政渠道進(jìn)行司法協(xié)助。除專門涉及互聯(lián)網(wǎng)行業(yè)的雙邊或多邊條約外,司法協(xié)助條款不必以重新訂立雙邊、多邊條約的方式進(jìn)行,先前訂立的條約中若已包含有關(guān)司法協(xié)助的內(nèi)容,則可以直接參照適用。

    四、結(jié)語

    算法是科技進(jìn)步的產(chǎn)物,當(dāng)今社會,算法結(jié)合大數(shù)據(jù)、人工智能等尖端技術(shù)和高性能的計算機(jī)硬件,其智能化正不斷凸顯,且在多領(lǐng)域被廣泛應(yīng)用。尤其在網(wǎng)絡(luò)行業(yè)中服務(wù)推送的針對性、公共治安領(lǐng)域中案情處理的及時性都得益于智能算法在數(shù)據(jù)收集、分析、整合中的廣泛應(yīng)用。也正是如此,如何規(guī)范算法對個人數(shù)據(jù)的獲取、處理和傳遞是如今網(wǎng)絡(luò)化時代下關(guān)乎個人數(shù)據(jù)安全的重點問題。近年來我國《個人信息保護(hù)法》《數(shù)據(jù)安全法》等相關(guān)法律文件的公布可以看出我國提升對個人數(shù)據(jù)的保護(hù)的重視程度,但相比于歐美發(fā)達(dá)國家多年的立法、實踐經(jīng)驗,我國在個人數(shù)據(jù)保護(hù)上還存有短板?;谖覈鐣l(fā)展的具體情況和實踐應(yīng)用中存在的問題,在行政角度應(yīng)當(dāng)對公權(quán)力主體的數(shù)據(jù)收集增設(shè)監(jiān)督程序;對一般網(wǎng)絡(luò)服務(wù)商應(yīng)以行業(yè)自律為主的同時結(jié)合政府有關(guān)機(jī)關(guān)的指導(dǎo)和監(jiān)管;在司法角度應(yīng)繼續(xù)明確舉證責(zé)任、證明標(biāo)準(zhǔn)等關(guān)鍵問題,確保公民能以訴訟作為最后的維權(quán)途徑;國內(nèi)聯(lián)合企業(yè)設(shè)置軟硬件安全壁壘,國際聯(lián)合有關(guān)部門互助協(xié)作等多個角度規(guī)范算法數(shù)據(jù)收集行為,切實保障公民數(shù)據(jù)安全。

    猜你喜歡
    算法用戶信息
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    進(jìn)位加法的兩種算法
    訂閱信息
    中華手工(2017年2期)2017-06-06 23:00:31
    關(guān)注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    關(guān)注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    一種改進(jìn)的整周模糊度去相關(guān)算法
    關(guān)注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    如何獲取一億海外用戶
    展會信息
    中外會展(2014年4期)2014-11-27 07:46:46
    国产精品电影一区二区三区| 给我免费播放毛片高清在线观看| 色视频www国产| 亚洲内射少妇av| 国产高清视频在线观看网站| 性色avwww在线观看| 免费看日本二区| 9191精品国产免费久久| 国产精品久久久久久亚洲av鲁大| 天堂动漫精品| 俺也久久电影网| 日韩欧美在线二视频| 老司机深夜福利视频在线观看| 成人国产一区最新在线观看| 露出奶头的视频| 男人和女人高潮做爰伦理| 欧美黄色淫秽网站| 两性午夜刺激爽爽歪歪视频在线观看| 国产真实伦视频高清在线观看 | 国产精品一区二区三区四区免费观看 | 亚洲国产欧洲综合997久久,| 免费看十八禁软件| 少妇人妻精品综合一区二区 | 亚洲av中文字字幕乱码综合| 亚洲人成伊人成综合网2020| 夜夜夜夜夜久久久久| 国产v大片淫在线免费观看| 精品午夜福利视频在线观看一区| 精品久久久久久久久久久久久| 看片在线看免费视频| 国产高清视频在线播放一区| 午夜影院日韩av| 国产亚洲精品久久久com| www日本在线高清视频| 亚洲成av人片在线播放无| 又黄又粗又硬又大视频| 手机成人av网站| 每晚都被弄得嗷嗷叫到高潮| 美女免费视频网站| 男女视频在线观看网站免费| 黄色丝袜av网址大全| 老司机在亚洲福利影院| 宅男免费午夜| 国产亚洲av嫩草精品影院| 最新美女视频免费是黄的| av天堂中文字幕网| 黄色女人牲交| 久久久久国内视频| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 在线国产一区二区在线| 久久国产乱子伦精品免费另类| 乱人视频在线观看| 亚洲精品456在线播放app | 啦啦啦观看免费观看视频高清| 亚洲中文字幕日韩| 九色成人免费人妻av| 国产欧美日韩一区二区精品| 国产亚洲精品综合一区在线观看| 97碰自拍视频| 精品免费久久久久久久清纯| 尤物成人国产欧美一区二区三区| 身体一侧抽搐| 国产高清视频在线观看网站| 亚洲欧美日韩卡通动漫| av在线蜜桃| 久久精品亚洲精品国产色婷小说| 国产成+人综合+亚洲专区| 无限看片的www在线观看| 在线观看免费视频日本深夜| 亚洲精品在线美女| 午夜福利18| 亚洲精品美女久久久久99蜜臀| 一本久久中文字幕| 久久久精品大字幕| av天堂在线播放| 舔av片在线| 女人被狂操c到高潮| 国产精品亚洲美女久久久| 亚洲自拍偷在线| 51午夜福利影视在线观看| 欧美中文日本在线观看视频| 亚洲精品一卡2卡三卡4卡5卡| 久久久成人免费电影| 亚洲国产精品成人综合色| 熟女少妇亚洲综合色aaa.| 国产精品一区二区三区四区免费观看 | 少妇裸体淫交视频免费看高清| 女人被狂操c到高潮| 757午夜福利合集在线观看| 国内揄拍国产精品人妻在线| 亚洲成av人片免费观看| 91在线观看av| 久久精品夜夜夜夜夜久久蜜豆| 天天躁日日操中文字幕| 观看免费一级毛片| 国产精品久久久久久亚洲av鲁大| 啪啪无遮挡十八禁网站| 日韩欧美在线二视频| 国产精品99久久99久久久不卡| 黄色女人牲交| 波多野结衣高清作品| 在线观看免费午夜福利视频| 日韩国内少妇激情av| 啦啦啦免费观看视频1| 男女之事视频高清在线观看| xxx96com| 女人高潮潮喷娇喘18禁视频| 最近最新免费中文字幕在线| 国产激情欧美一区二区| 丁香欧美五月| 在线观看午夜福利视频| 国产精品野战在线观看| 欧美在线黄色| 亚洲最大成人手机在线| 久久精品国产综合久久久| 美女免费视频网站| 久久午夜亚洲精品久久| 免费av观看视频| 少妇人妻一区二区三区视频| 色精品久久人妻99蜜桃| 国产av麻豆久久久久久久| 婷婷精品国产亚洲av在线| 亚洲av一区综合| 欧美日韩亚洲国产一区二区在线观看| 亚洲中文字幕一区二区三区有码在线看| 变态另类丝袜制服| 国产精品99久久久久久久久| 在线a可以看的网站| 九九久久精品国产亚洲av麻豆| 男插女下体视频免费在线播放| 免费观看精品视频网站| 欧美av亚洲av综合av国产av| 男插女下体视频免费在线播放| 窝窝影院91人妻| 午夜影院日韩av| 亚洲av熟女| 国产av一区在线观看免费| 国产精品亚洲一级av第二区| 久久久国产精品麻豆| 女人被狂操c到高潮| 变态另类成人亚洲欧美熟女| 国产一区二区亚洲精品在线观看| 亚洲精品乱码久久久v下载方式 | 国产精品亚洲av一区麻豆| 国产探花极品一区二区| 精品乱码久久久久久99久播| 国产97色在线日韩免费| 亚洲av五月六月丁香网| 久久香蕉国产精品| 法律面前人人平等表现在哪些方面| 亚洲人成网站在线播放欧美日韩| 久久久久久大精品| 内地一区二区视频在线| 国产极品精品免费视频能看的| 国产成人福利小说| 免费人成视频x8x8入口观看| 制服人妻中文乱码| 97碰自拍视频| 嫁个100分男人电影在线观看| 国产色婷婷99| 午夜两性在线视频| 欧美黑人欧美精品刺激| 一进一出抽搐动态| 丁香六月欧美| 久久亚洲精品不卡| 一级作爱视频免费观看| 少妇熟女aⅴ在线视频| 国产欧美日韩一区二区三| 国产真实乱freesex| 又黄又粗又硬又大视频| 深夜精品福利| 欧美极品一区二区三区四区| 免费av不卡在线播放| 深夜精品福利| 桃色一区二区三区在线观看| 成年女人看的毛片在线观看| 欧美激情在线99| 国产 一区 欧美 日韩| 两个人的视频大全免费| 国产精品 国内视频| 亚洲欧美日韩高清在线视频| 国产成人系列免费观看| 1024手机看黄色片| 99久久九九国产精品国产免费| 亚洲18禁久久av| 欧美丝袜亚洲另类 | 91在线观看av| 国产蜜桃级精品一区二区三区| 欧美色视频一区免费| 国产激情偷乱视频一区二区| 3wmmmm亚洲av在线观看| 久久午夜亚洲精品久久| 欧美日韩精品网址| 露出奶头的视频| 亚洲不卡免费看| 国内少妇人妻偷人精品xxx网站| 欧美性感艳星| 欧美3d第一页| 久久精品国产亚洲av涩爱 | xxxwww97欧美| 国产又黄又爽又无遮挡在线| 日日摸夜夜添夜夜添小说| 91在线观看av| 三级国产精品欧美在线观看| 日韩欧美三级三区| 99久久无色码亚洲精品果冻| 国产久久久一区二区三区| 日韩国内少妇激情av| 欧美又色又爽又黄视频| 免费高清视频大片| 亚洲精品影视一区二区三区av| 亚洲欧美精品综合久久99| 国内精品一区二区在线观看| 女人高潮潮喷娇喘18禁视频| 男女视频在线观看网站免费| 成人欧美大片| 精品乱码久久久久久99久播| 欧美一级毛片孕妇| 91久久精品电影网| 嫁个100分男人电影在线观看| 欧美日本视频| 亚洲熟妇中文字幕五十中出| 99久久综合精品五月天人人| 国产精品影院久久| 国产精品嫩草影院av在线观看 | 久久精品国产99精品国产亚洲性色| 国产精品亚洲一级av第二区| 女人十人毛片免费观看3o分钟| 人妻丰满熟妇av一区二区三区| av天堂在线播放| 十八禁人妻一区二区| 亚洲国产日韩欧美精品在线观看 | 真人做人爱边吃奶动态| 午夜免费观看网址| 色综合欧美亚洲国产小说| 91av网一区二区| 最后的刺客免费高清国语| 香蕉久久夜色| 天堂√8在线中文| 亚洲av不卡在线观看| 老汉色∧v一级毛片| 久久6这里有精品| 国产精品电影一区二区三区| 免费电影在线观看免费观看| 精品午夜福利视频在线观看一区| 又粗又爽又猛毛片免费看| 嫩草影院入口| 伊人久久精品亚洲午夜| 色综合站精品国产| 国产精品永久免费网站| 国产真人三级小视频在线观看| 日韩有码中文字幕| 日韩中文字幕欧美一区二区| 日日干狠狠操夜夜爽| 国产精品电影一区二区三区| 丰满的人妻完整版| 特大巨黑吊av在线直播| 日韩人妻高清精品专区| 给我免费播放毛片高清在线观看| 成人国产综合亚洲| 国产精品爽爽va在线观看网站| 国产综合懂色| 国产精品香港三级国产av潘金莲| 欧美黄色淫秽网站| 国产精品久久久久久亚洲av鲁大| 精品熟女少妇八av免费久了| 一区二区三区激情视频| 日韩av在线大香蕉| 亚洲va日本ⅴa欧美va伊人久久| 国产国拍精品亚洲av在线观看 | 日韩成人在线观看一区二区三区| 精品无人区乱码1区二区| 动漫黄色视频在线观看| 中亚洲国语对白在线视频| 亚洲国产日韩欧美精品在线观看 | 无限看片的www在线观看| 国产av不卡久久| 国产高清videossex| 在线视频色国产色| 老司机午夜十八禁免费视频| 精品一区二区三区人妻视频| 高清毛片免费观看视频网站| 亚洲av二区三区四区| 极品教师在线免费播放| 中文字幕av在线有码专区| 国产主播在线观看一区二区| 欧美成人免费av一区二区三区| 国产精品影院久久| 国产麻豆成人av免费视频| 欧美三级亚洲精品| 欧美成人一区二区免费高清观看| 天天一区二区日本电影三级| 91麻豆精品激情在线观看国产| 男女之事视频高清在线观看| 99国产极品粉嫩在线观看| 麻豆国产97在线/欧美| 午夜激情福利司机影院| 美女被艹到高潮喷水动态| 亚洲av成人不卡在线观看播放网| 久久久国产精品麻豆| 国产97色在线日韩免费| 99视频精品全部免费 在线| 精品国产三级普通话版| 禁无遮挡网站| 午夜视频国产福利| 五月伊人婷婷丁香| 久久久久久久精品吃奶| 免费看日本二区| 亚洲国产精品合色在线| 在线免费观看的www视频| 久99久视频精品免费| 久久精品国产综合久久久| 午夜福利欧美成人| 欧美成人一区二区免费高清观看| 国产精品 欧美亚洲| 一进一出抽搐gif免费好疼| 国产精品精品国产色婷婷| 色尼玛亚洲综合影院| 精品一区二区三区人妻视频| 嫩草影院精品99| 一本精品99久久精品77| 日韩人妻高清精品专区| 亚洲aⅴ乱码一区二区在线播放| 淫妇啪啪啪对白视频| 成人国产一区最新在线观看| 亚洲精华国产精华精| 看片在线看免费视频| 男人舔女人下体高潮全视频| 在线观看日韩欧美| 真人做人爱边吃奶动态| 国产精品av视频在线免费观看| 成人性生交大片免费视频hd| www日本在线高清视频| 国产国拍精品亚洲av在线观看 | 丰满人妻熟妇乱又伦精品不卡| 99久久久亚洲精品蜜臀av| 搡老妇女老女人老熟妇| 观看免费一级毛片| 国产野战对白在线观看| 久久天躁狠狠躁夜夜2o2o| 看片在线看免费视频| 九九久久精品国产亚洲av麻豆| 亚洲欧美日韩高清专用| 好看av亚洲va欧美ⅴa在| 一区福利在线观看| 精品熟女少妇八av免费久了| 国产探花极品一区二区| 亚洲av美国av| 中文字幕精品亚洲无线码一区| 亚洲专区国产一区二区| 中文字幕人妻丝袜一区二区| 夜夜夜夜夜久久久久| 国产视频一区二区在线看| av在线天堂中文字幕| 男女那种视频在线观看| 日本五十路高清| 国模一区二区三区四区视频| 看黄色毛片网站| 色噜噜av男人的天堂激情| 狂野欧美白嫩少妇大欣赏| 好看av亚洲va欧美ⅴa在| 国产精品,欧美在线| 久久草成人影院| 国产精品国产高清国产av| 搡女人真爽免费视频火全软件 | 国产国拍精品亚洲av在线观看 | 国产精品野战在线观看| 久久久久亚洲av毛片大全| 国产高清有码在线观看视频| 欧美最黄视频在线播放免费| 精华霜和精华液先用哪个| 日韩欧美精品免费久久 | 欧美日本视频| 最新中文字幕久久久久| 俺也久久电影网| 亚洲av中文字字幕乱码综合| 精品久久久久久,| 性色av乱码一区二区三区2| 日本在线视频免费播放| 女同久久另类99精品国产91| 国产国拍精品亚洲av在线观看 | 怎么达到女性高潮| 97碰自拍视频| 精品熟女少妇八av免费久了| 内射极品少妇av片p| 精品国产三级普通话版| 亚洲人成电影免费在线| 又黄又爽又免费观看的视频| 亚洲av免费在线观看| 别揉我奶头~嗯~啊~动态视频| 色老头精品视频在线观看| www.999成人在线观看| 首页视频小说图片口味搜索| 欧美区成人在线视频| 丰满乱子伦码专区| 亚洲国产中文字幕在线视频| 国产高清视频在线播放一区| 国产一区二区三区在线臀色熟女| 国产又黄又爽又无遮挡在线| 91av网一区二区| 在线观看日韩欧美| 老司机在亚洲福利影院| 有码 亚洲区| 国产精品亚洲av一区麻豆| 看黄色毛片网站| 岛国视频午夜一区免费看| 亚洲欧美激情综合另类| 小说图片视频综合网站| 国产一区二区激情短视频| 成年女人毛片免费观看观看9| 成人av一区二区三区在线看| 91在线精品国自产拍蜜月 | 免费看a级黄色片| 一级作爱视频免费观看| 午夜福利在线观看免费完整高清在 | 在线观看午夜福利视频| 国产成人a区在线观看| 好男人电影高清在线观看| 欧美乱妇无乱码| 在线十欧美十亚洲十日本专区| 99在线人妻在线中文字幕| svipshipincom国产片| 国产午夜福利久久久久久| 国产精品精品国产色婷婷| 色av中文字幕| 亚洲人成网站在线播放欧美日韩| 亚洲av电影在线进入| 99热这里只有是精品50| 亚洲内射少妇av| 男人舔奶头视频| 国产乱人视频| 免费在线观看影片大全网站| 麻豆成人av在线观看| 成人国产综合亚洲| 国产亚洲精品av在线| 国产激情欧美一区二区| 国产色婷婷99| 人妻丰满熟妇av一区二区三区| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 性欧美人与动物交配| av片东京热男人的天堂| 国产麻豆成人av免费视频| 在线观看日韩欧美| 欧美日韩福利视频一区二区| 最近在线观看免费完整版| 久久久色成人| 久久久国产成人免费| 国产精品嫩草影院av在线观看 | 日本黄色片子视频| av专区在线播放| 在线天堂最新版资源| 3wmmmm亚洲av在线观看| 偷拍熟女少妇极品色| 亚洲人成电影免费在线| 亚洲在线自拍视频| 小说图片视频综合网站| 久久精品夜夜夜夜夜久久蜜豆| 我要搜黄色片| 国产日本99.免费观看| 精品国内亚洲2022精品成人| 国产老妇女一区| 午夜a级毛片| 69人妻影院| 久久草成人影院| 欧美+日韩+精品| 人人妻,人人澡人人爽秒播| 老汉色av国产亚洲站长工具| 一区二区三区免费毛片| 内地一区二区视频在线| 国产精品国产高清国产av| 精华霜和精华液先用哪个| 在线观看美女被高潮喷水网站 | 美女大奶头视频| 免费看美女性在线毛片视频| 日本撒尿小便嘘嘘汇集6| 看黄色毛片网站| 日韩欧美国产一区二区入口| 九色成人免费人妻av| 麻豆成人午夜福利视频| 高潮久久久久久久久久久不卡| 亚洲国产精品合色在线| 91av网一区二区| 精品免费久久久久久久清纯| 成年女人毛片免费观看观看9| 久久久久免费精品人妻一区二区| 大型黄色视频在线免费观看| 国产一区二区在线av高清观看| 亚洲五月婷婷丁香| 亚洲av成人精品一区久久| 国产极品精品免费视频能看的| 亚洲av美国av| 最近在线观看免费完整版| 国产在线精品亚洲第一网站| 亚洲精品一卡2卡三卡4卡5卡| 久久精品国产亚洲av香蕉五月| 中亚洲国语对白在线视频| 99热这里只有精品一区| 亚洲精品一卡2卡三卡4卡5卡| 色综合亚洲欧美另类图片| 桃红色精品国产亚洲av| 精品久久久久久久久久免费视频| 国内精品美女久久久久久| 亚洲熟妇熟女久久| 麻豆成人午夜福利视频| 中文字幕av在线有码专区| 亚洲精品一区av在线观看| 极品教师在线免费播放| 老司机午夜福利在线观看视频| 天天一区二区日本电影三级| 精品国产三级普通话版| 午夜老司机福利剧场| 国内久久婷婷六月综合欲色啪| 久久精品91蜜桃| 亚洲熟妇中文字幕五十中出| 一进一出抽搐动态| 久久久久免费精品人妻一区二区| 丁香欧美五月| 免费看十八禁软件| 啦啦啦观看免费观看视频高清| 大型黄色视频在线免费观看| 极品教师在线免费播放| 欧美日韩亚洲国产一区二区在线观看| 在线观看66精品国产| 精品乱码久久久久久99久播| 操出白浆在线播放| 欧美绝顶高潮抽搐喷水| 国产免费av片在线观看野外av| 毛片女人毛片| 国产亚洲精品av在线| 日韩 欧美 亚洲 中文字幕| 亚洲五月天丁香| 国产激情欧美一区二区| 国产三级在线视频| 亚洲黑人精品在线| 夜夜躁狠狠躁天天躁| 国产男靠女视频免费网站| 丝袜美腿在线中文| 国产成人av激情在线播放| 日本五十路高清| 天天躁日日操中文字幕| 免费观看精品视频网站| 长腿黑丝高跟| 人妻丰满熟妇av一区二区三区| 色综合亚洲欧美另类图片| 亚洲第一欧美日韩一区二区三区| 好男人电影高清在线观看| 亚洲成av人片免费观看| 欧美最新免费一区二区三区 | 男女午夜视频在线观看| 国产真实乱freesex| 国产毛片a区久久久久| 亚洲熟妇熟女久久| 欧美极品一区二区三区四区| 1000部很黄的大片| 91在线精品国自产拍蜜月 | 久久国产乱子伦精品免费另类| 欧美xxxx黑人xx丫x性爽| 人人妻人人看人人澡| 国产私拍福利视频在线观看| 淫妇啪啪啪对白视频| 岛国视频午夜一区免费看| 国产高清三级在线| 天堂√8在线中文| 麻豆一二三区av精品| 久久久久久久久大av| 日本黄色片子视频| 国产极品精品免费视频能看的| 天美传媒精品一区二区| 脱女人内裤的视频| 热99在线观看视频| 热99re8久久精品国产| 黄色日韩在线| 国产精品日韩av在线免费观看| 欧美黄色淫秽网站| 色哟哟哟哟哟哟| 两个人视频免费观看高清| 内射极品少妇av片p| 国产精品久久久久久人妻精品电影| 少妇熟女aⅴ在线视频| 99国产精品一区二区蜜桃av| 欧美日韩瑟瑟在线播放| 18禁美女被吸乳视频| 无遮挡黄片免费观看| 午夜福利在线观看吧| 国内精品美女久久久久久| bbb黄色大片| 亚洲成人精品中文字幕电影| 婷婷丁香在线五月| 国产不卡一卡二| 九色国产91popny在线| 国产精品三级大全| 一个人看视频在线观看www免费 | 中文资源天堂在线| 叶爱在线成人免费视频播放| 老司机深夜福利视频在线观看| 久久久国产精品麻豆| 欧美高清成人免费视频www| 久久久久久久午夜电影| 中文字幕久久专区| 九色成人免费人妻av| 窝窝影院91人妻| 欧美日韩中文字幕国产精品一区二区三区| 日日夜夜操网爽| 女生性感内裤真人,穿戴方法视频| 免费一级毛片在线播放高清视频| 亚洲,欧美精品.| 亚洲久久久久久中文字幕| 亚洲成人精品中文字幕电影| 美女 人体艺术 gogo| 中文亚洲av片在线观看爽| 母亲3免费完整高清在线观看| 亚洲中文日韩欧美视频| 长腿黑丝高跟| 成人18禁在线播放| 国产午夜精品久久久久久一区二区三区 |