• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    算法時(shí)代的隱私保護(hù):矛盾困境、路徑方向及未來(lái)挑戰(zhàn)

    2022-11-21 02:43:24張奕翔
    傳媒論壇 2022年16期
    關(guān)鍵詞:算法用戶

    張奕翔

    一、引言

    互聯(lián)網(wǎng)web 3.0時(shí)代的一大技術(shù)亮點(diǎn)即是算法技術(shù)的出現(xiàn)與應(yīng)用,算法被認(rèn)為是第三次傳播變革的重要產(chǎn)物。

    算法的出現(xiàn)源于社會(huì)發(fā)展對(duì)精準(zhǔn)效果的追求。對(duì)于互聯(lián)網(wǎng)平臺(tái)而言,算法可以讓內(nèi)容更加精準(zhǔn)化、定向化分發(fā),一方面可以快速精準(zhǔn)找到目標(biāo)用戶、有效提高分發(fā)效率,另一方面可以減少不必要的曝光浪費(fèi),節(jié)約成本;對(duì)于用戶而言,算法的應(yīng)用可以讓他們?yōu)g覽到更多符合個(gè)性化與興趣需求的內(nèi)容,提高整體的使用體驗(yàn)。如今隨著互聯(lián)網(wǎng)的發(fā)展,算法的技術(shù)性已然滲透到社會(huì)資源使用的過(guò)程之中,與大數(shù)據(jù)、云計(jì)算、人工智能相關(guān)聯(lián)的各行各業(yè)都離不開(kāi)算法技術(shù)。于整個(gè)社會(huì)而言,算法技術(shù)的廣泛應(yīng)用已成為經(jīng)濟(jì)高效發(fā)展的一個(gè)重要推動(dòng)點(diǎn)。

    但當(dāng)人類正式邁入算法時(shí)代,算法的觸角深入到我們的生活中,并真正成為社會(huì)生活的潛在技術(shù)邏輯核心后,算法背后潛藏已久的一些問(wèn)題也一一暴露開(kāi)來(lái)。近年來(lái),人們開(kāi)始關(guān)注到算法存在偏見(jiàn)歧視、 價(jià)格殺熟等負(fù)面問(wèn)題,比如2018年亞馬遜的AI會(huì)通過(guò)算法篩選出女性求職者并降低其簡(jiǎn)歷比重,比如同樣一件商品蘋(píng)果用戶端價(jià)格會(huì)高于安卓用戶端……一些由算法引發(fā)的事件頻頻引起社會(huì)熱議與討論,人們逐漸意識(shí)到算法技術(shù)是一把雙刃劍,它在給社會(huì)發(fā)展帶來(lái)進(jìn)步的同時(shí),也隱藏著諸多的風(fēng)險(xiǎn)與危機(jī),對(duì)社會(huì)具有一定的負(fù)面影響。

    基于平臺(tái)對(duì)海量大數(shù)據(jù)的搜集,算法技術(shù)不斷發(fā)展,算法所能應(yīng)用的覆蓋范圍更廣,所能實(shí)現(xiàn)的計(jì)算程度更加精準(zhǔn),而這也無(wú)形中為人類社會(huì)的隱私保護(hù)帶來(lái)了更多威脅。社會(huì)開(kāi)始意識(shí)到了算法時(shí)代的隱私保護(hù)是個(gè)嚴(yán)峻的問(wèn)題。

    近年來(lái),社會(huì)、平臺(tái)與用戶已經(jīng)開(kāi)始圍繞隱私保護(hù)展開(kāi)行動(dòng)。社會(huì)主要從法律與制度入手進(jìn)行對(duì)算法的治理,通過(guò)立法與完善行業(yè)行規(guī)等手段對(duì)算法使用隱私數(shù)據(jù)進(jìn)行規(guī)范和約束,比如僅在2021年,我國(guó)便出臺(tái)并施行了《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》兩部重要的法律;各大互聯(lián)網(wǎng)平臺(tái)多從技術(shù)保護(hù)出發(fā),通過(guò)限制追蹤、去標(biāo)識(shí)化、匿名化等多類型的技術(shù)手段,保護(hù)用戶的隱私數(shù)據(jù),如蘋(píng)果采取了默認(rèn)關(guān)閉IDFA追蹤,谷歌啟動(dòng)了隱私沙盒等;而對(duì)于部分用戶,他們則會(huì)開(kāi)始選擇關(guān)注平臺(tái)隱私保護(hù)條例、關(guān)閉個(gè)性化廣告推薦、回避個(gè)性化內(nèi)容、故意填寫(xiě)虛假信息等方式來(lái)保護(hù)自己的隱私。

    但多年來(lái)的算法發(fā)展已經(jīng)使其根植入了社會(huì)運(yùn)作之中,算法所帶來(lái)的價(jià)值與好處也成為了社會(huì)的一種習(xí)慣。

    面對(duì)算法時(shí)代的隱私保護(hù),從社會(huì)到平臺(tái)到用戶,這三方主體都面臨著不同的矛盾困境。而與此同時(shí),算法的發(fā)展也已與其他技術(shù)的發(fā)展互相影響,這也意味著算法時(shí)代的隱私保護(hù)也還面臨著除算法技術(shù)以外的其他新挑戰(zhàn)。在這些矛盾困境與挑戰(zhàn)中,隱私保護(hù)未來(lái)該選擇怎樣的路徑方向也是值得深入思考的問(wèn)題。

    二、文獻(xiàn)綜述

    (一)算法

    算法這個(gè)概念最早是由中國(guó)古代數(shù)學(xué)家和古波斯數(shù)學(xué)家提出的。進(jìn)入了信息時(shí)代后,算法依附于計(jì)算機(jī)載體,作用于互聯(lián)網(wǎng)信息分發(fā),成為計(jì)算機(jī)與互聯(lián)網(wǎng)得以運(yùn)作的關(guān)鍵技術(shù)邏輯。因此,關(guān)于算法的定義,學(xué)者多從科技化視角闡釋,從計(jì)算機(jī)科學(xué)視角來(lái)看,算法被定義為一種“有限、確定、有效并適合用計(jì)算機(jī)程序來(lái)實(shí)現(xiàn)的解決問(wèn)題”的方法,從信息技術(shù)角度來(lái)看,算法是可將輸入數(shù)據(jù)轉(zhuǎn)化為可預(yù)期結(jié)果的編碼程式。[1]把算法工具化看待,有學(xué)者則認(rèn)為“算法(algorithm) 可以定義為解決一個(gè)特定問(wèn)題而采取的一系列特定的、有限的步驟?!保?]在不斷發(fā)展中,算法逐漸從“計(jì)算機(jī)領(lǐng)域的一個(gè)專業(yè)術(shù)語(yǔ)轉(zhuǎn)變?yōu)橹悄軙r(shí)代文化與社會(huì)的關(guān)鍵概念”,“算法是技術(shù)解決方案的算法、作為社會(huì)技術(shù)集合的算法以及作為權(quán)力的算法”。[3]當(dāng)算法深入社會(huì)生活后,它也逐漸具備多一層文化的意義,結(jié)合科技視角與社會(huì)科學(xué)視角兩者出發(fā),孫萍等學(xué)者認(rèn)為“算法可以被看作是多元傳遞模式下的一種技術(shù)制度和文化實(shí)踐”。隨著算法技術(shù)的發(fā)展與大數(shù)據(jù)重要性的日益凸顯,“算法文化”[4]逐漸形成。

    目前在新聞傳播學(xué)學(xué)科中,算法技術(shù)所引發(fā)的倫理、權(quán)力及價(jià)值等方面的問(wèn)題是學(xué)者們關(guān)注的重點(diǎn)。其中,關(guān)于算法的倫理與權(quán)力兩方面的討論研究在近年來(lái)呈現(xiàn)明顯的上升趨勢(shì)。

    1.算法的倫理問(wèn)題

    學(xué)者劉培、池忠軍指出算法會(huì)導(dǎo)致諸如算法歧視、主體的自主性、隱私以及可責(zé)性等倫理問(wèn)題。[5]算法歧視中包含算法公平、算法身份的污名化與隱私三個(gè)具體的問(wèn)題。[6]學(xué)者匡文波分別從受眾、平臺(tái)與社會(huì)三個(gè)角度,指出算法存在受眾權(quán)力讓渡與濫用、改變行業(yè)的觀念和規(guī)范、削弱媒體公共性的倫理失范問(wèn)題。[7]而當(dāng)算法深入到商業(yè)運(yùn)作之中,也有學(xué)者李飛翔指出算法背后的“大數(shù)據(jù)殺熟”問(wèn)題,“主要涉及數(shù)據(jù)的擁有與分配、算法所應(yīng)遵循的倫理規(guī)則、責(zé)任主體的合理界定、相關(guān)平臺(tái)的信任機(jī)制之維護(hù)以及用戶自身‘?dāng)?shù)據(jù)權(quán)’意識(shí)的覺(jué)醒等重要議題”[8]。雖然算法為社會(huì)經(jīng)濟(jì)發(fā)展帶來(lái)了許多好處,但它背后所存在的倫理問(wèn)題同樣值得我們深思與警惕。

    2.算法的權(quán)力問(wèn)題

    關(guān)于算法的權(quán)力問(wèn)題,學(xué)者張萌批判性地指出,“算法越來(lái)越多地參與到重要決定的裁決中”,正一步步地在控制社會(huì),受眾難以抵抗。[9]段偉文指出,算法權(quán)力體現(xiàn)了知識(shí)即權(quán)力的觀念,“基于算法的數(shù)據(jù)分析所產(chǎn)生的數(shù)據(jù)化框架對(duì)人和世界產(chǎn)生著決定性的影響”,而且“算法的創(chuàng)造者并不完全理解自己的創(chuàng)造物,這使算法成為一種影響人和社會(huì)的不可思議的神秘力量”。[10]從傳播的角度來(lái)看,喻國(guó)明等學(xué)者認(rèn)為,算法的社會(huì)本質(zhì)其實(shí)是一種權(quán)力,已形成的算法技術(shù)范式會(huì)影響媒介運(yùn)作方向,賦予受眾受眾在傳播活動(dòng)中的主動(dòng)權(quán),但它背后的運(yùn)作黑箱也將用戶推向全景監(jiān)視之中。[11]在這種關(guān)系中,學(xué)者方正認(rèn)為算法開(kāi)始對(duì)人類社會(huì)進(jìn)行了“數(shù)字規(guī)訓(xùn)”[12],從社會(huì)到行業(yè),從群體到個(gè)體,人類深受算法的影響,算法的權(quán)力也滲透進(jìn)了社會(huì)的肌理之中,算法所具有的巨大權(quán)力已是不可忽視的問(wèn)題。

    (二)算法時(shí)代的隱私難題

    算法時(shí)代的到來(lái),使數(shù)據(jù)成了人類社會(huì)的又一重要生產(chǎn)要素。因此在算法出現(xiàn)的諸多倫理問(wèn)題中,由用戶數(shù)據(jù)帶來(lái)的隱私難題是對(duì)社會(huì)與用戶影響最深遠(yuǎn)的。

    一般來(lái)說(shuō),算法技術(shù)對(duì)用戶隱私的侵犯可分為兩種,第一種是“在數(shù)據(jù)主體不知情的情況下,算法系統(tǒng)挖掘與收集個(gè)人數(shù)據(jù)”,另一種是“算法系統(tǒng)通過(guò)不透明的計(jì)算、剖析、解釋與預(yù)測(cè)而介入或侵犯?jìng)€(gè)人隱私”。[13]

    互聯(lián)網(wǎng)用戶最能切身體會(huì)到算法技術(shù)的,莫過(guò)于算法新聞與個(gè)性化廣告的推薦內(nèi)容。生產(chǎn)這些內(nèi)容的互聯(lián)網(wǎng)平臺(tái)之所以能通過(guò)算法進(jìn)行“千人千面”的內(nèi)容分發(fā),是因?yàn)槠脚_(tái)擁有記錄用戶上網(wǎng)信息的數(shù)據(jù)庫(kù),而算法的“信息處理、承載和利用方式也引發(fā)了隱私風(fēng)險(xiǎn)和數(shù)據(jù)不當(dāng)適用的倫理風(fēng)險(xiǎn)”[14],算法模糊了隱私的邊界。因此,多數(shù)學(xué)者認(rèn)為,在算法技術(shù)背后,是強(qiáng)勢(shì)平臺(tái)與弱勢(shì)用戶[15]的不平等關(guān)系。

    與此同時(shí),如今受到算法隱私侵犯主體的不止有個(gè)體,還有群體。“集體隱私不再是構(gòu)成該群體的所有個(gè)體隱私的總和,而是構(gòu)成集體的所有個(gè)體的某一種或幾種共同的屬性?!保?6]

    (三)算法時(shí)代的隱私保護(hù)

    關(guān)于算法時(shí)代的隱私保護(hù),李凌從技術(shù)層面提出目前的隱私保護(hù)呈現(xiàn)出從離身轉(zhuǎn)向具身、從積極控制轉(zhuǎn)向消極防御、從中心化轉(zhuǎn)向分布式的趨勢(shì)。[17]

    從整體來(lái)看,做好用戶隱私保護(hù)需要個(gè)人作出合理的價(jià)值選擇、社會(huì)制定合理的信息制度以及科技提供合理的隱私設(shè)計(jì)[18]。王敏也從法律、行業(yè)、個(gè)人三個(gè)角度,提出了大數(shù)據(jù)時(shí)代進(jìn)行隱私保護(hù)的原則。[19]而從數(shù)據(jù)使用者的角度來(lái)看,陳昌鳳等學(xué)者指出要樹(shù)立目的確定原則、質(zhì)量保證原則與個(gè)人參與原則來(lái)規(guī)范數(shù)據(jù)的使用和隱私的保護(hù)。[20]

    比如對(duì)于平臺(tái)的數(shù)據(jù)隱私保護(hù)工作,學(xué)者們較多使用內(nèi)容分析法進(jìn)行研究。2015年,學(xué)者申琦以我國(guó)6類49家網(wǎng)站公布的隱私保護(hù)政策為對(duì)象,運(yùn)用內(nèi)容分析法,發(fā)現(xiàn)早期互聯(lián)網(wǎng)平臺(tái)對(duì)用戶隱私的保護(hù)存在不足,如普遍缺少對(duì)未成年人網(wǎng)絡(luò)信息隱私的保護(hù)。[21]朱穎透過(guò)對(duì)96個(gè)移動(dòng)互聯(lián)網(wǎng)客戶端APP隱私保護(hù)政策的分析, 發(fā)現(xiàn)我國(guó)移動(dòng)APP在隱私保護(hù)政策制定和實(shí)施方面的問(wèn)題有水平參差不齊、存在霸王條款、缺乏協(xié)商機(jī)制、效果不夠理想等問(wèn)題。[22]而到了今天,這些問(wèn)題在互聯(lián)網(wǎng)平臺(tái)上也依然沒(méi)有徹底得到改善。

    通過(guò)相關(guān)文獻(xiàn)的整理,可發(fā)現(xiàn)關(guān)于算法時(shí)代該如何進(jìn)行隱私保護(hù),學(xué)界主要圍繞用戶自身、平臺(tái)與法律三個(gè)重要主體展開(kāi),但大都是分開(kāi)單獨(dú)闡述,缺乏完整性與相互補(bǔ)充。

    三、三方主體面臨的隱私保護(hù)矛盾困境

    (一)用戶:隱私態(tài)度與隱私行為的矛盾

    關(guān)于算法時(shí)代下我們所探討的要保護(hù)的隱私內(nèi)容,更多指的是用戶在互聯(lián)網(wǎng)平臺(tái)所產(chǎn)生的個(gè)人相關(guān)信息,包含個(gè)人注冊(cè)信息、行為痕跡、瀏覽內(nèi)容、地理位置、興趣愛(ài)好等重要隱私內(nèi)容。

    而如今互聯(lián)網(wǎng)用戶的生活,已離不開(kāi)智能終端與各類五花八門(mén)的應(yīng)用程序,不管是終端還是應(yīng)用軟件,它們運(yùn)行的最終載體與背后的資本力量都是互聯(lián)網(wǎng)平臺(tái)。在用戶使用這些終端和應(yīng)用之前,都需要輸入個(gè)人身份的具體信息進(jìn)行注冊(cè),如身份ID、手機(jī)號(hào)、地理位置隱私信息等,并且還需要授權(quán)同意接受開(kāi)啟地理位置跟蹤、麥克風(fēng)開(kāi)啟、攝像頭開(kāi)啟等權(quán)限,否則便無(wú)法使用這些互聯(lián)網(wǎng)平臺(tái)提供的服務(wù)。這便意味著,互聯(lián)網(wǎng)平臺(tái)可以得到海量用戶的個(gè)人隱私信息,而用戶個(gè)人隱私信息也存在隨時(shí)被泄露與竊取的風(fēng)險(xiǎn)。

    對(duì)于算法時(shí)代下的隱私保護(hù),用戶所要面對(duì)的矛盾困境有兩個(gè):一是存在已久的——用戶自身隱私保護(hù)態(tài)度與隱私保護(hù)行為的矛盾;二是近年來(lái)出現(xiàn)的新現(xiàn)象——隱私關(guān)注與隱私疲勞兩種態(tài)度的矛盾。

    1.隱私態(tài)度、行為的矛盾:隱私關(guān)注VS隱私披露

    早有研究發(fā)現(xiàn),不少用戶對(duì)于隱私保護(hù)的態(tài)度和實(shí)際行為并不一致,即用戶雖然重視算法背后的個(gè)人隱私安全問(wèn)題,但也熱衷于在互聯(lián)網(wǎng)平臺(tái)主動(dòng)披露個(gè)人隱私相關(guān)的信息,學(xué)者們將這種相互矛盾的現(xiàn)象稱為“隱私悖論”[23]。

    在中國(guó)青年報(bào)社社會(huì)調(diào)查中心做的一項(xiàng)調(diào)查中顯示,75.3%的受訪者曾被算法推薦服務(wù)困擾過(guò);《中國(guó)大安全感知報(bào)告(2021)》也指出,有七成受訪者感到算法能獲取自己的喜好、興趣從而“算計(jì)”自己。加上近幾年來(lái)媒體頻頻爆出關(guān)于應(yīng)用程序竊取用戶隱私信息并通過(guò)算法技術(shù)對(duì)用戶進(jìn)行深入分析的新聞報(bào)道,這引起了多數(shù)用戶對(duì)隱私保護(hù)的重視。算法時(shí)代下,用戶的隱私關(guān)注程度有所提升,對(duì)于個(gè)人隱私的保護(hù)意識(shí)不斷加強(qiáng)。

    但逐漸提高的隱私關(guān)注意識(shí),并沒(méi)有讓用戶在行為上更加注重保護(hù)隱私。與此相反的是,用戶們反而在行為上呈現(xiàn)出一個(gè)更傾向隱私披露的趨勢(shì)——在年輕用戶群體中,不少人愿意以披露隱私來(lái)?yè)Q取互聯(lián)網(wǎng)平臺(tái)的個(gè)性化服務(wù)。

    從用戶作為內(nèi)容需求方的角度來(lái)看,用戶常會(huì)用個(gè)人的隱私數(shù)據(jù)來(lái)“喂養(yǎng)”算法,換取更精準(zhǔn)的個(gè)性化算法服務(wù)。用戶會(huì)自愿在一些社交平臺(tái)中開(kāi)啟基于算法推薦的個(gè)性化服務(wù),允許算法跟蹤分析自己的瀏覽痕跡,進(jìn)一步提供自己喜歡的個(gè)性化內(nèi)容,甚至自愿提供自己的畫(huà)像標(biāo)簽或者瀏覽偏好,遇到不喜歡的內(nèi)容推送也會(huì)點(diǎn)擊“不喜歡此內(nèi)容”等,以此優(yōu)化算法的推薦準(zhǔn)確度。即“算法受眾還會(huì)將自己的謀略主動(dòng)嵌入到算法規(guī)則中”[24],這也意味著用戶主動(dòng)接受算法以及其背后隱藏的隱私泄露風(fēng)險(xiǎn)。

    2.兩種隱私態(tài)度的矛盾:隱私關(guān)注VS隱私疲勞

    隨著社會(huì)各界對(duì)隱私保護(hù)的重視,互聯(lián)網(wǎng)平臺(tái)也出臺(tái)了關(guān)于用戶的隱私保護(hù)條例或保護(hù)政策,但這樣的舉措也并沒(méi)有從實(shí)質(zhì)上提高用戶的隱私保護(hù)意愿。由于這些條例或政策多以長(zhǎng)文字形式在用戶點(diǎn)開(kāi)應(yīng)用后呈現(xiàn),且摻雜大量專業(yè)術(shù)語(yǔ),從某種程度上會(huì)增加用戶的閱讀理解負(fù)擔(dān),多數(shù)用戶往往會(huì)選擇直接點(diǎn)擊跳過(guò),或者在粗略瀏覽后點(diǎn)擊同意。

    因此,在現(xiàn)實(shí)中,這也導(dǎo)致多數(shù)用戶存在兩種相互矛盾的隱私態(tài)度。一方面是因算法對(duì)私人領(lǐng)域侵入性而擔(dān)憂,形成了越來(lái)越顯著的隱私關(guān)注;但另一方面,用戶認(rèn)為在算法環(huán)境下隱私被使用已無(wú)法控制,且用戶認(rèn)為平臺(tái)提供的保護(hù)條例與措施過(guò)于繁瑣復(fù)雜,難以被理解,因而逐漸產(chǎn)生了隱私疲勞的態(tài)度。[25]“隱私疲勞反映了網(wǎng)絡(luò)用戶對(duì)隱私問(wèn)題的一種倦怠感,這種疲勞是由網(wǎng)絡(luò)隱私保護(hù)的雜性和對(duì)數(shù)據(jù)泄露風(fēng)險(xiǎn)的低估帶來(lái)的,會(huì)降低用戶對(duì)隱私問(wèn)題的關(guān)注?!保?6][27]

    這兩種矛盾的態(tài)度也使得用戶在隱私保護(hù)中處于弱勢(shì)地位,用戶無(wú)法對(duì)隱私進(jìn)行全面而徹底的保護(hù),這背后折射的更多是一種用戶的妥協(xié),本質(zhì)上還是用戶難以擺脫平臺(tái)背后算法技術(shù)所提供的服務(wù)。

    (二)平臺(tái):精準(zhǔn)營(yíng)銷與平臺(tái)責(zé)任的矛盾

    算法的誕生與在互聯(lián)網(wǎng)上的應(yīng)用,讓互聯(lián)網(wǎng)平臺(tái)實(shí)現(xiàn)了營(yíng)銷方式的轉(zhuǎn)變以及營(yíng)銷效果的突破。以往的營(yíng)銷往往只能根據(jù)媒體的屬性,通過(guò)購(gòu)買(mǎi)傳統(tǒng)媒體上的廣告位,填充廣告信息,以此來(lái)觸達(dá)目標(biāo)受眾。在這樣的營(yíng)銷方式中,媒體是重要的中介渠道,雖然它的輻射影響范圍廣、觸達(dá)人群多,但它的營(yíng)銷效果卻始終無(wú)法做到精準(zhǔn),這也是傳統(tǒng)營(yíng)銷的一大局限。隨著算法在各大互聯(lián)網(wǎng)平臺(tái)的廣泛應(yīng)用, 如今的營(yíng)銷方式從購(gòu)買(mǎi)媒體轉(zhuǎn)變?yōu)橹苯淤?gòu)買(mǎi)目標(biāo)人群,精準(zhǔn)的營(yíng)銷效果彌補(bǔ)了傳統(tǒng)營(yíng)銷效果的不足。算法以互聯(lián)網(wǎng)平臺(tái)作為載體,滲透到營(yíng)銷的每一個(gè)環(huán)節(jié)之中。它通過(guò)平臺(tái)收集到海量用戶數(shù)據(jù),搭建模型分析并向不同的用戶分發(fā)個(gè)性化的廣告內(nèi)容,使得平臺(tái)上廣告位的內(nèi)容可以自動(dòng)精準(zhǔn)匹配到真正的目標(biāo)用戶。

    可以說(shuō),如今的數(shù)字營(yíng)銷已正式邁入精準(zhǔn)化階段。多數(shù)互聯(lián)網(wǎng)平臺(tái)因?yàn)檎莆罩惴夹g(shù),成為重要的精準(zhǔn)營(yíng)銷載體。這樣的地位為平臺(tái)帶來(lái)了巨大的商業(yè)利益,首先是精準(zhǔn)營(yíng)銷效果的實(shí)現(xiàn)吸引來(lái)了廣告主;其次是廣告位售賣(mài)方式上也由“一位一客戶”變成了“一位N客戶”,創(chuàng)造了更多合作與變現(xiàn)的空間;最后是精準(zhǔn)營(yíng)銷下的程序化廣告與智能廣告模式也為平臺(tái)節(jié)省了大量的人力與時(shí)間等成本。無(wú)疑,平臺(tái)在精準(zhǔn)營(yíng)銷中成為了最大的利益獲得者。

    算法時(shí)代下,在我國(guó),阿里巴巴、騰訊等互聯(lián)網(wǎng)企業(yè)的商業(yè)觸角已涉及用戶的購(gòu)物、社交、娛樂(lè)等生活中的方方面面,建立起全生態(tài)型平臺(tái)。在這些平臺(tái)的商業(yè)化運(yùn)營(yíng)中,必然少不了使用海量用戶的個(gè)人數(shù)據(jù),以算法為核心技術(shù)基礎(chǔ),進(jìn)行精準(zhǔn)營(yíng)銷。這背后算法的“信息處理、承載和利用方式也引發(fā)了隱私風(fēng)險(xiǎn)和數(shù)據(jù)不當(dāng)適用的倫理風(fēng)險(xiǎn)”[28]。

    因此,平臺(tái)在利用大規(guī)模用戶數(shù)據(jù)進(jìn)行精準(zhǔn)營(yíng)銷的同時(shí),需要承擔(dān)一定責(zé)任?!盎ヂ?lián)網(wǎng)企業(yè)掌握了更多的個(gè)人隱私信息,相應(yīng)地個(gè)人敏感度和感知風(fēng)險(xiǎn)相對(duì)更高,就需要有更多個(gè)人的信任需求,根據(jù)權(quán)責(zé)對(duì)等原則,要求企業(yè)承擔(dān)更多的責(zé)任”[29]。對(duì)于用戶來(lái)說(shuō),互聯(lián)網(wǎng)平臺(tái)毫無(wú)疑問(wèn)需要承擔(dān)起對(duì)每個(gè)用戶個(gè)體的隱私保護(hù)責(zé)任,而對(duì)于社會(huì)來(lái)說(shuō),平臺(tái)同樣也要承擔(dān)起對(duì)用戶群體的隱私保護(hù)責(zé)任,這是由平臺(tái)在當(dāng)下所獲取的社會(huì)資源以及其扮演的社會(huì)角色所決定的。

    可見(jiàn),互聯(lián)網(wǎng)平臺(tái)在算法時(shí)代的隱私保護(hù)中,所面臨的一大矛盾困境即是需要平衡好精準(zhǔn)營(yíng)銷與平臺(tái)責(zé)任兩者的關(guān)系。如何在謀取商業(yè)發(fā)展的同時(shí),承擔(dān)起相應(yīng)的社會(huì)責(zé)任保護(hù)平臺(tái)用戶的個(gè)人隱私,也成為平臺(tái)可持續(xù)發(fā)展道路上亟待解決的重要命題。

    (三)社會(huì):經(jīng)濟(jì)發(fā)展與社會(huì)治理的矛盾

    隨著大數(shù)據(jù)、云計(jì)算、人工智能等技術(shù)的發(fā)展,算法技術(shù)變得愈加精確且復(fù)雜,它所覆蓋的領(lǐng)域也越來(lái)越廣泛。人們每天都在手機(jī)APP上瀏覽的新聞,部分是由合成型算法自動(dòng)創(chuàng)作的;人們?cè)谫?gòu)物平臺(tái)上瀏覽的商品信息,多數(shù)是由算法對(duì)用戶偏好進(jìn)行分析后推薦的;人們出行使用的地圖APP, 也需要根據(jù)用戶的起始地點(diǎn)與所處場(chǎng)景進(jìn)行算法分析找出最佳路線。

    “用戶個(gè)人信息和數(shù)據(jù)是智能產(chǎn)業(yè)發(fā)展的‘石油資源’,算法則是實(shí)現(xiàn)海量數(shù)據(jù)的真正價(jià)值通路,信息和數(shù)據(jù)只有通過(guò)算法能力的擴(kuò)張才能真正實(shí)現(xiàn)其價(jià)值?!保?0]因此,基于龐大用戶群個(gè)人信息與數(shù)據(jù)的算法,被應(yīng)用于社會(huì)的各行各業(yè)中,甚至算法技術(shù)還為社會(huì)經(jīng)濟(jì)發(fā)展催生了部分新興行業(yè)。算法對(duì)經(jīng)濟(jì)發(fā)展的重要性日益突出,一些行業(yè)的經(jīng)濟(jì)發(fā)展布局與戰(zhàn)略頂層設(shè)計(jì)也都離不開(kāi)算法技術(shù),可以說(shuō),社會(huì)已經(jīng)真正邁入了算法時(shí)代。

    《智能算法與數(shù)字經(jīng)濟(jì)新業(yè)態(tài)發(fā)展報(bào)告》提出,“智能算法的廣泛應(yīng)用正重構(gòu)著生產(chǎn)、分配、交換、消費(fèi)等經(jīng)濟(jì)活動(dòng)各環(huán)節(jié),其合理使用給各環(huán)節(jié)的經(jīng)濟(jì)主體帶來(lái)了福利改進(jìn)”。[31]在此背景下,算法逐漸成為一種產(chǎn)業(yè),彰顯出巨大的商業(yè)價(jià)值,有學(xué)者提出“算法產(chǎn)業(yè)已成為推動(dòng)經(jīng)濟(jì)發(fā)展的新引擎”[32]。

    算法對(duì)社會(huì)經(jīng)濟(jì)發(fā)展起到了重要的推動(dòng)作用,對(duì)整個(gè)社會(huì)行業(yè)的運(yùn)轉(zhuǎn)也具有極大的影響力,但這樣巨大的影響力也使得算法的權(quán)力悄悄膨脹,算法技術(shù)背后所潛藏的隱私泄露問(wèn)題也成為社會(huì)治理當(dāng)中不可忽略的一個(gè)重點(diǎn)。

    算法的基礎(chǔ)是海量的用戶數(shù)據(jù),掌握這些用戶數(shù)據(jù)意味著算法可以對(duì)社會(huì)上的每個(gè)人的信息了如指掌,用戶的隱私在算法面前變成了毫無(wú)保留的“明私”。通過(guò)這些隱私信息,算法可以監(jiān)視人們的生活狀態(tài)與活動(dòng)軌跡,甚至可以憑借社會(huì)、平臺(tái)、用戶對(duì)它的技術(shù)依賴,操縱人們的決策行動(dòng),規(guī)訓(xùn)人們的觀念意識(shí),滲透到社會(huì)生活的每一個(gè)環(huán)節(jié)。借助對(duì)公眾隱私的可獲取權(quán)限,算法膨脹的社會(huì)權(quán)力在快速不斷膨脹,而更令人擔(dān)憂的是,算法權(quán)力實(shí)質(zhì)上是資本的權(quán)力[33]。雖然近年來(lái),我國(guó)主要從制定相關(guān)法律法規(guī)的方式,將算法對(duì)隱私空間的入侵進(jìn)行一定的規(guī)制,但社會(huì)上由算法導(dǎo)致的隱私問(wèn)題依然還是層出不窮,并沒(méi)有得到根本解決。因此,未來(lái)國(guó)家對(duì)算法的規(guī)范、對(duì)隱私的保護(hù)也必將成為社會(huì)治理的重中之重。

    經(jīng)濟(jì)發(fā)展對(duì)社會(huì)進(jìn)步至關(guān)重要,但減少算法入侵隱私空間的社會(huì)治理工作同樣也迫在眉睫。經(jīng)濟(jì)發(fā)展與社會(huì)治理如何平衡,是社會(huì)主體在算法時(shí)代的隱私保護(hù)中需要解決的難題。

    四、隱私保護(hù)的路徑方向

    (一)用戶:提高隱私保護(hù)意識(shí),加強(qiáng)隱私保護(hù)行為

    在算法時(shí)代的隱私保護(hù)中,用戶相較于平臺(tái)與社會(huì)兩方主體,會(huì)處于更加被動(dòng)的弱勢(shì)地位。因?yàn)槠脚_(tái)作為算法技術(shù)的載體,對(duì)算法技術(shù)的應(yīng)用與對(duì)用戶的隱私保護(hù)具有可操作的空間。社會(huì)則可從宏觀把控的角度對(duì)平臺(tái)算法背后的隱私保護(hù)進(jìn)行監(jiān)管與約束。而用戶所能做的,就是提高自己的隱私保護(hù)意識(shí),并加強(qiáng)隱私保護(hù)行為。

    近年來(lái)頻繁曝出的隱私泄露事件已讓大多數(shù)用戶覺(jué)醒,加強(qiáng)了隱私關(guān)注。但由于隱私泄露事件反反復(fù)復(fù)發(fā)生,用戶防不勝防,所以不少用戶開(kāi)始產(chǎn)生隱私疲勞的態(tài)度,在意識(shí)上低估了隱私泄露所具有的消極影響力,對(duì)算法下的隱私入侵放松警惕,甚至是熟視無(wú)睹。隨著算法越來(lái)越智能、算力越來(lái)越精準(zhǔn),用戶的掉以輕心只會(huì)帶來(lái)更嚴(yán)峻的隱私風(fēng)險(xiǎn)。因此,對(duì)于用戶而言,最關(guān)鍵的應(yīng)該需要提高隱私保護(hù)意識(shí),重視算法時(shí)代下的隱私問(wèn)題。

    除了提高隱私保護(hù)意識(shí)之外,用戶也應(yīng)該保持隱私態(tài)度與隱私行為的一致,將隱私保護(hù)落實(shí)到具體行動(dòng)中,加強(qiáng)隱私保護(hù)行為。在使用算法等其他技術(shù)提供的平臺(tái)服務(wù)時(shí),用戶應(yīng)當(dāng)仔細(xì)瀏覽相關(guān)的隱私條例與隱私提示,了解個(gè)人數(shù)據(jù)的使用與處理方式;同時(shí),用戶也應(yīng)在提供個(gè)人信息的同時(shí),在自我可控的范圍內(nèi)做好脫敏、匿名、去標(biāo)識(shí)化等操作,避免個(gè)人隱私被非法利用。

    (二)平臺(tái):加強(qiáng)平臺(tái)管控和技術(shù)隱私保護(hù)

    平臺(tái)作為算法技術(shù)的應(yīng)用載體,在隱私保護(hù)中起著至關(guān)重要的作用,因此平臺(tái)也需要積極承擔(dān)起社會(huì)責(zé)任,保護(hù)用戶的隱私數(shù)據(jù)。對(duì)于平臺(tái)來(lái)說(shuō),做好隱私保護(hù)主要有兩個(gè)路徑,一是從技術(shù)上實(shí)現(xiàn)隱私數(shù)據(jù)的加密、脫敏等方式的處理,二是從監(jiān)管上通過(guò)平臺(tái)條例或政策進(jìn)一步規(guī)范對(duì)用戶數(shù)據(jù)的使用。

    在小學(xué)、初中的過(guò)渡階段,由于學(xué)習(xí)內(nèi)容、知識(shí)點(diǎn)難度和授課方法上的巨大差異,以及不同學(xué)生本身在基礎(chǔ)知識(shí)水平和認(rèn)知能力上的區(qū)別,導(dǎo)致很多學(xué)生難以迅速融入初中階段的學(xué)習(xí)生活。若教師、學(xué)校未能有效幫助學(xué)生克服種種不適應(yīng),則可能會(huì)引起學(xué)生的厭學(xué)情緒,不利于其成長(zhǎng)。英語(yǔ)學(xué)科由于在日常生活中往往難以具備語(yǔ)言環(huán)境,一直都是學(xué)校教學(xué)中的難點(diǎn)科目。并且小學(xué)與初中階段的英語(yǔ)教學(xué),無(wú)論是知識(shí)點(diǎn)、題型還是教材都存在區(qū)別,因此為防止學(xué)生成績(jī)滑落,需在過(guò)渡階段特別加以注意。

    目前,在技術(shù)層面的隱私保護(hù)工作中,互聯(lián)網(wǎng)平臺(tái)的兩大巨頭蘋(píng)果與谷歌都已開(kāi)始了嘗試。蘋(píng)果在ios14.5系統(tǒng)中加入了“APP跟蹤透明度”和“APP跟蹤設(shè)置”,當(dāng)?shù)谌角佬枰櫟接脩舻男畔⒒蛳嚓P(guān)數(shù)據(jù)時(shí),手機(jī)就會(huì)跳出彈窗提醒用戶并詢問(wèn)用戶是否同意。而谷歌則通過(guò)開(kāi)啟隱私沙盒的設(shè)置,阻止廣告主通過(guò)第三方Cookie在用戶不知情的情況下追蹤利用用戶的個(gè)人數(shù)據(jù)。

    但相對(duì)于國(guó)外的互聯(lián)網(wǎng)平臺(tái),我國(guó)的互聯(lián)網(wǎng)平臺(tái)目前對(duì)用戶隱私保護(hù)的技術(shù)成果并不顯著。整體看來(lái),我國(guó)成千上億的用戶隱私數(shù)據(jù)仍面臨著被泄露、被公開(kāi)、被非法利用等風(fēng)險(xiǎn)。

    因此,在未來(lái)的發(fā)展中,平臺(tái)應(yīng)當(dāng)從技術(shù)出發(fā),根據(jù)目前對(duì)用戶隱私保護(hù)工作的實(shí)際漏洞,同時(shí)考慮到算法技術(shù)的侵入性與不透明性,重點(diǎn)對(duì)用戶數(shù)據(jù)的挖掘、使用、儲(chǔ)存、傳播等環(huán)節(jié)進(jìn)行技術(shù)加密設(shè)置,對(duì)數(shù)據(jù)內(nèi)容本身進(jìn)行脫敏、去標(biāo)識(shí)化、匿名化等處理,讓數(shù)據(jù)發(fā)揮出應(yīng)用價(jià)值的同時(shí),也能保有私密性。

    除了技術(shù)手段之外,平臺(tái)也應(yīng)通過(guò)相關(guān)隱私條例的方式進(jìn)一步加強(qiáng)監(jiān)管。平臺(tái)面向用戶的隱私保護(hù)條例應(yīng)以用戶為中心,切實(shí)考慮到用戶的隱私利益,以通俗易懂的文字展開(kāi)說(shuō)明,而非堆砌一些具有知識(shí)門(mén)檻的專業(yè)術(shù)語(yǔ)與冗長(zhǎng)的條例,讓用戶感到隱私疲勞。而對(duì)于接入平臺(tái)的數(shù)據(jù)使用方的隱私條例,也應(yīng)對(duì)其使用用戶數(shù)據(jù)的范圍、責(zé)任、違法后果等做好清晰的說(shuō)明,并對(duì)數(shù)據(jù)使用方進(jìn)行嚴(yán)格的平臺(tái)監(jiān)督。

    (三)社會(huì):出臺(tái)更細(xì)化的法律、加強(qiáng)第三方有效監(jiān)管

    在算法時(shí)代的隱私保護(hù)中,社會(huì)是平臺(tái)-用戶之外的重要的主體,社會(huì)能從政府入手,站在更宏觀的層面對(duì)隱私保護(hù)工作進(jìn)行全面的把控。在未來(lái),對(duì)于社會(huì)主體來(lái)說(shuō),加強(qiáng)立法與第三方監(jiān)管是隱私保護(hù)工作的兩個(gè)主要路徑。

    從中我們可以發(fā)現(xiàn),我國(guó)法律對(duì)于算法時(shí)代的隱私保護(hù)越來(lái)越細(xì)化,從對(duì)整體數(shù)據(jù)安全與個(gè)人信息的宏觀保護(hù),逐漸過(guò)渡為針對(duì)導(dǎo)致用戶數(shù)據(jù)與隱私受威脅的技術(shù)或服務(wù),進(jìn)行更微觀取向的立法與規(guī)范,這也說(shuō)明未來(lái)面向公眾隱私保護(hù)的立法會(huì)更加具體,既對(duì)涉及隱私的接觸或操作主體作出法律要求,也對(duì)涉及隱私的技術(shù)或服務(wù)本身進(jìn)行規(guī)范。

    除此之外,社會(huì)還應(yīng)通過(guò)第三方渠道對(duì)互聯(lián)網(wǎng)平臺(tái)的算法應(yīng)用進(jìn)行有效監(jiān)管。在科技是第一生產(chǎn)力的時(shí)代背景下,掌握算法等前沿技術(shù)的平臺(tái)往往更容易獲取更多資源,從而能謀取到更多經(jīng)濟(jì)利益。目前在我國(guó),互聯(lián)網(wǎng)行業(yè)已出現(xiàn)幾家獨(dú)大的局面,它們掌握了海量用戶的個(gè)人隱私信息,權(quán)力不斷膨脹。因此,社會(huì)需要通過(guò)政府這個(gè)第三方主體加強(qiáng)對(duì)平臺(tái)的嚴(yán)格監(jiān)管,以此平衡平臺(tái)不斷膨脹的權(quán)力,保障用戶的隱私信息安全。

    五、隱私保護(hù)面臨的未來(lái)挑戰(zhàn)

    (一)“全息+算法”帶來(lái)的“掃描式數(shù)據(jù)”隱私風(fēng)險(xiǎn)

    元宇宙無(wú)疑是近兩年來(lái)的一大科技熱點(diǎn),受到社會(huì)各界的資本追捧,滲透進(jìn)游戲、社交、藝術(shù)等各個(gè)行業(yè)中,因此,2021年也被認(rèn)為是“元宇宙元年”。而隨著元宇宙的快速發(fā)展,全息技術(shù)也因?yàn)槟苓M(jìn)行更逼真立體的投影,得到了更廣泛的落地應(yīng)用。未來(lái)的全息技術(shù)可能將用戶外部表征與身體內(nèi)部的數(shù)據(jù)“掃描式”地一一傳輸?shù)狡脚_(tái)上,“我們看什么、看多久,甚至于我們觀看時(shí)微妙的生理反應(yīng)、心理變化、情感波動(dòng)等,都會(huì)得到數(shù)據(jù)化的記錄和傳輸,而這對(duì)平臺(tái)和廣告主來(lái)說(shuō)都是一筆巨大的無(wú)形資產(chǎn)?!保?4]算法技術(shù)則能在這些“掃描式”數(shù)據(jù)的基礎(chǔ)上,進(jìn)行更精細(xì)的分析與洞察,得出用戶的狀態(tài)、想法、意愿等更深入的隱私信息。在“全息+算法”的時(shí)代背景下,用戶由內(nèi)到外地以數(shù)據(jù)信息形式暴露,從內(nèi)在想法到外在全貌,都難逃算法的掌控,用戶所產(chǎn)生的隱私數(shù)據(jù)會(huì)呈現(xiàn)出信息數(shù)量更大、信息內(nèi)容更真實(shí)、信息鏈條更難以追蹤、傳播范圍更廣的趨勢(shì)。這些“貼身數(shù)據(jù)”會(huì)成為平臺(tái)所掌握的數(shù)據(jù)資產(chǎn)的一部分,隨著資本流動(dòng)的鏈條而流動(dòng)。對(duì)社會(huì)與公眾來(lái)說(shuō),這意味著更大的隱私威脅,一旦隱私數(shù)據(jù)被非法利用,用戶的切身利益就會(huì)嚴(yán)重受損,甚至因?yàn)檫@種“掃描式數(shù)據(jù)”可被復(fù)制化,所以還可能會(huì)引發(fā)倫理相關(guān)的問(wèn)題。這在元宇宙、全息技術(shù)快速發(fā)展的未來(lái),對(duì)用戶、平臺(tái)與社會(huì)的隱私保護(hù)會(huì)是一個(gè)全新的挑戰(zhàn)。

    (二)數(shù)據(jù)圍墻導(dǎo)致的“零散化數(shù)據(jù)”

    數(shù)據(jù)圍墻指的是各大互聯(lián)網(wǎng)平臺(tái)為了保護(hù)平臺(tái)利益,建立起用戶數(shù)據(jù)的技術(shù)屏障,防止用戶的數(shù)據(jù)信息流入到其他平臺(tái)上,被其他平臺(tái)商業(yè)化利用。而實(shí)際上,數(shù)據(jù)圍墻的設(shè)立并沒(méi)有改善用戶隱私保護(hù)的困境問(wèn)題,反而使用戶的多類信息都零散化地分布在各個(gè)平臺(tái)上,加大了用戶、平臺(tái)與社會(huì)進(jìn)行信息隱私保護(hù)的難度。

    從目前的行業(yè)趨勢(shì)來(lái)看,互聯(lián)網(wǎng)平臺(tái)之間筑起的數(shù)據(jù)圍墻越來(lái)越高,用戶的海量數(shù)據(jù)被多方平臺(tái)疊合化地儲(chǔ)存與使用,呈現(xiàn)出零散化的特征。在這種情況下,對(duì)于用戶來(lái)說(shuō),受平臺(tái)數(shù)據(jù)壁壘的影響,每當(dāng)用戶在使用平臺(tái)提供的服務(wù)的時(shí)候,都要再提供一次個(gè)人相關(guān)數(shù)據(jù),隱私信息也就更零散化地泛濫在互聯(lián)網(wǎng)平臺(tái)上。對(duì)用戶來(lái)說(shuō),這在帶來(lái)不便的同時(shí),也增加了自我隱私信息管理的難度;對(duì)于平臺(tái)來(lái)說(shuō),多平臺(tái)之間筑起的數(shù)據(jù)圍墻加劇了平臺(tái)對(duì)用戶隱私保護(hù)工作的管理風(fēng)險(xiǎn)與被動(dòng)程度,原因在于即使某一方平臺(tái)自身做好了隱私保護(hù)的工作,但只要其他平臺(tái)使用數(shù)據(jù)不當(dāng),用戶的隱私也還是同樣會(huì)被泄露出去,整體難以管控。當(dāng)隱私數(shù)據(jù)管理不善時(shí),就會(huì)引發(fā)兩個(gè)問(wèn)題:一是對(duì)于應(yīng)當(dāng)承擔(dān)責(zé)任的主體平臺(tái)難以追溯,二是平臺(tái)對(duì)隱私保護(hù)所做的實(shí)踐努力難以準(zhǔn)確衡量效果,每個(gè)平臺(tái)對(duì)隱私數(shù)據(jù)管理的風(fēng)險(xiǎn)都會(huì)擴(kuò)大;對(duì)社會(huì)而言,各個(gè)平臺(tái)都紛紛建立起數(shù)據(jù)圍墻,社會(huì)從外部對(duì)平臺(tái)進(jìn)行監(jiān)管的阻力就更大,而且不同的數(shù)據(jù)圍墻也意味著各平臺(tái)的隱私保護(hù)水平參差不齊,它們之間無(wú)法達(dá)成一致的保護(hù)措施,這也使得社會(huì)難以進(jìn)行統(tǒng)一化的高效監(jiān)管。

    因此,如何應(yīng)對(duì)互聯(lián)網(wǎng)平臺(tái)數(shù)據(jù)圍墻帶來(lái)的“零散化數(shù)據(jù)”,如何降低“零散化數(shù)據(jù)”背后潛藏的隱私風(fēng)險(xiǎn),也是用戶、平臺(tái)與社會(huì)在未來(lái)面臨的另一挑戰(zhàn)。

    六、結(jié)語(yǔ)

    算法時(shí)代的到來(lái),確實(shí)給人們的生活帶來(lái)了諸多便捷之處。但與此同時(shí),我們并不能忽略算法技術(shù)在不斷的升級(jí)發(fā)展中,給社會(huì)和個(gè)體的隱私保護(hù)工作帶來(lái)的威脅。在算法權(quán)力不斷膨脹的今天,用戶、平臺(tái)與社會(huì)都應(yīng)正視算法時(shí)代下的隱私保護(hù)問(wèn)題,在矛盾困境中做好取舍與平衡,并通過(guò)相應(yīng)的舉措減少算法給隱私保護(hù)帶來(lái)的風(fēng)險(xiǎn)。而在未來(lái)可能出現(xiàn)的“掃描式數(shù)據(jù)”與“零散式數(shù)據(jù)”的新挑戰(zhàn)中,用戶、平臺(tái)與社會(huì)也應(yīng)該堅(jiān)守隱私底線,以社會(huì)與公眾利益為重,避免隱私淪為“明私”。

    猜你喜歡
    算法用戶
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    進(jìn)位加法的兩種算法
    算法初步兩點(diǎn)追蹤
    基于增強(qiáng)隨機(jī)搜索的OECI-ELM算法
    關(guān)注用戶
    關(guān)注用戶
    一種改進(jìn)的整周模糊度去相關(guān)算法
    關(guān)注用戶
    Camera360:拍出5億用戶
    av在线蜜桃| 欧美激情在线99| 亚洲av一区综合| 可以在线观看毛片的网站| 亚洲久久久久久中文字幕| 亚洲天堂国产精品一区在线| 久久精品久久久久久久性| 18禁在线无遮挡免费观看视频| 亚洲国产欧美人成| 狂野欧美激情性xxxx在线观看| 日韩强制内射视频| 乱人视频在线观看| 欧美精品国产亚洲| 国产av不卡久久| 床上黄色一级片| 一级二级三级毛片免费看| 一区二区三区四区激情视频 | 亚洲丝袜综合中文字幕| 国产爱豆传媒在线观看| 久久久久久大精品| 午夜激情欧美在线| 中国美白少妇内射xxxbb| 国产女主播在线喷水免费视频网站 | 欧美另类亚洲清纯唯美| 欧美日韩国产亚洲二区| 五月伊人婷婷丁香| 天天躁日日操中文字幕| 国产av一区在线观看免费| 成年版毛片免费区| 久久久久久久久大av| 国产黄色小视频在线观看| 禁无遮挡网站| 国产亚洲av嫩草精品影院| 卡戴珊不雅视频在线播放| 国产麻豆成人av免费视频| 久久草成人影院| 国产日本99.免费观看| 国产 一区 欧美 日韩| 欧美丝袜亚洲另类| 欧美3d第一页| 欧美高清性xxxxhd video| 亚洲图色成人| 国产成人a区在线观看| 亚洲成人久久性| 黄色日韩在线| 久久精品国产亚洲av涩爱 | 日韩欧美精品v在线| 一区二区三区高清视频在线| 久久精品国产亚洲av涩爱 | 亚洲欧美日韩卡通动漫| 成人午夜高清在线视频| 免费观看的影片在线观看| 国产真实乱freesex| 欧美丝袜亚洲另类| 久久久久九九精品影院| 国产精华一区二区三区| 午夜爱爱视频在线播放| 国内精品久久久久精免费| 午夜福利在线观看免费完整高清在 | 99热只有精品国产| 成人综合一区亚洲| 99久久人妻综合| 性欧美人与动物交配| 成人亚洲精品av一区二区| 日本一本二区三区精品| 国产成人午夜福利电影在线观看| 麻豆成人av视频| 在线a可以看的网站| 日韩人妻高清精品专区| avwww免费| 国产一区二区激情短视频| 岛国在线免费视频观看| 麻豆国产av国片精品| 晚上一个人看的免费电影| 免费看av在线观看网站| 大香蕉久久网| 丰满的人妻完整版| 久久九九热精品免费| 男女那种视频在线观看| 在线观看av片永久免费下载| 青春草亚洲视频在线观看| 在线免费观看不下载黄p国产| 国产成人午夜福利电影在线观看| 18禁黄网站禁片免费观看直播| 69人妻影院| 国产精品蜜桃在线观看 | 五月伊人婷婷丁香| 国产成人影院久久av| 久久人妻av系列| 天天一区二区日本电影三级| 国产探花在线观看一区二区| 欧美成人a在线观看| 人妻少妇偷人精品九色| 日韩视频在线欧美| 国产黄片美女视频| 成人三级黄色视频| 最近视频中文字幕2019在线8| 男人的好看免费观看在线视频| 成人亚洲精品av一区二区| 不卡视频在线观看欧美| 亚洲真实伦在线观看| 久久久久久久久久黄片| 18禁在线无遮挡免费观看视频| 婷婷色av中文字幕| 啦啦啦观看免费观看视频高清| 成人亚洲欧美一区二区av| 亚洲成人精品中文字幕电影| 高清日韩中文字幕在线| 岛国在线免费视频观看| 欧美3d第一页| 天堂av国产一区二区熟女人妻| 日本黄色视频三级网站网址| www.色视频.com| 午夜亚洲福利在线播放| 久久99热6这里只有精品| 国产成人午夜福利电影在线观看| 日本免费一区二区三区高清不卡| 国产亚洲91精品色在线| 久久国内精品自在自线图片| 久久久久久久久久久丰满| 亚洲成人av在线免费| www.色视频.com| 成人无遮挡网站| 日韩欧美国产在线观看| 女同久久另类99精品国产91| 亚洲综合色惰| 性色avwww在线观看| 高清毛片免费看| 免费av不卡在线播放| 少妇丰满av| 观看美女的网站| 日韩一区二区三区影片| 免费人成在线观看视频色| 国语自产精品视频在线第100页| 18禁黄网站禁片免费观看直播| 我要搜黄色片| 国产精品一二三区在线看| 赤兔流量卡办理| 午夜福利高清视频| 高清日韩中文字幕在线| 综合色丁香网| 久久精品久久久久久久性| 日韩欧美在线乱码| 边亲边吃奶的免费视频| 久久久久久久久久黄片| 18禁裸乳无遮挡免费网站照片| 内地一区二区视频在线| 久久鲁丝午夜福利片| 中文字幕av在线有码专区| 中文亚洲av片在线观看爽| 亚洲精品成人久久久久久| 色哟哟·www| 日日摸夜夜添夜夜爱| 久久午夜亚洲精品久久| 精品日产1卡2卡| 亚洲丝袜综合中文字幕| 国产午夜精品一二区理论片| 成人特级黄色片久久久久久久| 国内揄拍国产精品人妻在线| 97在线视频观看| 亚洲aⅴ乱码一区二区在线播放| 春色校园在线视频观看| 99热这里只有是精品在线观看| 国产色婷婷99| 成人特级黄色片久久久久久久| 又粗又硬又长又爽又黄的视频 | 国产视频首页在线观看| 国产精华一区二区三区| 成人美女网站在线观看视频| 一区二区三区四区激情视频 | 九九爱精品视频在线观看| 国产激情偷乱视频一区二区| 久久亚洲国产成人精品v| 欧美激情久久久久久爽电影| 婷婷精品国产亚洲av| 网址你懂的国产日韩在线| 免费观看在线日韩| 亚洲av中文av极速乱| 欧美bdsm另类| 色综合亚洲欧美另类图片| 国产精品人妻久久久影院| 国产男人的电影天堂91| 久久久精品94久久精品| 男女边吃奶边做爰视频| a级毛片a级免费在线| 99九九线精品视频在线观看视频| av卡一久久| 午夜精品在线福利| 麻豆国产av国片精品| 欧美色欧美亚洲另类二区| 亚洲av熟女| 观看美女的网站| 亚洲精品色激情综合| 成人漫画全彩无遮挡| 亚洲欧美日韩卡通动漫| 97热精品久久久久久| 国产片特级美女逼逼视频| 一级黄片播放器| 校园春色视频在线观看| 99热精品在线国产| 岛国毛片在线播放| 色哟哟哟哟哟哟| 亚洲乱码一区二区免费版| 国产亚洲5aaaaa淫片| 亚洲欧美精品专区久久| 日韩欧美三级三区| 国产精品女同一区二区软件| videossex国产| 美女 人体艺术 gogo| 欧美极品一区二区三区四区| 久久人妻av系列| 联通29元200g的流量卡| 欧美人与善性xxx| 成年版毛片免费区| 在线天堂最新版资源| 一区二区三区高清视频在线| eeuss影院久久| 精品久久久久久久久av| 久久午夜福利片| 能在线免费观看的黄片| 欧美3d第一页| 欧美成人免费av一区二区三区| 最近最新中文字幕大全电影3| 午夜免费男女啪啪视频观看| 亚洲欧美日韩东京热| 成年女人看的毛片在线观看| 亚洲欧美日韩无卡精品| 国产高清视频在线观看网站| 嫩草影院精品99| 日日摸夜夜添夜夜爱| 51国产日韩欧美| 亚洲精品乱码久久久v下载方式| 小蜜桃在线观看免费完整版高清| 欧美激情国产日韩精品一区| 高清午夜精品一区二区三区 | 久久久久网色| 男人狂女人下面高潮的视频| 又黄又爽又刺激的免费视频.| 国产精品人妻久久久久久| 黄色日韩在线| 亚洲av中文av极速乱| 噜噜噜噜噜久久久久久91| 精品久久久久久久末码| 亚洲久久久久久中文字幕| 人妻制服诱惑在线中文字幕| 亚洲欧美精品专区久久| 亚洲无线在线观看| 99在线视频只有这里精品首页| 国产色婷婷99| 欧美区成人在线视频| av国产免费在线观看| 综合色av麻豆| 毛片女人毛片| 亚洲精品乱码久久久v下载方式| 成人永久免费在线观看视频| 22中文网久久字幕| 丰满的人妻完整版| 校园人妻丝袜中文字幕| 久久精品夜色国产| 国产综合懂色| 日韩av不卡免费在线播放| 国产黄色小视频在线观看| 欧美极品一区二区三区四区| 亚洲国产高清在线一区二区三| 亚洲精品粉嫩美女一区| 桃色一区二区三区在线观看| 国产精品一区二区在线观看99 | 中文字幕久久专区| 国产高潮美女av| a级毛片免费高清观看在线播放| 美女高潮的动态| 国产精品不卡视频一区二区| 国内少妇人妻偷人精品xxx网站| 国产一区二区亚洲精品在线观看| 啦啦啦啦在线视频资源| 99久久九九国产精品国产免费| 黑人高潮一二区| 久久久久网色| 黄色欧美视频在线观看| 国产精品.久久久| 精华霜和精华液先用哪个| 久久人人爽人人爽人人片va| 国产亚洲精品久久久com| 尤物成人国产欧美一区二区三区| 亚洲av二区三区四区| 99久久精品热视频| 美女cb高潮喷水在线观看| 亚洲图色成人| 日本-黄色视频高清免费观看| 有码 亚洲区| 韩国av在线不卡| 看免费成人av毛片| 日日撸夜夜添| 国产精品久久久久久精品电影小说 | 看非洲黑人一级黄片| 欧美xxxx黑人xx丫x性爽| 大又大粗又爽又黄少妇毛片口| av免费观看日本| 午夜激情欧美在线| 悠悠久久av| 一区二区三区免费毛片| 亚洲经典国产精华液单| 国产成人a∨麻豆精品| 91狼人影院| 丰满乱子伦码专区| 国产精品野战在线观看| 床上黄色一级片| 丝袜喷水一区| 美女国产视频在线观看| 国产一级毛片在线| 中文欧美无线码| 日韩 亚洲 欧美在线| 亚洲中文字幕一区二区三区有码在线看| 男女视频在线观看网站免费| 婷婷亚洲欧美| 毛片一级片免费看久久久久| 少妇熟女aⅴ在线视频| 99九九线精品视频在线观看视频| 欧美变态另类bdsm刘玥| 床上黄色一级片| 国产成人a区在线观看| 亚洲av.av天堂| 特大巨黑吊av在线直播| 黄片wwwwww| 婷婷色av中文字幕| 日本色播在线视频| 特大巨黑吊av在线直播| 欧美bdsm另类| 高清毛片免费看| 婷婷色综合大香蕉| 老司机福利观看| 国产精品福利在线免费观看| 欧美3d第一页| 精华霜和精华液先用哪个| 国产69精品久久久久777片| 神马国产精品三级电影在线观看| 美女 人体艺术 gogo| 男的添女的下面高潮视频| 亚洲av免费高清在线观看| 高清午夜精品一区二区三区 | 男的添女的下面高潮视频| 日本欧美国产在线视频| 精品一区二区三区人妻视频| 亚洲国产色片| 大型黄色视频在线免费观看| 美女 人体艺术 gogo| 日韩人妻高清精品专区| 少妇熟女欧美另类| 村上凉子中文字幕在线| 国产精品久久久久久久久免| avwww免费| 人妻久久中文字幕网| 精华霜和精华液先用哪个| 免费看日本二区| 亚洲欧美日韩无卡精品| 人妻久久中文字幕网| 18禁黄网站禁片免费观看直播| 久久精品国产99精品国产亚洲性色| 亚洲真实伦在线观看| 少妇熟女欧美另类| 麻豆久久精品国产亚洲av| 免费搜索国产男女视频| 欧美日本视频| 午夜精品一区二区三区免费看| 一卡2卡三卡四卡精品乱码亚洲| 蜜臀久久99精品久久宅男| 午夜老司机福利剧场| 亚洲人成网站在线观看播放| 免费电影在线观看免费观看| 特大巨黑吊av在线直播| 国产精品久久久久久亚洲av鲁大| 搡老妇女老女人老熟妇| 久久人妻av系列| 亚洲欧美精品专区久久| 美女cb高潮喷水在线观看| 内射极品少妇av片p| 91麻豆精品激情在线观看国产| 人妻系列 视频| 成人特级黄色片久久久久久久| 69人妻影院| 日韩在线高清观看一区二区三区| 国产私拍福利视频在线观看| 午夜老司机福利剧场| 欧洲精品卡2卡3卡4卡5卡区| 99国产极品粉嫩在线观看| 国产亚洲av嫩草精品影院| 一级毛片aaaaaa免费看小| 国产精品一及| 久久久国产成人精品二区| 国产精品久久久久久久电影| 国产黄色小视频在线观看| 大又大粗又爽又黄少妇毛片口| 丰满的人妻完整版| 免费黄网站久久成人精品| 中文欧美无线码| 狂野欧美白嫩少妇大欣赏| 精品不卡国产一区二区三区| 色播亚洲综合网| 日韩在线高清观看一区二区三区| 国产精品人妻久久久影院| 人妻久久中文字幕网| 亚洲精品久久久久久婷婷小说 | 色噜噜av男人的天堂激情| 三级毛片av免费| 精品熟女少妇av免费看| 99riav亚洲国产免费| 亚洲经典国产精华液单| 欧美性感艳星| 99热这里只有是精品50| 久久99精品国语久久久| 久久午夜亚洲精品久久| 亚洲人成网站高清观看| 我的女老师完整版在线观看| 亚洲久久久久久中文字幕| 日日啪夜夜撸| 最后的刺客免费高清国语| 91精品一卡2卡3卡4卡| 国产午夜精品久久久久久一区二区三区| 国产精品久久久久久精品电影小说 | 色综合站精品国产| 级片在线观看| 91av网一区二区| 国产麻豆成人av免费视频| av.在线天堂| 一级毛片久久久久久久久女| 亚洲国产日韩欧美精品在线观看| 亚洲欧洲日产国产| 99久久成人亚洲精品观看| 男女下面进入的视频免费午夜| 久久人人爽人人片av| 女同久久另类99精品国产91| 中国美女看黄片| 日本成人三级电影网站| 亚洲七黄色美女视频| 97超碰精品成人国产| 国产精品日韩av在线免费观看| 又爽又黄a免费视频| 欧美日韩精品成人综合77777| 一级黄片播放器| 欧美潮喷喷水| 男女做爰动态图高潮gif福利片| 97人妻精品一区二区三区麻豆| 久久人人精品亚洲av| 五月玫瑰六月丁香| 综合色丁香网| 国产视频内射| 中文资源天堂在线| 99久久久亚洲精品蜜臀av| 亚州av有码| 国产精华一区二区三区| 午夜免费男女啪啪视频观看| 中文字幕av成人在线电影| 中国国产av一级| 婷婷色av中文字幕| 精品久久久久久久久久免费视频| 精品午夜福利在线看| 国产精品电影一区二区三区| 精品一区二区三区视频在线| 国产成人午夜福利电影在线观看| 波多野结衣高清无吗| 色噜噜av男人的天堂激情| 日韩一本色道免费dvd| 久久久久久伊人网av| 91在线精品国自产拍蜜月| 狂野欧美白嫩少妇大欣赏| 免费黄网站久久成人精品| 老熟妇乱子伦视频在线观看| 国产成人91sexporn| 亚洲精品久久国产高清桃花| 特大巨黑吊av在线直播| 搞女人的毛片| 热99在线观看视频| 日本欧美国产在线视频| 国产亚洲av片在线观看秒播厂 | 在线观看美女被高潮喷水网站| 青春草国产在线视频 | 卡戴珊不雅视频在线播放| 国产高清不卡午夜福利| 久久久国产成人免费| 欧美又色又爽又黄视频| 亚洲av不卡在线观看| 色综合亚洲欧美另类图片| 秋霞在线观看毛片| 国产毛片a区久久久久| 婷婷色综合大香蕉| 免费看a级黄色片| 卡戴珊不雅视频在线播放| 国产大屁股一区二区在线视频| 亚洲成人久久性| 狂野欧美激情性xxxx在线观看| 亚洲人成网站高清观看| 2022亚洲国产成人精品| 欧美性猛交╳xxx乱大交人| 三级毛片av免费| 99热精品在线国产| 日本黄色视频三级网站网址| 国产亚洲91精品色在线| 少妇熟女欧美另类| 精品少妇黑人巨大在线播放 | 又粗又爽又猛毛片免费看| 69av精品久久久久久| 久久久精品大字幕| 成人毛片a级毛片在线播放| 精品久久国产蜜桃| 国产视频内射| www日本黄色视频网| 精品人妻一区二区三区麻豆| 国产成人福利小说| 久久精品国产亚洲av涩爱 | 久久久久久九九精品二区国产| 国产亚洲欧美98| 久久这里只有精品中国| 国产探花在线观看一区二区| 亚洲av一区综合| 三级男女做爰猛烈吃奶摸视频| 熟女人妻精品中文字幕| 18禁黄网站禁片免费观看直播| 又黄又爽又刺激的免费视频.| 一级毛片电影观看 | 亚洲第一区二区三区不卡| 欧美色视频一区免费| 日本与韩国留学比较| 国产精品永久免费网站| 麻豆国产97在线/欧美| 两性午夜刺激爽爽歪歪视频在线观看| 一级毛片我不卡| 日韩av不卡免费在线播放| 欧美成人免费av一区二区三区| 美女黄网站色视频| 欧美日本视频| 一边摸一边抽搐一进一小说| 欧美+亚洲+日韩+国产| 午夜精品国产一区二区电影 | 亚洲美女搞黄在线观看| 一边亲一边摸免费视频| 伊人久久精品亚洲午夜| 国产亚洲精品久久久com| 中文欧美无线码| 精品久久久久久久久久久久久| 国产国拍精品亚洲av在线观看| 久久久欧美国产精品| 免费搜索国产男女视频| 日韩av不卡免费在线播放| 欧洲精品卡2卡3卡4卡5卡区| 亚洲欧洲日产国产| 黄色日韩在线| 三级毛片av免费| 久久久成人免费电影| 精品久久久久久久人妻蜜臀av| 99久久无色码亚洲精品果冻| 欧美一区二区精品小视频在线| 特大巨黑吊av在线直播| 国产一区二区在线av高清观看| 久久久久国产网址| 久久久久网色| 精华霜和精华液先用哪个| 国产成人a区在线观看| 中国国产av一级| 中文亚洲av片在线观看爽| 免费在线观看成人毛片| www.色视频.com| 国产av麻豆久久久久久久| 久久6这里有精品| 亚洲中文字幕一区二区三区有码在线看| 一级黄片播放器| 99久久精品热视频| 国产伦精品一区二区三区四那| 听说在线观看完整版免费高清| 国产成人一区二区在线| 美女cb高潮喷水在线观看| 久久99蜜桃精品久久| 观看免费一级毛片| 听说在线观看完整版免费高清| 精品不卡国产一区二区三区| 麻豆精品久久久久久蜜桃| 午夜a级毛片| 精品久久久噜噜| 国产精品爽爽va在线观看网站| 国产白丝娇喘喷水9色精品| 麻豆成人午夜福利视频| 26uuu在线亚洲综合色| 成人欧美大片| 一个人观看的视频www高清免费观看| 一进一出抽搐gif免费好疼| 亚洲av电影不卡..在线观看| 又粗又硬又长又爽又黄的视频 | 最近视频中文字幕2019在线8| 亚洲电影在线观看av| 一级黄片播放器| av免费在线看不卡| 麻豆成人av视频| 亚洲最大成人手机在线| 欧美bdsm另类| 麻豆一二三区av精品| 日韩高清综合在线| 99国产极品粉嫩在线观看| 国产亚洲av片在线观看秒播厂 | eeuss影院久久| 欧美最黄视频在线播放免费| 色播亚洲综合网| 亚洲精品亚洲一区二区| 国产精品永久免费网站| 我要搜黄色片| 国产精品综合久久久久久久免费| 亚洲国产精品国产精品| 狂野欧美激情性xxxx在线观看| 日本-黄色视频高清免费观看| 男人狂女人下面高潮的视频| 男女边吃奶边做爰视频| 三级男女做爰猛烈吃奶摸视频| 99热这里只有是精品在线观看| 爱豆传媒免费全集在线观看| 亚洲欧美日韩东京热| 亚洲欧美中文字幕日韩二区| 国产精品av视频在线免费观看|