• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    算法時(shí)代的隱私保護(hù):矛盾困境、路徑方向及未來(lái)挑戰(zhàn)

    2022-11-21 02:43:24張奕翔
    傳媒論壇 2022年16期
    關(guān)鍵詞:算法用戶

    張奕翔

    一、引言

    互聯(lián)網(wǎng)web 3.0時(shí)代的一大技術(shù)亮點(diǎn)即是算法技術(shù)的出現(xiàn)與應(yīng)用,算法被認(rèn)為是第三次傳播變革的重要產(chǎn)物。

    算法的出現(xiàn)源于社會(huì)發(fā)展對(duì)精準(zhǔn)效果的追求。對(duì)于互聯(lián)網(wǎng)平臺(tái)而言,算法可以讓內(nèi)容更加精準(zhǔn)化、定向化分發(fā),一方面可以快速精準(zhǔn)找到目標(biāo)用戶、有效提高分發(fā)效率,另一方面可以減少不必要的曝光浪費(fèi),節(jié)約成本;對(duì)于用戶而言,算法的應(yīng)用可以讓他們?yōu)g覽到更多符合個(gè)性化與興趣需求的內(nèi)容,提高整體的使用體驗(yàn)。如今隨著互聯(lián)網(wǎng)的發(fā)展,算法的技術(shù)性已然滲透到社會(huì)資源使用的過(guò)程之中,與大數(shù)據(jù)、云計(jì)算、人工智能相關(guān)聯(lián)的各行各業(yè)都離不開(kāi)算法技術(shù)。于整個(gè)社會(huì)而言,算法技術(shù)的廣泛應(yīng)用已成為經(jīng)濟(jì)高效發(fā)展的一個(gè)重要推動(dòng)點(diǎn)。

    但當(dāng)人類正式邁入算法時(shí)代,算法的觸角深入到我們的生活中,并真正成為社會(huì)生活的潛在技術(shù)邏輯核心后,算法背后潛藏已久的一些問(wèn)題也一一暴露開(kāi)來(lái)。近年來(lái),人們開(kāi)始關(guān)注到算法存在偏見(jiàn)歧視、 價(jià)格殺熟等負(fù)面問(wèn)題,比如2018年亞馬遜的AI會(huì)通過(guò)算法篩選出女性求職者并降低其簡(jiǎn)歷比重,比如同樣一件商品蘋(píng)果用戶端價(jià)格會(huì)高于安卓用戶端……一些由算法引發(fā)的事件頻頻引起社會(huì)熱議與討論,人們逐漸意識(shí)到算法技術(shù)是一把雙刃劍,它在給社會(huì)發(fā)展帶來(lái)進(jìn)步的同時(shí),也隱藏著諸多的風(fēng)險(xiǎn)與危機(jī),對(duì)社會(huì)具有一定的負(fù)面影響。

    基于平臺(tái)對(duì)海量大數(shù)據(jù)的搜集,算法技術(shù)不斷發(fā)展,算法所能應(yīng)用的覆蓋范圍更廣,所能實(shí)現(xiàn)的計(jì)算程度更加精準(zhǔn),而這也無(wú)形中為人類社會(huì)的隱私保護(hù)帶來(lái)了更多威脅。社會(huì)開(kāi)始意識(shí)到了算法時(shí)代的隱私保護(hù)是個(gè)嚴(yán)峻的問(wèn)題。

    近年來(lái),社會(huì)、平臺(tái)與用戶已經(jīng)開(kāi)始圍繞隱私保護(hù)展開(kāi)行動(dòng)。社會(huì)主要從法律與制度入手進(jìn)行對(duì)算法的治理,通過(guò)立法與完善行業(yè)行規(guī)等手段對(duì)算法使用隱私數(shù)據(jù)進(jìn)行規(guī)范和約束,比如僅在2021年,我國(guó)便出臺(tái)并施行了《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》兩部重要的法律;各大互聯(lián)網(wǎng)平臺(tái)多從技術(shù)保護(hù)出發(fā),通過(guò)限制追蹤、去標(biāo)識(shí)化、匿名化等多類型的技術(shù)手段,保護(hù)用戶的隱私數(shù)據(jù),如蘋(píng)果采取了默認(rèn)關(guān)閉IDFA追蹤,谷歌啟動(dòng)了隱私沙盒等;而對(duì)于部分用戶,他們則會(huì)開(kāi)始選擇關(guān)注平臺(tái)隱私保護(hù)條例、關(guān)閉個(gè)性化廣告推薦、回避個(gè)性化內(nèi)容、故意填寫(xiě)虛假信息等方式來(lái)保護(hù)自己的隱私。

    但多年來(lái)的算法發(fā)展已經(jīng)使其根植入了社會(huì)運(yùn)作之中,算法所帶來(lái)的價(jià)值與好處也成為了社會(huì)的一種習(xí)慣。

    面對(duì)算法時(shí)代的隱私保護(hù),從社會(huì)到平臺(tái)到用戶,這三方主體都面臨著不同的矛盾困境。而與此同時(shí),算法的發(fā)展也已與其他技術(shù)的發(fā)展互相影響,這也意味著算法時(shí)代的隱私保護(hù)也還面臨著除算法技術(shù)以外的其他新挑戰(zhàn)。在這些矛盾困境與挑戰(zhàn)中,隱私保護(hù)未來(lái)該選擇怎樣的路徑方向也是值得深入思考的問(wèn)題。

    二、文獻(xiàn)綜述

    (一)算法

    算法這個(gè)概念最早是由中國(guó)古代數(shù)學(xué)家和古波斯數(shù)學(xué)家提出的。進(jìn)入了信息時(shí)代后,算法依附于計(jì)算機(jī)載體,作用于互聯(lián)網(wǎng)信息分發(fā),成為計(jì)算機(jī)與互聯(lián)網(wǎng)得以運(yùn)作的關(guān)鍵技術(shù)邏輯。因此,關(guān)于算法的定義,學(xué)者多從科技化視角闡釋,從計(jì)算機(jī)科學(xué)視角來(lái)看,算法被定義為一種“有限、確定、有效并適合用計(jì)算機(jī)程序來(lái)實(shí)現(xiàn)的解決問(wèn)題”的方法,從信息技術(shù)角度來(lái)看,算法是可將輸入數(shù)據(jù)轉(zhuǎn)化為可預(yù)期結(jié)果的編碼程式。[1]把算法工具化看待,有學(xué)者則認(rèn)為“算法(algorithm) 可以定義為解決一個(gè)特定問(wèn)題而采取的一系列特定的、有限的步驟?!保?]在不斷發(fā)展中,算法逐漸從“計(jì)算機(jī)領(lǐng)域的一個(gè)專業(yè)術(shù)語(yǔ)轉(zhuǎn)變?yōu)橹悄軙r(shí)代文化與社會(huì)的關(guān)鍵概念”,“算法是技術(shù)解決方案的算法、作為社會(huì)技術(shù)集合的算法以及作為權(quán)力的算法”。[3]當(dāng)算法深入社會(huì)生活后,它也逐漸具備多一層文化的意義,結(jié)合科技視角與社會(huì)科學(xué)視角兩者出發(fā),孫萍等學(xué)者認(rèn)為“算法可以被看作是多元傳遞模式下的一種技術(shù)制度和文化實(shí)踐”。隨著算法技術(shù)的發(fā)展與大數(shù)據(jù)重要性的日益凸顯,“算法文化”[4]逐漸形成。

    目前在新聞傳播學(xué)學(xué)科中,算法技術(shù)所引發(fā)的倫理、權(quán)力及價(jià)值等方面的問(wèn)題是學(xué)者們關(guān)注的重點(diǎn)。其中,關(guān)于算法的倫理與權(quán)力兩方面的討論研究在近年來(lái)呈現(xiàn)明顯的上升趨勢(shì)。

    1.算法的倫理問(wèn)題

    學(xué)者劉培、池忠軍指出算法會(huì)導(dǎo)致諸如算法歧視、主體的自主性、隱私以及可責(zé)性等倫理問(wèn)題。[5]算法歧視中包含算法公平、算法身份的污名化與隱私三個(gè)具體的問(wèn)題。[6]學(xué)者匡文波分別從受眾、平臺(tái)與社會(huì)三個(gè)角度,指出算法存在受眾權(quán)力讓渡與濫用、改變行業(yè)的觀念和規(guī)范、削弱媒體公共性的倫理失范問(wèn)題。[7]而當(dāng)算法深入到商業(yè)運(yùn)作之中,也有學(xué)者李飛翔指出算法背后的“大數(shù)據(jù)殺熟”問(wèn)題,“主要涉及數(shù)據(jù)的擁有與分配、算法所應(yīng)遵循的倫理規(guī)則、責(zé)任主體的合理界定、相關(guān)平臺(tái)的信任機(jī)制之維護(hù)以及用戶自身‘?dāng)?shù)據(jù)權(quán)’意識(shí)的覺(jué)醒等重要議題”[8]。雖然算法為社會(huì)經(jīng)濟(jì)發(fā)展帶來(lái)了許多好處,但它背后所存在的倫理問(wèn)題同樣值得我們深思與警惕。

    2.算法的權(quán)力問(wèn)題

    關(guān)于算法的權(quán)力問(wèn)題,學(xué)者張萌批判性地指出,“算法越來(lái)越多地參與到重要決定的裁決中”,正一步步地在控制社會(huì),受眾難以抵抗。[9]段偉文指出,算法權(quán)力體現(xiàn)了知識(shí)即權(quán)力的觀念,“基于算法的數(shù)據(jù)分析所產(chǎn)生的數(shù)據(jù)化框架對(duì)人和世界產(chǎn)生著決定性的影響”,而且“算法的創(chuàng)造者并不完全理解自己的創(chuàng)造物,這使算法成為一種影響人和社會(huì)的不可思議的神秘力量”。[10]從傳播的角度來(lái)看,喻國(guó)明等學(xué)者認(rèn)為,算法的社會(huì)本質(zhì)其實(shí)是一種權(quán)力,已形成的算法技術(shù)范式會(huì)影響媒介運(yùn)作方向,賦予受眾受眾在傳播活動(dòng)中的主動(dòng)權(quán),但它背后的運(yùn)作黑箱也將用戶推向全景監(jiān)視之中。[11]在這種關(guān)系中,學(xué)者方正認(rèn)為算法開(kāi)始對(duì)人類社會(huì)進(jìn)行了“數(shù)字規(guī)訓(xùn)”[12],從社會(huì)到行業(yè),從群體到個(gè)體,人類深受算法的影響,算法的權(quán)力也滲透進(jìn)了社會(huì)的肌理之中,算法所具有的巨大權(quán)力已是不可忽視的問(wèn)題。

    (二)算法時(shí)代的隱私難題

    算法時(shí)代的到來(lái),使數(shù)據(jù)成了人類社會(huì)的又一重要生產(chǎn)要素。因此在算法出現(xiàn)的諸多倫理問(wèn)題中,由用戶數(shù)據(jù)帶來(lái)的隱私難題是對(duì)社會(huì)與用戶影響最深遠(yuǎn)的。

    一般來(lái)說(shuō),算法技術(shù)對(duì)用戶隱私的侵犯可分為兩種,第一種是“在數(shù)據(jù)主體不知情的情況下,算法系統(tǒng)挖掘與收集個(gè)人數(shù)據(jù)”,另一種是“算法系統(tǒng)通過(guò)不透明的計(jì)算、剖析、解釋與預(yù)測(cè)而介入或侵犯?jìng)€(gè)人隱私”。[13]

    互聯(lián)網(wǎng)用戶最能切身體會(huì)到算法技術(shù)的,莫過(guò)于算法新聞與個(gè)性化廣告的推薦內(nèi)容。生產(chǎn)這些內(nèi)容的互聯(lián)網(wǎng)平臺(tái)之所以能通過(guò)算法進(jìn)行“千人千面”的內(nèi)容分發(fā),是因?yàn)槠脚_(tái)擁有記錄用戶上網(wǎng)信息的數(shù)據(jù)庫(kù),而算法的“信息處理、承載和利用方式也引發(fā)了隱私風(fēng)險(xiǎn)和數(shù)據(jù)不當(dāng)適用的倫理風(fēng)險(xiǎn)”[14],算法模糊了隱私的邊界。因此,多數(shù)學(xué)者認(rèn)為,在算法技術(shù)背后,是強(qiáng)勢(shì)平臺(tái)與弱勢(shì)用戶[15]的不平等關(guān)系。

    與此同時(shí),如今受到算法隱私侵犯主體的不止有個(gè)體,還有群體。“集體隱私不再是構(gòu)成該群體的所有個(gè)體隱私的總和,而是構(gòu)成集體的所有個(gè)體的某一種或幾種共同的屬性?!保?6]

    (三)算法時(shí)代的隱私保護(hù)

    關(guān)于算法時(shí)代的隱私保護(hù),李凌從技術(shù)層面提出目前的隱私保護(hù)呈現(xiàn)出從離身轉(zhuǎn)向具身、從積極控制轉(zhuǎn)向消極防御、從中心化轉(zhuǎn)向分布式的趨勢(shì)。[17]

    從整體來(lái)看,做好用戶隱私保護(hù)需要個(gè)人作出合理的價(jià)值選擇、社會(huì)制定合理的信息制度以及科技提供合理的隱私設(shè)計(jì)[18]。王敏也從法律、行業(yè)、個(gè)人三個(gè)角度,提出了大數(shù)據(jù)時(shí)代進(jìn)行隱私保護(hù)的原則。[19]而從數(shù)據(jù)使用者的角度來(lái)看,陳昌鳳等學(xué)者指出要樹(shù)立目的確定原則、質(zhì)量保證原則與個(gè)人參與原則來(lái)規(guī)范數(shù)據(jù)的使用和隱私的保護(hù)。[20]

    比如對(duì)于平臺(tái)的數(shù)據(jù)隱私保護(hù)工作,學(xué)者們較多使用內(nèi)容分析法進(jìn)行研究。2015年,學(xué)者申琦以我國(guó)6類49家網(wǎng)站公布的隱私保護(hù)政策為對(duì)象,運(yùn)用內(nèi)容分析法,發(fā)現(xiàn)早期互聯(lián)網(wǎng)平臺(tái)對(duì)用戶隱私的保護(hù)存在不足,如普遍缺少對(duì)未成年人網(wǎng)絡(luò)信息隱私的保護(hù)。[21]朱穎透過(guò)對(duì)96個(gè)移動(dòng)互聯(lián)網(wǎng)客戶端APP隱私保護(hù)政策的分析, 發(fā)現(xiàn)我國(guó)移動(dòng)APP在隱私保護(hù)政策制定和實(shí)施方面的問(wèn)題有水平參差不齊、存在霸王條款、缺乏協(xié)商機(jī)制、效果不夠理想等問(wèn)題。[22]而到了今天,這些問(wèn)題在互聯(lián)網(wǎng)平臺(tái)上也依然沒(méi)有徹底得到改善。

    通過(guò)相關(guān)文獻(xiàn)的整理,可發(fā)現(xiàn)關(guān)于算法時(shí)代該如何進(jìn)行隱私保護(hù),學(xué)界主要圍繞用戶自身、平臺(tái)與法律三個(gè)重要主體展開(kāi),但大都是分開(kāi)單獨(dú)闡述,缺乏完整性與相互補(bǔ)充。

    三、三方主體面臨的隱私保護(hù)矛盾困境

    (一)用戶:隱私態(tài)度與隱私行為的矛盾

    關(guān)于算法時(shí)代下我們所探討的要保護(hù)的隱私內(nèi)容,更多指的是用戶在互聯(lián)網(wǎng)平臺(tái)所產(chǎn)生的個(gè)人相關(guān)信息,包含個(gè)人注冊(cè)信息、行為痕跡、瀏覽內(nèi)容、地理位置、興趣愛(ài)好等重要隱私內(nèi)容。

    而如今互聯(lián)網(wǎng)用戶的生活,已離不開(kāi)智能終端與各類五花八門(mén)的應(yīng)用程序,不管是終端還是應(yīng)用軟件,它們運(yùn)行的最終載體與背后的資本力量都是互聯(lián)網(wǎng)平臺(tái)。在用戶使用這些終端和應(yīng)用之前,都需要輸入個(gè)人身份的具體信息進(jìn)行注冊(cè),如身份ID、手機(jī)號(hào)、地理位置隱私信息等,并且還需要授權(quán)同意接受開(kāi)啟地理位置跟蹤、麥克風(fēng)開(kāi)啟、攝像頭開(kāi)啟等權(quán)限,否則便無(wú)法使用這些互聯(lián)網(wǎng)平臺(tái)提供的服務(wù)。這便意味著,互聯(lián)網(wǎng)平臺(tái)可以得到海量用戶的個(gè)人隱私信息,而用戶個(gè)人隱私信息也存在隨時(shí)被泄露與竊取的風(fēng)險(xiǎn)。

    對(duì)于算法時(shí)代下的隱私保護(hù),用戶所要面對(duì)的矛盾困境有兩個(gè):一是存在已久的——用戶自身隱私保護(hù)態(tài)度與隱私保護(hù)行為的矛盾;二是近年來(lái)出現(xiàn)的新現(xiàn)象——隱私關(guān)注與隱私疲勞兩種態(tài)度的矛盾。

    1.隱私態(tài)度、行為的矛盾:隱私關(guān)注VS隱私披露

    早有研究發(fā)現(xiàn),不少用戶對(duì)于隱私保護(hù)的態(tài)度和實(shí)際行為并不一致,即用戶雖然重視算法背后的個(gè)人隱私安全問(wèn)題,但也熱衷于在互聯(lián)網(wǎng)平臺(tái)主動(dòng)披露個(gè)人隱私相關(guān)的信息,學(xué)者們將這種相互矛盾的現(xiàn)象稱為“隱私悖論”[23]。

    在中國(guó)青年報(bào)社社會(huì)調(diào)查中心做的一項(xiàng)調(diào)查中顯示,75.3%的受訪者曾被算法推薦服務(wù)困擾過(guò);《中國(guó)大安全感知報(bào)告(2021)》也指出,有七成受訪者感到算法能獲取自己的喜好、興趣從而“算計(jì)”自己。加上近幾年來(lái)媒體頻頻爆出關(guān)于應(yīng)用程序竊取用戶隱私信息并通過(guò)算法技術(shù)對(duì)用戶進(jìn)行深入分析的新聞報(bào)道,這引起了多數(shù)用戶對(duì)隱私保護(hù)的重視。算法時(shí)代下,用戶的隱私關(guān)注程度有所提升,對(duì)于個(gè)人隱私的保護(hù)意識(shí)不斷加強(qiáng)。

    但逐漸提高的隱私關(guān)注意識(shí),并沒(méi)有讓用戶在行為上更加注重保護(hù)隱私。與此相反的是,用戶們反而在行為上呈現(xiàn)出一個(gè)更傾向隱私披露的趨勢(shì)——在年輕用戶群體中,不少人愿意以披露隱私來(lái)?yè)Q取互聯(lián)網(wǎng)平臺(tái)的個(gè)性化服務(wù)。

    從用戶作為內(nèi)容需求方的角度來(lái)看,用戶常會(huì)用個(gè)人的隱私數(shù)據(jù)來(lái)“喂養(yǎng)”算法,換取更精準(zhǔn)的個(gè)性化算法服務(wù)。用戶會(huì)自愿在一些社交平臺(tái)中開(kāi)啟基于算法推薦的個(gè)性化服務(wù),允許算法跟蹤分析自己的瀏覽痕跡,進(jìn)一步提供自己喜歡的個(gè)性化內(nèi)容,甚至自愿提供自己的畫(huà)像標(biāo)簽或者瀏覽偏好,遇到不喜歡的內(nèi)容推送也會(huì)點(diǎn)擊“不喜歡此內(nèi)容”等,以此優(yōu)化算法的推薦準(zhǔn)確度。即“算法受眾還會(huì)將自己的謀略主動(dòng)嵌入到算法規(guī)則中”[24],這也意味著用戶主動(dòng)接受算法以及其背后隱藏的隱私泄露風(fēng)險(xiǎn)。

    2.兩種隱私態(tài)度的矛盾:隱私關(guān)注VS隱私疲勞

    隨著社會(huì)各界對(duì)隱私保護(hù)的重視,互聯(lián)網(wǎng)平臺(tái)也出臺(tái)了關(guān)于用戶的隱私保護(hù)條例或保護(hù)政策,但這樣的舉措也并沒(méi)有從實(shí)質(zhì)上提高用戶的隱私保護(hù)意愿。由于這些條例或政策多以長(zhǎng)文字形式在用戶點(diǎn)開(kāi)應(yīng)用后呈現(xiàn),且摻雜大量專業(yè)術(shù)語(yǔ),從某種程度上會(huì)增加用戶的閱讀理解負(fù)擔(dān),多數(shù)用戶往往會(huì)選擇直接點(diǎn)擊跳過(guò),或者在粗略瀏覽后點(diǎn)擊同意。

    因此,在現(xiàn)實(shí)中,這也導(dǎo)致多數(shù)用戶存在兩種相互矛盾的隱私態(tài)度。一方面是因算法對(duì)私人領(lǐng)域侵入性而擔(dān)憂,形成了越來(lái)越顯著的隱私關(guān)注;但另一方面,用戶認(rèn)為在算法環(huán)境下隱私被使用已無(wú)法控制,且用戶認(rèn)為平臺(tái)提供的保護(hù)條例與措施過(guò)于繁瑣復(fù)雜,難以被理解,因而逐漸產(chǎn)生了隱私疲勞的態(tài)度。[25]“隱私疲勞反映了網(wǎng)絡(luò)用戶對(duì)隱私問(wèn)題的一種倦怠感,這種疲勞是由網(wǎng)絡(luò)隱私保護(hù)的雜性和對(duì)數(shù)據(jù)泄露風(fēng)險(xiǎn)的低估帶來(lái)的,會(huì)降低用戶對(duì)隱私問(wèn)題的關(guān)注?!保?6][27]

    這兩種矛盾的態(tài)度也使得用戶在隱私保護(hù)中處于弱勢(shì)地位,用戶無(wú)法對(duì)隱私進(jìn)行全面而徹底的保護(hù),這背后折射的更多是一種用戶的妥協(xié),本質(zhì)上還是用戶難以擺脫平臺(tái)背后算法技術(shù)所提供的服務(wù)。

    (二)平臺(tái):精準(zhǔn)營(yíng)銷與平臺(tái)責(zé)任的矛盾

    算法的誕生與在互聯(lián)網(wǎng)上的應(yīng)用,讓互聯(lián)網(wǎng)平臺(tái)實(shí)現(xiàn)了營(yíng)銷方式的轉(zhuǎn)變以及營(yíng)銷效果的突破。以往的營(yíng)銷往往只能根據(jù)媒體的屬性,通過(guò)購(gòu)買(mǎi)傳統(tǒng)媒體上的廣告位,填充廣告信息,以此來(lái)觸達(dá)目標(biāo)受眾。在這樣的營(yíng)銷方式中,媒體是重要的中介渠道,雖然它的輻射影響范圍廣、觸達(dá)人群多,但它的營(yíng)銷效果卻始終無(wú)法做到精準(zhǔn),這也是傳統(tǒng)營(yíng)銷的一大局限。隨著算法在各大互聯(lián)網(wǎng)平臺(tái)的廣泛應(yīng)用, 如今的營(yíng)銷方式從購(gòu)買(mǎi)媒體轉(zhuǎn)變?yōu)橹苯淤?gòu)買(mǎi)目標(biāo)人群,精準(zhǔn)的營(yíng)銷效果彌補(bǔ)了傳統(tǒng)營(yíng)銷效果的不足。算法以互聯(lián)網(wǎng)平臺(tái)作為載體,滲透到營(yíng)銷的每一個(gè)環(huán)節(jié)之中。它通過(guò)平臺(tái)收集到海量用戶數(shù)據(jù),搭建模型分析并向不同的用戶分發(fā)個(gè)性化的廣告內(nèi)容,使得平臺(tái)上廣告位的內(nèi)容可以自動(dòng)精準(zhǔn)匹配到真正的目標(biāo)用戶。

    可以說(shuō),如今的數(shù)字營(yíng)銷已正式邁入精準(zhǔn)化階段。多數(shù)互聯(lián)網(wǎng)平臺(tái)因?yàn)檎莆罩惴夹g(shù),成為重要的精準(zhǔn)營(yíng)銷載體。這樣的地位為平臺(tái)帶來(lái)了巨大的商業(yè)利益,首先是精準(zhǔn)營(yíng)銷效果的實(shí)現(xiàn)吸引來(lái)了廣告主;其次是廣告位售賣(mài)方式上也由“一位一客戶”變成了“一位N客戶”,創(chuàng)造了更多合作與變現(xiàn)的空間;最后是精準(zhǔn)營(yíng)銷下的程序化廣告與智能廣告模式也為平臺(tái)節(jié)省了大量的人力與時(shí)間等成本。無(wú)疑,平臺(tái)在精準(zhǔn)營(yíng)銷中成為了最大的利益獲得者。

    算法時(shí)代下,在我國(guó),阿里巴巴、騰訊等互聯(lián)網(wǎng)企業(yè)的商業(yè)觸角已涉及用戶的購(gòu)物、社交、娛樂(lè)等生活中的方方面面,建立起全生態(tài)型平臺(tái)。在這些平臺(tái)的商業(yè)化運(yùn)營(yíng)中,必然少不了使用海量用戶的個(gè)人數(shù)據(jù),以算法為核心技術(shù)基礎(chǔ),進(jìn)行精準(zhǔn)營(yíng)銷。這背后算法的“信息處理、承載和利用方式也引發(fā)了隱私風(fēng)險(xiǎn)和數(shù)據(jù)不當(dāng)適用的倫理風(fēng)險(xiǎn)”[28]。

    因此,平臺(tái)在利用大規(guī)模用戶數(shù)據(jù)進(jìn)行精準(zhǔn)營(yíng)銷的同時(shí),需要承擔(dān)一定責(zé)任?!盎ヂ?lián)網(wǎng)企業(yè)掌握了更多的個(gè)人隱私信息,相應(yīng)地個(gè)人敏感度和感知風(fēng)險(xiǎn)相對(duì)更高,就需要有更多個(gè)人的信任需求,根據(jù)權(quán)責(zé)對(duì)等原則,要求企業(yè)承擔(dān)更多的責(zé)任”[29]。對(duì)于用戶來(lái)說(shuō),互聯(lián)網(wǎng)平臺(tái)毫無(wú)疑問(wèn)需要承擔(dān)起對(duì)每個(gè)用戶個(gè)體的隱私保護(hù)責(zé)任,而對(duì)于社會(huì)來(lái)說(shuō),平臺(tái)同樣也要承擔(dān)起對(duì)用戶群體的隱私保護(hù)責(zé)任,這是由平臺(tái)在當(dāng)下所獲取的社會(huì)資源以及其扮演的社會(huì)角色所決定的。

    可見(jiàn),互聯(lián)網(wǎng)平臺(tái)在算法時(shí)代的隱私保護(hù)中,所面臨的一大矛盾困境即是需要平衡好精準(zhǔn)營(yíng)銷與平臺(tái)責(zé)任兩者的關(guān)系。如何在謀取商業(yè)發(fā)展的同時(shí),承擔(dān)起相應(yīng)的社會(huì)責(zé)任保護(hù)平臺(tái)用戶的個(gè)人隱私,也成為平臺(tái)可持續(xù)發(fā)展道路上亟待解決的重要命題。

    (三)社會(huì):經(jīng)濟(jì)發(fā)展與社會(huì)治理的矛盾

    隨著大數(shù)據(jù)、云計(jì)算、人工智能等技術(shù)的發(fā)展,算法技術(shù)變得愈加精確且復(fù)雜,它所覆蓋的領(lǐng)域也越來(lái)越廣泛。人們每天都在手機(jī)APP上瀏覽的新聞,部分是由合成型算法自動(dòng)創(chuàng)作的;人們?cè)谫?gòu)物平臺(tái)上瀏覽的商品信息,多數(shù)是由算法對(duì)用戶偏好進(jìn)行分析后推薦的;人們出行使用的地圖APP, 也需要根據(jù)用戶的起始地點(diǎn)與所處場(chǎng)景進(jìn)行算法分析找出最佳路線。

    “用戶個(gè)人信息和數(shù)據(jù)是智能產(chǎn)業(yè)發(fā)展的‘石油資源’,算法則是實(shí)現(xiàn)海量數(shù)據(jù)的真正價(jià)值通路,信息和數(shù)據(jù)只有通過(guò)算法能力的擴(kuò)張才能真正實(shí)現(xiàn)其價(jià)值?!保?0]因此,基于龐大用戶群個(gè)人信息與數(shù)據(jù)的算法,被應(yīng)用于社會(huì)的各行各業(yè)中,甚至算法技術(shù)還為社會(huì)經(jīng)濟(jì)發(fā)展催生了部分新興行業(yè)。算法對(duì)經(jīng)濟(jì)發(fā)展的重要性日益突出,一些行業(yè)的經(jīng)濟(jì)發(fā)展布局與戰(zhàn)略頂層設(shè)計(jì)也都離不開(kāi)算法技術(shù),可以說(shuō),社會(huì)已經(jīng)真正邁入了算法時(shí)代。

    《智能算法與數(shù)字經(jīng)濟(jì)新業(yè)態(tài)發(fā)展報(bào)告》提出,“智能算法的廣泛應(yīng)用正重構(gòu)著生產(chǎn)、分配、交換、消費(fèi)等經(jīng)濟(jì)活動(dòng)各環(huán)節(jié),其合理使用給各環(huán)節(jié)的經(jīng)濟(jì)主體帶來(lái)了福利改進(jìn)”。[31]在此背景下,算法逐漸成為一種產(chǎn)業(yè),彰顯出巨大的商業(yè)價(jià)值,有學(xué)者提出“算法產(chǎn)業(yè)已成為推動(dòng)經(jīng)濟(jì)發(fā)展的新引擎”[32]。

    算法對(duì)社會(huì)經(jīng)濟(jì)發(fā)展起到了重要的推動(dòng)作用,對(duì)整個(gè)社會(huì)行業(yè)的運(yùn)轉(zhuǎn)也具有極大的影響力,但這樣巨大的影響力也使得算法的權(quán)力悄悄膨脹,算法技術(shù)背后所潛藏的隱私泄露問(wèn)題也成為社會(huì)治理當(dāng)中不可忽略的一個(gè)重點(diǎn)。

    算法的基礎(chǔ)是海量的用戶數(shù)據(jù),掌握這些用戶數(shù)據(jù)意味著算法可以對(duì)社會(huì)上的每個(gè)人的信息了如指掌,用戶的隱私在算法面前變成了毫無(wú)保留的“明私”。通過(guò)這些隱私信息,算法可以監(jiān)視人們的生活狀態(tài)與活動(dòng)軌跡,甚至可以憑借社會(huì)、平臺(tái)、用戶對(duì)它的技術(shù)依賴,操縱人們的決策行動(dòng),規(guī)訓(xùn)人們的觀念意識(shí),滲透到社會(huì)生活的每一個(gè)環(huán)節(jié)。借助對(duì)公眾隱私的可獲取權(quán)限,算法膨脹的社會(huì)權(quán)力在快速不斷膨脹,而更令人擔(dān)憂的是,算法權(quán)力實(shí)質(zhì)上是資本的權(quán)力[33]。雖然近年來(lái),我國(guó)主要從制定相關(guān)法律法規(guī)的方式,將算法對(duì)隱私空間的入侵進(jìn)行一定的規(guī)制,但社會(huì)上由算法導(dǎo)致的隱私問(wèn)題依然還是層出不窮,并沒(méi)有得到根本解決。因此,未來(lái)國(guó)家對(duì)算法的規(guī)范、對(duì)隱私的保護(hù)也必將成為社會(huì)治理的重中之重。

    經(jīng)濟(jì)發(fā)展對(duì)社會(huì)進(jìn)步至關(guān)重要,但減少算法入侵隱私空間的社會(huì)治理工作同樣也迫在眉睫。經(jīng)濟(jì)發(fā)展與社會(huì)治理如何平衡,是社會(huì)主體在算法時(shí)代的隱私保護(hù)中需要解決的難題。

    四、隱私保護(hù)的路徑方向

    (一)用戶:提高隱私保護(hù)意識(shí),加強(qiáng)隱私保護(hù)行為

    在算法時(shí)代的隱私保護(hù)中,用戶相較于平臺(tái)與社會(huì)兩方主體,會(huì)處于更加被動(dòng)的弱勢(shì)地位。因?yàn)槠脚_(tái)作為算法技術(shù)的載體,對(duì)算法技術(shù)的應(yīng)用與對(duì)用戶的隱私保護(hù)具有可操作的空間。社會(huì)則可從宏觀把控的角度對(duì)平臺(tái)算法背后的隱私保護(hù)進(jìn)行監(jiān)管與約束。而用戶所能做的,就是提高自己的隱私保護(hù)意識(shí),并加強(qiáng)隱私保護(hù)行為。

    近年來(lái)頻繁曝出的隱私泄露事件已讓大多數(shù)用戶覺(jué)醒,加強(qiáng)了隱私關(guān)注。但由于隱私泄露事件反反復(fù)復(fù)發(fā)生,用戶防不勝防,所以不少用戶開(kāi)始產(chǎn)生隱私疲勞的態(tài)度,在意識(shí)上低估了隱私泄露所具有的消極影響力,對(duì)算法下的隱私入侵放松警惕,甚至是熟視無(wú)睹。隨著算法越來(lái)越智能、算力越來(lái)越精準(zhǔn),用戶的掉以輕心只會(huì)帶來(lái)更嚴(yán)峻的隱私風(fēng)險(xiǎn)。因此,對(duì)于用戶而言,最關(guān)鍵的應(yīng)該需要提高隱私保護(hù)意識(shí),重視算法時(shí)代下的隱私問(wèn)題。

    除了提高隱私保護(hù)意識(shí)之外,用戶也應(yīng)該保持隱私態(tài)度與隱私行為的一致,將隱私保護(hù)落實(shí)到具體行動(dòng)中,加強(qiáng)隱私保護(hù)行為。在使用算法等其他技術(shù)提供的平臺(tái)服務(wù)時(shí),用戶應(yīng)當(dāng)仔細(xì)瀏覽相關(guān)的隱私條例與隱私提示,了解個(gè)人數(shù)據(jù)的使用與處理方式;同時(shí),用戶也應(yīng)在提供個(gè)人信息的同時(shí),在自我可控的范圍內(nèi)做好脫敏、匿名、去標(biāo)識(shí)化等操作,避免個(gè)人隱私被非法利用。

    (二)平臺(tái):加強(qiáng)平臺(tái)管控和技術(shù)隱私保護(hù)

    平臺(tái)作為算法技術(shù)的應(yīng)用載體,在隱私保護(hù)中起著至關(guān)重要的作用,因此平臺(tái)也需要積極承擔(dān)起社會(huì)責(zé)任,保護(hù)用戶的隱私數(shù)據(jù)。對(duì)于平臺(tái)來(lái)說(shuō),做好隱私保護(hù)主要有兩個(gè)路徑,一是從技術(shù)上實(shí)現(xiàn)隱私數(shù)據(jù)的加密、脫敏等方式的處理,二是從監(jiān)管上通過(guò)平臺(tái)條例或政策進(jìn)一步規(guī)范對(duì)用戶數(shù)據(jù)的使用。

    在小學(xué)、初中的過(guò)渡階段,由于學(xué)習(xí)內(nèi)容、知識(shí)點(diǎn)難度和授課方法上的巨大差異,以及不同學(xué)生本身在基礎(chǔ)知識(shí)水平和認(rèn)知能力上的區(qū)別,導(dǎo)致很多學(xué)生難以迅速融入初中階段的學(xué)習(xí)生活。若教師、學(xué)校未能有效幫助學(xué)生克服種種不適應(yīng),則可能會(huì)引起學(xué)生的厭學(xué)情緒,不利于其成長(zhǎng)。英語(yǔ)學(xué)科由于在日常生活中往往難以具備語(yǔ)言環(huán)境,一直都是學(xué)校教學(xué)中的難點(diǎn)科目。并且小學(xué)與初中階段的英語(yǔ)教學(xué),無(wú)論是知識(shí)點(diǎn)、題型還是教材都存在區(qū)別,因此為防止學(xué)生成績(jī)滑落,需在過(guò)渡階段特別加以注意。

    目前,在技術(shù)層面的隱私保護(hù)工作中,互聯(lián)網(wǎng)平臺(tái)的兩大巨頭蘋(píng)果與谷歌都已開(kāi)始了嘗試。蘋(píng)果在ios14.5系統(tǒng)中加入了“APP跟蹤透明度”和“APP跟蹤設(shè)置”,當(dāng)?shù)谌角佬枰櫟接脩舻男畔⒒蛳嚓P(guān)數(shù)據(jù)時(shí),手機(jī)就會(huì)跳出彈窗提醒用戶并詢問(wèn)用戶是否同意。而谷歌則通過(guò)開(kāi)啟隱私沙盒的設(shè)置,阻止廣告主通過(guò)第三方Cookie在用戶不知情的情況下追蹤利用用戶的個(gè)人數(shù)據(jù)。

    但相對(duì)于國(guó)外的互聯(lián)網(wǎng)平臺(tái),我國(guó)的互聯(lián)網(wǎng)平臺(tái)目前對(duì)用戶隱私保護(hù)的技術(shù)成果并不顯著。整體看來(lái),我國(guó)成千上億的用戶隱私數(shù)據(jù)仍面臨著被泄露、被公開(kāi)、被非法利用等風(fēng)險(xiǎn)。

    因此,在未來(lái)的發(fā)展中,平臺(tái)應(yīng)當(dāng)從技術(shù)出發(fā),根據(jù)目前對(duì)用戶隱私保護(hù)工作的實(shí)際漏洞,同時(shí)考慮到算法技術(shù)的侵入性與不透明性,重點(diǎn)對(duì)用戶數(shù)據(jù)的挖掘、使用、儲(chǔ)存、傳播等環(huán)節(jié)進(jìn)行技術(shù)加密設(shè)置,對(duì)數(shù)據(jù)內(nèi)容本身進(jìn)行脫敏、去標(biāo)識(shí)化、匿名化等處理,讓數(shù)據(jù)發(fā)揮出應(yīng)用價(jià)值的同時(shí),也能保有私密性。

    除了技術(shù)手段之外,平臺(tái)也應(yīng)通過(guò)相關(guān)隱私條例的方式進(jìn)一步加強(qiáng)監(jiān)管。平臺(tái)面向用戶的隱私保護(hù)條例應(yīng)以用戶為中心,切實(shí)考慮到用戶的隱私利益,以通俗易懂的文字展開(kāi)說(shuō)明,而非堆砌一些具有知識(shí)門(mén)檻的專業(yè)術(shù)語(yǔ)與冗長(zhǎng)的條例,讓用戶感到隱私疲勞。而對(duì)于接入平臺(tái)的數(shù)據(jù)使用方的隱私條例,也應(yīng)對(duì)其使用用戶數(shù)據(jù)的范圍、責(zé)任、違法后果等做好清晰的說(shuō)明,并對(duì)數(shù)據(jù)使用方進(jìn)行嚴(yán)格的平臺(tái)監(jiān)督。

    (三)社會(huì):出臺(tái)更細(xì)化的法律、加強(qiáng)第三方有效監(jiān)管

    在算法時(shí)代的隱私保護(hù)中,社會(huì)是平臺(tái)-用戶之外的重要的主體,社會(huì)能從政府入手,站在更宏觀的層面對(duì)隱私保護(hù)工作進(jìn)行全面的把控。在未來(lái),對(duì)于社會(huì)主體來(lái)說(shuō),加強(qiáng)立法與第三方監(jiān)管是隱私保護(hù)工作的兩個(gè)主要路徑。

    從中我們可以發(fā)現(xiàn),我國(guó)法律對(duì)于算法時(shí)代的隱私保護(hù)越來(lái)越細(xì)化,從對(duì)整體數(shù)據(jù)安全與個(gè)人信息的宏觀保護(hù),逐漸過(guò)渡為針對(duì)導(dǎo)致用戶數(shù)據(jù)與隱私受威脅的技術(shù)或服務(wù),進(jìn)行更微觀取向的立法與規(guī)范,這也說(shuō)明未來(lái)面向公眾隱私保護(hù)的立法會(huì)更加具體,既對(duì)涉及隱私的接觸或操作主體作出法律要求,也對(duì)涉及隱私的技術(shù)或服務(wù)本身進(jìn)行規(guī)范。

    除此之外,社會(huì)還應(yīng)通過(guò)第三方渠道對(duì)互聯(lián)網(wǎng)平臺(tái)的算法應(yīng)用進(jìn)行有效監(jiān)管。在科技是第一生產(chǎn)力的時(shí)代背景下,掌握算法等前沿技術(shù)的平臺(tái)往往更容易獲取更多資源,從而能謀取到更多經(jīng)濟(jì)利益。目前在我國(guó),互聯(lián)網(wǎng)行業(yè)已出現(xiàn)幾家獨(dú)大的局面,它們掌握了海量用戶的個(gè)人隱私信息,權(quán)力不斷膨脹。因此,社會(huì)需要通過(guò)政府這個(gè)第三方主體加強(qiáng)對(duì)平臺(tái)的嚴(yán)格監(jiān)管,以此平衡平臺(tái)不斷膨脹的權(quán)力,保障用戶的隱私信息安全。

    五、隱私保護(hù)面臨的未來(lái)挑戰(zhàn)

    (一)“全息+算法”帶來(lái)的“掃描式數(shù)據(jù)”隱私風(fēng)險(xiǎn)

    元宇宙無(wú)疑是近兩年來(lái)的一大科技熱點(diǎn),受到社會(huì)各界的資本追捧,滲透進(jìn)游戲、社交、藝術(shù)等各個(gè)行業(yè)中,因此,2021年也被認(rèn)為是“元宇宙元年”。而隨著元宇宙的快速發(fā)展,全息技術(shù)也因?yàn)槟苓M(jìn)行更逼真立體的投影,得到了更廣泛的落地應(yīng)用。未來(lái)的全息技術(shù)可能將用戶外部表征與身體內(nèi)部的數(shù)據(jù)“掃描式”地一一傳輸?shù)狡脚_(tái)上,“我們看什么、看多久,甚至于我們觀看時(shí)微妙的生理反應(yīng)、心理變化、情感波動(dòng)等,都會(huì)得到數(shù)據(jù)化的記錄和傳輸,而這對(duì)平臺(tái)和廣告主來(lái)說(shuō)都是一筆巨大的無(wú)形資產(chǎn)?!保?4]算法技術(shù)則能在這些“掃描式”數(shù)據(jù)的基礎(chǔ)上,進(jìn)行更精細(xì)的分析與洞察,得出用戶的狀態(tài)、想法、意愿等更深入的隱私信息。在“全息+算法”的時(shí)代背景下,用戶由內(nèi)到外地以數(shù)據(jù)信息形式暴露,從內(nèi)在想法到外在全貌,都難逃算法的掌控,用戶所產(chǎn)生的隱私數(shù)據(jù)會(huì)呈現(xiàn)出信息數(shù)量更大、信息內(nèi)容更真實(shí)、信息鏈條更難以追蹤、傳播范圍更廣的趨勢(shì)。這些“貼身數(shù)據(jù)”會(huì)成為平臺(tái)所掌握的數(shù)據(jù)資產(chǎn)的一部分,隨著資本流動(dòng)的鏈條而流動(dòng)。對(duì)社會(huì)與公眾來(lái)說(shuō),這意味著更大的隱私威脅,一旦隱私數(shù)據(jù)被非法利用,用戶的切身利益就會(huì)嚴(yán)重受損,甚至因?yàn)檫@種“掃描式數(shù)據(jù)”可被復(fù)制化,所以還可能會(huì)引發(fā)倫理相關(guān)的問(wèn)題。這在元宇宙、全息技術(shù)快速發(fā)展的未來(lái),對(duì)用戶、平臺(tái)與社會(huì)的隱私保護(hù)會(huì)是一個(gè)全新的挑戰(zhàn)。

    (二)數(shù)據(jù)圍墻導(dǎo)致的“零散化數(shù)據(jù)”

    數(shù)據(jù)圍墻指的是各大互聯(lián)網(wǎng)平臺(tái)為了保護(hù)平臺(tái)利益,建立起用戶數(shù)據(jù)的技術(shù)屏障,防止用戶的數(shù)據(jù)信息流入到其他平臺(tái)上,被其他平臺(tái)商業(yè)化利用。而實(shí)際上,數(shù)據(jù)圍墻的設(shè)立并沒(méi)有改善用戶隱私保護(hù)的困境問(wèn)題,反而使用戶的多類信息都零散化地分布在各個(gè)平臺(tái)上,加大了用戶、平臺(tái)與社會(huì)進(jìn)行信息隱私保護(hù)的難度。

    從目前的行業(yè)趨勢(shì)來(lái)看,互聯(lián)網(wǎng)平臺(tái)之間筑起的數(shù)據(jù)圍墻越來(lái)越高,用戶的海量數(shù)據(jù)被多方平臺(tái)疊合化地儲(chǔ)存與使用,呈現(xiàn)出零散化的特征。在這種情況下,對(duì)于用戶來(lái)說(shuō),受平臺(tái)數(shù)據(jù)壁壘的影響,每當(dāng)用戶在使用平臺(tái)提供的服務(wù)的時(shí)候,都要再提供一次個(gè)人相關(guān)數(shù)據(jù),隱私信息也就更零散化地泛濫在互聯(lián)網(wǎng)平臺(tái)上。對(duì)用戶來(lái)說(shuō),這在帶來(lái)不便的同時(shí),也增加了自我隱私信息管理的難度;對(duì)于平臺(tái)來(lái)說(shuō),多平臺(tái)之間筑起的數(shù)據(jù)圍墻加劇了平臺(tái)對(duì)用戶隱私保護(hù)工作的管理風(fēng)險(xiǎn)與被動(dòng)程度,原因在于即使某一方平臺(tái)自身做好了隱私保護(hù)的工作,但只要其他平臺(tái)使用數(shù)據(jù)不當(dāng),用戶的隱私也還是同樣會(huì)被泄露出去,整體難以管控。當(dāng)隱私數(shù)據(jù)管理不善時(shí),就會(huì)引發(fā)兩個(gè)問(wèn)題:一是對(duì)于應(yīng)當(dāng)承擔(dān)責(zé)任的主體平臺(tái)難以追溯,二是平臺(tái)對(duì)隱私保護(hù)所做的實(shí)踐努力難以準(zhǔn)確衡量效果,每個(gè)平臺(tái)對(duì)隱私數(shù)據(jù)管理的風(fēng)險(xiǎn)都會(huì)擴(kuò)大;對(duì)社會(huì)而言,各個(gè)平臺(tái)都紛紛建立起數(shù)據(jù)圍墻,社會(huì)從外部對(duì)平臺(tái)進(jìn)行監(jiān)管的阻力就更大,而且不同的數(shù)據(jù)圍墻也意味著各平臺(tái)的隱私保護(hù)水平參差不齊,它們之間無(wú)法達(dá)成一致的保護(hù)措施,這也使得社會(huì)難以進(jìn)行統(tǒng)一化的高效監(jiān)管。

    因此,如何應(yīng)對(duì)互聯(lián)網(wǎng)平臺(tái)數(shù)據(jù)圍墻帶來(lái)的“零散化數(shù)據(jù)”,如何降低“零散化數(shù)據(jù)”背后潛藏的隱私風(fēng)險(xiǎn),也是用戶、平臺(tái)與社會(huì)在未來(lái)面臨的另一挑戰(zhàn)。

    六、結(jié)語(yǔ)

    算法時(shí)代的到來(lái),確實(shí)給人們的生活帶來(lái)了諸多便捷之處。但與此同時(shí),我們并不能忽略算法技術(shù)在不斷的升級(jí)發(fā)展中,給社會(huì)和個(gè)體的隱私保護(hù)工作帶來(lái)的威脅。在算法權(quán)力不斷膨脹的今天,用戶、平臺(tái)與社會(huì)都應(yīng)正視算法時(shí)代下的隱私保護(hù)問(wèn)題,在矛盾困境中做好取舍與平衡,并通過(guò)相應(yīng)的舉措減少算法給隱私保護(hù)帶來(lái)的風(fēng)險(xiǎn)。而在未來(lái)可能出現(xiàn)的“掃描式數(shù)據(jù)”與“零散式數(shù)據(jù)”的新挑戰(zhàn)中,用戶、平臺(tái)與社會(huì)也應(yīng)該堅(jiān)守隱私底線,以社會(huì)與公眾利益為重,避免隱私淪為“明私”。

    猜你喜歡
    算法用戶
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    進(jìn)位加法的兩種算法
    算法初步兩點(diǎn)追蹤
    基于增強(qiáng)隨機(jī)搜索的OECI-ELM算法
    關(guān)注用戶
    關(guān)注用戶
    一種改進(jìn)的整周模糊度去相關(guān)算法
    關(guān)注用戶
    Camera360:拍出5億用戶
    日本色播在线视频| 2022亚洲国产成人精品| 寂寞人妻少妇视频99o| 国产淫语在线视频| 日本黄色片子视频| 偷拍熟女少妇极品色| 亚洲熟女精品中文字幕| 国产白丝娇喘喷水9色精品| 亚洲美女搞黄在线观看| 91午夜精品亚洲一区二区三区| 中文乱码字字幕精品一区二区三区| 亚洲av成人精品一二三区| 亚洲一级一片aⅴ在线观看| 夫妻性生交免费视频一级片| 青春草视频在线免费观看| 亚洲精品中文字幕在线视频 | 免费av毛片视频| 精品熟女少妇av免费看| 亚洲欧美成人精品一区二区| 午夜精品国产一区二区电影 | 国产爽快片一区二区三区| 99久国产av精品国产电影| 我要看日韩黄色一级片| 国产 一区精品| 身体一侧抽搐| 成人高潮视频无遮挡免费网站| 亚洲精品456在线播放app| 七月丁香在线播放| 国产 一区精品| av福利片在线观看| 国产大屁股一区二区在线视频| 国产视频内射| 麻豆成人午夜福利视频| 中国三级夫妇交换| 男的添女的下面高潮视频| 欧美激情国产日韩精品一区| 国产亚洲av嫩草精品影院| 少妇丰满av| 欧美精品人与动牲交sv欧美| 日韩在线高清观看一区二区三区| 日韩欧美精品免费久久| 国产成人免费无遮挡视频| 美女高潮的动态| 六月丁香七月| 舔av片在线| 色吧在线观看| freevideosex欧美| 天堂中文最新版在线下载 | 久热久热在线精品观看| 亚洲综合色惰| 久久久亚洲精品成人影院| 全区人妻精品视频| 久久久久久久久久人人人人人人| 久久久久久久久久成人| 久热这里只有精品99| 男人添女人高潮全过程视频| 欧美极品一区二区三区四区| 国产老妇伦熟女老妇高清| 国产综合精华液| 日韩中字成人| 欧美老熟妇乱子伦牲交| 18禁动态无遮挡网站| 性色avwww在线观看| 丰满人妻一区二区三区视频av| 只有这里有精品99| h日本视频在线播放| 99re6热这里在线精品视频| 直男gayav资源| 青春草国产在线视频| 大片免费播放器 马上看| 久久ye,这里只有精品| 亚洲av.av天堂| 男女啪啪激烈高潮av片| 黄色一级大片看看| 欧美激情在线99| 亚洲精品乱久久久久久| 国产黄频视频在线观看| 91久久精品电影网| 亚洲精品乱码久久久久久按摩| 九九在线视频观看精品| 欧美激情国产日韩精品一区| av专区在线播放| 精品久久久噜噜| 热re99久久精品国产66热6| 最近2019中文字幕mv第一页| 久久国内精品自在自线图片| 一二三四中文在线观看免费高清| 99九九线精品视频在线观看视频| 国产精品人妻久久久影院| 一本色道久久久久久精品综合| 久久精品久久久久久噜噜老黄| 成人国产av品久久久| 大码成人一级视频| 日韩中字成人| 日韩av不卡免费在线播放| 国产成人freesex在线| 久久亚洲国产成人精品v| 国产毛片a区久久久久| 在现免费观看毛片| av国产久精品久网站免费入址| 免费大片18禁| 一区二区三区免费毛片| 男人和女人高潮做爰伦理| 国产免费视频播放在线视频| 少妇 在线观看| 91久久精品国产一区二区三区| 国产精品无大码| 国产黄片美女视频| 免费av观看视频| 亚洲性久久影院| 成年女人看的毛片在线观看| eeuss影院久久| 搡老乐熟女国产| 禁无遮挡网站| 亚洲美女搞黄在线观看| 久久这里有精品视频免费| 在线免费观看不下载黄p国产| 蜜桃久久精品国产亚洲av| 又爽又黄a免费视频| 特级一级黄色大片| 99精国产麻豆久久婷婷| 成人毛片a级毛片在线播放| 国产成人91sexporn| 少妇的逼好多水| 中文字幕av成人在线电影| 亚洲精品第二区| 国产亚洲av嫩草精品影院| 亚洲婷婷狠狠爱综合网| 美女国产视频在线观看| 人妻夜夜爽99麻豆av| 亚洲丝袜综合中文字幕| 禁无遮挡网站| 菩萨蛮人人尽说江南好唐韦庄| 十八禁网站网址无遮挡 | 一级毛片 在线播放| 日韩一区二区视频免费看| 97人妻精品一区二区三区麻豆| 蜜臀久久99精品久久宅男| 欧美三级亚洲精品| 我的老师免费观看完整版| 久久久精品免费免费高清| 精品人妻一区二区三区麻豆| 看黄色毛片网站| 99久久中文字幕三级久久日本| 国产黄色视频一区二区在线观看| 日本一二三区视频观看| 免费观看性生交大片5| 久久久久久伊人网av| 午夜福利在线观看免费完整高清在| 又黄又爽又刺激的免费视频.| 欧美成人a在线观看| 黄片wwwwww| 麻豆成人av视频| 成年免费大片在线观看| 色哟哟·www| 久久久久久久久久人人人人人人| 欧美极品一区二区三区四区| 黄色怎么调成土黄色| 男女啪啪激烈高潮av片| 国产免费一级a男人的天堂| 国产精品99久久久久久久久| 亚洲,欧美,日韩| 亚洲经典国产精华液单| 熟女电影av网| 成人毛片60女人毛片免费| 亚洲av中文av极速乱| 亚洲欧美精品专区久久| 夜夜看夜夜爽夜夜摸| 大陆偷拍与自拍| 久久久久久久久久久免费av| 国产永久视频网站| freevideosex欧美| 成人毛片60女人毛片免费| 成人亚洲精品一区在线观看 | 一级a做视频免费观看| 亚洲av电影在线观看一区二区三区 | 欧美区成人在线视频| 高清在线视频一区二区三区| 男人添女人高潮全过程视频| 欧美成人精品欧美一级黄| 中文在线观看免费www的网站| 国产黄频视频在线观看| 两个人的视频大全免费| 久久热精品热| 亚洲欧美一区二区三区黑人 | 成人免费观看视频高清| 亚洲成色77777| 你懂的网址亚洲精品在线观看| 久久精品人妻少妇| 亚洲真实伦在线观看| 精华霜和精华液先用哪个| 97在线视频观看| 午夜老司机福利剧场| 久久99热6这里只有精品| 久久久久久久久久久丰满| 中文字幕免费在线视频6| 精品人妻一区二区三区麻豆| 日日啪夜夜爽| 亚洲在线观看片| 国产伦理片在线播放av一区| 日本免费在线观看一区| 日韩三级伦理在线观看| 视频中文字幕在线观看| 男人爽女人下面视频在线观看| 国产久久久一区二区三区| 免费看光身美女| 久久韩国三级中文字幕| 久久99热这里只频精品6学生| 久久久久网色| 中文字幕制服av| 天堂网av新在线| 国产午夜福利久久久久久| 黄片无遮挡物在线观看| 成人国产麻豆网| 国产成人免费观看mmmm| 超碰av人人做人人爽久久| 国产人妻一区二区三区在| 九九爱精品视频在线观看| 亚洲三级黄色毛片| 熟女av电影| 全区人妻精品视频| 日韩伦理黄色片| 国产男女内射视频| 在线观看国产h片| 综合色丁香网| 高清欧美精品videossex| 久久久久国产精品人妻一区二区| 如何舔出高潮| 国产成人精品一,二区| 秋霞伦理黄片| 久久鲁丝午夜福利片| 看十八女毛片水多多多| 1000部很黄的大片| 神马国产精品三级电影在线观看| 国产真实伦视频高清在线观看| 成人国产麻豆网| 少妇的逼好多水| 18禁在线无遮挡免费观看视频| 久久久色成人| 热re99久久精品国产66热6| 99热这里只有是精品50| 国产日韩欧美亚洲二区| 午夜免费男女啪啪视频观看| av.在线天堂| 久久精品久久久久久噜噜老黄| 国产一区二区亚洲精品在线观看| 久久人人爽av亚洲精品天堂 | 久久久午夜欧美精品| 国产爱豆传媒在线观看| 久久久久久伊人网av| 欧美少妇被猛烈插入视频| 啦啦啦在线观看免费高清www| 69人妻影院| 国语对白做爰xxxⅹ性视频网站| 午夜老司机福利剧场| 卡戴珊不雅视频在线播放| 免费大片18禁| 中文乱码字字幕精品一区二区三区| 内地一区二区视频在线| 美女cb高潮喷水在线观看| 欧美少妇被猛烈插入视频| av在线天堂中文字幕| 国产高清国产精品国产三级 | 国产白丝娇喘喷水9色精品| 日产精品乱码卡一卡2卡三| 搡女人真爽免费视频火全软件| 少妇人妻一区二区三区视频| 波多野结衣巨乳人妻| 一本一本综合久久| 中国三级夫妇交换| 最后的刺客免费高清国语| 久久久久久久国产电影| 男女那种视频在线观看| 人妻制服诱惑在线中文字幕| 国产免费福利视频在线观看| 国产一区二区三区av在线| 国内揄拍国产精品人妻在线| 亚洲性久久影院| 久久久精品免费免费高清| 另类亚洲欧美激情| 国产乱人偷精品视频| 亚洲国产最新在线播放| 美女高潮的动态| 亚洲人成网站在线观看播放| 一级毛片黄色毛片免费观看视频| 人妻 亚洲 视频| 又爽又黄a免费视频| 国产一区有黄有色的免费视频| 真实男女啪啪啪动态图| 在线观看人妻少妇| 午夜精品一区二区三区免费看| 日本一本二区三区精品| 日韩国内少妇激情av| 免费观看在线日韩| 一区二区av电影网| 一个人观看的视频www高清免费观看| 日韩亚洲欧美综合| 狂野欧美白嫩少妇大欣赏| 免费电影在线观看免费观看| 精品国产乱码久久久久久小说| av免费观看日本| 高清av免费在线| 在线观看美女被高潮喷水网站| 91久久精品国产一区二区成人| 欧美xxxx黑人xx丫x性爽| 久久久久久国产a免费观看| 啦啦啦中文免费视频观看日本| 国产久久久一区二区三区| 成人美女网站在线观看视频| 国产爱豆传媒在线观看| 亚洲av免费在线观看| 能在线免费看毛片的网站| 久久久久久久大尺度免费视频| 极品少妇高潮喷水抽搐| 欧美变态另类bdsm刘玥| 中国美白少妇内射xxxbb| 免费av不卡在线播放| www.av在线官网国产| 日本免费在线观看一区| 精品国产一区二区三区久久久樱花 | 久久综合国产亚洲精品| 禁无遮挡网站| 蜜桃亚洲精品一区二区三区| 亚洲天堂国产精品一区在线| 91精品一卡2卡3卡4卡| 18+在线观看网站| 日韩成人伦理影院| 18+在线观看网站| 岛国毛片在线播放| 一个人看的www免费观看视频| 熟女电影av网| 成人一区二区视频在线观看| 熟女av电影| 国产免费又黄又爽又色| 最近最新中文字幕大全电影3| 又爽又黄a免费视频| 人人妻人人看人人澡| 国产成人精品福利久久| 边亲边吃奶的免费视频| 七月丁香在线播放| 五月玫瑰六月丁香| a级毛片免费高清观看在线播放| av在线播放精品| 久久人人爽av亚洲精品天堂 | 国产v大片淫在线免费观看| 高清毛片免费看| 美女视频免费永久观看网站| 国产淫片久久久久久久久| 麻豆成人午夜福利视频| 黄色视频在线播放观看不卡| 国产人妻一区二区三区在| 免费观看的影片在线观看| 国产亚洲av嫩草精品影院| 麻豆成人午夜福利视频| 国产日韩欧美亚洲二区| 特级一级黄色大片| 国产探花极品一区二区| 欧美激情国产日韩精品一区| 男女下面进入的视频免费午夜| 男女边吃奶边做爰视频| 搡老乐熟女国产| 嫩草影院精品99| 女人十人毛片免费观看3o分钟| 99九九线精品视频在线观看视频| 色综合色国产| 精品视频人人做人人爽| 欧美xxxx性猛交bbbb| 久久久久久久国产电影| 国产 一区 欧美 日韩| 免费在线观看成人毛片| a级一级毛片免费在线观看| 久久精品熟女亚洲av麻豆精品| 永久免费av网站大全| 午夜福利在线观看免费完整高清在| 国产精品人妻久久久影院| 最后的刺客免费高清国语| 精品人妻一区二区三区麻豆| 精品国产露脸久久av麻豆| 寂寞人妻少妇视频99o| 国产精品人妻久久久影院| 能在线免费看毛片的网站| 日本一本二区三区精品| 久久鲁丝午夜福利片| 你懂的网址亚洲精品在线观看| 欧美精品人与动牲交sv欧美| 美女国产视频在线观看| 国产av国产精品国产| 日本黄色片子视频| 国产探花在线观看一区二区| h日本视频在线播放| 成年版毛片免费区| 久久久亚洲精品成人影院| 九色成人免费人妻av| 久久国内精品自在自线图片| 欧美 日韩 精品 国产| 91精品一卡2卡3卡4卡| 伦理电影大哥的女人| 久久国产乱子免费精品| 国产高清国产精品国产三级 | 狠狠精品人妻久久久久久综合| 亚洲成人av在线免费| 国产精品爽爽va在线观看网站| 免费黄网站久久成人精品| 男的添女的下面高潮视频| 欧美成人一区二区免费高清观看| av在线亚洲专区| 爱豆传媒免费全集在线观看| 亚洲国产精品成人久久小说| 黄色配什么色好看| 成人黄色视频免费在线看| 国产成人aa在线观看| 国产精品国产三级专区第一集| 97在线视频观看| 蜜桃久久精品国产亚洲av| 男女啪啪激烈高潮av片| 欧美日韩国产mv在线观看视频 | 日本三级黄在线观看| 边亲边吃奶的免费视频| 91在线精品国自产拍蜜月| 麻豆成人午夜福利视频| 三级国产精品片| av天堂中文字幕网| 深夜a级毛片| 久久ye,这里只有精品| 亚洲欧美一区二区三区国产| 国产欧美日韩精品一区二区| 九九在线视频观看精品| 汤姆久久久久久久影院中文字幕| 99热网站在线观看| 久久人人爽人人爽人人片va| 在线免费十八禁| 成人欧美大片| 两个人的视频大全免费| 少妇人妻 视频| 国产免费一区二区三区四区乱码| 亚洲精品456在线播放app| 久久精品国产鲁丝片午夜精品| 国产精品人妻久久久久久| freevideosex欧美| 亚洲精品乱久久久久久| 久久久久久久午夜电影| 亚洲aⅴ乱码一区二区在线播放| 欧美少妇被猛烈插入视频| 七月丁香在线播放| 我的老师免费观看完整版| 成人国产麻豆网| 又粗又硬又长又爽又黄的视频| 最近最新中文字幕免费大全7| 久久97久久精品| 亚洲欧美精品专区久久| xxx大片免费视频| 在现免费观看毛片| 久久久久久久久久久丰满| 看十八女毛片水多多多| 久久精品国产自在天天线| 久久韩国三级中文字幕| 内地一区二区视频在线| 伦理电影大哥的女人| 国产伦精品一区二区三区视频9| 亚洲aⅴ乱码一区二区在线播放| 插阴视频在线观看视频| 亚洲精品国产av蜜桃| 久久这里有精品视频免费| 欧美精品一区二区大全| 一级毛片 在线播放| 国产老妇伦熟女老妇高清| 新久久久久国产一级毛片| 日韩欧美一区视频在线观看 | 日韩视频在线欧美| 国产高清不卡午夜福利| 国产成人精品久久久久久| 菩萨蛮人人尽说江南好唐韦庄| 97在线视频观看| 五月天丁香电影| 亚洲最大成人手机在线| 在现免费观看毛片| 女人被狂操c到高潮| 国产伦在线观看视频一区| 大陆偷拍与自拍| 高清av免费在线| 久久久久性生活片| 国产色婷婷99| 国产爱豆传媒在线观看| 久久久久久国产a免费观看| 精品久久国产蜜桃| 国产成人aa在线观看| 国产黄色视频一区二区在线观看| 青青草视频在线视频观看| 麻豆精品久久久久久蜜桃| 久热这里只有精品99| 成人毛片a级毛片在线播放| 欧美精品一区二区大全| 亚洲国产欧美在线一区| 日本wwww免费看| 天天躁日日操中文字幕| 亚洲国产成人一精品久久久| 国产男女超爽视频在线观看| 日韩精品有码人妻一区| 亚洲av电影在线观看一区二区三区 | 97超视频在线观看视频| 精华霜和精华液先用哪个| 王馨瑶露胸无遮挡在线观看| 亚洲av二区三区四区| 高清视频免费观看一区二区| a级一级毛片免费在线观看| 校园人妻丝袜中文字幕| 午夜免费观看性视频| 亚州av有码| 亚洲四区av| 欧美激情久久久久久爽电影| 少妇人妻久久综合中文| 女人被狂操c到高潮| av网站免费在线观看视频| 精品久久久久久久末码| 亚洲最大成人中文| 啦啦啦中文免费视频观看日本| 国产成人freesex在线| 舔av片在线| 看黄色毛片网站| 99久久中文字幕三级久久日本| 久久精品国产亚洲av天美| 蜜臀久久99精品久久宅男| 少妇人妻精品综合一区二区| 国产有黄有色有爽视频| 一级毛片电影观看| 99热这里只有是精品50| 欧美日韩精品成人综合77777| 久久久久性生活片| 亚洲精品乱码久久久久久按摩| 性插视频无遮挡在线免费观看| 国产成人午夜福利电影在线观看| 最近最新中文字幕免费大全7| 高清在线视频一区二区三区| 国内揄拍国产精品人妻在线| 国产v大片淫在线免费观看| 97人妻精品一区二区三区麻豆| 成年免费大片在线观看| 三级国产精品欧美在线观看| 免费观看的影片在线观看| 夫妻性生交免费视频一级片| 久久99热这里只频精品6学生| 人妻一区二区av| 国产av不卡久久| 丝袜喷水一区| 久久久成人免费电影| 晚上一个人看的免费电影| 2021天堂中文幕一二区在线观| 国产精品嫩草影院av在线观看| 欧美日韩一区二区视频在线观看视频在线 | 白带黄色成豆腐渣| 免费观看性生交大片5| 日日摸夜夜添夜夜添av毛片| 大片电影免费在线观看免费| av在线app专区| 国产精品秋霞免费鲁丝片| 在线亚洲精品国产二区图片欧美 | 久久久久精品久久久久真实原创| 亚洲美女搞黄在线观看| 日韩伦理黄色片| 成年av动漫网址| 26uuu在线亚洲综合色| 18禁动态无遮挡网站| 97人妻精品一区二区三区麻豆| 如何舔出高潮| 免费观看a级毛片全部| 91精品国产九色| 99热国产这里只有精品6| 少妇熟女欧美另类| 只有这里有精品99| 女人被狂操c到高潮| 日本午夜av视频| 又爽又黄无遮挡网站| av免费观看日本| 蜜桃亚洲精品一区二区三区| 日韩中字成人| 午夜精品国产一区二区电影 | 我要看日韩黄色一级片| 80岁老熟妇乱子伦牲交| 精品久久久久久久久av| 欧美一级a爱片免费观看看| 高清av免费在线| 久热这里只有精品99| 舔av片在线| 99re6热这里在线精品视频| 免费观看性生交大片5| 免费av不卡在线播放| 春色校园在线视频观看| 亚洲av日韩在线播放| 高清欧美精品videossex| 三级国产精品欧美在线观看| 97精品久久久久久久久久精品| 成人黄色视频免费在线看| 又爽又黄a免费视频| 五月玫瑰六月丁香| 精品视频人人做人人爽| 成人特级av手机在线观看| 在线播放无遮挡| 18禁在线播放成人免费| www.av在线官网国产| 精品久久久精品久久久| 两个人的视频大全免费| 亚洲精品成人av观看孕妇| 在线观看av片永久免费下载| 免费黄色在线免费观看| 亚洲自拍偷在线| 蜜桃久久精品国产亚洲av| 亚洲伊人久久精品综合| 国产大屁股一区二区在线视频| 国产成人精品婷婷| 国产精品人妻久久久久久| 一区二区三区四区激情视频| 亚洲最大成人中文| 最近手机中文字幕大全| 肉色欧美久久久久久久蜜桃 | 国产又色又爽无遮挡免|