• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    “零隱私世界”:信息時(shí)代隱私保護(hù)的困局

    2018-08-21 05:06:22利求同
    文化縱橫 2018年3期
    關(guān)鍵詞:意志個(gè)人信息人類

    利求同

    “秘密是撒謊,分享是關(guān)懷,隱私是偷竊?!?/p>

    這是美國科幻作家埃格斯(Dave Eggers)對(duì)未來的大膽想象。這句話是其小說《圓圈》(The Circle)同名電影中超級(jí)公司的訓(xùn)言。在那里,我們習(xí)以為常的道德規(guī)范被顛倒了,做成新的信條:藏著隱私是嚴(yán)重的人格缺陷,上繳個(gè)人信息等于實(shí)現(xiàn)人生自由,光大“分享主義”美德;而保護(hù)隱私就視同盜竊,要受新人類的唾棄,并交給新法律制裁。

    隱私,能如此激發(fā)作家的想象,應(yīng)該說是物聯(lián)網(wǎng)智能時(shí)代的標(biāo)記。不過,作為隱私的法定業(yè)主,我們得感激埃格斯先生的慷慨。因?yàn)樵谒某?jí)智能化未來,隱私仍是有價(jià)值的,且依法享有平等的保護(hù)。人們只需修正價(jià)值觀,將隱私從“私”和“隱”的疆域中剝離,轉(zhuǎn)化為信息/數(shù)據(jù)財(cái)產(chǎn),就能繼續(xù)熟悉的生活了。當(dāng)然,新財(cái)產(chǎn)總是落在了別人例如圓圈公司的手里,留給我們個(gè)人的,只是生產(chǎn)和再生產(chǎn),即奉獻(xiàn)隱私的許可,是人格權(quán)的一具空殼。

    事實(shí)上,隱私的未來已經(jīng)到來。做一個(gè)透明人,自愿或被迫交出隱私,供人牟利,業(yè)已是生活常態(tài)了。只是,價(jià)值觀的修正與社會(huì)道德轉(zhuǎn)型尚待完成。轉(zhuǎn)型時(shí)期,還會(huì)有人呼吁保護(hù)隱私;隱私的歸屬和使用上的沖突,卻日益頻發(fā)而尖銳起來。這是因?yàn)椋谫Y本當(dāng)?shù)赖臈l件下,隱私同分享有著不可調(diào)和的矛盾。最近臉書在美國乃至全球受到質(zhì)疑,就是生動(dòng)的例證。國會(huì)一邊吵架,一邊調(diào)查俄國是否介入或干擾了美國大選,臉書卻被爆料曾泄露8700萬用戶的個(gè)人信息給一家英國公司。臉書聲稱,這些用戶信息是第三方以“不正當(dāng)方式”獲取的。扎克伯格親自出面,向公眾道歉,保證今后將嚴(yán)加管理。殊不知,早在2011年,臉書就曾因用戶信息泄露事件做出過幾乎同樣的承諾。而這承諾之所以未能兌現(xiàn),是因?yàn)闊o法兌現(xiàn);實(shí)際上,國家法律也不允許兌現(xiàn)?,F(xiàn)在的商業(yè)模式和殘酷的產(chǎn)業(yè)競(jìng)爭,有哪一家網(wǎng)絡(luò)企業(yè),包括電商大鱷,不是靠挖掘買賣用戶信息賺錢的?手里的用戶隱私越多,市場(chǎng)就越大,利潤就越高。假如隱私當(dāng)真嚴(yán)加保護(hù),不就等于支柱產(chǎn)業(yè)集體自殺了?

    但是,真正的問題還不是幾家大企業(yè)的利潤多寡。關(guān)鍵在于,這事關(guān)乎我們的道德價(jià)值和理性選擇:人工智能(AI),這一人類引以為傲的創(chuàng)造,信息技術(shù)的高峰,很可能與保護(hù)隱私是格格不入的。AI以高效、優(yōu)化為目標(biāo),追求的是優(yōu)于人腦的超級(jí)硅基智能。在那個(gè)智能體系中,信息是基本元素,是一切事物和生命的記錄、編輯與展開。人,整體而言,與碳基物、無機(jī)物一樣,只是一個(gè)信息集。而隱私,進(jìn)入大數(shù)據(jù)時(shí)代,作為一種游離于人類整體信息集邊緣的個(gè)體特征,就“過于人性”了——承載了太多的價(jià)值立場(chǎng)和法律風(fēng)險(xiǎn)。保護(hù)隱私,人類信息集就變得坑坑洼洼,不好用了,所以亟需優(yōu)化、標(biāo)準(zhǔn)化、去風(fēng)險(xiǎn)化。換言之,隱私成了硅基智能的障礙,是必須清除的雜音;若非如此,人類不能同AI結(jié)合而融入未來。

    于是,我們不得不直面那一種可能,即隱私的終結(jié)。我們必須思考:如果隱私終結(jié),人類將如何生存。

    隱私的可隱性

    研究一件事物的終結(jié),需要從其興衰的條件和過程中尋找原因。那么,隱私是因何而來的呢?它又怎樣塑造了我們的日常生活,它的消解意味著什么?這些問題的答案至關(guān)重要。

    歷史地看,隱私是人類對(duì)自身生存狀態(tài)的一種描述,既是社會(huì)的客觀存在,也是道德倫理的主觀認(rèn)知,因而承載著情感和價(jià)值判斷。關(guān)于隱私,學(xué)說繁多,實(shí)踐更是千姿百態(tài)。但萬變不離其宗,都包含兩個(gè)基本要素:(1)人的個(gè)體有別于群體/社會(huì)之公,稱之為“私”;(2)私的領(lǐng)域,時(shí)而需要隔絕于公,視之為“隱”。可以說,隱私的觀念,其被社會(huì)認(rèn)可而納入“私”的范疇,乃是因“公”而生,而獲得價(jià)值的。隱私既是私與公有別或?qū)α⒌漠a(chǎn)物,也是公私賴以共存的條件。

    有學(xué)者認(rèn)為,隱私源于人的動(dòng)物性。人是獨(dú)立的個(gè)體,同時(shí)又是群居動(dòng)物。人在群體中生活,繁衍生息需要一定的私密空間和時(shí)間,才能建立親疏有別的家庭與社會(huì)關(guān)系,私與隱便在其中了。文明開化以后,隱私的觀念和習(xí)慣,更是人類高級(jí)智力活動(dòng)如宗教、藝術(shù)、政治、經(jīng)濟(jì)等的產(chǎn)物。漸漸地,隱私就演變?yōu)橐环N個(gè)體與群體的生活倫理,超越動(dòng)物本能,而復(fù)雜精致起來,終于成了社會(huì)秩序的一根支柱。[1]

    這公私對(duì)應(yīng)關(guān)系, 早在古希臘,亞里士多德就注意到了。他提出區(qū)分家室私事(the oikos)和城邦公務(wù)(the polis)這一對(duì)范疇的哲學(xué)命題,并討論了自愿行為的概念。由此開啟了一個(gè)漫長的學(xué)術(shù)傳統(tǒng),探究隱私同自由意志、自我意識(shí)以及自由人格的關(guān)系。自由意志是人自主選擇而行動(dòng)的一種能力。所以通常,只有自由意志下的行為,才當(dāng)?shù)闷鹣鄳?yīng)的法律責(zé)任和道德評(píng)價(jià),無論賞罰、毀譽(yù)、愧疚。同理,有了自由意志,教導(dǎo)、說服、審議、禁止、判決等社會(huì)機(jī)制才能運(yùn)作。而自由意志的產(chǎn)生和行使,是離不開隱私的環(huán)境的。首先,有了隱私,人才能培育道德自我意識(shí),即充分意識(shí)到自己與行為后果的聯(lián)系,即“我”是“我的行為”的“動(dòng)力因”(efficient cause),從而能夠自覺承擔(dān)后果責(zé)任。于是,才產(chǎn)生了對(duì)行動(dòng)的自主選擇的心理需求,自由意志才得以培育。所以,沒有隱私,就沒有自由意志。

    更重要的是,隱私所要求的社會(huì)認(rèn)可同保護(hù),其實(shí)是以自由意志,即人對(duì)他人和社會(huì)負(fù)責(zé)的能力,為代價(jià)的。換言之,消滅隱私,就是消滅人類個(gè)體負(fù)責(zé)的能力。因?yàn)?,隱私的存在,不僅是自由意志生成和行使的條件,也是個(gè)體接受社會(huì)評(píng)價(jià)、承擔(dān)社會(huì)義務(wù)的前提。反之,若無隱私,自我意識(shí)與自由意志就失去了植根的土壤,社會(huì)評(píng)價(jià)和個(gè)體責(zé)任就無所依托。

    如此,私與公共存而辯證統(tǒng)一,我們所知的人類社會(huì)及其道德倫理制度,都包含了對(duì)隱私和自由意志的認(rèn)可,雖然程度不一。社會(huì)承認(rèn)并尊重個(gè)人(自由人)享有一定的隱私權(quán)益,并且或多或少,限制他人(包括政府、企業(yè)、團(tuán)體)對(duì)個(gè)人信息的索取和使用。相應(yīng)地,社會(huì)要求個(gè)人為享有隱私,或他人的不知情、不得干預(yù)而付出代價(jià),即為自己的選擇和言行負(fù)責(zé)。也就是說,隱私,作為具有道德價(jià)值的利益,是人格尊嚴(yán)的先決條件,也是社會(huì)組織、道德倫理、法律問責(zé)機(jī)制的一塊基石。1890年,美國法學(xué)家沃倫(Samuel Warren)和布蘭代斯(Louis Brandeis)發(fā)表了題為《隱私權(quán)》的著名論文,第一次系統(tǒng)闡述了所謂“獨(dú)處的權(quán)利”,嘗試?yán)迩咫[私保護(hù)的法律學(xué)說和適用規(guī)范。隱私權(quán)的設(shè)立與發(fā)展,極大地加強(qiáng)了人們的隱私意識(shí)。隱私成了公民的基本權(quán)益,享有隱私是現(xiàn)代社會(huì)理所當(dāng)然的一項(xiàng)個(gè)人自由;保護(hù)隱私,即保護(hù)人的尊嚴(yán),保護(hù)我們唯一的生活世界。

    然而今天,這唯一世界,正受到全方位的挑戰(zhàn)。隨著新型信息技術(shù)的迅猛發(fā)展和智能終端的普及,隱私首當(dāng)其沖。一不留神,隱私已是千瘡百孔,被那無所不能、無處不在的信息工具盯住了。人們的一舉一動(dòng),每一個(gè)閃念都處于監(jiān)控之下,不啻一個(gè)個(gè)透明人。有史以來第一次,隱私成了商品被大規(guī)模地買賣。而隱私一旦商品化,不同社會(huì)階層和集團(tuán)便生出相互沖突的利益訴求,關(guān)于隱私的社會(huì)共識(shí)就名存實(shí)亡了。

    表面上,個(gè)人似乎仍是隱私的所有者或法律上的主體,對(duì)隱私的動(dòng)物性需求也未變。基于隱私和自由意志的社會(huì)道德依舊,保護(hù)隱私的法規(guī)都好好的——新制定的保護(hù)措施看上去是越來越嚴(yán)格了。可是仔細(xì)觀察,這些未變的方面都不再重要,重要的卻徹底變樣了:信息技術(shù)的“天網(wǎng)”已經(jīng)布下,隱私無處可藏了!所以,盡管法律規(guī)定,隱私應(yīng)當(dāng)保護(hù);但那藏不住的私,是不成其為隱私的。這樣看來,“可隱而不可知”是捍衛(wèi)隱私的關(guān)鍵。易言之,隱私的成立和維護(hù),可隱性是一項(xiàng)必要條件。因?yàn)?,破壞了隱,也就同時(shí)取消了私,即公私的界限。

    這必要條件遭到破壞,隱私變得可知而失控,正是當(dāng)下隱私困局的癥結(jié)所在。一切隱私問題的探討和對(duì)策研究,都不能繞開這一現(xiàn)實(shí)。

    信息化和隱私困局

    信息時(shí)代的大勢(shì),是隱私的隱秘性趨近消失。結(jié)果,直接危及隱私的兩要素,公私有別和私的自處。其始作俑者,叫作隱私的信息化或數(shù)碼化:隱私被信息技術(shù)重新包裝,放入虛擬電子黑箱,隔絕于人的感官,被“稀釋”處理之后,以“中性化”的數(shù)據(jù)再現(xiàn)。然而,隱私和信息數(shù)據(jù)是極不協(xié)調(diào)的兩極。數(shù)據(jù)是技術(shù)產(chǎn)品,往往視為客觀中性,外延開放包容;隱私卻充滿了道德價(jià)值,屬于人類自我意識(shí)的范疇,是主觀而收斂排他的。當(dāng)“隱私數(shù)據(jù)”被捆綁成一個(gè)復(fù)合概念,這種不協(xié)調(diào)就被強(qiáng)行抹去,為隱私數(shù)據(jù)化,繼而商品化鋪設(shè)通道,隱私的天地就徹底改變了。很快,人們開始接受一種全新的生活方式:零隱私世界。

    隱私的必要條件是“可隱性”。但傳統(tǒng)上,關(guān)于可隱性的討論不多。這不是疏忽。從前,日常生活中的隱私的可隱性一向不是問題。仿佛“造物”一開始就恩賜了隱私,讓人行使自由意志。人類的感官,獲取外界信息的能力有限,眼耳鼻口舌,加上皮膚,遠(yuǎn)不如許多動(dòng)物的敏銳。一層紙,一段距離,幾天的間隔,就足以阻斷外界信息的感應(yīng)接收。而我們引以為傲的大腦,相對(duì)于別的動(dòng)物可稱發(fā)達(dá),但信息存儲(chǔ)的可靠性及處理速度,都很不理想;稍微過量,復(fù)雜一點(diǎn),便束手無策。這就使得個(gè)人信息不難保持隱秘。例如,說話的聲音與表情,是瞬間即逝的,通常只有近距離耳聞目睹,才能得知。又如,DNA和腦電波,藏在生物密碼中,人的感官無法直接辨認(rèn)、破譯或記錄。

    所以,私的自處而有別于公,生活中不許外人窺探隱私,是自然而然形成習(xí)慣和道德規(guī)范的。正是這種合乎“人的尺度”的可隱性,成全了隱私,讓人當(dāng)上自己隱私的守衛(wèi),從而整個(gè)社會(huì)無論在道德還是在法律層面,有了維護(hù)隱私的意愿。這么看,人之享有隱私,藉其培育自由意志,不僅是出于傳統(tǒng)的道德選擇,還有賴于客觀上隱私信息往往具有較高的隱秘性。換一角度,隱私之能夠獲得保護(hù),在一定程度上也是人們對(duì)其可隱性特征的一種認(rèn)知和回應(yīng)。

    假如人類滿足于“造物”的饋贈(zèng),不去觸動(dòng)維護(hù)隱私的各樣屏障,隱私就可以保持可隱而安全。可是,人類好奇,總想探求新知,創(chuàng)制工具,發(fā)現(xiàn)世界的奧秘。終于,到了物聯(lián)網(wǎng)智能時(shí)代,隱私的傳統(tǒng)屏障坍塌了。生活完全變了,人必須時(shí)刻披露個(gè)人信息。從農(nóng)貿(mào)市場(chǎng)買菜用微信支付,到旅游點(diǎn)門票的臉像識(shí)別;從政府聯(lián)網(wǎng)辦公,到銀行電子轉(zhuǎn)賬;從百度搜索,到芝麻信用評(píng)分和信息詐騙;還有街頭巷尾的攝像頭,低頭族的手機(jī),直至谷歌眼鏡、掃地機(jī)器人、汽車傳感器、植入手臂的上班打卡芯片……個(gè)人信息的收集監(jiān)控不放過生活的任何一個(gè)環(huán)節(jié)。伴隨技術(shù)進(jìn)步,隱私的疆域大大拓展了,連基因信號(hào)和下意識(shí)的意念,也被挖掘了納入個(gè)人信息。信息化的隱私,是信息爆炸,需要超級(jí)計(jì)算機(jī)來處理,接受各類算法的深度分析,以便追蹤、模擬、預(yù)測(cè)人們的思想和行動(dòng)。隱私不再可隱。私的自處,公私有別,變得越來越不現(xiàn)實(shí)了。

    一般認(rèn)為,人們尊重隱私,本身便是道德選擇。然而在網(wǎng)絡(luò)世界,隱私的物理載體形態(tài)同其他信息并無兩樣。無論我們的銀行存款、股票交易,還是DNA遺傳指令、生理特征,都已經(jīng)化作“0”和“1”的數(shù)碼序列,由算法處理、電腦存儲(chǔ)。那里,隱私的內(nèi)涵是隱沒了的,不會(huì)影響技術(shù)系統(tǒng)的運(yùn)作。而隱私的數(shù)碼序列外形,卻絲毫不能出錯(cuò),否則系統(tǒng)就會(huì)罷工。久而久之,信息化的隱私化身為數(shù)據(jù)而“中性化”,卸下了道德倫理的約束,自由了。

    隱私信息化,帶來兩個(gè)嚴(yán)重后果:一是隱私脫離主體,超越時(shí)空,永久地駐扎在信息工具里。人失去了對(duì)自己隱私的控制,而受制于信息工具及其主人。第二,電子數(shù)碼的信息密度低,噪音強(qiáng),體量龐大,就像一片茂盛的原始叢林,遵循機(jī)器的組織原則,虛擬黑箱運(yùn)作。人自身的信息處理能力對(duì)于如此巨大的數(shù)據(jù)集,是束手無策的,只能依賴機(jī)器。而機(jī)器依賴性越高,隱私數(shù)據(jù)的收集者/掌控者的話語權(quán)就越大,個(gè)人的談判力就越低。于是,信息社會(huì)里,隱私開始自愿或被迫地從“私”(如消費(fèi)者)向“公”(如商家)流動(dòng),在“公”領(lǐng)域快速而大規(guī)模聚集,并按照信息工具主人制定的規(guī)則,嵌入人們的日常生活。比如,自從社交網(wǎng)站普及,我們的思想表達(dá)、興趣好惡,連同親友信息就被平臺(tái)電商收集起來清洗,成了后者的數(shù)據(jù)財(cái)產(chǎn)。接下去的數(shù)據(jù)交易,則進(jìn)一步模糊了信息的屬性;隱私本身,也因?yàn)樵诠街g頻繁穿梭而不再“純粹”,雖然仍指向個(gè)人或群體,例如網(wǎng)購者/買家的行為與需求信息,同賣方的交易規(guī)則交叉互動(dòng)而產(chǎn)生的信息集;又如,免費(fèi)使用搜索器生成的數(shù)據(jù)。這時(shí),個(gè)人維護(hù)隱私的意愿就顯得不那么理直氣壯,而難以堅(jiān)持,直至隱私與道德價(jià)值脫鉤。如此,私與公這對(duì)經(jīng)典范疇開始游移不定,公私間界限模糊起來,隱私就無處落腳了。

    這就是隱私信息化帶來的最嚴(yán)峻的挑戰(zhàn)。面對(duì)挑戰(zhàn),作為擁有自由意志的人類整體,我們?nèi)杂袡C(jī)會(huì)做出選擇,重建隱私的屏障。然而,新經(jīng)濟(jì)選擇了隱私的商品化,添上了壓垮隱私的最后一根稻草。

    隱私商品化和法律保護(hù)的迷思

    隱私商品化,標(biāo)志著資本主義世界對(duì)隱私態(tài)度的質(zhì)的變化,也是信息社會(huì)轉(zhuǎn)型期矛盾的一個(gè)焦點(diǎn)。隱私有用有市,不是新發(fā)現(xiàn)。但隱私既是自由人格的條件,也是人的軟肋,需要精心呵護(hù)。所以,傳統(tǒng)道德講求節(jié)制,是包括尊重隱私在內(nèi)的;拿自己或他人的隱私做交易,就更是可恥了。道德加上信息能力有限,可謂雙重的約束,隱私才能一路平安地走來。

    現(xiàn)在,智能終端的天網(wǎng)建成,迅速消解了這兩道護(hù)衛(wèi),把蘊(yùn)藏在隱私中的經(jīng)濟(jì)價(jià)值和社會(huì)控制力裸露了。這大大刺激了隱私的商業(yè)挖掘。人們找出各種正當(dāng)化的理由,隱私淘金熱就像放出籠子的野獸,失控了。個(gè)人信息充斥了商品市場(chǎng),在經(jīng)濟(jì)生活中占有越來越大的比重。所謂智能經(jīng)濟(jì),幾乎所有最賺錢的企業(yè)都在挖掘使用和買賣隱私,不論谷歌、臉書、百度與阿里巴巴。打開臉書,看看你自己上繳的信息吧:照片視頻,留言打招呼的就不說了,每天的生活細(xì)節(jié)、消費(fèi)習(xí)慣、工作安排,親友往來等,事無巨細(xì),連你自己都沒注意或忘記了的,統(tǒng)統(tǒng)記錄在案。谷歌占有的信息集就更龐大了。這些網(wǎng)絡(luò)巨頭深知,隱私就是財(cái)富。于是,隱私被冠以新的身份:以市場(chǎng)需求來定價(jià)交易的商品。

    既是商品,就免不了推向市場(chǎng),“公平”競(jìng)爭。站在市場(chǎng)經(jīng)濟(jì)的立場(chǎng),挖掘隱私,消費(fèi)隱私,完全符合發(fā)展經(jīng)濟(jì)的政策目標(biāo)。這樣一來,尊重隱私、維護(hù)隱私的道德和技術(shù)屏障,因?yàn)橛械K市場(chǎng)經(jīng)濟(jì),反而處境尷尬了。資本的策略,是把收集個(gè)人信息與服務(wù)的便利、高效、創(chuàng)新掛鉤;將分享隱私和煥然一新的消費(fèi)者感受等同。在飽和的宣傳攻勢(shì)下,商家和政府采集使用個(gè)人信息,幾乎沒有任何阻力,還美其名曰:消費(fèi)者同商家雙贏,老百姓和國家雙贏??墒?,雙贏是市場(chǎng)贏家的說辭;凡是雙贏的交易,桌面下面總有一方或第三方要付出代價(jià)。智能經(jīng)濟(jì)的代價(jià),便是終端用戶/消費(fèi)者交出隱私。表面上,提交隱私信息換取服務(wù)和便利,對(duì)人只有好處,但其損害后果是潛在或滯后的,包括未來就業(yè)發(fā)生困難,突然被拒絕醫(yī)療保險(xiǎn),或者遭受價(jià)格歧視、信用誤導(dǎo),直至削弱人們負(fù)責(zé)任的能力或自由意志。

    最近美國一個(gè)例子,為此做了絕妙的腳注。2017年3月,國會(huì)投票,封殺了聯(lián)邦通訊委員會(huì)(FCC)年前通過的《互聯(lián)網(wǎng)隱私規(guī)則》(IPR)。《規(guī)則》是為保護(hù)網(wǎng)絡(luò)用戶的隱私而訂立的,限制網(wǎng)商使用和“分享”即出售用戶的網(wǎng)上行為信息。詭異的是,封殺理由與保護(hù)隱私毫不搭界,而是平衡網(wǎng)商的利益,保障市場(chǎng)的公平競(jìng)爭。也就是說,圍繞《規(guī)則》的利益較量,用戶的隱私權(quán)益根本沒在考慮之列。更有甚者,國會(huì)還表決禁止FCC今后頒布任何類似的保護(hù)用戶隱私的法規(guī)。據(jù)說,這么做是有經(jīng)濟(jì)學(xué)依據(jù)的。大名鼎鼎的波斯納法官曾著文闡述:保護(hù)個(gè)人隱私經(jīng)常是低效的,而特殊保護(hù)又沒有必要。以經(jīng)濟(jì)學(xué)觀之,商家的“隱私”或商業(yè)秘密比用戶隱私更有理由受保護(hù)。[2]據(jù)此邏輯,與其加強(qiáng)隱私保護(hù),不如促進(jìn)商家的公平競(jìng)爭,總效益更高。這便是隱私淪為市場(chǎng)交易的商品,必須面對(duì)的利益與辯白。尤其令人擔(dān)憂的是,在道德倫理和技術(shù)手段都敗下陣來的今天,法律已是捍衛(wèi)隱私的最后一道脆弱的防線。

    隱私法如此不堪一擊,并不奇怪。立法向來是社會(huì)各方利益集團(tuán)談判妥協(xié)的產(chǎn)物,一般總是向強(qiáng)勢(shì)方傾斜。如果遵循“經(jīng)濟(jì)規(guī)律”即市場(chǎng)信條來制定規(guī)則,法律就不能妨礙“正?!钡纳唐方粨Q,尤其是實(shí)用價(jià)值高、市場(chǎng)需求大的商品。而隱私早成了信息市場(chǎng)的寵兒。君不見,個(gè)人行為信息支撐著精準(zhǔn)投放廣告、區(qū)別定價(jià);指紋和刷臉,方便了身份識(shí)別與信用追蹤;DNA信息則可幫助保險(xiǎn)公司甄別投保人風(fēng)險(xiǎn)。因而,所有的強(qiáng)勢(shì)利益集團(tuán)都要求法律承認(rèn),商家收集個(gè)人信息,做成商品,就是科學(xué)、正當(dāng)、高效,故而應(yīng)當(dāng)支持。隱私保護(hù)難免變得縮手縮腳了。于是,基于技術(shù)操作規(guī)程,法律將獲取和使用隱私分成兩類:合法、非法。例如,黑客為非法,因?yàn)闆]有向官方注冊(cè);但社交和購物網(wǎng)站合法,只需設(shè)置用戶選擇及相關(guān)提示。

    如此立法執(zhí)法,造成一個(gè)假象:仿佛合法取用隱私對(duì)人無害,可以放心“分享”。唯有非法入侵才是隱私遭破壞的原因和隱患,才會(huì)影響我們的正常生活。所以只消立法禁止、懲罰隱私數(shù)據(jù)的盜竊泄漏和非法買賣,我們的隱私就安然無恙了。

    這當(dāng)然是自欺欺人。首先,常識(shí)告訴我們,媒體經(jīng)常報(bào)道的個(gè)人和團(tuán)伙盜賣個(gè)人信息,由于明顯違法,偷偷摸摸見不得人,是撼動(dòng)不了隱私的道德地位的。真正的威脅來自合法的隱私收集和商品化交易,因?yàn)槟鞘窍到y(tǒng)的規(guī)?;氖鼙Wo(hù)市場(chǎng)行為。那些網(wǎng)絡(luò)平臺(tái)和產(chǎn)業(yè)巨頭,大大小小的網(wǎng)站、店家、服務(wù)商,日復(fù)一日、年復(fù)一年地依法獲取加工隱私“原材料”,才是對(duì)隱私的最大傷害。其次,法律上那一堆看似細(xì)致入微的隱私保護(hù)條款,不僅對(duì)黑箱操作的“漏洞”防不勝防,還是商家的免責(zé)保護(hù)機(jī)制。大數(shù)據(jù)AI等信息技術(shù)日新月異,黑箱操作是設(shè)計(jì)使然,關(guān)乎效率和商業(yè)技術(shù)秘密。故有評(píng)論認(rèn)為,提高操作透明度,讓信息系統(tǒng)內(nèi)隱私數(shù)據(jù)的來龍去脈受監(jiān)督,有助于保護(hù)隱私。歐盟最近頒布的《一般數(shù)據(jù)保護(hù)條例》(GDPR) ,添加了條款,要求算法自動(dòng)決策的使用者為決策給出解釋。這是目前為止,對(duì)黑箱現(xiàn)象做出的最嚴(yán)格限制,也許會(huì)有一定的效果。但《條例》依然回避了隱私商品化問題,而把注意力導(dǎo)向透明度。這是意味深長的。再看臉書,當(dāng)它的保護(hù)隱私設(shè)置被合法或不當(dāng)“攻破”,造成海量用戶信息“泄漏”,面對(duì)公眾輿論與政府監(jiān)管部門的壓力,確實(shí),老板公開道歉了,保證采取補(bǔ)救措施,提高透明度,甚至答應(yīng)讓用戶看到臉書為廣告商提供的自己的畫像(profile)。但是,它沒忘記重申一句:精準(zhǔn)投放廣告的商業(yè)模式不變。

    商品化成為定局,隱私脫離主體,被合法挖掘追蹤分析,廣泛用于解讀并預(yù)測(cè)、規(guī)制人的欲望、想法和行動(dòng),人與隱私的關(guān)系就變了。隱私主體失去了話語權(quán),不再是自己隱私的主人和守護(hù)者。[3]鑒于個(gè)人信息的巨大經(jīng)濟(jì)價(jià)值和政治紅利,法律別無選擇,只能承認(rèn)或默許隱私商品化。而公共議題就轉(zhuǎn)變?yōu)椋赫l可以“合法”占有商品化的果實(shí),即商業(yè)利益的競(jìng)爭和壟斷。所以,合法或是非法,法律都不可能還人類以隱私之安寧。

    法律保護(hù)的效用如此之低,為什么各國,尤其是發(fā)達(dá)經(jīng)濟(jì)體,還在不斷強(qiáng)化隱私權(quán)的立法和宣傳?原因很簡單,那是政府部門同立法者目前唯一能做,而不影響“大局”的事情。當(dāng)然,那也是業(yè)界巨頭所希望的。比如小扎,今年3月接受CNN采訪,就明確邀請(qǐng)國會(huì)立法,規(guī)制社交網(wǎng)站,說:問題不是該不該規(guī)制,而是什么是正確的規(guī)則。

    資本非常清醒:隱私關(guān)乎人的責(zé)任能力,占有隱私并獲得保護(hù),就要承擔(dān)相對(duì)應(yīng)的社會(huì)責(zé)任。當(dāng)人們交出隱私(無論自愿或不知情),讓商家牟利或政府監(jiān)管,個(gè)人的自由意志選擇范圍便相應(yīng)地縮小了。人的自主選擇越少,承擔(dān)責(zé)任的能力也越小。反之,商家和政府獲取的隱私越多,對(duì)用戶與社會(huì)的控制力也越強(qiáng)。隱私易手,對(duì)應(yīng)的社會(huì)責(zé)任并不會(huì)消失,是需要重新分配的。而且不僅是責(zé)任,還是社會(huì)風(fēng)險(xiǎn)管理機(jī)制的全盤安排。但市場(chǎng)經(jīng)濟(jì)是自利者的王國,資本拿隱私賺大錢,卻無意承擔(dān)附著于隱私的社會(huì)責(zé)任。這就是為什么,他們一邊推動(dòng)隱私商品化,一邊在媒體和立法層面,大聲疾呼保障隱私。他們企圖讓人相信,盡管隱私化作他人財(cái)產(chǎn)已是生活常態(tài),原始隱私權(quán)仍在自己手中,并受到前所未有的法律保護(hù)。只需發(fā)揚(yáng)分享的美德,就會(huì)得到最佳補(bǔ)償,即生活便利。巨頭們直言不諱,希望失去隱私的人們一如既往地承擔(dān)行為主體的責(zé)任,而掌控隱私的唱唱法律保護(hù)的高調(diào),即可免責(zé)而享受用戶“分享”的饋贈(zèng)。

    臉書老板早在2010年就說過,我們的隱私觀過時(shí)了,隱私“不再是社會(huì)規(guī)范”。大家不僅樂于分享各種信息,而且喜歡向越來越多的陌生人開放自己,“促成了新的社會(huì)規(guī)范”。[4]是的,只要巨頭們奉行《圓圈》里的那句臺(tái)詞:知道(隱私)好。知道一切(隱私)更好!法律就救不了隱私。

    隱私終結(jié),意味著什么?

    說到這里,隱私經(jīng)過信息社會(huì)商業(yè)化的洗禮,命運(yùn)只有一個(gè)去向——走向終結(jié)!

    也許,一些占有者以為,自己可以是隱私終結(jié)的例外,甚而能夠在支配他人隱私的同時(shí),繼續(xù)保有自己的隱私?然而,人類的總命運(yùn)是誰也逃不脫的。從目前AI的發(fā)展勢(shì)頭看,我們不得不警惕,一種智力優(yōu)于人類,且具有“自由意志”的獨(dú)立物種出現(xiàn)。屆時(shí),機(jī)器人未必“甘當(dāng)”人類肢體和心智的延伸,而人類卻要依靠它才能生存。因此,隱私危機(jī)必須放在人機(jī)關(guān)系中去思考、規(guī)劃。個(gè)人信息的網(wǎng)絡(luò)儲(chǔ)存越多,分析工具越精致高效,硅基智能成長為獨(dú)立物種而擺脫人類管控的步伐,就會(huì)越快。當(dāng)AI提升至通用智能,能夠在多個(gè)領(lǐng)域自我學(xué)習(xí),不再需要人的知識(shí)連同隱私當(dāng)它的學(xué)習(xí)素材,一如自學(xué)圍棋、碾壓人類頂級(jí)大腦的“阿爾法零”,那一天,將奏響隱私的挽歌。

    不過,隱私的終結(jié),并不意味著人類終結(jié)。歸根結(jié)蒂,人是可以零隱私地活著的。迄今為止,隱私對(duì)于人類重要,是因?yàn)槿耸苤朴谳^低的信息能力,亦即人類為自己安排了那樣的生活秩序。所以一方面,隱私是人類高級(jí)智力活動(dòng)的產(chǎn)物,體現(xiàn)了人對(duì)自身價(jià)值的期待和尊重;另一方面,一旦人類實(shí)現(xiàn)“自我超越”,造出通用人工智能(AGI),讓機(jī)器取代自己思考、勞動(dòng)、創(chuàng)造,后隱私時(shí)代便降臨了。

    進(jìn)入后隱私時(shí)代,人類社會(huì)現(xiàn)存的經(jīng)濟(jì)基礎(chǔ)和上層建筑必然失效了。人類將怎樣生活?沒有歷史經(jīng)驗(yàn),沒有參照物,很難想象。但有三點(diǎn)可以預(yù)期:

    第一,那將是一種沒有自覺自愿,不知何為榮辱問責(zé),但高效而標(biāo)準(zhǔn)化的低智低能的生活秩序。那里,隱私失去了意義。它不再能培育自由人格,因?yàn)橄到y(tǒng)中沒有自由意志的位置。它不再是社會(huì)責(zé)任的代價(jià),因?yàn)槿藷o須自由選擇自主行動(dòng)而承擔(dān)責(zé)任。它也不再是智力活動(dòng)的衍生品,因?yàn)槿祟愔鲃?dòng)放棄了發(fā)展智力的努力,滿足于在無限優(yōu)化了的天網(wǎng)下執(zhí)行指令。

    第二,社會(huì)的中心不再是人與人的關(guān)系,而是人機(jī)關(guān)系和機(jī)機(jī)關(guān)系。人類不復(fù)為地球的主人,反倒有可能變成硅基智能系統(tǒng)的累贅。不是有AI專家預(yù)測(cè),二十五年后,無人駕駛技術(shù)成熟,人類將被禁止駕車上路。無人駕駛的交通系統(tǒng),其交通規(guī)則、道路設(shè)計(jì)、社區(qū)安排等,都是不許出錯(cuò)的。人類駕駛只會(huì)破壞科學(xué)設(shè)計(jì)的完美,引發(fā)交通事故,降低行車效率。實(shí)際上,排斥人類參與、刪除人類個(gè)性,那樣的硅膠智能世界,才可能是高效簡潔、完滿無缺的一個(gè)大“圓圈”。

    第三,人類世界本身,共產(chǎn)主義或許是唯一的選項(xiàng)。因?yàn)闄C(jī)器人治下,人不但沒有了隱私,分工也已消失。所有的個(gè)體都集合于一個(gè)總體,個(gè)人自由即全體的自由,我為人人即人人為我。[5]

    人工智能的先驅(qū),已故的麻省理工學(xué)院教授明斯基(Marvin Minsky)說過:有朝一日,當(dāng)我們掌握了建造智力遠(yuǎn)勝人類的機(jī)器的知識(shí),就不得不面對(duì)一個(gè)奇特的問題,那就是:該不該建造?我很幸運(yùn),因?yàn)槲铱梢园堰@一困難的選擇留給后人。但我相信,他們不會(huì)建造,除非找到很好的理由。[6]明斯基還曾經(jīng)對(duì)深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)技術(shù)做出悲觀的描述,他的觀點(diǎn)被認(rèn)為阻礙了AI發(fā)展達(dá)半個(gè)世紀(jì)之久,因而頗受詬病。但換個(gè)角度,這也許是教授對(duì)人類最大的貢獻(xiàn):為我們做好準(zhǔn)備迎接機(jī)器人時(shí)代,贏得了寶貴的時(shí)間。

    明斯基的智慧提醒我們,對(duì)隱私應(yīng)取審慎節(jié)制的態(tài)度。也許,停下對(duì)隱私的深度挖掘和過度商業(yè)化,我們會(huì)少些便捷、舒適和效率,辦事會(huì)不那么順暢。但我們就可以繼續(xù)辛勤勞動(dòng),思考學(xué)習(xí);繼續(xù)擁有自由意志,而擔(dān)起自己的社會(huì)責(zé)任。我們將保有隱私同人格尊嚴(yán)。這,才是一種更美好的生活。

    (作者為本刊特約撰稿人)

    注釋:

    [1] Alan Westin, Privacy And Freedom,Athenaeum, 1967.

    [2] Richard Posner, The Economics of Justice, Harvard University Press, 1981.

    [3] George Martin, “ Brief proposal on immortality: an interim solution”,Perspectives in Biology and Medicine, 1971.

    [4] Bobbie Johnson, “ Privacy no longer a social norm, says Facebook founder”,The Guardian, 2010.1.10.

    [5] 馮象:《我是阿爾法——論人機(jī)倫理》,載《文化縱橫》2017年第6期。

    [6] Marvin Minsky, “Why People Think Computer Can't”, AI Magazine, 1982.

    猜你喜歡
    意志個(gè)人信息人類
    動(dòng)物的“自由意志”
    大自然探索(2023年7期)2023-11-14 13:07:52
    如何保護(hù)勞動(dòng)者的個(gè)人信息?
    個(gè)人信息保護(hù)進(jìn)入“法時(shí)代”
    人類能否一覺到未來?
    人類第一殺手
    警惕個(gè)人信息泄露
    綠色中國(2019年14期)2019-11-26 07:11:44
    1100億個(gè)人類的清明
    《西廂記》中的理性意志與自由意志
    人類正在消滅自然
    奧秘(2015年2期)2015-09-10 07:22:44
    自由意志的神經(jīng)基礎(chǔ)
    精品一区在线观看国产| 亚洲图色成人| 国产欧美日韩精品一区二区| 免费av不卡在线播放| 久久人妻熟女aⅴ| 久久久亚洲精品成人影院| 久久99蜜桃精品久久| 只有这里有精品99| 精品一区在线观看国产| 乱系列少妇在线播放| 免费黄网站久久成人精品| 亚洲精品一二三| 久久久久久九九精品二区国产| 精品久久久久久电影网| 男男h啪啪无遮挡| 麻豆精品久久久久久蜜桃| 午夜免费观看性视频| 久久人妻熟女aⅴ| 国产成人免费观看mmmm| 男男h啪啪无遮挡| 中文字幕制服av| 99国产精品免费福利视频| 午夜日本视频在线| 多毛熟女@视频| 国产淫片久久久久久久久| 丝袜喷水一区| 国产精品久久久久久久电影| 99热网站在线观看| 亚洲婷婷狠狠爱综合网| 亚洲精品乱码久久久v下载方式| 伊人久久精品亚洲午夜| 精品人妻视频免费看| 国产精品一区二区在线不卡| 欧美精品亚洲一区二区| 人妻 亚洲 视频| 插逼视频在线观看| www.色视频.com| 欧美成人a在线观看| 蜜桃亚洲精品一区二区三区| 精品少妇黑人巨大在线播放| 街头女战士在线观看网站| 国国产精品蜜臀av免费| 亚洲人与动物交配视频| 午夜免费观看性视频| 成人毛片a级毛片在线播放| 日韩三级伦理在线观看| 99久久精品国产国产毛片| 亚洲国产毛片av蜜桃av| 欧美三级亚洲精品| 欧美bdsm另类| 草草在线视频免费看| 亚洲在久久综合| 肉色欧美久久久久久久蜜桃| 亚洲一区二区三区欧美精品| 精品久久久久久电影网| 久久ye,这里只有精品| 最后的刺客免费高清国语| 少妇熟女欧美另类| 久久精品国产鲁丝片午夜精品| 伦精品一区二区三区| 国产精品一区二区性色av| 少妇丰满av| 亚洲av福利一区| 天美传媒精品一区二区| 亚洲四区av| 亚洲av不卡在线观看| 中文在线观看免费www的网站| 赤兔流量卡办理| 三级经典国产精品| 日韩av不卡免费在线播放| 精品一区二区免费观看| 精品一区在线观看国产| 欧美日韩国产mv在线观看视频 | 日韩,欧美,国产一区二区三区| 制服丝袜香蕉在线| 日本午夜av视频| 久久人人爽人人爽人人片va| av卡一久久| 色视频www国产| 黄色欧美视频在线观看| 国产精品久久久久久久电影| 亚洲自偷自拍三级| 国产精品99久久99久久久不卡 | 夜夜骑夜夜射夜夜干| 午夜老司机福利剧场| 99热6这里只有精品| 97在线人人人人妻| 欧美老熟妇乱子伦牲交| 我的老师免费观看完整版| 3wmmmm亚洲av在线观看| 2018国产大陆天天弄谢| 毛片一级片免费看久久久久| 黄色视频在线播放观看不卡| 久久精品国产亚洲av天美| 国产精品人妻久久久久久| 99视频精品全部免费 在线| 国产午夜精品久久久久久一区二区三区| 亚洲av福利一区| 国产淫片久久久久久久久| 午夜视频国产福利| 国产精品福利在线免费观看| 久久精品久久精品一区二区三区| 亚洲不卡免费看| 精品国产一区二区三区久久久樱花 | 日本色播在线视频| 少妇猛男粗大的猛烈进出视频| 成人美女网站在线观看视频| 日韩 亚洲 欧美在线| 亚洲人成网站在线观看播放| 中文欧美无线码| 久久精品久久精品一区二区三区| 精品熟女少妇av免费看| 欧美精品国产亚洲| 在线免费观看不下载黄p国产| 国产精品不卡视频一区二区| 美女主播在线视频| 最后的刺客免费高清国语| 夜夜爽夜夜爽视频| 亚洲精品久久久久久婷婷小说| 国产高清不卡午夜福利| 啦啦啦啦在线视频资源| 熟女av电影| 制服丝袜香蕉在线| 草草在线视频免费看| 高清欧美精品videossex| 精品一区二区三卡| 国产极品天堂在线| 亚洲色图综合在线观看| 老女人水多毛片| 国产爱豆传媒在线观看| 天堂8中文在线网| 亚洲精品国产av蜜桃| 亚洲成色77777| 久久久久视频综合| 亚洲欧美一区二区三区国产| 99re6热这里在线精品视频| 最新中文字幕久久久久| 日韩欧美精品免费久久| h视频一区二区三区| 免费人妻精品一区二区三区视频| 欧美zozozo另类| av在线app专区| 成人毛片60女人毛片免费| 激情 狠狠 欧美| 如何舔出高潮| 久久人妻熟女aⅴ| 男女国产视频网站| 国产爽快片一区二区三区| 日本免费在线观看一区| 一级毛片电影观看| 亚洲国产成人一精品久久久| 日本免费在线观看一区| 国产高清国产精品国产三级 | 亚洲av成人精品一二三区| 久久国内精品自在自线图片| 欧美高清成人免费视频www| 久久国产乱子免费精品| 亚洲精品国产av成人精品| 一级毛片aaaaaa免费看小| av播播在线观看一区| 99久久综合免费| 久久国产精品男人的天堂亚洲 | 直男gayav资源| 大话2 男鬼变身卡| 中国国产av一级| 欧美极品一区二区三区四区| 在线看a的网站| 国产精品精品国产色婷婷| 国产无遮挡羞羞视频在线观看| 久热这里只有精品99| 国产精品一区二区在线观看99| 这个男人来自地球电影免费观看 | 久久精品久久久久久久性| 欧美97在线视频| 精品国产露脸久久av麻豆| 欧美bdsm另类| 国产黄片视频在线免费观看| 日本黄色片子视频| av视频免费观看在线观看| 国产精品一区二区性色av| 免费不卡的大黄色大毛片视频在线观看| av国产久精品久网站免费入址| 午夜精品国产一区二区电影| 高清视频免费观看一区二区| 自拍偷自拍亚洲精品老妇| 搡老乐熟女国产| 最近的中文字幕免费完整| 男人添女人高潮全过程视频| 一区在线观看完整版| 一本久久精品| 麻豆成人av视频| 美女国产视频在线观看| 亚洲欧美一区二区三区国产| 国产精品一区二区三区四区免费观看| 亚洲av福利一区| 亚洲精品456在线播放app| 国产熟女欧美一区二区| 成人18禁高潮啪啪吃奶动态图 | 国模一区二区三区四区视频| 国产精品人妻久久久久久| 国产伦精品一区二区三区视频9| 国产片特级美女逼逼视频| 国产又色又爽无遮挡免| 我的老师免费观看完整版| 男女边摸边吃奶| 多毛熟女@视频| 51国产日韩欧美| 国产在线男女| 男女边摸边吃奶| 激情五月婷婷亚洲| 狂野欧美白嫩少妇大欣赏| 秋霞伦理黄片| 日韩av不卡免费在线播放| 欧美另类一区| 建设人人有责人人尽责人人享有的 | 大又大粗又爽又黄少妇毛片口| 中文欧美无线码| av国产久精品久网站免费入址| 午夜视频国产福利| 七月丁香在线播放| 性色av一级| 日本-黄色视频高清免费观看| 偷拍熟女少妇极品色| 少妇精品久久久久久久| 日本色播在线视频| 国产成人aa在线观看| 久久久久久久久久久免费av| 亚洲精品国产成人久久av| 亚洲精品一区蜜桃| 中文欧美无线码| av不卡在线播放| 国产在线视频一区二区| 国产精品三级大全| 精品人妻一区二区三区麻豆| 欧美日韩在线观看h| 欧美成人一区二区免费高清观看| 亚洲,欧美,日韩| 在线观看三级黄色| 久久久久久人妻| 亚洲激情五月婷婷啪啪| 一本久久精品| 大香蕉久久网| 激情 狠狠 欧美| 国产一区有黄有色的免费视频| 亚洲美女黄色视频免费看| 热99国产精品久久久久久7| 亚洲欧美日韩东京热| 一级片'在线观看视频| 成年av动漫网址| 亚洲激情五月婷婷啪啪| 免费观看的影片在线观看| 日本黄色日本黄色录像| 精品一区在线观看国产| 欧美一级a爱片免费观看看| 26uuu在线亚洲综合色| 水蜜桃什么品种好| 九九在线视频观看精品| 亚洲精品久久午夜乱码| 另类亚洲欧美激情| 黑人高潮一二区| 精品99又大又爽又粗少妇毛片| 久久精品人妻少妇| 91精品伊人久久大香线蕉| 欧美丝袜亚洲另类| 18禁裸乳无遮挡免费网站照片| 99热这里只有精品一区| 久久精品国产亚洲av涩爱| 一区在线观看完整版| 91精品国产国语对白视频| 高清在线视频一区二区三区| 中文天堂在线官网| 国产精品女同一区二区软件| 色视频www国产| 国产白丝娇喘喷水9色精品| 日韩不卡一区二区三区视频在线| 欧美日韩国产mv在线观看视频 | 深夜a级毛片| 97热精品久久久久久| 日本欧美视频一区| 婷婷色麻豆天堂久久| 黄色怎么调成土黄色| 亚洲精品一区蜜桃| 国产精品国产三级专区第一集| 国产亚洲精品久久久com| 女人久久www免费人成看片| 欧美性感艳星| 小蜜桃在线观看免费完整版高清| 亚洲精品乱久久久久久| 日日啪夜夜爽| 一区二区av电影网| 国产v大片淫在线免费观看| 日韩一本色道免费dvd| av不卡在线播放| 黄色日韩在线| 国精品久久久久久国模美| 久久毛片免费看一区二区三区| 777米奇影视久久| 亚洲精品乱码久久久v下载方式| 国产精品无大码| 在线免费观看不下载黄p国产| 国产成人精品久久久久久| 97热精品久久久久久| 国产在线免费精品| 视频中文字幕在线观看| 91狼人影院| 国产成人精品婷婷| 久久精品久久久久久久性| 亚洲中文av在线| 国产伦精品一区二区三区视频9| 亚洲高清免费不卡视频| 夜夜爽夜夜爽视频| 日本与韩国留学比较| 欧美xxxx黑人xx丫x性爽| 久久婷婷青草| av免费观看日本| 夜夜骑夜夜射夜夜干| 熟女av电影| 亚洲av成人精品一二三区| 在线免费十八禁| 十八禁网站网址无遮挡 | 少妇的逼好多水| 美女高潮的动态| 美女脱内裤让男人舔精品视频| 国产亚洲最大av| 亚洲不卡免费看| 久久久亚洲精品成人影院| 国产免费视频播放在线视频| 99re6热这里在线精品视频| 91久久精品国产一区二区三区| 男女无遮挡免费网站观看| 久久久久视频综合| 亚洲人成网站高清观看| 一本—道久久a久久精品蜜桃钙片| av线在线观看网站| 国内揄拍国产精品人妻在线| 狠狠精品人妻久久久久久综合| 亚洲欧美精品专区久久| 啦啦啦啦在线视频资源| 汤姆久久久久久久影院中文字幕| 99热6这里只有精品| 在线观看av片永久免费下载| 在线免费十八禁| 在线看a的网站| 久久国内精品自在自线图片| 天堂中文最新版在线下载| 亚洲va在线va天堂va国产| 人人妻人人澡人人爽人人夜夜| 欧美zozozo另类| 人妻制服诱惑在线中文字幕| 黄色怎么调成土黄色| 高清视频免费观看一区二区| 日韩成人av中文字幕在线观看| 国产毛片在线视频| 综合色丁香网| 99re6热这里在线精品视频| 深爱激情五月婷婷| 内射极品少妇av片p| 少妇被粗大猛烈的视频| 亚洲色图av天堂| 久久久久视频综合| 欧美3d第一页| 欧美日韩一区二区视频在线观看视频在线| 精品一区在线观看国产| 国产在线一区二区三区精| 久久精品人妻少妇| 亚洲高清免费不卡视频| 国产又色又爽无遮挡免| 精品一区二区免费观看| 日韩一区二区三区影片| 插逼视频在线观看| 欧美日韩视频高清一区二区三区二| 亚洲第一av免费看| 久久精品国产自在天天线| 水蜜桃什么品种好| 最近中文字幕2019免费版| 观看美女的网站| 午夜视频国产福利| 国产精品一及| 久久精品久久久久久久性| 在线观看免费日韩欧美大片 | 深爱激情五月婷婷| 伊人久久精品亚洲午夜| 91精品伊人久久大香线蕉| 国产黄片美女视频| 亚洲综合精品二区| 亚洲av日韩在线播放| 国产淫片久久久久久久久| av网站免费在线观看视频| 国产精品99久久99久久久不卡 | 边亲边吃奶的免费视频| 熟女人妻精品中文字幕| 午夜福利在线在线| 蜜桃亚洲精品一区二区三区| 一区二区av电影网| 亚洲人成网站高清观看| 男女边吃奶边做爰视频| 国产成人一区二区在线| 一二三四中文在线观看免费高清| 亚洲经典国产精华液单| 国产亚洲精品久久久com| 三级国产精品欧美在线观看| 最近2019中文字幕mv第一页| 国产黄频视频在线观看| 中文字幕免费在线视频6| 男女下面进入的视频免费午夜| 国产深夜福利视频在线观看| 日韩三级伦理在线观看| 国产在线男女| 日本爱情动作片www.在线观看| 国产精品一区二区三区四区免费观看| 亚洲国产最新在线播放| 国产免费福利视频在线观看| 国产精品嫩草影院av在线观看| 亚洲av欧美aⅴ国产| 97精品久久久久久久久久精品| 精品熟女少妇av免费看| 国产成人a∨麻豆精品| 亚洲精华国产精华液的使用体验| 各种免费的搞黄视频| 亚洲美女搞黄在线观看| 我的女老师完整版在线观看| 精品一品国产午夜福利视频| 99九九线精品视频在线观看视频| 五月开心婷婷网| 天天躁日日操中文字幕| 制服丝袜香蕉在线| 少妇熟女欧美另类| 欧美bdsm另类| 国产高清三级在线| 夫妻午夜视频| 伊人久久精品亚洲午夜| 最后的刺客免费高清国语| 成人亚洲欧美一区二区av| 91久久精品国产一区二区成人| 久久久久久久久久成人| 亚洲国产欧美人成| 一个人免费看片子| 亚洲伊人久久精品综合| 亚洲人成网站在线播| 亚洲精品久久久久久婷婷小说| av不卡在线播放| 欧美最新免费一区二区三区| 免费观看性生交大片5| 91精品一卡2卡3卡4卡| 国产精品三级大全| 日本欧美视频一区| av免费在线看不卡| 熟妇人妻不卡中文字幕| 深夜a级毛片| 青春草国产在线视频| 日韩人妻高清精品专区| 春色校园在线视频观看| av福利片在线观看| 少妇猛男粗大的猛烈进出视频| 精品少妇黑人巨大在线播放| 我要看日韩黄色一级片| 日韩电影二区| xxx大片免费视频| 免费黄频网站在线观看国产| www.色视频.com| 精品亚洲乱码少妇综合久久| 精品国产三级普通话版| 中文字幕免费在线视频6| 亚洲av中文字字幕乱码综合| 日本与韩国留学比较| 狂野欧美白嫩少妇大欣赏| 男女免费视频国产| 我要看黄色一级片免费的| 大陆偷拍与自拍| 欧美成人a在线观看| 色综合色国产| 亚洲色图综合在线观看| 麻豆成人av视频| 狂野欧美激情性xxxx在线观看| 久久婷婷青草| 久久人人爽人人爽人人片va| 久久久久久久亚洲中文字幕| 日日撸夜夜添| 国产乱人偷精品视频| 草草在线视频免费看| 亚洲精品国产av蜜桃| 五月伊人婷婷丁香| 国产精品蜜桃在线观看| 国产午夜精品久久久久久一区二区三区| 建设人人有责人人尽责人人享有的 | 黄片wwwwww| 精品亚洲成a人片在线观看 | 国产成人精品福利久久| 色婷婷久久久亚洲欧美| 自拍偷自拍亚洲精品老妇| av线在线观看网站| 欧美另类一区| 国产伦在线观看视频一区| 国产精品女同一区二区软件| 国产毛片在线视频| 丰满迷人的少妇在线观看| 免费看不卡的av| 一级毛片电影观看| 国产精品不卡视频一区二区| 欧美少妇被猛烈插入视频| 午夜免费观看性视频| 国产成人精品婷婷| 美女中出高潮动态图| 国产亚洲欧美精品永久| 美女中出高潮动态图| 久久人人爽人人爽人人片va| 精品一区二区三卡| 九色成人免费人妻av| 午夜免费观看性视频| 日本猛色少妇xxxxx猛交久久| 精品一品国产午夜福利视频| 少妇的逼好多水| 国产淫语在线视频| 精品久久国产蜜桃| 午夜免费观看性视频| 一级毛片电影观看| 欧美高清成人免费视频www| 噜噜噜噜噜久久久久久91| 国产成人午夜福利电影在线观看| 国产精品一区二区在线不卡| 色5月婷婷丁香| 精品少妇久久久久久888优播| 国产欧美亚洲国产| 卡戴珊不雅视频在线播放| 久久女婷五月综合色啪小说| 精品久久久精品久久久| 亚洲欧美精品自产自拍| 国内精品宾馆在线| 三级国产精品欧美在线观看| 男人爽女人下面视频在线观看| 一本一本综合久久| 欧美日韩综合久久久久久| 18禁在线无遮挡免费观看视频| 亚洲精华国产精华液的使用体验| 国产精品一区二区在线不卡| 97超碰精品成人国产| 一级毛片久久久久久久久女| 亚洲,欧美,日韩| 91在线精品国自产拍蜜月| 亚洲中文av在线| 国产免费一区二区三区四区乱码| 精品国产一区二区三区久久久樱花 | 久久午夜福利片| 你懂的网址亚洲精品在线观看| 亚洲四区av| 午夜福利高清视频| 久久精品国产亚洲网站| 国产 一区精品| 在线亚洲精品国产二区图片欧美 | 亚洲无线观看免费| 91在线精品国自产拍蜜月| 人人妻人人澡人人爽人人夜夜| 最近手机中文字幕大全| 身体一侧抽搐| 最近2019中文字幕mv第一页| 自拍偷自拍亚洲精品老妇| 亚洲av不卡在线观看| 国产精品免费大片| 亚洲av二区三区四区| 亚洲欧美日韩另类电影网站 | 中文字幕制服av| 亚洲国产欧美人成| 黑丝袜美女国产一区| 麻豆乱淫一区二区| 一本色道久久久久久精品综合| 国产探花极品一区二区| 简卡轻食公司| 菩萨蛮人人尽说江南好唐韦庄| 在线播放无遮挡| 国产精品久久久久成人av| 亚洲精品自拍成人| 在线观看人妻少妇| 久久青草综合色| 久久热精品热| 涩涩av久久男人的天堂| 天美传媒精品一区二区| 男的添女的下面高潮视频| 直男gayav资源| 国产精品女同一区二区软件| av在线蜜桃| 高清毛片免费看| 成人18禁高潮啪啪吃奶动态图 | 日韩电影二区| 亚洲婷婷狠狠爱综合网| 亚洲欧美精品专区久久| 男女无遮挡免费网站观看| 六月丁香七月| 自拍偷自拍亚洲精品老妇| 黄色欧美视频在线观看| 男男h啪啪无遮挡| 亚洲精品,欧美精品| 欧美97在线视频| 99久久综合免费| 亚洲欧美精品专区久久| 精品视频人人做人人爽| videossex国产| 久久国产乱子免费精品| a级一级毛片免费在线观看| 性色avwww在线观看| 一区在线观看完整版| 国产av一区二区精品久久 | 免费大片黄手机在线观看| 最近的中文字幕免费完整| 免费不卡的大黄色大毛片视频在线观看| 人妻制服诱惑在线中文字幕| 99热6这里只有精品| 五月玫瑰六月丁香| 亚洲av二区三区四区| 欧美3d第一页| 亚洲国产欧美人成| 一级毛片黄色毛片免费观看视频| 亚洲国产成人一精品久久久| 国产精品一区二区在线不卡| 人妻夜夜爽99麻豆av| 伊人久久国产一区二区|