• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)世界中的自由意志

    2020-08-06 14:47譚笑許鵬飛
    中州學(xué)刊 2020年6期
    關(guān)鍵詞:自由意志決定論大數(shù)據(jù)

    譚笑 許鵬飛

    摘 要:大數(shù)據(jù)技術(shù)本身所帶來的對人類生活方式、行為習(xí)慣、喜好傾向的深度了解并沒有從本質(zhì)上挑戰(zhàn)自由意志的存在。自由意志更重要的意義在社會責(zé)任層面,也就是作為第一人稱面向的對社會的理解,而非第三人稱的基礎(chǔ)生理層面。但是大數(shù)據(jù)技術(shù)所代表的以數(shù)據(jù)為中心的理性主義卻使得個人更容易主動讓渡自己的自由意志。在這樣的情形下,自由意志的空間變得更加狹窄,但絕非取消了。

    關(guān)鍵詞:大數(shù)據(jù);自由意志;決定論;讓渡

    中圖分類號:NO31;B01 ? ? ?文獻(xiàn)標(biāo)識碼:A ? ? ?文章編號:1003-0751(2020)06-0121-07

    自由意志問題在哲學(xué)中是一個古老的問題,直至今天依然處于爭論中。在常識上,在日常生活中,尤其在社會活動中,“人類擁有自由意志”作為一種基本信念被絕大多數(shù)人所持有,但是在哲學(xué)上,自由意志的信念一直在對抗著決定論和隨機(jī)論。相對于傳統(tǒng)哲學(xué)中主要使用的理論反思方法,現(xiàn)代科學(xué)的經(jīng)驗分析方法進(jìn)一步加大了這種對抗的張力。近年來,大數(shù)據(jù)技術(shù)的發(fā)展日益深入,其對人類行為和偏好的預(yù)測也日益準(zhǔn)確,大數(shù)據(jù)也就變得越來越了解我們,甚至比我們自己還要了解我們,知道我們下一步要做出怎樣的選擇和決定。大數(shù)據(jù)也就由此給自由意志問題提出了新的挑戰(zhàn)。本文將深入剖析這種挑戰(zhàn)在何種意義下存在、自由意志概念本身的內(nèi)涵變化以及對狹窄空間下的自由意志的理解。

    一、大數(shù)據(jù)帶來的表面挑戰(zhàn)

    自由意志有兩個敵人:一個是決定論,一個是隨機(jī)論。隨機(jī)論認(rèn)為世界上的事件都是隨機(jī)的,人類的行為及其結(jié)果也是隨機(jī)的。明天太陽是否照常升起是隨機(jī)的;無論我努力與否,期末考試考多少分也是隨機(jī)的。雖然有伊壁鳩魯這樣的學(xué)者提倡這種隨機(jī)論的觀點,量子力學(xué)的概率論也認(rèn)為在微觀層面事件隨機(jī)發(fā)生,但是總體上隨機(jī)論的聲音并不很大。歷史傳統(tǒng)上,基督教的背景和自然科學(xué)的發(fā)展使得人們普遍認(rèn)為世間的事物都是存在規(guī)律的,而并非隨機(jī)的。因此,自由意志更大的敵人在于決定論。

    在數(shù)據(jù)、算法大行其道之前,決定論主要是物理決定論、心理決定論、神學(xué)決定論。①核心要點是人與自然界其他事物一樣,也是原子構(gòu)成的生物體,也需要遵循各種規(guī)律——物理規(guī)律、心理規(guī)律或者神所設(shè)定的規(guī)律或命運,因此人也被這些規(guī)律決定。然而人做決定的機(jī)制與物理規(guī)律、生物規(guī)律、心理規(guī)律的關(guān)系還遠(yuǎn)未明確,關(guān)于人是否真的被這些規(guī)律所決定的爭論還在持續(xù)著。

    在這個過程中,經(jīng)驗科學(xué)也給傳統(tǒng)哲學(xué)對自由意志的分析提出了很多新問題。傳統(tǒng)哲學(xué)主要是用理論反思和概念分析的方法來討論自由意志問題,例如康德的自由意志范疇就奠基在他的理性概念之上。而這些概念都是基于哲學(xué)家的第一人稱視角得來, 當(dāng)時經(jīng)驗研究主要針對的是自然界而非人類自己,康德就直言我們不能從經(jīng)驗中推出自由的概念,因為從外界的經(jīng)驗研究中看到的是機(jī)械規(guī)則。②

    而當(dāng)經(jīng)驗科學(xué)有了一定的發(fā)展,其對人類自身的信息處理過程、決策過程有了更多的了解后,自由意志及其相關(guān)概念就有了第三人稱視角的新審視,從而也就有了新的理論張力。例如經(jīng)驗研究能夠解釋為什么我們有自由的感覺,為什么這種感覺又可能不可靠。

    正是在經(jīng)驗研究發(fā)展的基礎(chǔ)之上,這些傳統(tǒng)哲學(xué)概念得到了新的反思,大數(shù)據(jù)技術(shù)也參與到自由意志問題的新考量之中。

    1.大數(shù)據(jù)與決定論

    大數(shù)據(jù)的盛行使得決定論以一種新的面貌出現(xiàn),看上去大數(shù)據(jù)也就由此對自由意志造成了威脅。由于生物、醫(yī)學(xué)、心理等各個學(xué)科的進(jìn)步,大數(shù)據(jù)能夠采集到的就不再限于行為模式,它更能采集到人體各個層面的信息。大數(shù)據(jù)技術(shù)帶來的決定論的疑慮背后實際上假定,如果對一個人的信息了解得足夠多的話,它就能掌握他的生理和心理規(guī)律,從而把握他的偏好和習(xí)慣,最終準(zhǔn)確預(yù)測他每一步的決定和行為。

    這個假定包含三部分:一是傳統(tǒng)的決定論,也就是人類被生理和心理規(guī)律所決定;二是大數(shù)據(jù)能找出這些規(guī)律;三是找到規(guī)律就能由此控制人類行為。如果說傳統(tǒng)的決定論是形而上學(xué)上的決定,也就是第一點的話,那么大數(shù)據(jù)所帶來的決定論則主要是針對后面兩點,快速準(zhǔn)確地抓取這些“規(guī)律”,將這種形而上學(xué)化為現(xiàn)實可能:我們在做決定之前,下一步的行為就已經(jīng)被預(yù)測,以至于可以被操控。

    歷史學(xué)家赫拉利表達(dá)了這方面的擔(dān)憂。③他指出大數(shù)據(jù)比我們最親近的朋友還要了解我們自己。例如在醫(yī)療領(lǐng)域,大數(shù)據(jù)不僅知道我過往的病史,還知道我的親戚、祖先的病史,家族的基因情況,我的生活習(xí)慣等。因此,在健康方面,相比我自己,大數(shù)據(jù)更能做出恰當(dāng)?shù)臎Q定。例如它能預(yù)測出安吉麗娜·朱莉患乳腺癌的概率非常高,而在患癌癥之前主動摘除乳腺就是最理智的決定。在情感生活領(lǐng)域、職場領(lǐng)域等都存在同樣的情況。消費領(lǐng)域自不待言,顧客走到一個貨架前,會拿起哪些商品來查看,比較哪幾個品牌,最終買下哪件商品,大數(shù)據(jù)都能做出可靠的預(yù)測。

    這似乎只是傳統(tǒng)消費行為學(xué)、社會學(xué)的延伸。營銷行業(yè)的專職就是潛移默化地、高效地影響消費者。法蘭克福學(xué)派早就對商業(yè)社會的媒介霸權(quán)做出了警告和批判,馬爾庫塞就指出,傳播媒介中的廣告等信息給人們制造出一些虛假的需要④,人們并不去思考自己究竟需要什么,而是被媒介信息所操控,沉迷于它們所宣揚的物質(zhì)世界,我們不再了解自己真正的需要,而是被給予需要,因此我們也就喪失了根本的自由。人們的決定并不是真正由自己做出的。這個問題并不是一個新問題,有學(xué)者將這種現(xiàn)象總結(jié)為“楚門效應(yīng)”⑤,也就是主體被決定、被操縱了而不自知。

    然而馬爾庫塞振聾發(fā)聵的警示只是在一種隱喻的意義上成立,消費者依然堅信自己具有自主選擇的能力,只是在商業(yè)社會中,我們的選擇不自覺地被引導(dǎo)了。根據(jù)丹尼特對于“控制”的詳細(xì)分析,他認(rèn)為這種只是“影響”,而不是控制。因為類比地思考,我們可以不受廣告影響、不受商品包裝、擺放位置影響,但是我們能不受價格和數(shù)量的影響嗎?很顯然,我們并不會覺得被價格和數(shù)量所控制。因此,只有要求極端自由時,才把這種商業(yè)操作看作是控制。⑥在討論自由意志的時候,需要明辨哪種“自由”才是值得追求的。這樣的極端自由并不值得我們?nèi)ズ葱l(wèi),也沒有特別大的意義。

    因此,現(xiàn)在的大數(shù)據(jù)運用并沒有真正抓取到人類行為規(guī)律,不足以對自由意志構(gòu)成真正的挑戰(zhàn)。

    2.大數(shù)據(jù)的未來可能:抓取因果關(guān)系

    上述判斷的基本前提是大數(shù)據(jù)技術(shù)目前的發(fā)展現(xiàn)狀,然而技術(shù)的限制并不能完全結(jié)束這一討論。如果要對大數(shù)據(jù)技術(shù)是否對自由意志提出挑戰(zhàn)進(jìn)行分析,需要對可能的技術(shù)前景進(jìn)行展望,進(jìn)行更長遠(yuǎn)的分析。

    目前的大數(shù)據(jù)在本質(zhì)上只是一種基于概率的統(tǒng)計,它無法獲知所有的信息,因此最終也無法得知準(zhǔn)確的結(jié)果。但它比傳統(tǒng)的歸納又要準(zhǔn)確高效得多。拋棄了傳統(tǒng)的隨機(jī)抽樣調(diào)查的分析方法,大數(shù)據(jù)是對收集到的所有數(shù)據(jù)進(jìn)行分析處理。盡管大數(shù)據(jù)相較于傳統(tǒng)數(shù)據(jù)處理有更強(qiáng)的洞察力和更準(zhǔn)確的行動預(yù)測能力⑦,但目前的技術(shù)仍然只是把兩個相關(guān)度高的事物以某種概率關(guān)聯(lián)起來。這種關(guān)聯(lián)也許是毫無章法,也沒有實際意義的,不過這些結(jié)果足以幫助掌握數(shù)據(jù)的一方有效地影響人們的行為。

    但由于它沒有擺脫歸納法,也就同樣面臨著休謨問題⑧的一系列困境:無論是自然界還是人類社會,根據(jù)過去的信息和數(shù)據(jù)并不能確保得知未來的情況。這一問題在涉及人類行為領(lǐng)域時又變得更加棘手,因為人類社會中的“規(guī)律”與自然界中的規(guī)律大相徑庭。這種不同通常體現(xiàn)在,規(guī)律加上前提要素,在自然世界中就能夠決定事件的結(jié)果,而在人類社會中則不能完全決定事件的結(jié)果。

    因果關(guān)系比概率關(guān)聯(lián)更能體現(xiàn)事件之間的本質(zhì)聯(lián)系。如果大數(shù)據(jù)可以發(fā)現(xiàn)關(guān)聯(lián)因素之間的實質(zhì)因果關(guān)系,那么情況就會迥然有別。要能在紛繁復(fù)雜的各種事項之間發(fā)現(xiàn)哪個是原因,哪個是結(jié)果,與時間的前后相繼、偶然關(guān)聯(lián)等區(qū)分開來,這對于計算機(jī)來說是一個難題。對于如何刻畫因果關(guān)系,不同流派之間仍在爭鳴,但是已經(jīng)展現(xiàn)了可能性。

    目前計算機(jī)科學(xué)領(lǐng)域的干預(yù)主義理論體現(xiàn)了挖掘因果關(guān)系的樂觀前景。干預(yù)主義代表人物伍德沃德認(rèn)為,當(dāng)我們有操控、控制、改變自然的信息的能力時,我們就處在解釋的位置了。當(dāng)能確定一些可以使結(jié)果改變的因素或條件時,就可以開始解釋了。⑨然而我們并非對任何事件都能進(jìn)行操縱,因此泊爾(Judea Pearl)在此基礎(chǔ)上獨創(chuàng)了后門標(biāo)準(zhǔn)和前門標(biāo)準(zhǔn)等概念,使得在某些情況下不需要對對象進(jìn)行操控,僅憑觀察數(shù)據(jù)便可得出因果結(jié)論。⑩他非常樂觀地認(rèn)為從一個簡單的模型集——比如神經(jīng)網(wǎng)絡(luò)——開始,只要給予它新證據(jù)刺激某個模塊,這個模塊就會把這些證據(jù)傳遞給臨近模塊,如果給予足夠的時間,并讓這個模型集根據(jù)概率演算的命令做正確的事情,它最終就會通過計算得出正確的信念。

    這一理論在大數(shù)據(jù)上的嘗試應(yīng)用還在探索之中,但是我們有理由相信,大數(shù)據(jù)在未來很有可能發(fā)掘出更多實質(zhì)的因果聯(lián)系。這些聯(lián)系也許是我們之前都不曾發(fā)現(xiàn)甚至設(shè)想的,而這些新知識具有難以估量的力量。這種力量使得大數(shù)據(jù)比我們自己更了解我們,讓它能找到真正對我們施加影響的原因,從而使大數(shù)據(jù)能輕易地操控我們。換言之,我們猶如造了一位神。于是,在這樣的技術(shù)假定下,問題變成了:如果人類的行為都已經(jīng)被大數(shù)據(jù)預(yù)測的話,人生的劇本就能夠被提前寫好,下一步的行動也都能被預(yù)告,這時人類還能宣稱自己擁有自由意志嗎?

    二、自由意志在當(dāng)代自然科學(xué)背景下的新理解

    自由意志問題之所以重要,是因為它是西方啟蒙傳統(tǒng)以來的個人主義的內(nèi)核之一。無論是市場經(jīng)濟(jì)還是民主政治,前提都是每個人都有個神圣不可侵犯的“自我”。只有自我能自由地、獨立地做出自己特別的決定,那個“我”才能決定哪個商品更暢銷、資源往哪里流動、下一任總統(tǒng)是誰。自我不可分割,完全自由。而“我”,“我”對于“自我”有特殊的認(rèn)知渠道,“我”比別人要更能了解“自我”的聲音。但是奠基在“自我”概念之上的對自由意志的理解和相關(guān)預(yù)設(shè),在大數(shù)據(jù)技術(shù)出現(xiàn)之前,也早就受到了自然科學(xué)研究成果的挑戰(zhàn)。這些挑戰(zhàn)對于理解自由意志的概念十分重要,有必要對主要影響了自由意志理解的幾項科學(xué)工作進(jìn)行梳理,在此基礎(chǔ)上,把握新的自由意志概念的內(nèi)涵。

    首先,神經(jīng)科學(xué)家試圖發(fā)現(xiàn)“自我”和“自由意志”究竟是如何工作的,在他們的各種嘗試中最為有名的是李貝特實驗,它的結(jié)論直接挑戰(zhàn)了自由意志的生理基礎(chǔ)。李貝特(Benjamin Libet)在他的實驗中發(fā)現(xiàn),在要去按下按鈕的意識出現(xiàn)之前,相關(guān)的大腦活動早就開始指揮身體行動了。啟動動作的大腦皮層活動的發(fā)生先于受試者報告的行動意識的出現(xiàn)300毫秒,大腦內(nèi)部的“運動前準(zhǔn)備電位”比決定做出動作的意識要更早出現(xiàn)。也就是說并不是我們做出決定要按下按鈕,大腦才指揮手按下按鈕。對于這一實驗,科學(xué)界和哲學(xué)界有各種不同的解讀,但毫無疑問,它促使學(xué)界開始思考自由意志的物理、生理基礎(chǔ)。

    這樣的研究并非單獨的個例。加扎尼加(Michael S. Gazzaniga)指出,認(rèn)知神經(jīng)學(xué)對人類大腦的研究表明,人類大腦并不是作為一個統(tǒng)一整體進(jìn)行工作的,其中有實現(xiàn)不同功能的相對獨立的模塊在分散作用。對裂腦患者等的研究也表明,人類左腦和右腦有著不同的分工,并非一個整體的“自我”。我們之所以有統(tǒng)一的自我感受,是因為左腦中的“解釋器”發(fā)揮著作用,這個解釋器提供給我們的解釋并不一定符合真實的生理過程。

    我們用新的科學(xué)理論來解釋下面的例子:人被鐵錘砸到了手指,趕緊把手抽了回來。我們通常對整個過程的理解是:因為手指被砸到了,我感覺手指很痛,所以決定抽開手,于是手做出相應(yīng)的動作。但是實際上,人是在有“我覺得痛”的意識之前就執(zhí)行了抽手的行為的。手指的疼痛感受器通過神經(jīng)將信號傳到脊髓,然后信號又順著運動神經(jīng)傳回手指,觸發(fā)肌肉收縮,讓手指縮回去??梢钥吹剑@個過程不需要大腦參與,而只是在脊髓和手指之間的反射動作。當(dāng)然,疼痛感受器的信號也會發(fā)送到大腦。但是在大腦處理這個信號并將其解釋為“疼痛”之后,才有“我感覺到痛”的意識產(chǎn)生。所以,人并沒有做出有意識的決定把手指挪開,而是條件反射地自動完成了這一動作。然而左腦的解釋器會將這個過程重新整合一下,編織成一個合理的故事,讓我們理解為什么會發(fā)生這一切。于是,它為了編造這個故事而篡改了時間,并讓我們以為我們是因為自己的自由意志做出決定抽開手指的。這個故事與所有觀察到的情形都匹配,構(gòu)成了完整的解釋,因而也就非??尚?。在這個故事里,“自我”和“自由意志”就產(chǎn)生了——它們被解釋器創(chuàng)造了出來。加扎尼加因而認(rèn)為人這個“機(jī)器”里沒有一個能稱為是“我”的秘密物體。我引以為傲的“我”,是我的大腦中的解釋器編造出來的故事。這個故事竭盡所能地整合了你的大部分行為,而其余的行為則被排除在外,并且為了讓故事更加圓滿,一個合適的理由也會被解釋器一同編造出來。

    另外,心理學(xué)上對人類的決斷過程也有新闡釋。人類很多決定來自于直覺等快捷、非理性的系統(tǒng),而非有意識的理性過程。典型的是卡尼曼在對人的決策過程進(jìn)行研究時提出的“系統(tǒng)1”和“系統(tǒng)2”的概念。系統(tǒng)1是人類更常調(diào)用的,它與感覺、直覺、本能等更相關(guān),能非常迅速地進(jìn)行判斷,但是不太需要大腦的理性思索。例如目測距離、識別面孔、躲避危險、詞語聯(lián)想等就會使用到系統(tǒng)1。系統(tǒng)2是調(diào)用較少的部分,它更對應(yīng)于傳統(tǒng)上所說的“自我”,是比較復(fù)雜、相對更慢的決策過程才會用到的。例如,算出數(shù)學(xué)題的答案、仔細(xì)斟酌文章的用詞、詳細(xì)規(guī)劃旅行計劃等就會使用到系統(tǒng)2。系統(tǒng)2會主動調(diào)配注意力來解決問題,而系統(tǒng)1的實施過程通常并不是有意識、有明確意圖的。因此系統(tǒng)1做出的行為和決定通常是繞開理性的“自我”的。所以,自然科學(xué)的基本結(jié)論是,人的生理過程中沒有特定的“‘自我做出決定”的自由意志的實施過程。

    然而,在物理世界的基礎(chǔ)層面中找不到具體確切的對應(yīng),并不意味著需要否認(rèn)自由意志,它只是意味著需要修正對自由意志概念的理解。對于上述幾種科學(xué)發(fā)現(xiàn)提出的質(zhì)疑,可以做出如下回應(yīng)。

    第一,在細(xì)胞、神經(jīng)等基礎(chǔ)層面發(fā)生的現(xiàn)象與宏觀心理、行為等之間的關(guān)系還并不明確。李斯特的最新辯護(hù)中就明確指出自由意志是高階的心理學(xué)層面上的概念,盡管它是從基礎(chǔ)物理層面發(fā)端的,但是它相對于這些所謂的與其對應(yīng)的物理過程又有其獨立性。丹尼特認(rèn)為“控制”之中需要包含有欲望,例如控制不成功時主體會感到沮喪。行為主義的那種被刺激產(chǎn)生的“控制”并不是真正的控制,例如簡單的神經(jīng)刺激或者大腦電位差等。這些基礎(chǔ)生理過程并不包含欲望和意圖。李貝特后來的實驗也證實盡管自由意志發(fā)揮作用的過程不是有意識地啟動的,但是意志依然可以控制行為后果。這樣的結(jié)論就足夠挽救自由意志,因為它可以使我們與自己的行為之間建立因果聯(lián)系,為自己的行為承擔(dān)責(zé)任。

    第二,直覺等所謂的非理性的決策過程與傳統(tǒng)中所認(rèn)為的理性的判斷過程密不可分,同樣也是自由意志的產(chǎn)物。人類幾乎沒有純粹“理性”或純粹“非理性”的決策過程,它們總是在綜合發(fā)揮作用。丹尼特認(rèn)為承認(rèn)像系統(tǒng)1所進(jìn)行的非理性行為沒有什么大不了,讓自由囿于傳統(tǒng)理解的理性的獨裁之中反而無趣。傳統(tǒng)上對于理性的理解太過狹窄,也過于僵化,將理性完全與直覺等過程割裂了。

    第三,就如加扎尼加所認(rèn)為的那樣,自由意志的意義主要在于社會領(lǐng)域,自由意志是與個人責(zé)任關(guān)聯(lián)在一起的。在一個沒有社會關(guān)系的地方,自由意志沒有太多意義。但是當(dāng)我們需要與其他人打交道、需要承擔(dān)責(zé)任時,自由意志就成為必要的了,因為它能幫助我們理解事件中的因果聯(lián)系。有很強(qiáng)的證據(jù)表明,在基因和環(huán)境之外,人類通過社會教化、自我反思是會改變自己的傾向和具體的決定的。因此,人類依然可以,也需要為自己的行為負(fù)責(zé)任。

    這些科學(xué)研究極大地改變了對自由意志的理解。自由意志的行使不再是在孤立的情境中由不可分割的自我進(jìn)行的理性判斷過程。它不僅僅是一個理性沉思、考慮的決斷過程,而且也可能就是由生理條件驅(qū)動、受周遭環(huán)境作用、被長期文化影響的本能反應(yīng)。即使是理性部分,實際上也沒有純粹的理性慎思過程,其與本能、直覺部分都是交織的??梢钥吹剑厦嫠龅目茖W(xué)研究并沒有從形而上學(xué)上顛覆自由意志的存在,但是確實重新形塑了自由意志的概念。下文將在這樣的概念基礎(chǔ)上再討論大數(shù)據(jù)是否對自由意志構(gòu)成了挑戰(zhàn)或影響。

    三、大數(shù)據(jù)的真正挑戰(zhàn):人類對自由意志的讓渡

    從上面兩部分的分析看,大數(shù)據(jù)并沒有為自由意志帶來額外的負(fù)擔(dān)和挑戰(zhàn)。但是大數(shù)據(jù)的出現(xiàn)使得人類更加自愿和主動地讓渡自己的自由意志,同時也使得原初意義上的自由意志的決斷過程和結(jié)果被輕易地暴露出來并更容易地被影響。這里的“讓渡”并不是指主體在形而上學(xué)意義上喪失自由意志,而是主體主動或被動地將選擇權(quán)交付給大數(shù)據(jù),而不再信任原始意義上的選擇。同時,社會系統(tǒng)將適應(yīng)大數(shù)據(jù)的存在,廣泛依賴大數(shù)據(jù)來決定集體和個體事務(wù)。社會系統(tǒng)的總體改變將深刻地改變個體的生存方式,因而也將再一次改變自由意志的內(nèi)涵。

    在大數(shù)據(jù)的現(xiàn)有發(fā)展和未來可能的技術(shù)前提下,特別是當(dāng)大數(shù)據(jù)可能不再是基于數(shù)據(jù)歸納,而是能發(fā)現(xiàn)本質(zhì)因果關(guān)聯(lián)的情況下,大數(shù)據(jù)實際上掌握了更多的社會規(guī)律和個人行為規(guī)律。這些結(jié)論將比社會科學(xué)家的集體研究或個人對于自己行為的經(jīng)驗積累更準(zhǔn)確。這一點在技術(shù)上是否能最終實現(xiàn)有待進(jìn)一步觀察,但是這個看法正在逐漸深入人心。人們或社會機(jī)構(gòu)傾向于相信,由于有更宏觀的信息來源和更客觀的判斷程序,大數(shù)據(jù)提供的是更理性的建議,當(dāng)然,這里所說的理性是從后果主義的角度來看。因此,人們也會傾向于在做最終決定時,不僅僅參考大數(shù)據(jù)的建議,更是直接交付給它去做。也就是,人類主動地讓渡了自由意志。在更復(fù)雜的社會狀況中,這種讓渡并不總是主動的選擇,很多情況下是被動決定的。

    在社會問題上,今天的社會結(jié)構(gòu),無論是政治制度、經(jīng)濟(jì)流通還是階層變化等,已經(jīng)異常復(fù)雜,復(fù)雜到我們通過歷史經(jīng)驗和抽樣分析已經(jīng)無法掌握其中的內(nèi)在關(guān)系。社會機(jī)構(gòu)會很容易地選擇大數(shù)據(jù)作為決策來源。生活在社會中的個人將不得不接受這一結(jié)果,而很難以個人意見與大數(shù)據(jù)結(jié)論相抗衡。

    以人力資源系統(tǒng)對公司職員的忠誠度的評測為例,如果我們認(rèn)為存在有自由意志,那么員工在留在公司還是離開公司之間可以進(jìn)行自由選擇,可以有長期醞釀的選擇,也可以在最后時刻改變自己的決定。然而大數(shù)據(jù)實際上否決了這個可能性。大數(shù)據(jù)會根據(jù)算法得出忠誠度的數(shù)值,而公司為了避免陷入窘境,就得開始著手招聘新人來接替被系統(tǒng)識別為不忠誠的職員,并且也會提早將這些職員從重要的項目中撤出。在這樣的情況下,無論最后個人的決定如何,都已經(jīng)被這個算法結(jié)果所給予的不忠誠的符號規(guī)定了。

    大數(shù)據(jù)在法律上的應(yīng)用會有更強(qiáng)的示范性。大數(shù)據(jù)系統(tǒng)可以根據(jù)一個人的性格和獄中行為等來判斷他出獄之后再次犯罪的概率。如果一名罪犯被大數(shù)據(jù)系統(tǒng)認(rèn)定為出獄之后很可能短期內(nèi)繼續(xù)犯重罪,那么法庭很可能據(jù)此延長該罪犯的關(guān)押時間。這與我們傳統(tǒng)的法律觀念和人性設(shè)定有了很大沖突。雖然從概率上講,這樣的做法確實會減少社會犯罪,但是在根本的意義上講,它否定了該罪犯出獄之后煥然一新的可能,從而也就否定了其具有選擇光明道路的自由意志。防御未來犯罪可能的案例也是同樣的邏輯。

    也許有人會認(rèn)為這只是大數(shù)據(jù)的濫用,如果對它的應(yīng)用加以限制的話,就不會帶來這樣的問題。但是有三個理由可以說明這不僅僅是濫用的范疇。

    第一,社會系統(tǒng)的復(fù)雜程度之高,讓大數(shù)據(jù)成為解決各種問題時的必要工具。比如剛剛說過的人力資源系統(tǒng)的例子,人們會認(rèn)為讓大數(shù)據(jù)作為參考,最后由人來做出最終的決定就能解決這一問題。然而事實上,很多跨國公司的人力調(diào)配異常復(fù)雜,根據(jù)崗位、地點、業(yè)績、性格、忠誠度等不同而給不同的人分配不同的薪資并不是一件易事,一點差錯就會造成用人成本的大幅提高。如何使得資源最佳調(diào)配、如何使得用人成本降低,已經(jīng)不是傳統(tǒng)中人力資源管理人員憑經(jīng)驗就能妥善解決的了,把這些交付于大數(shù)據(jù)就會成為必需。

    第二,大數(shù)據(jù)在概率上的成功會使得這種誘惑無法被拒絕。例如,預(yù)防犯罪是之前的社會中很難實現(xiàn)的新的可能。很明顯,它將人的尊嚴(yán)和自由意志置于機(jī)器算法之下,但是如果能有效降低極端犯罪、恐怖活動等,那么政府很難不被這樣的成功所說服,而最終給予根據(jù)大數(shù)據(jù)預(yù)測所進(jìn)行的犯罪預(yù)防以合法性。一旦開始這樣的社會集體行動,人類就不得不逐漸整體讓渡自己的自由意志。單個的人將需要適應(yīng)大數(shù)據(jù)廣泛而深入地參與到其中的社會體制,過一種大數(shù)據(jù)算法所期待的生活。

    在個人事務(wù)上,個人似乎可以有更多的堅持,但大數(shù)據(jù)算法的存在實際上使得個人責(zé)任變得更大。從社會責(zé)任的角度上看,無論“我”是否采用大數(shù)據(jù)的結(jié)論,“我”都必須為“我”的決定和行為負(fù)責(zé)。“我”必須比較“我”個人的生物算法和大數(shù)據(jù)算法,然后才做出最后的決定。如果我想堅持生物算法,罔顧大數(shù)據(jù)的建議,“我”將需要付起更大的責(zé)任來承擔(dān)最終造成的后果。因為我在自主進(jìn)行判斷之外,另外承擔(dān)了“拒絕大數(shù)據(jù)意見”的責(zé)任。例如,當(dāng)我想要選擇我的婚姻對象時,我堅持生物算法,拒絕大數(shù)據(jù)替我做出的選擇。一旦我婚姻遭遇挫折,我的悔恨將更大,周圍人對我的責(zé)怪也將更大。我們在將人從進(jìn)化中積累而來的算法與大數(shù)據(jù)的算法進(jìn)行比較時,后者大多數(shù)情況下甚至都無法被個人所理解。因為數(shù)據(jù)的龐大、復(fù)雜,內(nèi)在因果關(guān)系并不能顯而易見。要求前一種“原初”算法來判斷后者的復(fù)雜算法,從某種意義上說是不可能的。

    第三,更大的危險在于,人類對于人性了解得越透徹,對于人類的控制就越有可能。社會中有著兩種極端的情況,一種是人們可以盡力掙脫無所不在的廣告營銷,聲稱自己仍是自主地做出決定,另一種是深陷毒癮的人根本沒有自由意志可言。而我們可以討論一些中間情況,例如網(wǎng)絡(luò)成癮。因為并不是直接服用物品導(dǎo)致身體的器質(zhì)性改變,但是從生理上說,網(wǎng)絡(luò)成癮所帶來的大腦變化與毒癮等并沒有實質(zhì)差異。網(wǎng)絡(luò)容易致癮與各種網(wǎng)絡(luò)產(chǎn)品的設(shè)計者深諳人性直接相關(guān)。例如當(dāng)下流行的短視頻軟件抖音,在設(shè)計時吸收了賭場的誘惑方式并加以改進(jìn):軟件的視頻界面占用了整個屏幕,讓用戶沉浸其中;通過快速切換視頻,它能迅速找到用戶的喜好并強(qiáng)化;不分時刻,只要用戶在使用它,就永遠(yuǎn)有新奇有趣的東西冒出來刺激用戶的興奮點。成癮之后,人們會習(xí)慣性地沉迷于這種高頻度的興奮狀態(tài),而不太能從中理性逃離,開展日常生活。很難判斷在這些成癮癥狀中是否仍有自由意志。而大數(shù)據(jù)對人性的充分發(fā)掘是設(shè)計這些高成癮的產(chǎn)品的前提。

    因此,可以看到,在大數(shù)據(jù)技術(shù)之下,出于理性考慮,個人可能主動或被動地讓渡自己的自由意志。而更為吊詭的是,這種讓渡使得對人類行為的精準(zhǔn)預(yù)測變得更加可能——人們通常更愿意遵從理性算法的決定。與此同時,大數(shù)據(jù)能加強(qiáng)引導(dǎo)人們在不自知的情況下做出相應(yīng)的決定。

    四、狹窄空間中的自由意志

    如何理解大數(shù)據(jù)環(huán)境下的自由意志呢?哈利·法蘭克福的經(jīng)典論文《替代可能性和道德責(zé)任》提出了可供借鑒的思路。

    論文中展示了下述案例。神經(jīng)科學(xué)家布萊克希望瓊斯執(zhí)行某項行動。布萊克準(zhǔn)備好了干預(yù),但他更愿意避免不必要的干預(yù)。所以他一直等到瓊斯下定決心去做這件事。除非布萊克很清楚地知道瓊斯會做出其他選擇,否則他不進(jìn)行干預(yù)。如果瓊斯明確表示會做出其他決定,那么布萊克將采取有效措施,直接操縱瓊斯大腦中的相關(guān)進(jìn)程,從而使瓊斯做出布萊克想讓他做的事情。事實證明,布萊克從來不必展示自己的干預(yù),因為瓊斯出于自己的原因決定執(zhí)行布萊克希望他執(zhí)行的行動。在這個案例中,布萊克始終準(zhǔn)備著干預(yù),瓊斯最終也就不可能做出不同的選擇,但是瓊斯還是應(yīng)該對他的選擇負(fù)責(zé),因為布萊克從未真的介入過,瓊斯是完全靠自己完成了選擇的。法蘭克福由此認(rèn)為即便沒有替代可能性,人仍然可以是自由的。

    大數(shù)據(jù)技術(shù)帶來的關(guān)于自由意志問題都可以在類似的思路下解決,也就是從社會責(zé)任的角度來看待,個人依然能為自己的行為負(fù)責(zé),雖然要承擔(dān)的責(zé)任更大。在大數(shù)據(jù)技術(shù)本身并不成為道德或法律主體的前提下,個人的自由意志才能使得我們理解社會。我們生活中的不幸需要找到肇事者或為之負(fù)責(zé)的人,獲得幫助會自然地想到需要感謝的人。這些社會關(guān)系的前提都是自由意志,某人是有意識地選擇了做這個善或惡的行為。人類在社會中生活、交往,最終還是需要從第一人稱視角來理解社會中的各種行為、關(guān)系,自由意志概念則是第一人稱視角理解中不可或缺的要素。

    第一個方面,大數(shù)據(jù)使得個人主動或被動地讓渡了自己的自由意志。但這種情況下,最終決定依然是個人自己做出的,他還是在生物算法和大數(shù)據(jù)算法之間做出了選擇,盡管這個選擇也許在他的能力范圍之外——他有可能并不能真正理解大數(shù)據(jù)算法的結(jié)論。這就像病人家屬在為自己的親人選擇治療方案一樣,他自己可以做出選擇,也可以聽從醫(yī)生的建議。很可能他并不能理解醫(yī)生的建議,但是此時他的決定仍然來自于他的自由意志,他依然需要對此承擔(dān)責(zé)任。

    同時,雖然個人選擇哪種算法有時并沒有替代可能——就像法蘭克福提供的案例一樣,這終究還是他自己做出的選擇,他依然需要為此負(fù)責(zé)。例如,當(dāng)他想遵從自己的直覺進(jìn)行選擇時,社會系統(tǒng)會修正他,幫他選擇大數(shù)據(jù)的計算結(jié)果,在這樣的情況下,他并沒有替代可能。而如果是社會系統(tǒng)最終決定了他的選擇,那么會有著兩種情況。如果是社會系統(tǒng)強(qiáng)制不允許有其他的選擇,個人能感受到自己的自由意志被阻礙。此時他只是不能實施自由意志,但在本體論上,自由意志還是存在的。如果是社會系統(tǒng)潛移默化地影響人們傾向性地選擇一個理想結(jié)果,這與傳統(tǒng)的教育、宣傳并沒有本質(zhì)差異,人們依然擁有自己的自由意志。

    第二個方面,大數(shù)據(jù)技術(shù)幫助了解個人喜好、了解人性弱點,從而對人類進(jìn)行隱性操控。這是大數(shù)據(jù)技術(shù)給自由意志帶來的最嚴(yán)重問題所在——它使得自由意志的空間變得更加狹窄,但即便如此,它也并沒能否認(rèn)自由意志的存在。在被以大數(shù)據(jù)為基礎(chǔ)的系統(tǒng)引導(dǎo)行為的過程中,個人的獨立思考和判斷力經(jīng)受了更多的考驗,但是這些考驗并不是必然落敗的,自由意志是可以發(fā)揮作用的。更多時候,個人并沒有察覺到新技術(shù)帶來的問題,也不會意識到自己面臨的考驗。人類在漫長的傳統(tǒng)社會中所進(jìn)化出來的思考能力和判斷力,確實在短時間內(nèi)很難抗衡大數(shù)據(jù)這樣的巨型技術(shù),因此也就不自覺地被引導(dǎo)到掌握數(shù)據(jù)者所設(shè)定的方向上去。

    可以看到,大數(shù)據(jù)技術(shù)本身所帶來的對人類生活方式、行為習(xí)慣、喜好傾向的深度了解,并非從本質(zhì)上挑戰(zhàn)自由意志的存在,即使目前的科學(xué)在基礎(chǔ)生理層面找不到具體的神經(jīng)過程。自由意志更重要的意義在社會責(zé)任層面。它對于以第一人稱視角所得到的對社會的理解至關(guān)重要,而以第三人稱角度進(jìn)行的經(jīng)驗考察則使其面臨挑戰(zhàn)。雖然我們?nèi)钥梢酝ㄟ^調(diào)整自由意志的含義來辯護(hù)其存在,但是大數(shù)據(jù)技術(shù)所代表的以數(shù)據(jù)為中心的理性主義卻使得個人更容易主動讓渡自己的自由意志,從而又對自由意志造成別的挑戰(zhàn)。在這樣的情形下,自由意志的空間變得更加狹窄,但絕非徹底失去了其存在。

    注釋

    ①Roy Weatherford.The Implications of Determinism.London:Rutledge.1991.②[德]康德:《實踐理性批判》,韓水法譯,商務(wù)印書館,1999年,第30頁。③[以色列]尤瓦爾·赫拉利:《未來簡史》,林俊宏譯,中信出版集團(tuán),2017年。④[美]馬爾庫塞:《單向度的人——發(fā)達(dá)工業(yè)社會意識形態(tài)研究》,劉繼譯,上海譯文出版社,2018年。⑤李倫:《“楚門效應(yīng)”:數(shù)據(jù)巨機(jī)器的“意識形態(tài)”——數(shù)據(jù)主義與基于權(quán)利的數(shù)據(jù)倫理》,《探索與爭鳴》2018年第5期。⑥D(zhuǎn)aniel Dennett.Elbow Room. The varieties of free will Worth Wanting. Cambridge:MIT Press. 1984, pp.65-66.⑦[英]維克托·邁爾-舍恩伯格, 肯尼斯·庫克耶編:《大數(shù)據(jù)時代》,周濤譯,浙江人民出版社,2013年。⑧[英]大衛(wèi)·休謨:《人性論》,關(guān)文運譯,商務(wù)印書館,2016年。⑨James Woodward. Making things happen. New York: Oxford University Press.⑩Judea Pearl, Madselyn Glymour, Nicholas P. Jewell. Causal Inference in Statistics: A Primer. New York: John Wiley & Sons, Ltd., 2016.[以色列]尤瓦爾·赫拉利:《未來簡史》,林俊宏譯,中信出版集團(tuán),2017年,第297頁。 Libet B., Gleason C.A., Wright E.W., Pearl D.K. Time of conscious intention to act in relation to onset of cerebral activity: The unconscious initiation of a freely voluntary act. Brain. 1983,Vol.106, No.3, pp.623-642. Jing Zhu. Reclaiming volition: An alternative interpretation of Libet's experiment. Journal of Consciousness Studies. 2003, Vol.10, No.11, pp.61-77.[美]邁克爾·加扎尼加:《誰說了算》,閭佳譯,浙江人民出版社,2013年,第117頁。Christian List. Why Free Will is Real. Cambridge: Harvard University Press, 2019.Benjamin W. Libet. Do we have free will?. Journal of Consciousness Studies. 1999, No.6, pp.47-57.[美]埃里克·西格爾:《大數(shù)據(jù)預(yù)測:告訴你誰會點擊、購買、死去或撒謊》,周昕譯,中信出版社,2014年。[美]瑪麗·斯溫格爾:《劫持——手機(jī)、電腦、游戲和社交媒體如何改變我們的大腦、行為與進(jìn)化》,鄧思淵譯,中信出版集團(tuán),2018年。林紅瑜:《抖音設(shè)局》,獵云網(wǎng),2019年8月1日,https://www.lieyunwang.com/archives/445794. Frankfurt, Harry. Alternate Possibilities and Moral Responsibility. Journal of Philosophy. 1969, Vol.66. No.23, pp.829-839.

    責(zé)任編輯:涵 含

    Abstract:The deep exploration of human life style, behavior habit and preference by big data hasn′t really challenged the concept of free will. The significance of free is located in the level of social responsibility, that is, the understanding of society from the perspective of the first person, rather than the description of basic biological level from the perspective of the third person. However, big data, as a typical representative of the data-centric rationalism, lures individuals to alienate his own free will. The space of the concept of free will becomes narrow, but not vanish.

    Key words:big data; free will; determinism; alienation

    猜你喜歡
    自由意志決定論大數(shù)據(jù)
    探析秘書之獨立人格
    對麥克盧漢“技術(shù)決定論”思想的再審視
    氣象影響文藝:從結(jié)構(gòu)決定論到文化生產(chǎn)論
    決定性與決定論概念的理性重建
    結(jié)構(gòu)與行為決定論的曠世之爭
    久久天躁狠狠躁夜夜2o2o| 91九色精品人成在线观看| 曰老女人黄片| 午夜福利在线在线| 欧美日韩中文字幕国产精品一区二区三区| 黄色片一级片一级黄色片| 久久热在线av| 美女国产高潮福利片在线看| 午夜福利在线在线| 免费高清在线观看日韩| 美女 人体艺术 gogo| 91老司机精品| 亚洲av五月六月丁香网| 97人妻精品一区二区三区麻豆 | 可以在线观看的亚洲视频| 亚洲国产精品久久男人天堂| 久久久久国产精品人妻aⅴ院| 亚洲真实伦在线观看| 亚洲精品粉嫩美女一区| 一进一出抽搐动态| 国产精品野战在线观看| 男人舔奶头视频| 亚洲av成人av| 禁无遮挡网站| 国产片内射在线| 老熟妇乱子伦视频在线观看| 亚洲自拍偷在线| 国产精品久久久人人做人人爽| 国产又爽黄色视频| 久久久久久人人人人人| 91字幕亚洲| 黄色 视频免费看| 国产精品久久久人人做人人爽| cao死你这个sao货| 丰满人妻熟妇乱又伦精品不卡| 亚洲成人久久爱视频| 成人18禁在线播放| 成人特级黄色片久久久久久久| 久久精品国产亚洲av香蕉五月| 免费女性裸体啪啪无遮挡网站| 日韩一卡2卡3卡4卡2021年| 国产精品野战在线观看| 最好的美女福利视频网| 亚洲精品中文字幕一二三四区| 亚洲免费av在线视频| 国产成人精品久久二区二区免费| 女人高潮潮喷娇喘18禁视频| 亚洲性夜色夜夜综合| 精品一区二区三区四区五区乱码| 国产亚洲精品一区二区www| 人人妻,人人澡人人爽秒播| 成人免费观看视频高清| 两人在一起打扑克的视频| 国产精品电影一区二区三区| 男人舔奶头视频| 国产精品爽爽va在线观看网站 | 国产精品免费视频内射| 中文字幕人妻丝袜一区二区| av福利片在线| 欧美一级a爱片免费观看看 | 亚洲av日韩精品久久久久久密| 午夜精品久久久久久毛片777| 50天的宝宝边吃奶边哭怎么回事| 久久精品人妻少妇| 制服丝袜大香蕉在线| 首页视频小说图片口味搜索| 美女国产高潮福利片在线看| 久久中文看片网| 国产成人影院久久av| 亚洲欧洲精品一区二区精品久久久| 亚洲色图av天堂| 日韩精品免费视频一区二区三区| 嫁个100分男人电影在线观看| 级片在线观看| 侵犯人妻中文字幕一二三四区| 丰满的人妻完整版| 久久久久九九精品影院| 一级毛片精品| 老汉色∧v一级毛片| 久久精品影院6| 久9热在线精品视频| 久久青草综合色| 国产高清视频在线播放一区| av在线天堂中文字幕| 午夜激情福利司机影院| 韩国av一区二区三区四区| av中文乱码字幕在线| 99国产综合亚洲精品| 99久久精品国产亚洲精品| 91在线观看av| 村上凉子中文字幕在线| 欧美黑人巨大hd| √禁漫天堂资源中文www| 国产精品98久久久久久宅男小说| 日韩欧美一区二区三区在线观看| tocl精华| 国产精品电影一区二区三区| 精品人妻1区二区| 欧美激情高清一区二区三区| 欧美丝袜亚洲另类 | 观看免费一级毛片| 悠悠久久av| 亚洲久久久国产精品| 久久久久久国产a免费观看| 亚洲五月婷婷丁香| 国产v大片淫在线免费观看| 中文字幕久久专区| 丁香欧美五月| 最近最新免费中文字幕在线| 久久国产亚洲av麻豆专区| 欧美又色又爽又黄视频| 亚洲aⅴ乱码一区二区在线播放 | 妹子高潮喷水视频| 亚洲人成77777在线视频| 99久久精品国产亚洲精品| 99国产精品一区二区三区| 美女午夜性视频免费| 亚洲黑人精品在线| 日日夜夜操网爽| 欧美又色又爽又黄视频| 中亚洲国语对白在线视频| 亚洲欧洲精品一区二区精品久久久| 亚洲国产高清在线一区二区三 | 级片在线观看| 悠悠久久av| 国产一区二区三区在线臀色熟女| 午夜久久久在线观看| 精品少妇一区二区三区视频日本电影| 黄色视频不卡| 美女 人体艺术 gogo| 搞女人的毛片| 日本 av在线| www.www免费av| 高潮久久久久久久久久久不卡| 日本免费一区二区三区高清不卡| 大型av网站在线播放| 国产又黄又爽又无遮挡在线| 欧美日本亚洲视频在线播放| 麻豆av在线久日| 50天的宝宝边吃奶边哭怎么回事| 成人三级黄色视频| 午夜亚洲福利在线播放| 久久久精品国产亚洲av高清涩受| 亚洲精品av麻豆狂野| 久久婷婷成人综合色麻豆| 1024香蕉在线观看| 欧美激情高清一区二区三区| 中文字幕人妻熟女乱码| 欧洲精品卡2卡3卡4卡5卡区| 在线观看舔阴道视频| 丝袜在线中文字幕| 日韩欧美一区二区三区在线观看| 免费观看人在逋| 中文字幕精品亚洲无线码一区 | 国产一区二区三区视频了| 久久亚洲精品不卡| 性色av乱码一区二区三区2| 别揉我奶头~嗯~啊~动态视频| 观看免费一级毛片| 欧美日本亚洲视频在线播放| 国产色视频综合| 精品高清国产在线一区| 久久精品国产亚洲av香蕉五月| 国产色视频综合| 午夜日韩欧美国产| 久久天堂一区二区三区四区| 国产又色又爽无遮挡免费看| 禁无遮挡网站| 亚洲国产欧美网| 精品国产一区二区三区四区第35| 在线观看免费午夜福利视频| av免费在线观看网站| 波多野结衣高清作品| 99热6这里只有精品| 久久久久国产精品人妻aⅴ院| 国产精品免费一区二区三区在线| 国产成人一区二区三区免费视频网站| 国产精品99久久99久久久不卡| 在线免费观看的www视频| 久久性视频一级片| 国产精品亚洲美女久久久| 久热这里只有精品99| 亚洲一卡2卡3卡4卡5卡精品中文| 老司机深夜福利视频在线观看| 亚洲激情在线av| 一进一出抽搐动态| 一级a爱视频在线免费观看| 国产午夜精品久久久久久| 欧美丝袜亚洲另类 | 黄色毛片三级朝国网站| 午夜a级毛片| 麻豆成人午夜福利视频| 黄色成人免费大全| 国产一区二区三区在线臀色熟女| 成人18禁高潮啪啪吃奶动态图| 大型黄色视频在线免费观看| 嫁个100分男人电影在线观看| 亚洲av成人一区二区三| 欧美黄色片欧美黄色片| 国产区一区二久久| 老汉色∧v一级毛片| 一夜夜www| xxx96com| 国产野战对白在线观看| 男人的好看免费观看在线视频 | 大型黄色视频在线免费观看| 久久久久九九精品影院| 久久久久国产精品人妻aⅴ院| 亚洲国产欧洲综合997久久, | 日韩精品免费视频一区二区三区| 老司机午夜十八禁免费视频| 国产亚洲av高清不卡| 一个人免费在线观看的高清视频| 我的亚洲天堂| 午夜影院日韩av| 在线观看免费日韩欧美大片| 白带黄色成豆腐渣| 成在线人永久免费视频| 99精品在免费线老司机午夜| 伊人久久大香线蕉亚洲五| 91av网站免费观看| 一本精品99久久精品77| 国产野战对白在线观看| 可以在线观看的亚洲视频| 亚洲av五月六月丁香网| 日韩欧美免费精品| 精品高清国产在线一区| 十八禁网站免费在线| 婷婷丁香在线五月| 亚洲精品一区av在线观看| 母亲3免费完整高清在线观看| 真人做人爱边吃奶动态| 男女床上黄色一级片免费看| 欧洲精品卡2卡3卡4卡5卡区| 午夜福利在线在线| 99精品久久久久人妻精品| 免费无遮挡裸体视频| 久久久国产精品麻豆| 高清在线国产一区| 国产真人三级小视频在线观看| 真人一进一出gif抽搐免费| 超碰成人久久| 长腿黑丝高跟| 亚洲一区高清亚洲精品| 国产精品98久久久久久宅男小说| 最好的美女福利视频网| 热99re8久久精品国产| 国产亚洲欧美98| 精品久久久久久久久久免费视频| 国产成+人综合+亚洲专区| 12—13女人毛片做爰片一| 十八禁网站免费在线| 日韩有码中文字幕| 麻豆一二三区av精品| 亚洲精品在线观看二区| 成在线人永久免费视频| 亚洲免费av在线视频| 搞女人的毛片| av在线播放免费不卡| 狠狠狠狠99中文字幕| 欧美日韩亚洲国产一区二区在线观看| 国产精品国产高清国产av| 欧美黑人精品巨大| 日本 欧美在线| 最新美女视频免费是黄的| 精品一区二区三区视频在线观看免费| 久久亚洲真实| 亚洲国产日韩欧美精品在线观看 | 精品久久久久久成人av| 久久久国产欧美日韩av| 免费在线观看成人毛片| 一区二区三区高清视频在线| 久久午夜亚洲精品久久| 久久香蕉精品热| 最近最新中文字幕大全免费视频| 亚洲一区二区三区不卡视频| 久久久久久大精品| 日日夜夜操网爽| 91麻豆精品激情在线观看国产| 国产单亲对白刺激| 村上凉子中文字幕在线| xxxwww97欧美| 免费在线观看影片大全网站| 欧美成狂野欧美在线观看| 色老头精品视频在线观看| 天天添夜夜摸| 看免费av毛片| 亚洲激情在线av| 国内精品久久久久久久电影| 丰满人妻熟妇乱又伦精品不卡| 给我免费播放毛片高清在线观看| 亚洲avbb在线观看| 熟妇人妻久久中文字幕3abv| 少妇粗大呻吟视频| 淫秽高清视频在线观看| 国产成人av激情在线播放| 黄色女人牲交| 少妇的丰满在线观看| 亚洲全国av大片| 久久天躁狠狠躁夜夜2o2o| 99国产精品一区二区三区| 国产精品爽爽va在线观看网站 | 一进一出抽搐gif免费好疼| 中国美女看黄片| 免费在线观看视频国产中文字幕亚洲| 久久中文字幕人妻熟女| 91九色精品人成在线观看| 国产精品九九99| 欧美久久黑人一区二区| 久久久久久久久久黄片| 久久热在线av| 久久天堂一区二区三区四区| 亚洲欧洲精品一区二区精品久久久| 久久欧美精品欧美久久欧美| 真人一进一出gif抽搐免费| 午夜免费观看网址| 免费在线观看亚洲国产| 亚洲全国av大片| 好男人在线观看高清免费视频 | 给我免费播放毛片高清在线观看| 亚洲国产高清在线一区二区三 | 老司机深夜福利视频在线观看| 亚洲无线在线观看| 成人精品一区二区免费| 成人亚洲精品一区在线观看| 亚洲av中文字字幕乱码综合 | 欧美日本视频| 美女高潮到喷水免费观看| 国内精品久久久久精免费| 国产精品免费一区二区三区在线| 最近最新中文字幕大全电影3 | 俺也久久电影网| 精品久久蜜臀av无| 99在线视频只有这里精品首页| 亚洲国产欧美网| 国产男靠女视频免费网站| 成人亚洲精品一区在线观看| e午夜精品久久久久久久| 亚洲国产欧美网| 日本熟妇午夜| 自线自在国产av| 午夜a级毛片| 十八禁人妻一区二区| 人妻久久中文字幕网| 免费无遮挡裸体视频| 欧美激情极品国产一区二区三区| 1024手机看黄色片| 亚洲成国产人片在线观看| 欧美乱色亚洲激情| 亚洲自拍偷在线| 最近最新免费中文字幕在线| 精品一区二区三区av网在线观看| 国产午夜福利久久久久久| 成在线人永久免费视频| 精品久久久久久久久久久久久 | 久久国产精品男人的天堂亚洲| 一本久久中文字幕| 亚洲午夜理论影院| 天天躁狠狠躁夜夜躁狠狠躁| 午夜福利视频1000在线观看| 在线观看舔阴道视频| 欧美午夜高清在线| 久久久久久亚洲精品国产蜜桃av| 亚洲 欧美 日韩 在线 免费| 性色av乱码一区二区三区2| 精品日产1卡2卡| 黄片大片在线免费观看| 最近最新中文字幕大全电影3 | 久久精品人妻少妇| 欧美zozozo另类| 国产激情偷乱视频一区二区| 88av欧美| 久久伊人香网站| 亚洲 欧美 日韩 在线 免费| 99在线人妻在线中文字幕| 老司机福利观看| 亚洲精品在线观看二区| 午夜精品在线福利| 熟妇人妻久久中文字幕3abv| 香蕉av资源在线| 成人亚洲精品av一区二区| av中文乱码字幕在线| 久9热在线精品视频| 亚洲一区中文字幕在线| 久久久久久久午夜电影| xxx96com| 久久婷婷人人爽人人干人人爱| 精品午夜福利视频在线观看一区| 国产三级在线视频| 一本久久中文字幕| 一本大道久久a久久精品| 香蕉av资源在线| 亚洲成a人片在线一区二区| 国产爱豆传媒在线观看 | 久久久国产成人精品二区| 日韩精品青青久久久久久| 国产亚洲av嫩草精品影院| 久热爱精品视频在线9| 国产黄色小视频在线观看| 亚洲 欧美一区二区三区| 色在线成人网| 国产麻豆成人av免费视频| 免费在线观看影片大全网站| 国产精华一区二区三区| 亚洲av成人一区二区三| av在线播放免费不卡| 精品午夜福利视频在线观看一区| 亚洲精品在线美女| 亚洲欧美一区二区三区黑人| 一级毛片精品| 国产精品二区激情视频| 美女扒开内裤让男人捅视频| 久久婷婷成人综合色麻豆| 女生性感内裤真人,穿戴方法视频| 伦理电影免费视频| 国产一级毛片七仙女欲春2 | 日韩中文字幕欧美一区二区| 久久久久久久精品吃奶| 女人爽到高潮嗷嗷叫在线视频| 日韩欧美三级三区| 狂野欧美激情性xxxx| 搞女人的毛片| 久久中文字幕一级| 色综合婷婷激情| 久久精品夜夜夜夜夜久久蜜豆 | 男女下面进入的视频免费午夜 | 免费一级毛片在线播放高清视频| 久久中文看片网| www.熟女人妻精品国产| 日本五十路高清| 午夜老司机福利片| 一进一出抽搐gif免费好疼| 后天国语完整版免费观看| 国产伦在线观看视频一区| 国产精品免费一区二区三区在线| 女人被狂操c到高潮| 妹子高潮喷水视频| 免费高清在线观看日韩| 国产精品亚洲av一区麻豆| 亚洲欧美精品综合一区二区三区| 国产一区二区激情短视频| 老司机午夜福利在线观看视频| 999久久久精品免费观看国产| 中文字幕另类日韩欧美亚洲嫩草| 欧美大码av| 嫩草影视91久久| 亚洲五月婷婷丁香| 欧美成人午夜精品| 免费在线观看黄色视频的| 国产野战对白在线观看| 国产精品永久免费网站| 免费高清视频大片| av电影中文网址| 一个人观看的视频www高清免费观看 | 白带黄色成豆腐渣| 午夜免费激情av| 国内少妇人妻偷人精品xxx网站 | 1024手机看黄色片| 自线自在国产av| 国产熟女午夜一区二区三区| 9191精品国产免费久久| 黄色毛片三级朝国网站| 日本 av在线| 久久久精品国产亚洲av高清涩受| 在线观看免费视频日本深夜| 国产一区二区三区在线臀色熟女| 国产成人啪精品午夜网站| 日韩中文字幕欧美一区二区| 琪琪午夜伦伦电影理论片6080| 成年女人毛片免费观看观看9| 亚洲 欧美 日韩 在线 免费| 制服丝袜大香蕉在线| 99国产精品99久久久久| 国产精品久久久久久精品电影 | 国产亚洲精品av在线| 久久中文看片网| 精品久久久久久成人av| 丁香欧美五月| 十分钟在线观看高清视频www| 女同久久另类99精品国产91| 中文字幕另类日韩欧美亚洲嫩草| 淫妇啪啪啪对白视频| 国内揄拍国产精品人妻在线 | 国产aⅴ精品一区二区三区波| 久久精品aⅴ一区二区三区四区| 欧美日韩亚洲国产一区二区在线观看| 欧美日本亚洲视频在线播放| 免费在线观看亚洲国产| www.自偷自拍.com| 亚洲一卡2卡3卡4卡5卡精品中文| 欧美日韩精品网址| 日本免费a在线| 我的亚洲天堂| 中文字幕人成人乱码亚洲影| 成人三级做爰电影| 美女免费视频网站| 性欧美人与动物交配| 午夜福利高清视频| 国产av又大| 动漫黄色视频在线观看| 亚洲aⅴ乱码一区二区在线播放 | 国产片内射在线| 精品国产一区二区三区四区第35| 十分钟在线观看高清视频www| 波多野结衣高清无吗| 精品熟女少妇八av免费久了| 日韩中文字幕欧美一区二区| cao死你这个sao货| 国产伦一二天堂av在线观看| 老汉色av国产亚洲站长工具| 日本三级黄在线观看| 色在线成人网| 国产亚洲欧美98| 男人舔女人的私密视频| 好男人在线观看高清免费视频 | 国产亚洲av嫩草精品影院| 精品少妇一区二区三区视频日本电影| 免费搜索国产男女视频| 少妇熟女aⅴ在线视频| 久久精品国产亚洲av高清一级| 国产精品98久久久久久宅男小说| 18禁黄网站禁片午夜丰满| 97人妻精品一区二区三区麻豆 | 久久精品夜夜夜夜夜久久蜜豆 | 又黄又粗又硬又大视频| 国产高清有码在线观看视频 | 女人高潮潮喷娇喘18禁视频| 午夜久久久久精精品| 国产一区二区三区在线臀色熟女| 在线观看66精品国产| 亚洲成人久久爱视频| 男女下面进入的视频免费午夜 | 香蕉av资源在线| 亚洲av成人一区二区三| 久久久久国内视频| 人人妻人人澡欧美一区二区| 最近最新中文字幕大全电影3 | 99精品在免费线老司机午夜| 久久久久久久精品吃奶| 午夜福利高清视频| 国产久久久一区二区三区| 亚洲精品粉嫩美女一区| 色老头精品视频在线观看| 99精品久久久久人妻精品| 男人舔女人下体高潮全视频| 看片在线看免费视频| 男女视频在线观看网站免费 | 久久久国产精品麻豆| 国产精品1区2区在线观看.| 国产成人一区二区三区免费视频网站| 国产免费av片在线观看野外av| 色播在线永久视频| 久久久久九九精品影院| 波多野结衣av一区二区av| 50天的宝宝边吃奶边哭怎么回事| 久久精品国产亚洲av高清一级| 悠悠久久av| 精品久久久久久成人av| 欧美性猛交黑人性爽| 一级a爱视频在线免费观看| 很黄的视频免费| 宅男免费午夜| 一本综合久久免费| tocl精华| 午夜a级毛片| 50天的宝宝边吃奶边哭怎么回事| 久久香蕉国产精品| 亚洲国产欧美网| 嫩草影院精品99| 亚洲av成人一区二区三| 免费观看人在逋| 少妇熟女aⅴ在线视频| 久久久久久久久久黄片| 两个人看的免费小视频| 少妇被粗大的猛进出69影院| 法律面前人人平等表现在哪些方面| 美女免费视频网站| 欧美中文日本在线观看视频| 搡老岳熟女国产| 国产片内射在线| 久久中文字幕一级| 老司机靠b影院| 99热这里只有精品一区 | 老熟妇仑乱视频hdxx| 久久伊人香网站| 丝袜美腿诱惑在线| 精品国产亚洲在线| 欧美日韩亚洲国产一区二区在线观看| 亚洲av日韩精品久久久久久密| 一边摸一边做爽爽视频免费| 少妇的丰满在线观看| 19禁男女啪啪无遮挡网站| 久久国产精品影院| 国产亚洲欧美98| 亚洲精品美女久久av网站| 亚洲精品一卡2卡三卡4卡5卡| 桃色一区二区三区在线观看| 免费高清视频大片| 国产精品98久久久久久宅男小说| 国产区一区二久久| 哪里可以看免费的av片| 久久国产精品影院| 久久草成人影院| 国产黄a三级三级三级人| 国产精品99久久99久久久不卡| 国产亚洲欧美98| 久久久水蜜桃国产精品网| 国产乱人伦免费视频| 国产视频内射| 哪里可以看免费的av片| 变态另类成人亚洲欧美熟女| 国产单亲对白刺激| 视频区欧美日本亚洲| 亚洲电影在线观看av| 99热这里只有精品一区 |