• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    后人類美學(xué)十年觀察(2011—2021)

    2021-11-27 21:45:01李小杰
    中國(guó)圖書評(píng)論 2021年10期
    關(guān)鍵詞:奇點(diǎn)倫理人工智能

    □李小杰

    【導(dǎo) 讀】21世紀(jì)以來,后人類研究迅猛發(fā)展,成為世界“后”學(xué)術(shù)史的重要分支。通過系統(tǒng)梳理過去十年來后人類研究的范式變遷、論題轉(zhuǎn)換和論域打開,我們得以剖析其所面臨的新問題與危機(jī),進(jìn)而矚望未來。

    后人類研究格局肇始于20世紀(jì)50年代,諾伯特·維納(Norbert Wiener)出版了劃時(shí)代著作《控制論》(Cybernetics:OrControlandCommunicationintheAnimalandtheMachine,1948)。[1]諾伯特·維納的控制論思想啟發(fā)了人工智能、環(huán)境科學(xué)、認(rèn)知科學(xué)等多個(gè)領(lǐng)域。1977年,學(xué)者伊哈布·哈桑在文章《作為表演者的普羅米修斯:邁向后人類文化?》(PrometheusasPerformer:Towardsa PosthumanistCulture?)[2]中首次提出“后人類”的概念。

    20世紀(jì)80—90年代,唐娜·哈拉維(Donna Haraway)在《賽博格宣言》(1985)[3]中成功把研究拓展到義體人類(cyborg)的討論,現(xiàn)已成為研究賽博朋克的重要理論,如小說《神經(jīng)漫游者》(Neromancer,1984)和電影《攻殼機(jī)動(dòng)隊(duì)》(1995)等。凱瑟琳·海勒《我們何以成為后人類》(How WeBecamePosthuman,1999)一書深入探究“身體”在信息時(shí)代的命運(yùn),闡明人類所身處的虛擬時(shí)代以及未來的走向,比如,身體、賽博文化與人本主義主體的消解。弗朗西斯·福山出版《后人類未來》(OurPosthumanFuture,2003)一書中討論生物科技的倫理,引爆了眾多不同學(xué)科學(xué)者加入討論。后人類的討論進(jìn)入了未來人類命運(yùn)的現(xiàn)場(chǎng),吸引了哲學(xué)、社會(huì)學(xué)和文化藝術(shù)的研究者,學(xué)術(shù)言說漸漸融匯時(shí)代語境。

    后人類研究早期借用了海德格爾的《對(duì)技術(shù)的追問》(TheQuestion ConcerningTechnology)[4]和??碌摹妒挛锏闹刃颉罚═heOrderofThings:AnArchaeologyoftheHumanSciences,1973),20世紀(jì)90年代之后借用了德勒茲(Deleuze)和費(fèi)利克斯·加塔利(Guattari)的《反俄狄浦斯》關(guān)于機(jī)器定義的理論以及《千高原》的塊莖理論(rhizome)[5]。女性主義、身體理論和主體性以及克隆、智能、基因改造、優(yōu)生學(xué)、演化等思潮或術(shù)語都在90年代進(jìn)入學(xué)界的視野。[6]唐娜·哈拉維、凱瑟琳·海勒、弗朗西斯·福山等人的學(xué)術(shù)研究引領(lǐng)了新的路徑,其特點(diǎn)是探討人類主體和生物倫理等切身問題。

    2000年之后,一批技術(shù)專家的研究因其技術(shù)專業(yè)性開始引起學(xué)界注意。如谷歌技術(shù)總監(jiān)暨未來學(xué)家雷·庫茲韋爾在《奇點(diǎn)臨近》(The SingularityIsNear,2006)滿懷激情預(yù)言奇點(diǎn)的到來,引起了注意。尼克·博斯特羅姆(Nick Bostrom)的《超級(jí)智能》(Superintelligence,2014),目光深遠(yuǎn),引發(fā)思考。尼克·博斯特羅姆認(rèn)為,人工智能很有可能在未來超過人類的智能水平,進(jìn)化成超級(jí)智能。他們的思考已經(jīng)與20世紀(jì)80—90年代的重要學(xué)者有了一定區(qū)別,文章里帶有較為豐富的人工智能知識(shí)結(jié)構(gòu),格局大不相同。

    羅西·布拉伊多蒂在《后人類》(Theposthuman,2013)認(rèn)為,后人類狀況既令人神往,也讓人憂慮。后人類狀況并未顯示清晰明朗的發(fā)展趨勢(shì),在還難以看清前景時(shí),理論作為一種對(duì)社會(huì)主體和處境的批判與反思,就顯得不可或缺。羅西·布拉伊多蒂努力勾勒出后人類狀況的輪廓,企圖用思想去把握其復(fù)雜多變,在思維方式上增添了更多的人文關(guān)懷。

    過去幾年,生物倫理(Bioethics)蔚為大熱,比如,《后人類狀況:生物技術(shù)挑戰(zhàn)的倫理,美學(xué)和政治》(ThePosthumanCondition:Ethics,AestheticsandPoliticsofBiotechnological Challenges,2012)、《后人類倫理:具身化與文化理論》(PosthumanEthics:EmbodimentandCulturalTheory,2012)以及《生物技術(shù)時(shí)代的人性:后人類中介的案例》(HumanNature inanAgeofBiotechnology:TheCasefor MediatedPosthumanism,2014),嘗試去討論生物技術(shù)的發(fā)展、商業(yè)利用、控制政策和倫理以及對(duì)人類可能的影響。

    此外,還有埃隆·馬斯克(Elon Musk)旗下公司Euralink對(duì)人機(jī)合一和意念控制的研究、百度首席科學(xué)家吳恩達(dá)(Andrew Ng)談機(jī)器學(xué)習(xí)、自動(dòng)駕駛和物聯(lián)網(wǎng)的運(yùn)用[7]和尼克·博斯特羅姆在TED的講座《我們的大問題》等有關(guān)未來和后人類的視頻,在日常的運(yùn)用、未來想象與科技預(yù)測(cè)中,推進(jìn)科技、商業(yè)發(fā)展以及深化倫理思考。

    上述著述和視頻從知識(shí)譜系的復(fù)雜性和問題的多樣性中理出線索,為繼續(xù)思考后人類提供線索和方式。同時(shí)期活躍的后人類研究者,也不同程度地參與了相關(guān)話題的討論,一些論著較之過去的書寫有所深化。據(jù)我所見,后人類過去十年的討論可謂四分天下。論者從生態(tài)(ecology)的角度出發(fā),控訴人類大肆耗費(fèi)地球的資源,甚至剝削其他生物生存的權(quán)利,論者呼吁人類需要放棄人類中心主義,與未來的機(jī)器人甚至賽博格融合相處;又或者隨著科技飛躍,人類或會(huì)頂替上帝的角色,罔顧倫理,修改基因,企圖克隆人類,發(fā)展至和機(jī)器人談戀愛等新型的社會(huì)關(guān)系;或因科技的快速發(fā)展,富人選擇改造身體與智能,加劇社會(huì)不公;甚或人類在某個(gè)奇點(diǎn)時(shí)刻會(huì)被人工智能超越,人工智能智慧呈幾何級(jí)增長(zhǎng),擁有自我意志的人工智能,不再遵從“機(jī)器人三定律”,如《流浪地球》的人工智能莫斯一樣,為了人類未來,而犧牲部分人的利益,徹底背離“人情”,做出難以預(yù)測(cè)的事情。

    一、超克人類中心主義

    邁向后人類,第一個(gè)面對(duì)的問題,就是作為中心的人類與地球其他生物共生共存可持續(xù)發(fā)展的問題。新世紀(jì)以來,環(huán)保成為全球思潮,質(zhì)疑人類與其他生物(inhabitants)以及環(huán)境共存的文本隨處可見。比如,熱門怪獸電影系列的“哥斯拉”是受原子能輻射而出現(xiàn)的巨獸,影片含反核和反戰(zhàn)的意味,寓意大自然對(duì)人類的反撲?!逗筇臁罚═heDay AfterTomorrow,2004)描述因溫室效應(yīng)引發(fā)地球的大災(zāi)難,冰川融化讓地球回到冰河時(shí)期。這些關(guān)于未來的災(zāi)難科幻片警醒人類,如果我們繼續(xù)以人類為中心,對(duì)地球旦旦而伐之,將導(dǎo)致不可挽救的災(zāi)難。超克人類中心主義就通過認(rèn)識(shí)其復(fù)雜性,讓人意識(shí)到生態(tài)災(zāi)難對(duì)環(huán)境、社會(huì)和經(jīng)濟(jì)造成的影響。

    故此,過去的20多年,文藝研究的一個(gè)重點(diǎn)就是生態(tài)學(xué),比如,有《鄉(xiāng)村的發(fā)明:英國(guó)文學(xué)中的狩獵、散步和生態(tài)》(TheInventionof theCountryside:Hunting,Walking,and Ecologyin English Literature,1671—1831,2001)、《生態(tài)與文學(xué):從上古到二十一世紀(jì)的以生態(tài)為中心的人格化》(EcologyandLiterature:EcocentricPersonificationfrom Antiquityto theTwenty-first,2008)、《邁向文學(xué)生態(tài)學(xué):美國(guó)文學(xué)中的地域與空間》(TowardaLiteraryEcology:Placesand SpacesinAmericanLiterature,2013)、《浪漫主義和后現(xiàn)代文學(xué)中的奇觀生態(tài)》(TheEcologyofWonderinRomanticandPostmodernLiterature,2016)、《世界文學(xué)與生態(tài)學(xué):商品前沿美學(xué),1890—1950》(World Literature andEcology:TheAestheticsofCommod-ityFrontiers,1890—1950,2020),這些文學(xué)研究書籍探討了物種滅絕、能源匱乏、生物與商品、階級(jí)等的斗爭(zhēng)關(guān)系,為反人類主義提供了理論和文本支持。

    布萊恩·摩爾(Bryan L.Moore)的《生態(tài)文學(xué)與人類中心主義批判》(EcologicalLiteratureandtheCritique ofAnthropocentrism,2017)是對(duì)質(zhì)疑、批判或顛覆人類中心主義的文學(xué)作品的分析,人類中心主義認(rèn)為宇宙及其中的一切皆為人類而存在。布萊恩·摩爾研究了古希臘和羅馬文本、中世紀(jì)到20世紀(jì)的歐洲文學(xué)、18世紀(jì)的法國(guó)哲學(xué)、早期到當(dāng)代美國(guó)的文字和詩歌以及科幻小說,為質(zhì)疑人類中心主義奠定了歷史基礎(chǔ)和反思了21世紀(jì)及以后的負(fù)責(zé)任環(huán)境管理。[8]生態(tài)文學(xué)和人類中心主義的批判有助于生態(tài)批評(píng)家、環(huán)境哲學(xué)學(xué)者,特別是對(duì)后人類的研究人員理解人類并非必然是地球乃至宇宙中心,可以幫助我們超克人類中心主義。

    同樣,著名后人類學(xué)者羅西·布拉伊多蒂的《后人類》(2013)一書,言辭毫不溫暾,質(zhì)疑人類何以必然成為中心?!疤岢鲆环N思維方式的質(zhì)變,思考……我們與地球其他生物是一種什么樣的關(guān)系等一系列重大問題;我們的共同參照系的基本單元應(yīng)該是什么……”[9]2在這樣的初衷下,羅西·布拉伊多蒂展開自己的書寫。

    首先,我們要轉(zhuǎn)換的是我們的世界觀,是否有一種觀念可以超越人類中心主義,超越精神與身體、社會(huì)與自然、人類與動(dòng)物、有機(jī)與技術(shù)的經(jīng)典人文主義劃分?研究者從不同領(lǐng)域方面不斷為之努力??ɡ铩の譅柗颍–ary Wolfe)在《什么是后人類主義?》(WhatisPosthumanism?2010)追蹤了多樣化領(lǐng)域內(nèi)各自萌發(fā)的后人類主義意識(shí)。他認(rèn)為,是否有新的人文科學(xué),比如,后人文科學(xué),可通過技術(shù)和生物或“綠色”連續(xù)體(continuun)來重新定義人類在世界上的位置,因?yàn)椤叭祟悺敝皇切乔虻囊环N生命形式(life form)。緊接著,在2015年理查德·格魯辛(Richard Grusin)主編的《非人類轉(zhuǎn)向》(TheNonhumanTurn)主要講述去人類中心,對(duì)非人類的關(guān)注則應(yīng)該以多種方式進(jìn)行理解,包括動(dòng)物、情感、身體、物質(zhì)、技術(shù)、有機(jī)和地球物理系統(tǒng)?!斗侨祟愞D(zhuǎn)向》一書堅(jiān)信,“我們從來都不是人類”,人類一直與非人類一起發(fā)展,共存或合作,并且通過這種與非人類的區(qū)分而準(zhǔn)確地識(shí)別了人類。[10]

    顛覆人類中心并不容易,斯維爾·拉夫森(Sverre Raffns?e)于2016年宣告了人類轉(zhuǎn)向,他在《人類世的哲學(xué):人類的轉(zhuǎn)向》(PhilosophyfortheAnthropocene:TheHumanTurn)一書中指出人類世被預(yù)示為一個(gè)新時(shí)代,將自己與地球歷史上所有先前的時(shí)代區(qū)分開來。它的特點(diǎn)是人類在許多方面至為重要,但同時(shí)也具有對(duì)人類依賴性和不穩(wěn)定性的認(rèn)識(shí)。在最初的哥白尼革命和康德的“人為自然立法”這一高舉人的重要命題,影響人類狀況的關(guān)鍵人類轉(zhuǎn)折仍在進(jìn)行中。在這種情況下,與人有關(guān)的問題,如其有限性、響應(yīng)能力、責(zé)任感、成熟度、自戀心和與自身的關(guān)系,成為決定性的問題而被重新闡述和強(qiáng)調(diào)。[11]

    可是人類和非人類并非非此即彼的零和博弈關(guān)系,人類應(yīng)該和其他生物共存,也應(yīng)該和日益興起的技術(shù)共存。哲學(xué)家羅伯托·馬爾凱西尼(Roberto Marchesini)的《超越人類中心主義:對(duì)后人類哲學(xué)的思考》(BeyondAnthropocentrism:Thoughtsfor aPost-HumanPhilosophy,2019),以哲學(xué)學(xué)理為后人類未來提出建議,嘗試克服人類、非人類動(dòng)物和科技之間長(zhǎng)達(dá)數(shù)百年的分離。這本書強(qiáng)調(diào)了與非人類關(guān)系的令人振奮的本質(zhì)以及這種關(guān)系的增強(qiáng)如何打開新的存在維度。科技(technology)被重新詮釋了,不再將其視為一種執(zhí)行性工具,而是一種滲透到人類層面并改變其表述(predicate)的病毒。技術(shù)生成事件不僅是人類智能的產(chǎn)物,還源于(人的)頓悟,因此將技術(shù)很好地定位在人類的本體論和軀體維度內(nèi),讓人道主義能夠認(rèn)識(shí)到非人類的改變?cè)谖覀冋麄€(gè)歷史中所起的重要作用。這本書嘗試為新的非人類中心的人道主義奠定基礎(chǔ)。[12]

    羅西·布拉伊多蒂(Rosi Braidotti)認(rèn)同后人類人文學(xué)科存在的必要性:“人文學(xué)科需要抱持一種鼓舞人心的勇氣,超越僅對(duì)人類關(guān)注的藩籬,并樂意接受來自更多星球的思想挑戰(zhàn)。”[9]153既然我們可以接受其他星球物體的挑戰(zhàn),自然可以接受賽博格和其他物種的挑戰(zhàn)。最新的研究也佐證了這一點(diǎn),在托馬斯·史密斯(Thomas Smith)的《可持續(xù)發(fā)展,福祉與后人類轉(zhuǎn)向》(Sustainability,WellbeingandthePosthuman Turn,2019)一書中,就是把后人類和新物質(zhì)主義(New Materialism)[13]與可持續(xù)發(fā)展學(xué)術(shù)研究結(jié)合在一起。作者認(rèn)為,環(huán)境主義和可持續(xù)發(fā)展已變得越來越后政治化,其特征是抽象化和量化到前所未有的程度。因此,這本書認(rèn)為,我們衡量環(huán)境的方式,例如,通過碳足跡和生態(tài)系統(tǒng)服務(wù)付款等可持續(xù)性指標(biāo),以及通過國(guó)內(nèi)生產(chǎn)總值和福利措施對(duì)社會(huì)進(jìn)行衡量的方式,在我們想象自己在世界的角色扮演著構(gòu)成性和不確定的角色。隨后,由于量化的環(huán)境方法在人類和非人類領(lǐng)域之間造成了雙重障礙,該書的最后部分提出了新物質(zhì)主義和女權(quán)主義護(hù)理倫理學(xué)的最新發(fā)展,為在世界范圍內(nèi)重建可持續(xù)發(fā)展提供了可參考的方法。[14]該書加入了人文地理、政治生態(tài)學(xué)和環(huán)境社會(huì)學(xué)、技術(shù)管理和量化方法,提倡通過自我約束和自我調(diào)節(jié)來調(diào)解我們與環(huán)境之間的關(guān)系,作為將社會(huì)分析從著重國(guó)民生產(chǎn)總值轉(zhuǎn)移到關(guān)注人類福祉和環(huán)境可持續(xù)性社會(huì),為后人類、可持續(xù)發(fā)展與人類福祉提供了新的參考。

    二、生物技術(shù)倫理的挑戰(zhàn)

    其實(shí)早在20世紀(jì)90年代,《后人類身體》(Posthumanbodies,1995)一書已經(jīng)開始討論代母、男子懷孕和體外胚胎(ectogenic fetus)等問題。蘇珊·斯奎爾(Susan M.Squier)在書中指出:“重建女性身體以產(chǎn)生或鞏固男性力量;重新配置男性和女性人體,以服務(wù)于工業(yè)生產(chǎn)?!保?5]當(dāng)下的生物技術(shù)首先作為應(yīng)用性工具,在使用過程中倫理問題隨之出現(xiàn),帶來很多倫理的爭(zhēng)議和挑戰(zhàn)[16],甚至帶來大型災(zāi)難。生物技術(shù)在使用過程中影響著用戶的認(rèn)識(shí)和行為,因此,需要對(duì)技術(shù)與倫理行為之間的關(guān)系做出把握,將道德倫理導(dǎo)入我們的認(rèn)識(shí),特別是使用生物技術(shù),以促進(jìn)技術(shù)社會(huì)的可控,有助于建立適合社會(huì)發(fā)展的倫理學(xué)。

    過去幾年,遺傳知識(shí)生產(chǎn)明確參與主體構(gòu)成,我們可以利用基因測(cè)試產(chǎn)生的知識(shí)來建構(gòu)自己的身份。《后人類狀況:生物技術(shù)挑戰(zhàn)的倫理、美學(xué)和政治》(ThePosthumanCondition:Ethics,AestheticsandPoliticsof BiotechnologicalChallenges,2012)一書認(rèn)為人類生物科技,比如基因組計(jì)劃,可以幫助人類探討“我是誰”這個(gè)哲學(xué)問題。“我們是誰?我們來自哪里?我們?cè)谑澜缟系奈恢檬鞘裁??我們?nèi)ツ??我們想要什么?”?7]這種問題傳統(tǒng)上屬于哲學(xué)領(lǐng)域,因?yàn)檫z傳研究的推進(jìn),人們開始接受人類的生物學(xué)觀點(diǎn)并增強(qiáng)我們的遺傳意識(shí),它將對(duì)我們的自我理解產(chǎn)生什么影響?可見,生物技術(shù)發(fā)展除了可以造福人類,也可經(jīng)過倫理充分的討論,能讓人充分認(rèn)識(shí)到生物技術(shù)作為技術(shù)中介(technological mediation),去調(diào)節(jié)和理解人與世界之間的關(guān)系??墒且坏﹤惱淼赖率Ш?,可能給人類帶來災(zāi)難,所以必要的國(guó)家和國(guó)際間的立法和樹立規(guī)則變得不可或缺。

    技術(shù)因利潤(rùn)產(chǎn)生市場(chǎng),這也容易被個(gè)人或不法商人所利用。這對(duì)生物學(xué)決定論和遺傳學(xué)的主張?zhí)岢隽藝?yán)峻挑戰(zhàn),即受試者單單從生物學(xué)的角度就能越來越了解自己和社會(huì)現(xiàn)象,并擔(dān)心新的遺傳技術(shù)因生物技術(shù)而成為生物政治/經(jīng)濟(jì)控制的場(chǎng)所。在遺傳責(zé)任的背景下,比如輔助生殖和神經(jīng)科學(xué)等科技,生物學(xué)知識(shí)似乎以不可預(yù)見的方式被動(dòng)員和利用。倫理問題對(duì)每個(gè)主體,無論是公司還是個(gè)人,無論是臨床咨詢還是預(yù)防性醫(yī)學(xué)干預(yù)的醫(yī)學(xué)遺傳學(xué),都將個(gè)人(公司)視為道德主體,需樹立新的道德責(zé)任。“道德主體指的是具有自我意識(shí),能夠進(jìn)行道德認(rèn)知、能夠進(jìn)行推理并形成自我判斷、能夠進(jìn)行道德選擇與實(shí)施道德行為且承擔(dān)道德責(zé)任的道德行為體。從這個(gè)意義上來講,只有具有理性思維能力的人類才具有道德主體地位。”[18]這意味著一個(gè)人應(yīng)該知道自己在做什么,如果這是他有意識(shí)的選擇,就要對(duì)自己的所作所為負(fù)法律責(zé)任。

    在這里,理論家經(jīng)常關(guān)心的是,承擔(dān)遺傳責(zé)任不是一個(gè)選擇問題,而是一個(gè)道德義務(wù)。從這個(gè)意義上來講,責(zé)任比賦予權(quán)力更重要。例如,在進(jìn)行產(chǎn)前篩查時(shí),雖然沒有強(qiáng)制性的義務(wù)進(jìn)行篩查,但醫(yī)療機(jī)構(gòu)明確提出了建議進(jìn)行篩查,這些建議帶有相當(dāng)明確的前提,即應(yīng)該避免讓患有唐氏綜合征的嬰兒出生;或者對(duì)可遺傳形式的癌癥進(jìn)行基因檢測(cè)的情況下,個(gè)體通常不會(huì)經(jīng)歷我們所謂的“自由”選擇。因?yàn)槿缥覀兯?,他們的遺傳風(fēng)險(xiǎn)承擔(dān)著對(duì)他人的責(zé)任。[19]

    梅琳達(dá)·庫珀(Melinda Cooper)的《作為剩余的生命:新自由主義時(shí)代的生物技術(shù)和資本主義》(Life asSurplus:BiotechnologyandCapitalismintheNeoliberalEra,2008)一書著眼于20世紀(jì)70年代至2000年美國(guó)政治、經(jīng)濟(jì)、科學(xué)和文化價(jià)值之間的關(guān)系。梅琳達(dá)·庫珀認(rèn)為,如果不考慮新自由主義作為政治力量和經(jīng)濟(jì)政策在同時(shí)崛起,就無法理解生物技術(shù)的歷史。從20世紀(jì)70年代重組DNA技術(shù)的發(fā)展到布什第二屆政府對(duì)干細(xì)胞研究的政策,庫珀將自由市場(chǎng)資本主義的爭(zhēng)論與商業(yè)化生命科學(xué)日益加劇的內(nèi)部矛盾聯(lián)系起來。庫珀以生活已經(jīng)融入了價(jià)值創(chuàng)造的回路中為出發(fā)點(diǎn),生物技術(shù)革命將經(jīng)濟(jì)生產(chǎn)轉(zhuǎn)移到了遺傳、微生物和細(xì)胞水平。在深入分析里根時(shí)代的科學(xué)政策、生命科學(xué)的軍事化、艾滋病毒政治、制藥帝國(guó)主義、組織工程、干細(xì)胞科學(xué)以及支持生命運(yùn)動(dòng)的過程中,作者考察了推動(dòng)生物經(jīng)濟(jì)的投機(jī)性沖動(dòng),認(rèn)為新的后工業(yè)經(jīng)濟(jì)的核心是將生物生命轉(zhuǎn)化為剩余價(jià)值。[20]《作為剩余的生命》一書對(duì)當(dāng)代生命科學(xué)的變革性、治療性維度以及圍繞新興生物經(jīng)濟(jì)形成的暴力、義務(wù)和債務(wù)償付提供了清晰的評(píng)估。

    當(dāng)生物技術(shù)成為新的經(jīng)濟(jì)增長(zhǎng)點(diǎn),生物倫理就要面臨全新的、巨大的、尚未知后果的挑戰(zhàn)。“新型生殖技術(shù)”(new reproductive technology)是指干預(yù)妊娠和生育過程的最新生物技術(shù)。由于新的生殖技術(shù)的發(fā)展,孕婦和胚胎的健康狀況得到改善,而母親和嬰兒在分娩過程中的死亡率也因此下降。但是,如果盲目肆意修改人類基因,在不穩(wěn)定的情況下,可能會(huì)造成不確定的危險(xiǎn)。弗朗西斯·福山的《后人類未來》強(qiáng)調(diào)了法規(guī)在應(yīng)對(duì)新興生物技術(shù)領(lǐng)域可能性方面的重要性,可是偏偏有人違反規(guī)定。

    生物學(xué)家賀建奎在2018年12月宣布已為一對(duì)雙胞胎編輯基因,她們將來可能具有天然抵抗艾滋病的能力。一個(gè)由多國(guó)科研機(jī)構(gòu)組成的國(guó)際委員會(huì)認(rèn)為:“人類胚胎的基因組一旦被編輯就不該用于生育,直到有確切證據(jù)顯示精準(zhǔn)改變基因組能帶來可靠的結(jié)果,并且不會(huì)導(dǎo)致預(yù)期之外的變化。而目前沒有任何基因組編輯技術(shù)能夠達(dá)到這一標(biāo)準(zhǔn)?!保?1]此消息引發(fā)全球爭(zhēng)議,醫(yī)學(xué)界和科學(xué)界譴責(zé)其違背醫(yī)學(xué)道德倫理。弗朗西斯卡·費(fèi)朗多在《哲學(xué)的后人類主義》中認(rèn)為生物倫理學(xué)領(lǐng)域的重點(diǎn)是“我們應(yīng)該這樣做嗎?”而不是“我們可以這樣做嗎?”重點(diǎn)不是我們是否可以科學(xué)地獲得這些結(jié)果,而是我們是否應(yīng)該在倫理道德上走這條道路。[22]129因此,德國(guó)哲學(xué)家哈貝馬斯(Jürgen Habermas)在《人性的未來》(TheFutureofHumanNature,2003)中強(qiáng)調(diào)指出,迫切需要制定法律策略來保護(hù)個(gè)人身份,這可能導(dǎo)致對(duì)“免于人工干預(yù)的遺傳繼承權(quán)”的法律承認(rèn)和保護(hù)。[23]

    三、超人類主義

    在世界各地的神話中,人們想象擁有無敵、隱形、自愈等超自然力量能力。一些超人類主義的擁護(hù)者夢(mèng)想著未來這一切都會(huì)成真。牛津大學(xué)哲學(xué)家尼克·博斯特羅姆(Nick Bostrom)的《超人類主義宣言》如此定義“超人類主義”(Transhumanism):“(超人類主義是)一種知識(shí)和文化運(yùn)動(dòng),它肯定了通過應(yīng)用理性從根本上改善人類狀況的可能性和期望,特別是通過開發(fā)和提供廣泛使用的技術(shù)來消除衰老并極大增強(qiáng)人類的智力、身體和心理能力?!保?4]

    弗朗西斯卡·費(fèi)朗多在《哲學(xué)的后人類主義》(2020)第四章討論了超人的誕生,指出:“‘超越人類的動(dòng)詞’(trasumanar),該詞首先在但丁撰寫的《喜劇》(Comedìa,1304—1321)中出現(xiàn)。[25]但丁在與神的同在中經(jīng)歷了‘創(chuàng)傷’的特定狀態(tài),即超越人類?!保?2]29弗朗西斯卡·費(fèi)朗多在書中第五章指出,超人類主義不應(yīng)該被視為同質(zhì)運(yùn)動(dòng),而應(yīng)由許多不同的思想流派形成。例如,自由主義、超人類主義、民主超人類主義和奇點(diǎn)主義等。所有這些運(yùn)動(dòng)有什么共同點(diǎn)?它們共有人類增強(qiáng)的目標(biāo)。如何實(shí)現(xiàn)人的增強(qiáng)?根據(jù)超人類主義,科學(xué)技術(shù)的重新配制是帶來人類進(jìn)步的主要資產(chǎn)。[22]32接著在第七章連接了超人類主義和科技增強(qiáng)之間的關(guān)系:“為什么技術(shù)對(duì)于超人類主義的討論至關(guān)重要?盡管在超人類主義的情境中有許多思想流派,但它們都具有對(duì)技術(shù)重視的相同點(diǎn),技術(shù)被認(rèn)為是邁向人類‘下一個(gè)’階段的進(jìn)化動(dòng)力中的關(guān)鍵。技術(shù)對(duì)于實(shí)現(xiàn)根本性的壽命延長(zhǎng)和數(shù)字永生性至關(guān)重要?!保?2]35-36

    簡(jiǎn)言之,超人類主義主要是指使用科學(xué)技術(shù)來增強(qiáng)或優(yōu)化人類基因,改造人的精神、體力、能力或資質(zhì)等,并借此克服人類身體的弱點(diǎn),比如,衰老、痛苦、殘疾、疾病或意外等。超人類主義反思這些強(qiáng)大的新技術(shù)帶來的危險(xiǎn)和好處。斯科特·杰弗里(Scott Jeffery)在《超級(jí)英雄漫畫中的后人類身體:人類,超人,超人類,后/人類》(ThePosthumanBodyinSuperheroComics:Human,Superhuman,Transhuman,Post/Human,2016)溯源:“顯然,超人創(chuàng)造的世界就是我們的世界。含義很清楚,在超人不存在的世界中,我們需要?jiǎng)?chuàng)造他。從伊卡洛斯或牛頭怪的古典神話,到模糊了人類與技術(shù)、人類與動(dòng)物之間界限的形式,再到現(xiàn)代超級(jí)英雄漫畫,人類都以后人類的視野來娛樂自己,并就人類的是否屬于這一類別展開爭(zhēng)論?!保?6]最后一句指出重要一點(diǎn),超人類(transhuman),從莎士比亞《仲夏夜之夢(mèng)》的精靈[27],到尼采的超人(übermensch),再到現(xiàn)代影視劇的超人,都可納入后人類研究的范圍,為我們打開了新的研究論域。

    本杰明·赫爾布特(Benjamin Hurlbut)等人所編寫的《完善人類的未來:超人類的視野和技術(shù)想象力》(PerfectingHumanFutures:TranshumanVisionsandTechnologicalImaginations,2016)認(rèn)為人類一直想象著更好的未來,從克服死亡的愿望到渴望統(tǒng)治世界的愿望,對(duì)技術(shù)未來的想象揭示了構(gòu)建者的價(jià)值和規(guī)范。如今,新興的技術(shù)給人類的未來帶來了疑問,這些技術(shù)有望對(duì)人類的生活進(jìn)行徹底控制,并引發(fā)人們對(duì)人類完美性的必然想象。[28]這本跨學(xué)科的書匯集了科學(xué)技術(shù)研究、社會(huì)學(xué)、哲學(xué)、神學(xué)、倫理學(xué)和歷史學(xué)的學(xué)者,特別關(guān)注超人類主義和后人類主義的視野,它通過探索烏托邦和末世論的維度并將其置于更廣泛的思想、制度和創(chuàng)新實(shí)踐中而開辟了新的領(lǐng)域。

    而持相反意見的哲學(xué)家梅琳達(dá)·霍爾(Melinda Hall)的《增強(qiáng)的生物倫理:超人類主義,殘疾與生物政治》(TheBioethicsofEnhancement:Transhumanism,Disability,and Biopolitics,2017),在對(duì)人類增強(qiáng)生命倫理的辯論中進(jìn)行了重要干預(yù),作者對(duì)增強(qiáng)思維的言論和策略提出了挑戰(zhàn)。其中,包括渴望超越身體并通過遺傳選擇等新興技術(shù)來決定誰應(yīng)該在后代生活。梅琳達(dá)·霍爾提供了新的分析,重新思考了增強(qiáng)和殘疾的哲學(xué),認(rèn)為增強(qiáng)應(yīng)該是社會(huì)和政治干預(yù)的問題,而不是遺傳和生物干預(yù)的問題。霍爾得出結(jié)論,應(yīng)該珍惜而不是消除人類的脆弱性和差異。[29]

    另一個(gè)受超人類主義影響對(duì)人類進(jìn)行界定的學(xué)者是尼科拉斯·阿加爾(Nicholas Agar),他在《人類的終結(jié):為什么我們應(yīng)該拒絕極端提升》(Humanity’sEnd:WhyWeShould RejectRadicalEnhancement,2010)同樣拒斥極端的提升(radical enhancement)。尼科拉斯·阿加爾的不安來自潛在的后人類繁殖與人類產(chǎn)生隔離的可能性。阿加爾認(rèn)為,極端的提升的結(jié)果可能比這些思想家所描繪的樂觀的前景要暗。實(shí)際上,增強(qiáng)我們的認(rèn)知能力的最戲劇性的方法可能會(huì)殺死我們。我們壽命的根本延長(zhǎng)可能會(huì)從我們的生活中消除寶貴的經(jīng)驗(yàn);某些人從根本上得到增強(qiáng),而其他人卻沒有得到改善的情況,可能導(dǎo)致人對(duì)人的暴政。尼科拉斯·阿加爾就從生物中強(qiáng)的公平性開始,質(zhì)疑人類扮演上帝的角色之后,完全改變了出生的公平,以技術(shù)造成巨大的人類鴻溝。[30]同樣,弗朗西斯·福山(Francis Fukuyama)等評(píng)論家也表達(dá)了超人類主義危險(xiǎn)的想法。他在《后人類未來》(2003)首先打開了倫理討論的論域,他在考察宗教、經(jīng)濟(jì)、人的權(quán)利、尊嚴(yán)和本性之后,再比較國(guó)際社會(huì)防止核武器擴(kuò)散案例,認(rèn)為應(yīng)實(shí)施從國(guó)家開始,到國(guó)際間的管制。[31]

    最近,因?yàn)槿斯ぶ悄艿娘w速發(fā)展,這方面的研究越來越多,開始提出更多建議。彼得·布魯姆(Peter Bloom)的《人工智能世界中的身份,制度與治理:超人類關(guān)系》(Identity,InstitutionsandGovernancein anAIWorld:TranshumanRelations,2020)認(rèn)為21世紀(jì)即將到來的可能是一場(chǎng)全面的經(jīng)濟(jì)和政治革命。機(jī)器人技術(shù)、計(jì)算技術(shù)和數(shù)字通信技術(shù)的進(jìn)步有潛力完全改變?nèi)藗兊纳詈凸ぷ鞣绞?。更根本的是,人類將很快與人工智能互動(dòng),將其作為日常生活中的正常和必不可少的部分?,F(xiàn)在比之前任何時(shí)候都更需要重新思考社會(huì)關(guān)系,以迎接這個(gè)即將到來的“智能”世界的挑戰(zhàn)。借助組織研究、批判理論、心理學(xué)和未來主義的見解,這本書為讀者繪制圖表,顯示在一個(gè)由聰明人和非人參與者共同組成的世界,身份、機(jī)構(gòu)和治理方面即將發(fā)生的變化。它以重新強(qiáng)調(diào)將編程與社會(huì)正義的價(jià)值觀相融合,保護(hù)各種形式的“意識(shí)”的權(quán)利和觀點(diǎn)以及創(chuàng)造鼓勵(lì)“互知設(shè)計(jì)”(mutual intelligent design)文化所必需的結(jié)構(gòu)和實(shí)踐為特征。[32]這樣做意味著超越我們今天的人類中心世界觀,擴(kuò)大我們對(duì)明天的政治、體制、法律乃至日常存在狀況的假設(shè)。至關(guān)重要的是,這種深刻的轉(zhuǎn)變要求超越人類為自己創(chuàng)造的世界的人文主義范式,使自己向新的現(xiàn)實(shí)開放,在這個(gè)新現(xiàn)實(shí)中,非人類的智能和機(jī)器人變得越來越重要。

    四、技術(shù)奇點(diǎn)后人類

    科技發(fā)展迅速,且越來越多地介入人們的日常生活和娛樂。一批迥異于人文背景的科技專家進(jìn)入討論現(xiàn)場(chǎng),打開了研究的另一空間。除了學(xué)院派的比如牛津大學(xué)人類未來研究所的尼克·博斯特羅姆(Nick Bostrom),還有一些著名的科技公司高層,比如,谷歌技術(shù)總監(jiān)和未來學(xué)家雷·庫茲韋爾(Ray Kurzweil)以及特斯拉首席執(zhí)行官埃隆·馬斯克進(jìn)入后人類研究的視域,這些不同背景里的研究者擺脫了學(xué)科的慣性,將實(shí)踐與理論結(jié)合,給予人們不同的啟示。

    “技術(shù)奇點(diǎn)”(technological singularity),這一觀念在1993年維爾諾·文格(Vernor Vinge)于美國(guó)國(guó)家航空航天局的演講之后得到廣泛傳播。奇點(diǎn)自身意味著比人類更強(qiáng)大的智能那令人期待的創(chuàng)造,它有可能讓位于“智能爆發(fā)”(intelligence explosion),即這一智能以越來越快的速度創(chuàng)造出更為強(qiáng)大的智能。用文格的話來說,奇點(diǎn)代表了“這樣的時(shí)刻,我們的模型必須被拋棄,新的實(shí)在開始統(tǒng)治”,這一變化可以與“人類生命在地球上的崛起進(jìn)行比較”。[33]

    谷歌技術(shù)總監(jiān)雷·庫茲韋爾在《奇點(diǎn)臨近》(TheSingularityIsNear:WhenHumansTranscendBiology,2005)中預(yù)言的“奇點(diǎn)”基于如下判斷:“不斷發(fā)展的技術(shù)是加速回歸定律的隱含和必然結(jié)果,它描述了進(jìn)化過程的步伐的加快和產(chǎn)品的指數(shù)增長(zhǎng)。這些產(chǎn)品尤其包括諸如計(jì)算之類的信息技術(shù),其加速遠(yuǎn)遠(yuǎn)超出了由摩爾定律所做出的預(yù)測(cè)。奇點(diǎn)是加速收益定律的必然結(jié)果,因此重要的是我們研究這種進(jìn)化過程的本質(zhì)?!保?4]41我們不知道奇點(diǎn)會(huì)在哪天到來,但奇點(diǎn)確實(shí)存在,到那時(shí)人工智能將會(huì)超過人類智能。“一旦機(jī)器智能比人類智能聰明,就會(huì)設(shè)計(jì)自己的下一代產(chǎn)品了?!保?4]37到那時(shí),我們不僅要煩惱人類獲得永生后的意義問題,更要擔(dān)心“人類將來可能會(huì)從這個(gè)循環(huán)中被淘汰”的危險(xiǎn)。

    2020年8月28日,埃隆·馬斯克宣布了他在使人腦與人工智能同步方面所做的突破。馬斯克宣布,他的神經(jīng)科技和腦機(jī)接口公司“Neuralink”已經(jīng)建造了一個(gè)獨(dú)立的神經(jīng)植入物,該裝置可以無線傳輸詳細(xì)的大腦活動(dòng),而無須外部硬件的幫助。Neuralink將該技術(shù)的首個(gè)應(yīng)用用于醫(yī)療目的,可能是大腦和脊髓損傷的人。馬斯克以大膽的方式表示,他也希望在未來進(jìn)一步追求非醫(yī)學(xué)應(yīng)用。[35]

    卡盧姆·查斯(Calum Chace)在《經(jīng)濟(jì)奇點(diǎn):人工智能與資本主義的死亡》(TheEconomicSingularity:ArtificialIntelligenceandtheDeath ofCapitalism,2016)一書中指出,在幾十年內(nèi),大多數(shù)人將無法賺錢。無人駕駛汽車可能會(huì)成為煤礦中的金絲雀,從快餐店員到律師和新聞工作者,所有工作都將受到影響。這是21世紀(jì)上半葉人類面臨的最重要的變化。人們普遍認(rèn)為“基本收入保證”是解決方案,這在一定程度上是正確的。我們可能需要一個(gè)全新的經(jīng)濟(jì)體系,我們最好盡快開始計(jì)劃,以實(shí)現(xiàn)經(jīng)濟(jì)奇點(diǎn)。過程存在重大風(fēng)險(xiǎn),只有對(duì)可能的未來保持警惕并計(jì)劃如何避免負(fù)面風(fēng)險(xiǎn)。[36]而因?yàn)榧夹g(shù)奇點(diǎn)的涌現(xiàn)在過去幾年出現(xiàn)的情況是這樣的:硅谷技術(shù)與華爾街的貪婪歷史性融合,正將最新的經(jīng)濟(jì)欺詐推向我們:所謂的“共享經(jīng)濟(jì)”,優(yōu)步、愛彼迎(Airbnbt)等公司聲稱“解放了工人”,成為“獨(dú)立的”和“他們自己的首席執(zhí)行官”,以自雇形式來獲得越來越少的工資,而公司卻從中獲利。這種“分享面包屑”的經(jīng)濟(jì)會(huì)使中產(chǎn)階級(jí)被迫漂泊。史蒂芬·希爾(Steven Hill)在《經(jīng)濟(jì)奇點(diǎn):共享經(jīng)濟(jì)、創(chuàng)造性破壞與未來社會(huì)》(RawDeal:Howthe“UberEconomy”andRunaway CapitalismAreScrewingAmericanWorkers,2015)中預(yù)計(jì),2045年,“屆時(shí)當(dāng)前的‘人工智慧爆炸’將導(dǎo)致機(jī)器實(shí)現(xiàn)真正的智能,甚至超過人類,因?yàn)樗麄儠?huì)設(shè)計(jì)更加智能的版本,從而產(chǎn)生了從根本上改變了人類文明的失控效應(yīng),稱為奇點(diǎn)。在這一臨界點(diǎn),我們的經(jīng)濟(jì)因消費(fèi)者需求太少而崩潰,因?yàn)樨?cái)富已被少數(shù)強(qiáng)大的經(jīng)濟(jì)玩家奪走,供自己私用。通過共享經(jīng)濟(jì),其他所有人將爭(zhēng)奪這些廢品。的確,這兩個(gè)奇異之處最終可能會(huì)成為未來的兩個(gè)方面,這種技術(shù)封建主義威脅著幾乎所有關(guān)于美國(guó)夢(mèng)的真善美”。[37]兩位研究者都致力于人工智能所引發(fā)的“經(jīng)濟(jì)奇點(diǎn)”對(duì)社會(huì)的經(jīng)濟(jì)模式有什么影響,而因?yàn)槿斯ぶ悄茉谏鐣?huì)的經(jīng)濟(jì)運(yùn)用中不斷深化,四通八達(dá),還需進(jìn)一步展開具體分析。

    早在1985年,已經(jīng)有本叫《科技政策的戰(zhàn)略分析》(AStrategicAnalysisofScienceandTechnologyPolicy)的書討論科技的政策的問題,雖然討論并沒有非常全面[38],可仍然表明,現(xiàn)實(shí)人類并沒有放任科技野蠻伸張的警惕之心??墒?,未來已來,在2009年的人工通用智能會(huì)議(The Second Conference on Artificial General Intelligence,簡(jiǎn)稱AGI-09)認(rèn)為,隨著科學(xué)技術(shù)不斷發(fā)展,計(jì)算機(jī)超越人類智慧,由此可產(chǎn)生的人工智能系統(tǒng)可稱為人工超級(jí)智能ASI(Artifical Super Intelligence)。“在會(huì)議上進(jìn)行了有關(guān)人類水平人工智能研究的專家意見的評(píng)估。我們發(fā)現(xiàn),在某些事項(xiàng)上,例如關(guān)鍵里程碑的時(shí)間安排和排序,各種專家彼此意見分歧。但是,我們確實(shí)發(fā)現(xiàn)大多數(shù)專家都希望在未來的幾十年內(nèi)人工智能達(dá)到人類水平,并且所有專家都認(rèn)為有一定機(jī)會(huì)在這段時(shí)間內(nèi)達(dá)到某些里程碑?!保?9]

    尼克·博斯特羅姆(Nick Bostrom)的《超級(jí)智能》(SuperIntelligence,2014)近年對(duì)于其中科技的進(jìn)展與人類的危機(jī)關(guān)系研究有所推進(jìn)。因此,我們可能要依靠假設(shè),來想象這種超級(jí)智能:將會(huì)具備什么能力?最重要的是,會(huì)不會(huì)威脅人類的生命?那接下來就是如何管控的問題??墒?,我們?cè)撛趺创_保人類對(duì)未來可能成形的超級(jí)智能的行為有所限制?管控超級(jí)智能,就是要在創(chuàng)造它的初期,想辦法給它植入人類價(jià)值觀,于是問題又來了:怎么給機(jī)器輸入價(jià)值?輸入啥價(jià)值?[40]

    這個(gè)問題在今天仍然讓研究者頭疼。比如在《人工智能:現(xiàn)代魔術(shù)還是危險(xiǎn)的未來?》(ArtificialIntelligence:ModernMagicorDangerous Future?,2019)里面,人工智能專家約里克·威爾克斯(Yorick Wilks)考慮了未來以及未來幾年我們所有人如何從人工智能應(yīng)用中受益;還評(píng)估了這些技術(shù)是否可以威脅我們的生活方式。比如,那個(gè)人類還沒有一致的答案的電車難題:自動(dòng)駕駛的人工智能會(huì)基于什么樣的道德論題去做出決定?!耙豁?xiàng)國(guó)際調(diào)查顯示,當(dāng)被問及失控的汽車是否應(yīng)該殺死嬰兒或老人,是否必須殺死嬰兒時(shí),亞洲和西方人口之間的差異卻驚人。亞洲人投票贊成殺死嬰兒,而西方人則投票贊成殺死老年人。這表明自動(dòng)駕駛汽車在世界不同地區(qū)可能必須具有不同的道德軟件?!保?1]新的科技在不同地方和文化的運(yùn)用中,將會(huì)源源不斷地給新的倫理決定帶來挑戰(zhàn),因此產(chǎn)生新的人類未來研究的需要。

    幸好,人工智能是過去幾年最受矚目的領(lǐng)域,一些人工智能的大公司已經(jīng)開始涉足道德倫理這一塊。比如,設(shè)立了專門的道德倫理委員會(huì),處理算法和公平、歧視等問題;比如,史蒂文·約翰·湯普森(Steven John Thompson的《人工智能時(shí)代的機(jī)器法、倫理學(xué)和道德》(Machine Law,Ethics,andMoralityintheAge ofArtificialIntelligence,2021)做了最新的解釋,機(jī)器和計(jì)算機(jī)正變得越來越復(fù)雜和自我維持。當(dāng)人工智能時(shí)代的機(jī)器法、倫理學(xué)和道德是一系列創(chuàng)新研究的集合,這些研究提出了機(jī)器倫理和道德領(lǐng)域的整體和跨學(xué)科方法,并提供了關(guān)于機(jī)器倫理、道德的最新觀點(diǎn),與人機(jī)倫理相關(guān)的定義、術(shù)語、政策、理念和相關(guān)決定因素的發(fā)展。該書涵蓋了人機(jī)倫理學(xué)重要領(lǐng)域的多個(gè)主題組成部分的理論和實(shí)踐。[42]本書著重介紹了包括面部識(shí)別、健康和醫(yī)學(xué)以及隱私和安全在內(nèi)的廣泛主題,關(guān)注人機(jī)合一倫理倡議的決策的確定和采用,從而導(dǎo)致人機(jī)實(shí)體,其技術(shù)及其社會(huì)和法律義務(wù)的必要的政策采用和改革,多了思考的系統(tǒng)性,科技的倫理敏感部分被開始聚焦在筆下。

    當(dāng)然,奇點(diǎn)是否會(huì)這么快就到來,是否會(huì)在人類完全沒有準(zhǔn)備就殺個(gè)措手不及,還是學(xué)者爭(zhēng)論的要點(diǎn)。皮耶羅·斯卡菲(Piero Scaruffi)在《智能不是人工的:人工智能的歷史以及為什么奇點(diǎn)不會(huì)很快出現(xiàn)》(IntelligenceisnotArtificial:AHistory ofArtificialIntelligenceand Whythe Singularity isnotComing any Time Soon,2018)一書中認(rèn)為:“2017年的阿法狗零(AlphaGo Zero)之所以起作用,是因?yàn)閲迨且粋€(gè)完全確定性的世界,因?yàn)槊總€(gè)玩家都擁有關(guān)于游戲世界的完整信息,因?yàn)榭刹扇〉膭?dòng)作數(shù)量是有限的,并且對(duì)任何動(dòng)作都可以準(zhǔn)確預(yù)測(cè),因有大量的人類大師玩的游戲數(shù)據(jù)集。所有這些條件在現(xiàn)實(shí)世界中都是很少見的?!保?3]

    無論如何,我們將此類技術(shù)集中到我們的日常生活中時(shí),就會(huì)出現(xiàn)道德操守和最優(yōu)實(shí)踐的問題。不斷變化的世界要求重新思考和推進(jìn)我們當(dāng)前的標(biāo)準(zhǔn)。如果沒有最優(yōu)實(shí)踐來指導(dǎo)如何與這些復(fù)雜機(jī)器的交互使用,那么,這樣的交互將變成災(zāi)難性的。因此,越來越多科技專家的介入告訴我們未來需要科技和文理結(jié)合的研究者和人才,去應(yīng)對(duì)人類即將面臨的重大問題。

    結(jié)語

    從來沒有一個(gè)研究話題在今天能輻射到如此廣泛的領(lǐng)域,令世界各國(guó)來自不同專業(yè)如哲學(xué)、社會(huì)學(xué)、藝術(shù)學(xué)、經(jīng)濟(jì)學(xué)、生態(tài)學(xué)、計(jì)算機(jī)學(xué)和人工智能等研究者爭(zhēng)相參與。后人類研究從20世紀(jì)八九十年代開始受到學(xué)院派的青睞,此后十多年引起研究者的廣泛注意,逐漸成為顯學(xué)。2000年以來,特別是過去十年,關(guān)于后人類的闡釋,從探討人類中心主義、醫(yī)學(xué)倫理到人機(jī)合一超人類與技術(shù)奇點(diǎn),將人工智能對(duì)人的威脅,從學(xué)術(shù)探討變成關(guān)乎人類切身命運(yùn)的研究。然而,從宏觀層面來看,目前有關(guān)這類專著和論文的局限性仍很明顯,即主題和思路的重復(fù)。實(shí)際上,真正能打開論題的研究不多,特別是面對(duì)超級(jí)智能,人文學(xué)者的科技知識(shí)顯得捉襟見肘,而科技專家的人文、法律和哲學(xué)的底蘊(yùn)不夠。上述種種困難,也激勵(lì)著更多青年學(xué)者,從跨學(xué)科的角度,運(yùn)用統(tǒng)計(jì)量化的方式,猶如計(jì)算機(jī)處理數(shù)據(jù)一樣,創(chuàng)造范式,打破桎梏,矚望未來。羅西·布拉伊多蒂認(rèn)為,后人類更多的是融合而遠(yuǎn)非危機(jī),它標(biāo)志著豐富而復(fù)雜的歷史過渡。雖然充滿風(fēng)險(xiǎn),但它也“為人類和非人類行為者以及人文科學(xué)提供了巨大的機(jī)會(huì)來改造自己。但是,像所有過渡一樣,它需要一定的視野和實(shí)驗(yàn)?zāi)芰恳约跋喈?dāng)大的耐力”[44]。故此,未來的后人類研究,應(yīng)該是社科文哲法場(chǎng)域交互,文商理工醫(yī)的直接對(duì)話,色調(diào)必不會(huì)貧乏。

    注釋

    [1]在《控制論》出版六年之后,諾伯特·維納的另一本書《人有人的用處:控制論與社會(huì)》問世。他發(fā)現(xiàn)電腦和人腦的工作原理極其相似:都是進(jìn)行信息處理和信息轉(zhuǎn)化的系統(tǒng),只要有數(shù)據(jù),計(jì)算機(jī)就能完成人所能做的任何事。

    [2]Ihab Hassan.Prometheus as Performer:Towards a Posthumanist Culture?inPerformanceinPostmodemCulture,edited by Michael Benamou and Charles Caramella.Madison,WI:Coda Press,1977:212.

    [3]Haraway,Donna.A Manifesto for Cyborgs:Science,Technology,and Socialist Feminism in the 1980s.SocialistReview,1985,5(2),pp.65-107.又見A Cyborg Manifesto:Science,Technology,and Socialist-Feminism in the Late Twentieth Century,Simians,Cyborgs,andWomen:TheReinventionofNature.New York:Routledge,1990:149-182.

    [4]德文版1954年出版,英文版1977年出版。見Martin Heidegger.TheQuestion Concerning Technologyand OtherEssays.Garland Publishing,1977.

    [5]Deleuze,G.a(chǎn)nd Guattari,F(xiàn).Anti-Oedipus,translated by R.Hurley,M.Seem and H.R.Lane.Minneapolis,MN:University of Minnesota Press.

    [6]這些思潮或術(shù)語的涌現(xiàn),可參考《后人類未來》和《我們何以成為后人類》兩書參考書目。

    [7]Landing.AI創(chuàng)始人及CEO吳恩達(dá).人工智能與先進(jìn)制造.https://www.sohu.com/a/220406647_680938,2018-02-01.

    [8]Bryan L.Moore(auth.)Ecological LiteratureandtheCritiqueofAnthropocentrism.Palgrave Macmillan,2017.

    [9]Rosi Braidotti.ThePosthuman.Polity,2013.

    [10]Richard Grusin.ed..TheNonhumanTurn.Minneapolis:University of Minnesota Press,2015.

    [11]Sverre Raffns?e.Philosophyforthe Anthropocene:TheHumanTurn.Basingstoke,UK:Palgrave,2016.

    [12]Roberto Marchesini.Beyond Anthropocentrism:Thoughts for a Post-Human Philosophy.MimesisInternational,2019.

    [13]新物質(zhì)主義思想認(rèn)為,隨著生物技術(shù)、人工智能等的高速發(fā)展,技術(shù)帶來的倫理問題也逐漸浮現(xiàn),因此需要開拓一種看待人類和技術(shù)之間關(guān)系的新視角。

    [14]Thomas Smith.Sustainability,WellbeingandthePosthumanturn.Springer International Publishing-Palgrave Pivot,2019.

    [15]Halberstam,Judith and Ira Livingston(eds.)PosthumanBodies.Bloomington,IN:Indiana University Press,1995,p.115.

    [16]可參考《應(yīng)用倫理學(xué)》的一節(jié)“作為‘兩難動(dòng)機(jī)’的生物倫理學(xué)”。R.G.Frey,Christopher Heath Wellman.ACompaniontoAppliedEthics.Wiley-Blackwell,2005:295.

    [17]Kasper Lippert-Rasmussen,Mads Rosendahl Thomsen,Jacob Wamberg.The PosthumanCondition:Ethics,Aestheticsand PoliticsofBiotechnologicalChallenges.Aarhus University Press,2012:58.

    [18]閆坤如.人工智能機(jī)器具有道德主體地位嗎?[J].自然辯證法研究,2019(5):47.

    [19]Tamar Sharon.HumanNaturein anAgeofBiotechnology:TheCaseforMediated Posthumanism.Springer Netherlands,2014:228.

    [20]Melinda Cooper.LifeasSurplus:BiotechnologyandCapitalismintheNeoliberal Era.University ofWashington Press,2008.

    [21]新華社.多國(guó)科學(xué)家警告基因組編輯技術(shù)還未能安全用于人類.2009-03.https://baijiahao.baidu.com/s?id=1676825435325902769&wfr=spider&for=pc.

    [22]Ferrando,F(xiàn)rancesca.Philosophical Posthumanism.TheoryintheNew Humanities.Bloomsbury Publishing,2020.

    [23]Habermas,J..TheFutureofHumanNature.Trans.Rehg,W.,Pensky,M.,Beister,B.,Polity Press:Cambridge,UK.2003,p.27.

    [24]Bostrom,Nick.Introduction—The Transhumanist FAQ:A General Introduction.In book:TranshumanismandtheBody.Publisher Name Palgrave Macmillan,New York,2014:29.

    [25]《神曲》名為“Commedia”或“Divina Commedia”,是但丁最著名的作品。

    [26]Scott Jeffery.ThePosthumanBody inSuperheroComics:Human,Superhuman,Transhuman,Post/Human.Palgrave Macmillan,p.1.

    [27]比如研究莎士比亞與后人類的有這本:Craig Dionne.Posthuman Lear:Reading Shakespearein theAnthropocene.Punctum Books,2016.

    [28]Benjamin Hurlbut,Hava Tirosh-Samuelson(eds.)Perfecting Human Futures:TranshumanVisionsandTechnological Imaginations.VS Verlag für Sozialwissenschaften,2016.

    [29]Melinda Hall.TheBioethicsofEnhancement:Transhumanism,Disability,and Biopolitics.Lexington Books,2017.

    [30]Nicholas Agar.Humanity’sEnd:WhyWeShouldRejectRadicalEnhancement.MA:The MIT Press,2010:21.

    [31]Francis Fukuyama.OurPosthuman Future:Consequencesofthe Biotechnology Revolution.Picador,2003:181-194.

    [32]Peter Bloom.Identity,Institutions andGovernanceinanAIWorld:Transhuman Relations.Springer International Publishing,Palgrave Macmillan,2020.

    [33]Vernor Vinge,The Coming Technological Singularity:How to Survive in the Post-Human Era,in Vision-21:InterdisciplinaryScienceandEngineeringintheEraof Cyberspace,Proceedings of a Symposium Cosponsored by the NASA Lewis Research Center and the Ohio Aero-space Institute,Westlake,Ohio,March 30-31,1993:11.https://ntrs.nasa.gov/archive/nasa/casi.ntrs.nasa.gov/19940022855.pdf.

    [34]Ray Kurzweil.TheSingularityIs Near:WhenHumansTranscendBiology.Viking Adult,2005.

    [35]Watch Elon Musk’s Neuralink Presentation.https://www.bilibili.com/video/BV1vJ411F7db/?spm_id_from=333.788.recommend_more_video.3.

    [36]Calum Chace.TheEconomicSingularity:ArtificialIntelligenceandtheDeath ofCapitalism.Three Cs.,2016.

    [37]Steven Hill.Raw Deal:How the“UberEconomy”andRunawayCapitalism AreScrewingAmericanWorkers.St.Martin’s Press,2015.

    [38]Averch,Harvey Allen.AStrategic AnalysisofScienceandTechnologyPolicy.Baltimore: Johns Hopkins University Press,1985.

    [39]Baum,Seth D.,Goertzel,Ben,and Goertzel,Ted G.“How Long Until Human-Level AI?Results from an Expert Assessment”,TechnologicalForecastingandSocial Change,2011,78(1):185-195.

    [40]Nick Bostrom.SuperIntelligence:Paths,Dangers,Strategies.Oxford University Press,2014.

    [41]Yorick Wilks.ArtificialIntelligence:ModernMagicorDangerousFuture?Icon Books,p.249.

    [42]Steven John Thompson.Machine Law,Ethics,andMoralityintheAgeofArtificialIntelligence.IGIGlobal,2021.

    [43]Piero Scaruffi.Intelligenceisnot Artificial:AHistoryofArtificialIntelligence andWhytheSingularityisnotComingany TimeSoon.Create Space Independent Publishing Platform,2018:351-352.

    [44]Rosi Braidotti.PosthumanKnowledge.Polity,2019:19.

    猜你喜歡
    奇點(diǎn)倫理人工智能
    《心之死》的趣味與倫理焦慮
    校中有笑
    校中有笑
    校中有笑
    奇點(diǎn)迷光(上)
    軍事文摘(2020年14期)2020-12-17 06:27:46
    護(hù)生眼中的倫理修養(yǎng)
    活力(2019年19期)2020-01-06 07:37:00
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    精品国产一区二区三区四区第35| 男男h啪啪无遮挡| 熟女少妇亚洲综合色aaa.| 久久午夜福利片| 国产黄色视频一区二区在线观看| 欧美在线黄色| 国产成人精品久久久久久| 日韩不卡一区二区三区视频在线| 一区二区三区四区激情视频| 久久精品夜色国产| av视频免费观看在线观看| 在线看a的网站| 国产97色在线日韩免费| 一级毛片我不卡| 久久久久久人妻| 18禁国产床啪视频网站| 午夜av观看不卡| 国产精品一区二区在线不卡| 精品国产超薄肉色丝袜足j| 午夜福利一区二区在线看| 高清黄色对白视频在线免费看| 性少妇av在线| 夜夜骑夜夜射夜夜干| 久久精品国产亚洲av天美| 免费大片黄手机在线观看| 亚洲美女黄色视频免费看| 国产黄色免费在线视频| 丰满乱子伦码专区| 青春草国产在线视频| 午夜福利一区二区在线看| 伊人亚洲综合成人网| 777米奇影视久久| 夜夜骑夜夜射夜夜干| 欧美日韩亚洲高清精品| 热99久久久久精品小说推荐| 两性夫妻黄色片| 成人影院久久| 天堂俺去俺来也www色官网| 国产色婷婷99| 久久久亚洲精品成人影院| 熟女少妇亚洲综合色aaa.| 在线 av 中文字幕| 另类亚洲欧美激情| 国产精品无大码| 久久午夜综合久久蜜桃| 如何舔出高潮| 国产高清不卡午夜福利| 又粗又硬又长又爽又黄的视频| av国产精品久久久久影院| 国产亚洲最大av| 黄频高清免费视频| 男女边摸边吃奶| 一区在线观看完整版| 国产一区亚洲一区在线观看| 激情五月婷婷亚洲| 久久久国产一区二区| 黄色怎么调成土黄色| 免费在线观看视频国产中文字幕亚洲 | 精品卡一卡二卡四卡免费| 美女福利国产在线| 国产精品99久久99久久久不卡 | 两个人免费观看高清视频| 日本免费在线观看一区| √禁漫天堂资源中文www| 777久久人妻少妇嫩草av网站| 国产精品香港三级国产av潘金莲 | 看非洲黑人一级黄片| 亚洲图色成人| 亚洲欧美一区二区三区国产| 国产精品免费视频内射| 国产亚洲一区二区精品| 国产亚洲一区二区精品| 自线自在国产av| 国产精品久久久av美女十八| 免费看av在线观看网站| 又粗又硬又长又爽又黄的视频| 一边亲一边摸免费视频| 亚洲欧洲日产国产| www.熟女人妻精品国产| 亚洲综合色惰| 老熟女久久久| 国产在线一区二区三区精| 午夜福利视频在线观看免费| 欧美老熟妇乱子伦牲交| 国产熟女欧美一区二区| 一级片'在线观看视频| a级毛片黄视频| 一区二区日韩欧美中文字幕| 免费观看a级毛片全部| av国产精品久久久久影院| 老汉色∧v一级毛片| 国产日韩欧美亚洲二区| www.熟女人妻精品国产| 国产亚洲最大av| 人人妻人人添人人爽欧美一区卜| 色播在线永久视频| 亚洲欧美日韩另类电影网站| 婷婷成人精品国产| 精品亚洲成a人片在线观看| 欧美黄色片欧美黄色片| 欧美xxⅹ黑人| 日韩不卡一区二区三区视频在线| 国产激情久久老熟女| 亚洲 欧美一区二区三区| 曰老女人黄片| 免费黄频网站在线观看国产| 麻豆av在线久日| 国产一区二区 视频在线| 久热久热在线精品观看| 亚洲欧美一区二区三区黑人 | 国产乱人偷精品视频| 午夜福利在线免费观看网站| 街头女战士在线观看网站| 日韩一卡2卡3卡4卡2021年| 久久热在线av| 亚洲欧美中文字幕日韩二区| 女人高潮潮喷娇喘18禁视频| 国产精品不卡视频一区二区| 国产女主播在线喷水免费视频网站| 99香蕉大伊视频| 亚洲内射少妇av| 日日爽夜夜爽网站| 激情视频va一区二区三区| 日韩精品免费视频一区二区三区| 老司机影院毛片| 日本av免费视频播放| av片东京热男人的天堂| 午夜免费鲁丝| 久久久国产欧美日韩av| 中文欧美无线码| 亚洲色图综合在线观看| 欧美在线黄色| 美女主播在线视频| 亚洲欧美中文字幕日韩二区| 深夜精品福利| 女人精品久久久久毛片| 韩国av在线不卡| 高清视频免费观看一区二区| 精品久久久久久电影网| 欧美日韩成人在线一区二区| 久久久国产一区二区| 免费观看性生交大片5| av又黄又爽大尺度在线免费看| 丝袜人妻中文字幕| 18禁裸乳无遮挡动漫免费视频| 两个人看的免费小视频| 免费观看无遮挡的男女| 免费观看无遮挡的男女| 91aial.com中文字幕在线观看| 国产成人91sexporn| 观看美女的网站| 侵犯人妻中文字幕一二三四区| 丝瓜视频免费看黄片| 亚洲男人天堂网一区| 国产 一区精品| 在线观看美女被高潮喷水网站| 欧美 日韩 精品 国产| 日韩,欧美,国产一区二区三区| 亚洲美女黄色视频免费看| www.精华液| 亚洲欧美一区二区三区久久| 99久久综合免费| 精品人妻偷拍中文字幕| 国产精品一国产av| 免费久久久久久久精品成人欧美视频| 亚洲欧美精品综合一区二区三区 | 亚洲av中文av极速乱| 高清不卡的av网站| 午夜免费观看性视频| 如日韩欧美国产精品一区二区三区| 美女福利国产在线| 欧美老熟妇乱子伦牲交| av片东京热男人的天堂| 国产一级毛片在线| 男女下面插进去视频免费观看| 美女xxoo啪啪120秒动态图| www.自偷自拍.com| 久久99精品国语久久久| 亚洲欧美一区二区三区久久| 人人妻人人爽人人添夜夜欢视频| 中文精品一卡2卡3卡4更新| 久久久久久免费高清国产稀缺| 久久精品人人爽人人爽视色| 搡老乐熟女国产| 老熟女久久久| 国产精品无大码| 高清欧美精品videossex| 国产精品不卡视频一区二区| 自拍欧美九色日韩亚洲蝌蚪91| 麻豆精品久久久久久蜜桃| 亚洲av电影在线进入| 国产男人的电影天堂91| av线在线观看网站| 亚洲精品,欧美精品| 欧美日韩国产mv在线观看视频| 亚洲精品久久成人aⅴ小说| 中文字幕人妻熟女乱码| 国产精品免费视频内射| 免费观看在线日韩| 91精品国产国语对白视频| 国产又爽黄色视频| 69精品国产乱码久久久| 亚洲精品第二区| 国产成人精品福利久久| av天堂久久9| 久久精品国产鲁丝片午夜精品| av网站免费在线观看视频| xxxhd国产人妻xxx| 亚洲视频免费观看视频| 国产一区亚洲一区在线观看| 亚洲国产欧美日韩在线播放| 岛国毛片在线播放| 精品人妻偷拍中文字幕| 老女人水多毛片| 看免费成人av毛片| 如日韩欧美国产精品一区二区三区| 国产精品 欧美亚洲| 美国免费a级毛片| 在线观看www视频免费| 两个人免费观看高清视频| 亚洲一码二码三码区别大吗| 免费播放大片免费观看视频在线观看| av在线播放精品| 老汉色∧v一级毛片| 美女高潮到喷水免费观看| 国产精品免费大片| 午夜福利视频在线观看免费| 亚洲欧洲国产日韩| 青春草国产在线视频| 中文字幕人妻丝袜制服| 色视频在线一区二区三区| 天天影视国产精品| 亚洲综合色惰| 国产欧美日韩一区二区三区在线| 只有这里有精品99| 人妻少妇偷人精品九色| 黑丝袜美女国产一区| 9色porny在线观看| 成年女人在线观看亚洲视频| 国产成人免费观看mmmm| 超碰97精品在线观看| 国产成人精品无人区| 久久韩国三级中文字幕| 精品少妇黑人巨大在线播放| 2018国产大陆天天弄谢| 日本91视频免费播放| 久久人人爽av亚洲精品天堂| 国产色婷婷99| 国产精品亚洲av一区麻豆 | 亚洲欧美色中文字幕在线| 免费观看a级毛片全部| 丝袜脚勾引网站| 久久国产精品大桥未久av| 久久热在线av| 考比视频在线观看| 欧美日韩亚洲国产一区二区在线观看 | 波多野结衣一区麻豆| 丝袜脚勾引网站| 99精国产麻豆久久婷婷| 久久国产亚洲av麻豆专区| 少妇的逼水好多| 性少妇av在线| 丝瓜视频免费看黄片| 青草久久国产| 久久久久网色| 成年美女黄网站色视频大全免费| 91精品伊人久久大香线蕉| 久久av网站| 国产成人精品婷婷| 涩涩av久久男人的天堂| 久久这里只有精品19| 成人二区视频| 亚洲精品,欧美精品| 亚洲欧美中文字幕日韩二区| 日本午夜av视频| 最近的中文字幕免费完整| av.在线天堂| 免费观看无遮挡的男女| 国产成人午夜福利电影在线观看| 国产亚洲欧美精品永久| 欧美在线黄色| 亚洲av.av天堂| 人妻系列 视频| 制服丝袜香蕉在线| 婷婷色综合www| 免费大片黄手机在线观看| 搡老乐熟女国产| 久久久国产欧美日韩av| 日日撸夜夜添| 飞空精品影院首页| 欧美激情高清一区二区三区 | 香蕉精品网在线| 国产成人精品福利久久| 中国三级夫妇交换| av在线播放精品| 激情视频va一区二区三区| 伦精品一区二区三区| 国产成人91sexporn| 亚洲欧美一区二区三区久久| 亚洲精品国产av蜜桃| 不卡视频在线观看欧美| 亚洲伊人久久精品综合| 国产精品熟女久久久久浪| 18禁国产床啪视频网站| 99香蕉大伊视频| 我要看黄色一级片免费的| 久久久国产精品麻豆| 日本爱情动作片www.在线观看| 午夜福利一区二区在线看| 国产成人精品婷婷| 美女中出高潮动态图| 国产97色在线日韩免费| 久久久国产欧美日韩av| 国产一区二区在线观看av| 18禁动态无遮挡网站| 欧美日韩成人在线一区二区| 热99国产精品久久久久久7| 人妻一区二区av| 亚洲综合色惰| 一本大道久久a久久精品| 久久久久久久久免费视频了| 精品少妇一区二区三区视频日本电影 | 免费人妻精品一区二区三区视频| 成人18禁高潮啪啪吃奶动态图| 亚洲美女搞黄在线观看| 中文字幕人妻丝袜制服| 一区二区三区乱码不卡18| 国产精品二区激情视频| 黑人欧美特级aaaaaa片| 少妇的逼水好多| √禁漫天堂资源中文www| 美女午夜性视频免费| 国产97色在线日韩免费| 精品亚洲乱码少妇综合久久| 精品久久久久久电影网| 乱人伦中国视频| 如日韩欧美国产精品一区二区三区| 最近的中文字幕免费完整| 交换朋友夫妻互换小说| 亚洲国产精品成人久久小说| 成人毛片a级毛片在线播放| 高清欧美精品videossex| 午夜福利在线免费观看网站| 性色avwww在线观看| 夫妻性生交免费视频一级片| 午夜老司机福利剧场| 久久久久久久久久久免费av| av卡一久久| 蜜桃在线观看..| 夫妻午夜视频| 赤兔流量卡办理| 一级毛片电影观看| 久久久精品免费免费高清| 午夜激情久久久久久久| 精品国产一区二区三区四区第35| 国产精品三级大全| 考比视频在线观看| 久久热在线av| 在线天堂中文资源库| 国产综合精华液| 亚洲男人天堂网一区| 久久久久人妻精品一区果冻| 18+在线观看网站| 日本午夜av视频| 国产人伦9x9x在线观看 | 欧美日韩av久久| 国产日韩欧美亚洲二区| 寂寞人妻少妇视频99o| 中文字幕最新亚洲高清| 女人高潮潮喷娇喘18禁视频| 超色免费av| 亚洲欧美清纯卡通| 午夜福利一区二区在线看| 亚洲欧洲国产日韩| 久久精品久久久久久久性| 欧美日韩成人在线一区二区| 丰满饥渴人妻一区二区三| 大香蕉久久成人网| 久久久久久久大尺度免费视频| 满18在线观看网站| 午夜福利视频精品| 免费高清在线观看日韩| 色播在线永久视频| 亚洲精品美女久久久久99蜜臀 | 欧美日韩一级在线毛片| 亚洲精品一区蜜桃| av又黄又爽大尺度在线免费看| 国产xxxxx性猛交| 久久久国产一区二区| 免费少妇av软件| 一边亲一边摸免费视频| 1024香蕉在线观看| 91在线精品国自产拍蜜月| 九草在线视频观看| 9191精品国产免费久久| 亚洲欧美精品自产自拍| 国产片特级美女逼逼视频| 人成视频在线观看免费观看| 国产日韩欧美视频二区| 欧美日韩视频精品一区| 成年av动漫网址| 日韩一卡2卡3卡4卡2021年| 丁香六月天网| av又黄又爽大尺度在线免费看| 韩国精品一区二区三区| 久久久久视频综合| 成人午夜精彩视频在线观看| 久久久久人妻精品一区果冻| 日韩,欧美,国产一区二区三区| 国产1区2区3区精品| 免费高清在线观看日韩| 老司机影院成人| 中文天堂在线官网| 性色av一级| av福利片在线| 午夜福利视频在线观看免费| 亚洲欧洲日产国产| 99re6热这里在线精品视频| 啦啦啦中文免费视频观看日本| 黄色配什么色好看| 亚洲精品国产av成人精品| 在线看a的网站| 一二三四在线观看免费中文在| 亚洲精品,欧美精品| 香蕉精品网在线| 亚洲国产av新网站| 亚洲美女搞黄在线观看| 少妇人妻 视频| videos熟女内射| 亚洲国产欧美在线一区| 1024香蕉在线观看| av在线播放精品| 老司机影院毛片| 亚洲av免费高清在线观看| 母亲3免费完整高清在线观看 | 欧美xxⅹ黑人| 韩国av在线不卡| 69精品国产乱码久久久| 91成人精品电影| 久久久国产一区二区| 免费看不卡的av| 黄色怎么调成土黄色| 亚洲成色77777| 最近手机中文字幕大全| 日韩av在线免费看完整版不卡| 热re99久久精品国产66热6| 最近中文字幕高清免费大全6| 亚洲在久久综合| 好男人视频免费观看在线| 国产免费福利视频在线观看| 国产乱来视频区| 免费观看a级毛片全部| 亚洲精品一区蜜桃| 日本猛色少妇xxxxx猛交久久| 国产不卡av网站在线观看| 91在线精品国自产拍蜜月| 色网站视频免费| 国产精品久久久久久精品电影小说| 丝袜人妻中文字幕| 久久人人97超碰香蕉20202| 成人国语在线视频| 热99久久久久精品小说推荐| 国精品久久久久久国模美| 国产高清不卡午夜福利| 欧美精品亚洲一区二区| 国产一区二区三区av在线| 老熟女久久久| 国产精品三级大全| 久久久久国产网址| 亚洲四区av| 国产极品天堂在线| 成人二区视频| 亚洲一级一片aⅴ在线观看| 一区福利在线观看| 久久精品久久精品一区二区三区| 叶爱在线成人免费视频播放| a级毛片黄视频| 国产一区二区三区av在线| 精品亚洲乱码少妇综合久久| 97在线视频观看| 成年人免费黄色播放视频| 午夜91福利影院| 黑丝袜美女国产一区| 国产精品久久久久久av不卡| 热99国产精品久久久久久7| 亚洲人成网站在线观看播放| 777米奇影视久久| 亚洲图色成人| 久久久久精品久久久久真实原创| 美女视频免费永久观看网站| 超色免费av| a 毛片基地| 天堂中文最新版在线下载| 大片免费播放器 马上看| 香蕉丝袜av| 一本久久精品| 亚洲精品自拍成人| 久久人人97超碰香蕉20202| 自拍欧美九色日韩亚洲蝌蚪91| 欧美黄色片欧美黄色片| 国语对白做爰xxxⅹ性视频网站| 一级片免费观看大全| 亚洲精品中文字幕在线视频| 色婷婷av一区二区三区视频| 赤兔流量卡办理| 一二三四中文在线观看免费高清| 久久99一区二区三区| 麻豆精品久久久久久蜜桃| 精品久久久久久电影网| 另类亚洲欧美激情| 亚洲婷婷狠狠爱综合网| 视频在线观看一区二区三区| 亚洲图色成人| 国产亚洲最大av| 国产成人精品在线电影| 一级a爱视频在线免费观看| 最黄视频免费看| 国产色婷婷99| 免费观看性生交大片5| 午夜福利在线观看免费完整高清在| 亚洲精品成人av观看孕妇| 精品一区二区三区四区五区乱码 | 亚洲色图综合在线观看| 在线看a的网站| 婷婷成人精品国产| 在线观看三级黄色| 国产欧美亚洲国产| 9热在线视频观看99| 日韩中字成人| 精品国产一区二区三区四区第35| 亚洲色图综合在线观看| 久久99一区二区三区| 97人妻天天添夜夜摸| 亚洲一区二区三区欧美精品| 久久久久久久国产电影| 免费av中文字幕在线| 亚洲成色77777| 亚洲精品成人av观看孕妇| 日本vs欧美在线观看视频| kizo精华| 又黄又粗又硬又大视频| 国产精品无大码| 免费少妇av软件| 啦啦啦中文免费视频观看日本| 永久免费av网站大全| 18禁动态无遮挡网站| 国产激情久久老熟女| 国产白丝娇喘喷水9色精品| 欧美精品亚洲一区二区| 日本wwww免费看| 蜜桃在线观看..| 中文字幕av电影在线播放| 夫妻性生交免费视频一级片| 亚洲欧洲精品一区二区精品久久久 | 五月开心婷婷网| 色播在线永久视频| 免费女性裸体啪啪无遮挡网站| 欧美人与性动交α欧美软件| 精品福利永久在线观看| 免费黄色在线免费观看| 18在线观看网站| 婷婷成人精品国产| 搡女人真爽免费视频火全软件| 波多野结衣av一区二区av| 日韩av免费高清视频| 久久亚洲国产成人精品v| 久久国内精品自在自线图片| 中文字幕人妻熟女乱码| 赤兔流量卡办理| 亚洲综合精品二区| 中文欧美无线码| 男人添女人高潮全过程视频| 国产精品久久久久久av不卡| 免费高清在线观看视频在线观看| 国产精品久久久av美女十八| 免费观看无遮挡的男女| 亚洲av中文av极速乱| 久久久国产欧美日韩av| av国产精品久久久久影院| 电影成人av| videos熟女内射| 日本爱情动作片www.在线观看| 欧美精品人与动牲交sv欧美| 亚洲少妇的诱惑av| 校园人妻丝袜中文字幕| 久久免费观看电影| 男女午夜视频在线观看| 最近中文字幕高清免费大全6| 一级片免费观看大全| 91成人精品电影| 一区二区三区四区激情视频| 亚洲av中文av极速乱| 国产成人精品一,二区| 啦啦啦视频在线资源免费观看| 这个男人来自地球电影免费观看 | 免费高清在线观看日韩| 另类精品久久| av网站在线播放免费| 国产精品一区二区在线观看99| 在线观看www视频免费| 国产男女内射视频| 美女脱内裤让男人舔精品视频| 国产精品久久久久久久久免| www.精华液| 欧美激情高清一区二区三区 | 亚洲经典国产精华液单| 天堂俺去俺来也www色官网| 熟女少妇亚洲综合色aaa.| 大陆偷拍与自拍| 美女视频免费永久观看网站| 丰满乱子伦码专区| 黄频高清免费视频| 日韩制服丝袜自拍偷拍| 黄片播放在线免费| 日韩一本色道免费dvd|