• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    工程視野下的腦計(jì)劃及其倫理問題思考

    2020-03-15 06:12:32
    關(guān)鍵詞:倫理大腦計(jì)劃

    林 玲

    “新興醫(yī)學(xué)工程倫理與治理”???/p>

    工程視野下的腦計(jì)劃及其倫理問題思考

    林 玲

    (北京協(xié)和醫(yī)學(xué)院 人文和社會(huì)科學(xué)學(xué)院,北京 100005)

    首先從工程哲學(xué)角度,剖析了作為一項(xiàng)生物醫(yī)藥工程的腦計(jì)劃的特點(diǎn),即科學(xué)性、系統(tǒng)性和多方合作,進(jìn)而比較了神經(jīng)科學(xué)技術(shù)和腦計(jì)劃的區(qū)別與聯(lián)系。其次,在國(guó)家層面比較了各國(guó)腦計(jì)劃的目標(biāo)及倫理關(guān)注點(diǎn),反思了腦計(jì)劃的道德含義、對(duì)個(gè)體自主性的影響,以及成果的雙重使用問題。最后提出,一是以腦計(jì)劃為代表的神經(jīng)工程哲學(xué)研究將成為工程哲學(xué)研究的新領(lǐng)域,二是通過建立倫理學(xué)工作小組的方式將倫理學(xué)融入到腦計(jì)劃中。

    腦計(jì)劃;工程哲學(xué);神經(jīng)倫理;雙重使用

    20世紀(jì)是神經(jīng)科學(xué)重大發(fā)現(xiàn)的輝煌時(shí)期,在頒發(fā)的諾貝爾生理/醫(yī)學(xué)獎(jiǎng)中,與神經(jīng)科學(xué)相關(guān)的有近20項(xiàng),占總獎(jiǎng)項(xiàng)的五分之一[1]。進(jìn)入21世紀(jì),建立在現(xiàn)代神經(jīng)科學(xué)基礎(chǔ)上的神經(jīng)技術(shù)逐漸應(yīng)用于各種退行性神經(jīng)疾病的治療之中,深部腦刺激技術(shù)用于減緩帕金森病患者的癥狀,腦機(jī)接口(BCIs)可幫助癱瘓患者通過自身大腦活動(dòng)直接控制計(jì)算機(jī),認(rèn)知增強(qiáng)技術(shù)也初見端倪[2]。神經(jīng)科學(xué)技術(shù)一體化的趨勢(shì)日益凸顯。此外,隨著腦科學(xué)及相應(yīng)的腦庫建設(shè),以及神經(jīng)技術(shù)與計(jì)算機(jī)技術(shù)、認(rèn)知科學(xué)的整合與會(huì)聚,神經(jīng)工程技術(shù)逐漸浮出水面。需要指出的是,雖然神經(jīng)科學(xué)研究及臨床應(yīng)用中的倫理問題已經(jīng)得到學(xué)界的重視和較為充分的討論[3-5], 但作為大型工程項(xiàng)目的腦計(jì)劃的倫理、社會(huì)、管理和哲學(xué)問題尚未得到應(yīng)有的重視和研究。本文將從工程哲學(xué)的角度研究腦計(jì)劃,主要探討腦計(jì)劃與神經(jīng)科學(xué)、神經(jīng)技術(shù)的關(guān)系,對(duì)各國(guó)腦計(jì)劃的研究目標(biāo)及領(lǐng)域進(jìn)行簡(jiǎn)要對(duì)比,分析腦計(jì)劃的特點(diǎn),并提出幾點(diǎn)倫理建議。

    1 腦計(jì)劃的特點(diǎn)

    相對(duì)于其他醫(yī)藥生物工程,腦計(jì)劃有其特殊之處。首先,其所涉及的科學(xué)、技術(shù)方面,相對(duì)于其他工程而言具有高度科學(xué)性。如果說醫(yī)藥生物工程與人類社會(huì)密切相關(guān),那么腦計(jì)劃則與人類本質(zhì)密切相關(guān)。神經(jīng)科學(xué)知識(shí)是對(duì)于大腦——人類最核心器官規(guī)律的探索,腦計(jì)劃的技術(shù)未來都將應(yīng)用于人類。腦計(jì)劃的實(shí)踐嚴(yán)格遵循科學(xué)性,需保持科學(xué)的觀念看待腦計(jì)劃科學(xué)性的升級(jí),保持科學(xué)的態(tài)度客觀評(píng)價(jià)腦計(jì)劃實(shí)踐中的不足與進(jìn)步。其次,腦計(jì)劃作為一項(xiàng)大體量的工程,具有以整體、動(dòng)態(tài)為特征的系統(tǒng)性。最后,腦計(jì)劃的實(shí)踐需要最廣泛的合作,涉及科學(xué)家、跨學(xué)科的學(xué)術(shù)團(tuán)體、政府及其機(jī)構(gòu)、私立機(jī)構(gòu)、產(chǎn)業(yè)公司、社會(huì)公眾,等等。

    1.1 高度科學(xué)性

    工程活動(dòng)必須建立在科學(xué)性的基礎(chǔ)之上,而腦計(jì)劃的實(shí)施更加需要神經(jīng)科學(xué)理論和知識(shí)的支撐。腦計(jì)劃是個(gè)極富挑戰(zhàn)的工程,不僅僅因?yàn)楣こ瘫旧砩婕吧窠?jīng)科學(xué)知識(shí)、神經(jīng)技術(shù),更是因?yàn)槿祟惔竽X的神秘。腦計(jì)劃可能是一個(gè)危險(xiǎn)的實(shí)踐活動(dòng),之所以說它危險(xiǎn),是因?yàn)槊鎸?duì)如此神秘而復(fù)雜的人類靈性的源泉,人類往往會(huì)感到無知與無助。在無知無助的情況下,人類的選擇往往就是屈服。腦計(jì)劃的每一個(gè)項(xiàng)目實(shí)施都是對(duì)于人類本質(zhì)的探索,希望發(fā)現(xiàn)人類何以為人的秘密。面對(duì)涉及因素眾多、關(guān)系復(fù)雜、規(guī)模宏大的腦計(jì)劃,必須依靠科學(xué)理論。

    腦計(jì)劃涉及眾多神經(jīng)科學(xué)的研究,而神經(jīng)科學(xué)是生物學(xué)領(lǐng)域中最復(fù)雜的領(lǐng)域之一,神經(jīng)科學(xué)意圖理解精神、智力活動(dòng)的生物學(xué)基礎(chǔ)。神經(jīng)科學(xué)家想理解發(fā)育過程中形成的神經(jīng)回路是如何使生物體可以感受外部的環(huán)境、形成記憶,以及相關(guān)經(jīng)驗(yàn)是如何來指導(dǎo)行為的;神經(jīng)科學(xué)家還想理解情緒的生物學(xué)基礎(chǔ),理解情緒怎樣豐富我們的日常生活;以及在憂郁癥、狂燥癥、精神分裂和老年癡呆等病理?xiàng)l件下,個(gè)體如何失控。

    對(duì)于神經(jīng)科學(xué)的研究,學(xué)者們采用兩個(gè)截然不同的思路:還原論和整體論。兩種思路都有不可避免的缺點(diǎn),但是在神經(jīng)科學(xué)發(fā)展的歷史上也都曾取得了重大的成就。1)還原論:該方法試圖通過研究單個(gè)分子、細(xì)胞或回路等神經(jīng)系統(tǒng)基礎(chǔ)元素的特性來理解神經(jīng)系統(tǒng)。主要的研究成果包括了解神經(jīng)信號(hào)傳遞的基本分子機(jī)制,單個(gè)神經(jīng)元?jiǎng)幼麟娢坏男盘?hào)傳遞,神經(jīng)元之間突觸傳遞等。2)整體論:從研究功能入手來理解神經(jīng)系統(tǒng),研究神經(jīng)系統(tǒng)的活動(dòng)如何調(diào)節(jié)行為或者影響行為。主要的研究成果為采用選擇性損毀特定腦區(qū)的方法來分析行為的變化,例如損毀不同的腦區(qū)導(dǎo)致不同的認(rèn)知障礙。

    腦計(jì)劃的實(shí)踐需要遵循神經(jīng)科學(xué)的規(guī)律,同時(shí)要注意到基于人類大腦的復(fù)雜性,當(dāng)前神經(jīng)科學(xué)的發(fā)展存在缺陷。高度科學(xué)性不僅指的是腦計(jì)劃必須有科學(xué)理論的保證,更是一種隨著神經(jīng)科學(xué)技術(shù)的不斷進(jìn)步,時(shí)刻更新知識(shí)、技術(shù)的科學(xué)觀念;也是對(duì)于腦計(jì)劃實(shí)踐過程中的問題,一種客觀評(píng)估其優(yōu)點(diǎn)與不足的科學(xué)態(tài)度。

    1.2 系統(tǒng)性

    腦計(jì)劃是體現(xiàn)工程活動(dòng)集成創(chuàng)新、系統(tǒng)協(xié)作的極佳案例之一,需要基于目前已有的科學(xué)知識(shí),結(jié)合多學(xué)科的力量,打破常規(guī)的學(xué)科界限?;谏窠?jīng)科學(xué)、神經(jīng)技術(shù)及其他學(xué)科領(lǐng)域共同構(gòu)建的腦計(jì)劃,涉及的理論知識(shí)豐富、技術(shù)種類繁多,同時(shí)這些知識(shí)、理論相互交叉。除了傳統(tǒng)的神經(jīng)科學(xué),腦計(jì)劃還涉及物理、數(shù)學(xué)、統(tǒng)計(jì)學(xué)、工程學(xué)、化學(xué)、納米技術(shù)和計(jì)算機(jī)科學(xué)等領(lǐng)域??商接懮窠?jīng)刺激與調(diào)控、神經(jīng)檢測(cè)與成像、神經(jīng)假體、神經(jīng)再生與修復(fù)、生化智能機(jī)器人等議題[6]。

    腦計(jì)劃的系統(tǒng)性是將腦計(jì)劃的研究?jī)?nèi)容、領(lǐng)域,以腦計(jì)劃目標(biāo)為核心,根據(jù)腦計(jì)劃的邏輯統(tǒng)一性、功能依存性等要求,協(xié)調(diào)存在于腦計(jì)劃整體之中。例如歐盟腦計(jì)劃通過12個(gè)子項(xiàng)目的組合,分步驟多階段開展腦計(jì)劃,基于腦計(jì)劃整個(gè)系統(tǒng)的綜合集成,創(chuàng)新性地構(gòu)建大腦研究的基礎(chǔ)設(shè)施。腦計(jì)劃的系統(tǒng)性是動(dòng)態(tài)的,基于外界環(huán)境的變化以及腦計(jì)劃運(yùn)行的情況做出相應(yīng)的改變,這種動(dòng)態(tài)性在腦計(jì)劃中的表現(xiàn)也十分突出。腦計(jì)劃是一項(xiàng)耗資數(shù)億乃至數(shù)十億美元、周期長(zhǎng)達(dá)10年的大體量工程,隨著計(jì)劃的實(shí)施和運(yùn)行,需要階段性地進(jìn)行評(píng)估和調(diào)整。例如美國(guó)腦計(jì)劃在2013年4月提出后,隨著計(jì)劃的開展于2014年提出具體的7個(gè)研究領(lǐng)域,同時(shí)將10年的計(jì)劃周期延長(zhǎng)至2025年,細(xì)化為2個(gè)階段,每個(gè)階段各5年。

    1.3 全社會(huì)廣泛合作

    腦計(jì)劃作為一項(xiàng)全球性事業(yè),需要國(guó)際研究團(tuán)體之間的合作。各個(gè)國(guó)家的腦計(jì)劃陸續(xù)展開,但開展過程中發(fā)現(xiàn)進(jìn)展不如設(shè)想的迅速,因此2016年神經(jīng)科學(xué)界明確表示需要加強(qiáng)各計(jì)劃之間的協(xié)調(diào),并為此舉辦了一系列研討會(huì)和會(huì)議,其中就包括2016年9月在洛克菲勒大學(xué)舉行的“協(xié)調(diào)全球腦計(jì)劃”會(huì)議。2017年成立國(guó)際腦計(jì)劃組織(International Brain Initiative,IBI),包括美國(guó)、澳大利亞、日本、歐盟、韓國(guó)和中國(guó),該組織主要用于協(xié)調(diào)現(xiàn)有的和正在出現(xiàn)的國(guó)家和地區(qū)的協(xié)調(diào)組織,促進(jìn)全球腦計(jì)劃之間的互動(dòng)。由科學(xué)家推動(dòng)科學(xué)家,能夠廣泛利用腦計(jì)劃的資源,并鼓勵(lì)協(xié)作和信息共享[7]。

    除了科學(xué)團(tuán)體的合作以外,腦計(jì)劃也需要社會(huì)各界機(jī)構(gòu)的支持,如私人和公共資助機(jī)構(gòu)、產(chǎn)業(yè)團(tuán)體、政府及其相關(guān)組織機(jī)構(gòu)、社會(huì)民眾。例如美國(guó)腦計(jì)劃的公共部門和私立機(jī)構(gòu)已經(jīng)聯(lián)合起來,包括聯(lián)邦機(jī)構(gòu)、國(guó)家科學(xué)基金會(huì)(NSF)、食品和藥物管理局(FDA)、國(guó)防高級(jí)研究計(jì)劃局(DARPA)和情報(bào)高級(jí)研究項(xiàng)目機(jī)構(gòu)(IARPA),以及私營(yíng)企業(yè)、慈善家、非營(yíng)利組織、基金會(huì)、學(xué)院和大學(xué)。同時(shí)隨著腦計(jì)劃的開展,迫切需要征求社會(huì)各界對(duì)于具體項(xiàng)目的意見及建議,多角度、多維度、綜合性地評(píng)估腦計(jì)劃。因?yàn)槟X計(jì)劃不同于技術(shù),在腦計(jì)劃中不但有技術(shù)要素,而且有管理、經(jīng)濟(jì)、制度、社會(huì)、倫理等要素[8]。加拿大腦計(jì)劃開展跨學(xué)科的大腦研究,涵蓋了物理學(xué)、計(jì)算科學(xué)、人類學(xué)、社會(huì)學(xué)、經(jīng)濟(jì)學(xué)等;韓國(guó)腦計(jì)劃除了神經(jīng)系統(tǒng)相關(guān)疾病的治療外,還加強(qiáng)了人工智能研發(fā),鼓勵(lì)公眾參與。

    2 工程視野下的腦計(jì)劃

    2.1 作為工程項(xiàng)目的腦計(jì)劃

    工程是指人類創(chuàng)造和構(gòu)建人工實(shí)在的一種有組織的社會(huì)實(shí)踐活動(dòng)過程與結(jié)果,它主要是指認(rèn)識(shí)自然和改造世界的“有形”的人類實(shí)踐活動(dòng)[9]。按理,醫(yī)藥生物工程就是一種借助現(xiàn)代科學(xué)技術(shù)來認(rèn)識(shí)疾病發(fā)生、發(fā)展規(guī)律,以及相應(yīng)的診斷、治療和康復(fù)手段、檢測(cè)試劑、疫苗、藥品、醫(yī)療服務(wù)的科研開發(fā)、應(yīng)用過程和結(jié)果。按此定義,腦計(jì)劃就是一項(xiàng)復(fù)雜的有組織的醫(yī)學(xué)工程。腦計(jì)劃是在神經(jīng)精神領(lǐng)域運(yùn)用科學(xué)、技術(shù)進(jìn)行的一項(xiàng)社會(huì)實(shí)踐活動(dòng),其最終產(chǎn)出為人類神經(jīng)精神疾病的減少、人類的健康。腦計(jì)劃在設(shè)計(jì)、實(shí)施和應(yīng)用過程中,不僅僅依靠不同學(xué)科的科學(xué)技術(shù),還需要借助政府、科研機(jī)構(gòu)、國(guó)際組織、各類社會(huì)團(tuán)體、公眾的參與和推進(jìn)。腦計(jì)劃的實(shí)踐從大腦、神經(jīng)系統(tǒng)的路徑切入,同時(shí)腦計(jì)劃還涉及電子信息工程等其他工程領(lǐng)域,最終目標(biāo)是通過理解人類的大腦——最復(fù)雜的人類器官,促進(jìn)人類健康。

    2.2 神經(jīng)科學(xué)技術(shù)和腦計(jì)劃的區(qū)別與聯(lián)系

    從科學(xué)、技術(shù)、工程的區(qū)別來看,神經(jīng)科學(xué)、神經(jīng)技術(shù)、神經(jīng)工程是三類不同類型的社會(huì)實(shí)踐活動(dòng),三者的性質(zhì)、目標(biāo)完全不同。神經(jīng)科學(xué)是以發(fā)現(xiàn)為核心,對(duì)神經(jīng)系統(tǒng)和大腦本質(zhì)及其運(yùn)行規(guī)律的探索活動(dòng),其目的是探尋自然規(guī)律,解釋神智活動(dòng)的生物學(xué)機(jī)制,例如神經(jīng)生物學(xué)研究神經(jīng)系統(tǒng)的結(jié)構(gòu)、功能、發(fā)育、演化等。神經(jīng)技術(shù)是以發(fā)明創(chuàng)造為核心的活動(dòng),將發(fā)明應(yīng)用于神經(jīng)科學(xué)領(lǐng)域的方法、工具、設(shè)備、儀器等,其追求新的構(gòu)思,可恢復(fù)或改變神經(jīng)系統(tǒng)的功能,也將其應(yīng)用于開展神經(jīng)科學(xué)研究從而產(chǎn)生新的神經(jīng)科學(xué)知識(shí)。例如在小鼠及猴等動(dòng)物模型上實(shí)現(xiàn)的腦移植手術(shù),在臨床上已經(jīng)獲準(zhǔn)應(yīng)用于部分疾病的神經(jīng)刺激技術(shù)。腦計(jì)劃是以構(gòu)建、運(yùn)行及集成創(chuàng)新為核心的一項(xiàng)社會(huì)實(shí)踐活動(dòng),按照社會(huì)需要設(shè)計(jì)造物、構(gòu)筑與協(xié)調(diào)運(yùn)行,追求一定邊界條件下的集成優(yōu)化和綜合優(yōu)化。腦計(jì)劃的目的是創(chuàng)造物,同時(shí)創(chuàng)造物的過程也是腦計(jì)劃的一部分。因此,腦計(jì)劃本身就是一個(gè)復(fù)雜的神經(jīng)工程。

    神經(jīng)科學(xué)、神經(jīng)技術(shù)、腦計(jì)劃三者之間有著關(guān)聯(lián)性。神經(jīng)科學(xué)是腦計(jì)劃的理論基礎(chǔ)。正確運(yùn)用神經(jīng)科學(xué)所產(chǎn)生的知識(shí)是腦計(jì)劃順利實(shí)施的基本條件,只有符合神經(jīng)科學(xué)的基本原則和定律,才能不斷推進(jìn)腦計(jì)劃;違背神經(jīng)科學(xué)的規(guī)律,腦計(jì)劃將功虧一簣。并且腦計(jì)劃的實(shí)施也促進(jìn)新的神經(jīng)科學(xué)知識(shí)的構(gòu)建,區(qū)別于其他更偏重物質(zhì)形態(tài)構(gòu)建的工程,腦計(jì)劃構(gòu)建的主要成果之一是一種更偏重知識(shí)形態(tài)的大腦功能的精確描繪。腦計(jì)劃與神經(jīng)技術(shù)有著密切聯(lián)系,美國(guó)、日本的腦計(jì)劃都將推動(dòng)神經(jīng)技術(shù)、整合神經(jīng)技術(shù)作為腦計(jì)劃的主要研究領(lǐng)域,可見兩者之間的聯(lián)系非常緊密。但神經(jīng)技術(shù)與腦計(jì)劃的區(qū)別仍舊客觀存在。神經(jīng)技術(shù)是腦計(jì)劃的基本要素,若干神經(jīng)技術(shù)構(gòu)成腦計(jì)劃的基本結(jié)構(gòu),神經(jīng)技術(shù)是腦計(jì)劃中技術(shù)要素的主要構(gòu)成之一。對(duì)于腦計(jì)劃來說,獨(dú)立的神經(jīng)技術(shù)意義不大,重要之處在于有序、有效的合理集成,將其有機(jī)整合為腦計(jì)劃的內(nèi)核,神經(jīng)技術(shù)的有機(jī)整合是腦計(jì)劃集成構(gòu)建的關(guān)鍵部分,是構(gòu)建其他存在物的基礎(chǔ)。

    3 國(guó)際腦計(jì)劃對(duì)比

    3.1 腦計(jì)劃的目標(biāo)比較

    人口老齡化、人類疾病譜的改變,促使各國(guó)對(duì)于“大腦”這個(gè)神秘未知進(jìn)行系統(tǒng)性地探索與嘗試,催生了多種國(guó)家層面的腦計(jì)劃項(xiàng)目。2013年4月美國(guó)啟動(dòng)了“通過推動(dòng)創(chuàng)新型神經(jīng)技術(shù)開展大腦研究”計(jì)劃(BRAIN Initiative),其主要目標(biāo)是開發(fā)創(chuàng)新技術(shù)來探究腦細(xì)胞和神經(jīng)回路如何以思維的速度相互作用,研究大腦的工作機(jī)制,并最終揭示大腦功能和行為之間的復(fù)雜聯(lián)系。美國(guó)的腦計(jì)劃側(cè)重于發(fā)明新的腦科學(xué)研究技術(shù),鼓勵(lì)使用多種技術(shù)開展腦計(jì)劃,有7個(gè)領(lǐng)域優(yōu)先給予資金支持[10]。雖說在規(guī)模上比不上20世紀(jì)的曼哈頓計(jì)劃、阿波羅登月計(jì)劃和人類基因組計(jì)劃,但美國(guó)的這項(xiàng)腦計(jì)劃頂層設(shè)計(jì)周全、涉及面廣泛,突出了學(xué)科間的交叉互動(dòng),以便達(dá)到最優(yōu)的科學(xué)價(jià)值。2013 年 10月歐盟腦計(jì)劃啟動(dòng),旨在了解人類大腦,并將神經(jīng)科學(xué)知識(shí)轉(zhuǎn)化為醫(yī)學(xué)和技術(shù)。該計(jì)劃注重探索大腦在時(shí)間和空間上的多層次復(fù)雜性,將知識(shí)轉(zhuǎn)化為在健康、計(jì)算等方面的衍生應(yīng)用。側(cè)重于通過建立腦計(jì)劃研究基礎(chǔ)設(shè)施——詳細(xì)的神經(jīng)網(wǎng)路模型,提供開放、共享的計(jì)算工具和數(shù)據(jù)。該計(jì)劃使用大規(guī)模、跨學(xué)科的研究方法,由12個(gè)子項(xiàng)目組成,例如小鼠大腦組織、人類大腦組織、高性能分析與計(jì)算、倫理與社會(huì)等[11]。2016年2月,澳大利亞啟動(dòng)澳大利亞腦計(jì)劃,目標(biāo)是探索神經(jīng)系統(tǒng)如何產(chǎn)生、編碼、檢索信息、影響復(fù)雜的行為、應(yīng)對(duì)內(nèi)部和外部的變化,有4個(gè)研究?jī)?nèi)容,例如創(chuàng)建腦機(jī)接口,通過記錄和控制大腦活動(dòng)從而恢復(fù)功能;了解全生命周期學(xué)習(xí)的神經(jīng)基礎(chǔ)等[12]。2015年加拿大腦科學(xué)家建立腦科學(xué)研究戰(zhàn)略,其目標(biāo)是整合加拿大目前的研究基礎(chǔ)和研究特長(zhǎng)以用于頂尖的神經(jīng)科學(xué)研究,將研究成果用于改善加拿大人的神經(jīng)和精神健康,計(jì)劃包含4個(gè)目標(biāo):例如加速了解大腦的機(jī)制,并將其用于解決大腦和精神衛(wèi)生領(lǐng)域;確定加拿大神經(jīng)科學(xué)、精神衛(wèi)生戰(zhàn)略和投資的目標(biāo)等[13]。

    美國(guó)和歐盟作為西方國(guó)家中腦計(jì)劃的最先啟動(dòng)者,在科技發(fā)展理念上構(gòu)思新穎,在戰(zhàn)略布局上更加系統(tǒng)和完整。美國(guó)制定了7個(gè)優(yōu)先給予資金支持的領(lǐng)域[14],歐盟通過構(gòu)建12個(gè)子項(xiàng)目來完成目標(biāo)。同時(shí)先驅(qū)者美國(guó)正在逐步推進(jìn)腦計(jì)劃,截至2018年,美國(guó)NIH已經(jīng)資助了500多名主要研究人員,他們發(fā)表了數(shù)百份描述新工具、方法和發(fā)現(xiàn)的出版物,涵蓋腦計(jì)劃的7個(gè)重點(diǎn)領(lǐng)域。

    2014年日本腦計(jì)劃啟動(dòng),其目標(biāo)是利用非人類的靈長(zhǎng)類動(dòng)物模型——普通狨猴,繪制神經(jīng)回路結(jié)構(gòu)和功能的地圖。該計(jì)劃側(cè)重于發(fā)現(xiàn)與神經(jīng)和精神疾病表型對(duì)應(yīng)的神經(jīng)回路,了解這些疾病的發(fā)展進(jìn)程,尤其是神經(jīng)退行性疾病的研究。其研究領(lǐng)域有3個(gè),例如非人類的靈長(zhǎng)類動(dòng)物的大腦(狨猴大腦)結(jié)構(gòu)和功能映射[15]。2016年5月韓國(guó)腦計(jì)劃啟動(dòng),目標(biāo)是促進(jìn)神經(jīng)科學(xué)的發(fā)展,使人們能夠科學(xué)地理解大腦高級(jí)功能的原理,從而繪制健康大腦和病變大腦的動(dòng)態(tài)圖像,包括4個(gè)研究?jī)?nèi)容:1)在多個(gè)維度構(gòu)建大腦圖譜;2)開發(fā)用于大腦繪圖的創(chuàng)新神經(jīng)技術(shù);3)加強(qiáng)人工智能的相關(guān)研發(fā);4)開發(fā)神經(jīng)系統(tǒng)疾病的個(gè)性化醫(yī)療[16]。2016 年中國(guó)“腦科學(xué)與類腦研究”為“十三五”規(guī)劃綱要所確定的重大科技創(chuàng)新項(xiàng)目和工程之一,也是科技創(chuàng)新“2030 重大項(xiàng)目”中已啟動(dòng)的 4 個(gè)試點(diǎn)之一,進(jìn)入編制項(xiàng)目實(shí)施方案階段。我國(guó)腦計(jì)劃以探索大腦認(rèn)知原理的基礎(chǔ)研究為主體,以發(fā)展類腦人工智能的計(jì)算技術(shù)和器件及研發(fā)腦重大疾病的診斷干預(yù)手段為應(yīng)用導(dǎo)向[17]。

    對(duì)比中日韓,日本和韓國(guó)都制定了相對(duì)明確的研究計(jì)劃,希望通過數(shù)個(gè)研究領(lǐng)域的逐步推進(jìn),實(shí)現(xiàn)其研究目標(biāo)。中國(guó)已將腦計(jì)劃納入國(guó)家重大科技創(chuàng)新項(xiàng)目和工程,下一步將會(huì)針對(duì)腦計(jì)劃規(guī)劃指定更加具體的研究目標(biāo)及方案。

    3.2 國(guó)際腦計(jì)劃倫理關(guān)注點(diǎn)分析

    各國(guó)都將倫理納入了腦計(jì)劃的考量之中,例如歐盟腦計(jì)劃有倫理與社會(huì)子項(xiàng)目,美國(guó)在NIH成立了腦計(jì)劃的倫理小組。但各國(guó)腦計(jì)劃由于研究目標(biāo)的差異,其倫理關(guān)注點(diǎn)各有側(cè)重。美國(guó)腦計(jì)劃的重點(diǎn)在于發(fā)明新的腦科學(xué)研究技術(shù),這就涉及兩個(gè)方面,一是如何符合倫理地進(jìn)行科學(xué)研究,從研究目的、研究設(shè)計(jì)、研究結(jié)果的解釋,探索出具備倫理性的腦計(jì)劃科學(xué)研究模式;二是如何符合倫理地應(yīng)用新的腦計(jì)劃科學(xué)研究技術(shù),新技術(shù)的應(yīng)用需要進(jìn)行風(fēng)險(xiǎn)受益的分析,包括何種情境、何種使用者、如何使用,進(jìn)行特異性的倫理評(píng)估。

    歐盟和澳大利亞的腦計(jì)劃,主要涉及大腦相關(guān)數(shù)據(jù)的挖掘,歐盟通過建立腦計(jì)劃研究基礎(chǔ)設(shè)施,提供開放、共享的計(jì)算工具和數(shù)據(jù);澳大利亞探索神經(jīng)系統(tǒng)如何產(chǎn)生、編碼、檢索信息,以及其如何影響復(fù)雜的行為等。其倫理關(guān)注點(diǎn)更多在于大腦數(shù)據(jù),如何符合倫理地收集、使用、共享等。例如大腦數(shù)據(jù)在研究以外的二次利用,大腦數(shù)據(jù)的國(guó)際共享等。再者,大腦數(shù)據(jù)轉(zhuǎn)換為信息,這些涉及個(gè)體深層次信息的隱私保護(hù),如何采用有效的措施在數(shù)據(jù)共享和隱私保護(hù)之間保持平衡。

    毫無疑問,各國(guó)腦計(jì)劃都關(guān)注大腦工作機(jī)制中涉及人類疾病與健康相關(guān)的部分,例如神經(jīng)元活動(dòng)如何轉(zhuǎn)換為與疾病和健康相關(guān)的認(rèn)知、情感、感知和行為方式,神經(jīng)精神疾病的診斷、治療。加拿大和日本將大腦疾病的研究作為腦計(jì)劃的首要目標(biāo),加拿大致力于改善神經(jīng)與精神健康狀況,日本探索神經(jīng)退行性疾病。腦計(jì)劃的開展將拓寬或是根本性改變個(gè)體、群體、人類對(duì)于疾病的認(rèn)知。正如人們對(duì)于麻風(fēng)病的認(rèn)識(shí)一樣,陷入污名化或是擺脫社會(huì)污名都有一個(gè)過程。

    4 腦計(jì)劃引發(fā)的倫理問題思考

    工程活動(dòng)作為人類一項(xiàng)最基本的社會(huì)實(shí)踐活動(dòng),涉及許多的倫理問題,腦計(jì)劃也不例外。多數(shù)國(guó)家的腦計(jì)劃都設(shè)置了涉及倫理相關(guān)的機(jī)構(gòu)、工作組等,例如美國(guó)專門設(shè)立了由倫理學(xué)家和神經(jīng)科學(xué)家組成的工作組,共同研究神經(jīng)倫理問題,提供倫理建議,實(shí)質(zhì)性地參與到美國(guó)腦計(jì)劃之中。腦計(jì)劃深刻地影響人們的生存、生活,這是腦計(jì)劃的意義之所在,也是它必須受到倫理評(píng)價(jià)和接受倫理考量的根據(jù),同時(shí)腦計(jì)劃涉及的倫理問題也有區(qū)別于其他工程的特殊之處。

    4.1 腦計(jì)劃的道德意蘊(yùn)

    意識(shí)研究作為腦計(jì)劃努力描述和理解人類大腦、進(jìn)一步提高我們關(guān)于“人類”知識(shí)的目標(biāo)之一,在腦計(jì)劃中占有非常重要的地位。意識(shí)研究也是解決人類、動(dòng)物,甚至是機(jī)器,這些不同種類“物種”道德意義問題的關(guān)鍵。物質(zhì)與意識(shí)的關(guān)系,自17世紀(jì)笛卡爾就已經(jīng)提出自己的觀點(diǎn),當(dāng)前仍有不少哲學(xué)家在討論。在腦計(jì)劃不同的研究小組中,包括實(shí)證研究、理論研究、臨床研究等,從系統(tǒng)認(rèn)知神經(jīng)科學(xué)、理論神經(jīng)科學(xué)到神經(jīng)倫理學(xué)等,都在開展意識(shí)研究。神經(jīng)科學(xué)家研發(fā)測(cè)量意識(shí)水平的新方法,期望在臨床上用于診斷和治療意識(shí)障礙患者,如持久性植物狀態(tài)、最小意識(shí)狀態(tài)、閉鎖綜合征的患者。隨著人們對(duì)于意識(shí)探測(cè)能力的增強(qiáng),我們需要重新去反思醫(yī)療實(shí)踐,如果這些患者并不存在意識(shí),那么如何看待針對(duì)這些患者的臨終關(guān)懷,能否使用意識(shí)探測(cè)的結(jié)果來判定個(gè)體死亡?如果動(dòng)物也有意識(shí),我們或許需要重新思考笛卡爾的觀點(diǎn),動(dòng)物與人的差異,人類何以具有優(yōu)越性?隨著腦計(jì)劃的開展,神經(jīng)技術(shù)的進(jìn)步會(huì)進(jìn)一步拓展人類對(duì)于意識(shí)、自由等觀念的認(rèn)識(shí),人與動(dòng)物的差異不僅在于意識(shí)的存在,語言使用、社會(huì)交往也起著非常關(guān)鍵的作用。意識(shí)探測(cè)作為提升意識(shí)障礙患者診斷質(zhì)量的工具[18],可用于區(qū)分患者自主意識(shí)和非自主反應(yīng),對(duì)于是否能夠用于判斷個(gè)體死亡,需要更細(xì)致地研究其診斷標(biāo)準(zhǔn)的可靠性。

    腦計(jì)劃與計(jì)算機(jī)科學(xué)的結(jié)合,不斷刷新人們對(duì)于意識(shí)的理解,人工構(gòu)建的大腦未來是否應(yīng)該發(fā)展出意識(shí),意識(shí)與人工智能之間存在相關(guān)性。例如歐盟腦計(jì)劃使用研究數(shù)據(jù)以及現(xiàn)有的認(rèn)知行為模型,將脈沖神經(jīng)網(wǎng)絡(luò)和虛擬/真實(shí)機(jī)器人相連接構(gòu)建神經(jīng)機(jī)器人平臺(tái)。連接是否成功依賴于神經(jīng)科學(xué)的發(fā)展,例如視覺控制的大腦機(jī)制已相對(duì)完善,使得其轉(zhuǎn)化為視覺機(jī)器人的可能性更高;而對(duì)于行為、意識(shí)的模式相對(duì)未知,其神經(jīng)機(jī)器人的轉(zhuǎn)化難度相對(duì)大。腦計(jì)劃的實(shí)施首先會(huì)應(yīng)用于腦功能受損個(gè)體,未來或許會(huì)創(chuàng)造新的具有意識(shí)的機(jī)器人個(gè)體。前者的模擬神經(jīng)機(jī)器人和后者的仿真神經(jīng)機(jī)器人,兩者的區(qū)別在于哪里,界限該如何劃分,神經(jīng)機(jī)器人是否具有道德地位?笛卡爾式樂于從二元對(duì)立的角度分析人的精神與肉體,人與其他物體的區(qū)別,但如果使用關(guān)系式的方法,將道德地位作為主體如何與現(xiàn)實(shí)相聯(lián)系并如何應(yīng)對(duì)的實(shí)際問題[19],在討論腦計(jì)劃所創(chuàng)造的機(jī)器人時(shí)將更加具有操作性。機(jī)器人的道德地位很大程度上取決于作為主體的人類如何看待他們,如何與之相處。

    4.2 腦計(jì)劃對(duì)個(gè)體自主性的影響

    腦計(jì)劃的目標(biāo)之一是通過神經(jīng)技術(shù)的發(fā)展,減輕大腦相關(guān)疾病的癥狀,乃至增強(qiáng)大腦的功能。但這些神經(jīng)干預(yù)可能改變我們的認(rèn)知和情感,影響自主性和身份認(rèn)同,甚至最終改變我們對(duì)“人類”的看法,神經(jīng)倫理學(xué)對(duì)此有著激烈的爭(zhēng)論。腦機(jī)接口技術(shù)用于神經(jīng)康復(fù),因疾病或意外傷害失去運(yùn)動(dòng)功能的患者,通過該技術(shù)重新獲得“移動(dòng)”的能力。腦機(jī)接口、機(jī)器人、深部腦刺激等技術(shù)是否會(huì)減少個(gè)體自主性,人格同一性是否改變?

    哲學(xué)上對(duì)于人格同一性的討論一直在進(jìn)行,判斷人格是否具有同一性的標(biāo)準(zhǔn)主要有2類:1)軀體標(biāo)準(zhǔn):把軀體的同一等同于人格的同一;2)心理標(biāo)準(zhǔn):人格的同一應(yīng)由包括記憶在內(nèi)的信念、意向、目的、欲望等心理連續(xù)性內(nèi)容共同構(gòu)成。從心理標(biāo)準(zhǔn)來看,因?yàn)榇嬖谟洃浀倪B續(xù)性,使用腦機(jī)接口者的人格同一性并沒有發(fā)生變化。但從軀體標(biāo)準(zhǔn)來看,使用腦機(jī)接口者不是使用前的那個(gè)人,他們是生物上不相同的兩個(gè)人。這是對(duì)于腦機(jī)接口使用者人格同一性改變的簡(jiǎn)要分析,但隨著判定標(biāo)準(zhǔn)的改變、技術(shù)類型的差異,腦計(jì)劃對(duì)人類自主性的可能影響,以及什么使我們成為一般意義上的人類,需要對(duì)于主體、人性、身份等進(jìn)行更為細(xì)致的哲學(xué)分析。

    4.3 腦計(jì)劃成果的雙重使用

    雙重使用(dual use),指的是根據(jù)目前的了解,可以合理地預(yù)計(jì)所提供的研究知識(shí)、產(chǎn)品,或針對(duì)市場(chǎng)營(yíng)銷制定相應(yīng)的營(yíng)銷和廣告策略,使消費(fèi)者更易接受廣告信息。未來或許軍隊(duì)可以獲取已經(jīng)整合完成的大腦數(shù)據(jù)信息,調(diào)取士兵的信念信息,掌控軍人的忠誠度。神經(jīng)科學(xué)家使用fMRI技術(shù)可發(fā)現(xiàn)具有暴力和破壞性傾向的個(gè)體與正常個(gè)體的大腦所具有的越來越多的結(jié)構(gòu)和功能的差異,這些差異是否會(huì)影響司法實(shí)踐?

    腦計(jì)劃的雙重使用,是一個(gè)無法回避的問題。一是由于腦計(jì)劃采用開放的方式,數(shù)據(jù)共享、技術(shù)交流互通、科學(xué)共同體協(xié)作、全社會(huì)合作,即使基于禁止非醫(yī)學(xué)目的應(yīng)用的共識(shí),也很難控制成果的泄露,例如腦計(jì)劃成果公開發(fā)表所導(dǎo)致的泄露。二是腦計(jì)劃的實(shí)施機(jī)構(gòu)中包含軍事部門、商業(yè)機(jī)構(gòu),這些機(jī)構(gòu)的最終目的與腦計(jì)劃的科學(xué)目的截然不同。對(duì)于腦計(jì)劃的雙重使用,預(yù)防性的原則或許能減少腦計(jì)劃成果不當(dāng)使用帶來的傷害。政府機(jī)構(gòu)切實(shí)履行監(jiān)管的責(zé)任,在腦計(jì)劃成果被使用前進(jìn)行審慎地評(píng)估,開展倫理學(xué)的評(píng)價(jià)。腦計(jì)劃的研究人員本著負(fù)責(zé)任的研究與創(chuàng)新的原則,面對(duì)研究可能帶來的結(jié)果,反思研究的目的,通過與公眾的對(duì)話來推動(dòng)腦計(jì)劃成果的最優(yōu)化使用。

    5 結(jié)論

    作為生物醫(yī)藥工程的一個(gè)新興分支,腦計(jì)劃的頂層設(shè)計(jì)、項(xiàng)目實(shí)施、成果轉(zhuǎn)化和效果評(píng)估等環(huán)節(jié)均蘊(yùn)含著豐富的哲學(xué)議題。腦計(jì)劃的實(shí)踐本身也是對(duì)于人類本質(zhì)內(nèi)省的絕佳機(jī)會(huì),是對(duì)哲學(xué)基本命題進(jìn)行重新思考的路徑之一。目前腦計(jì)劃的研究及其應(yīng)用引發(fā)了許多傳統(tǒng)的及特殊的工程哲學(xué)問題,可拓展工程哲學(xué)研究,使用工程哲學(xué)系統(tǒng)化的方法來進(jìn)行分析闡述,包括腦計(jì)劃的本體論、方法論和知識(shí)論問題。本文闡述了腦計(jì)劃的高度科學(xué)性、系統(tǒng)性及需要全社會(huì)協(xié)作的特點(diǎn),以及神經(jīng)技術(shù)、神經(jīng)科學(xué)知識(shí)與腦計(jì)劃的差異。未來可進(jìn)一步研究腦計(jì)劃創(chuàng)新,如何持續(xù)性地為腦計(jì)劃帶來新的活力,在腦計(jì)劃創(chuàng)新中神經(jīng)科學(xué)、神經(jīng)技術(shù)所發(fā)揮的作用。

    腦計(jì)劃是一個(gè)科學(xué)價(jià)值和社會(huì)價(jià)值重大的工程,無論在科學(xué)技術(shù)層面,還是在社會(huì)影響層面。如何將腦計(jì)劃良好的理念與目標(biāo)貫徹到整個(gè)實(shí)施過程中,這需要對(duì)腦計(jì)劃進(jìn)行細(xì)致的倫理學(xué)分析,探討這一實(shí)踐活動(dòng)中人類所能發(fā)揮的作用,以及應(yīng)該如何發(fā)揮作用。應(yīng)將倫理學(xué)融入到腦計(jì)劃之中,作為腦計(jì)劃的有機(jī)組成,對(duì)其產(chǎn)生的技術(shù)、成果等進(jìn)行前瞻性、持續(xù)性的倫理學(xué)評(píng)估。建議在腦計(jì)劃中建立一個(gè)獨(dú)立的倫理學(xué)專家小組[20],納入神經(jīng)科學(xué)家、計(jì)算機(jī)科學(xué)家等,由其提供科學(xué)方面的專業(yè)支持,定期召開專題研討會(huì),也能夠促進(jìn)哲學(xué)、法律、倫理學(xué)建議集成至腦計(jì)劃項(xiàng)目。對(duì)于腦計(jì)劃所涵蓋的前沿技術(shù)可設(shè)定倫理學(xué)指導(dǎo)準(zhǔn)則,以為腦計(jì)劃的各類參與者提供研究項(xiàng)目設(shè)計(jì)、實(shí)施、評(píng)價(jià)的倫理學(xué)基礎(chǔ)。

    致謝

    感謝張新慶教授對(duì)本文選題和撰寫提供的寶貴建議。

    [1] 韓濟(jì)生. 20世紀(jì)神經(jīng)科學(xué)發(fā)展中10項(xiàng)諾貝爾獎(jiǎng)成就簡(jiǎn)介[J]. 生理科學(xué)進(jìn)展, 2001, 32(2): 187-190.

    [2] Roelfsema P R, Denys D, Klink P C. Mind Reading and Writing: The Future of Neurotechnology[J]. Trends in Cognitive Sciences, 2018, 22(7): 598-610.

    [3] 林 玲, 張新慶. Neuroethics雜志發(fā)表神經(jīng)倫理學(xué)論文之定量分析[J]. 醫(yī)學(xué)與哲學(xué), 2016, 37(1): 45-48.

    [4] Levy N. Neuroethics-chanllenges for the 21st century[M]. New York: Cambridge University Press, 2007: 1-44.

    [5] 李建會(huì), 符 征. 神經(jīng)成像技術(shù)的倫理問題[J]. 醫(yī)學(xué)與哲學(xué), 2012, 33(12A): 1-5.

    [6] 明 東. 神經(jīng)工程學(xué)[M]. 北京: 科學(xué)出版社, 2018: 6-17.

    [7] International Brain Initiative. International Brain Initiative: An Innovative Framework for Coordinated Global Brain Research Efforts[J]. Neuron, 2020, 105(2): 212-216.

    [8] 李伯聰. 略談科學(xué)技術(shù)工程三元論[J]. 工程研究——跨學(xué)科視野中的工程, 2004: 59-70.

    [9] 殷瑞鈺, 汪應(yīng)洛, 李伯聰. 工程哲學(xué)(第三版)[M]. 北京: 高等教育出版社, 2018: 91.

    [10] Mott M C, Gordon J A, Koroshetz W J. The NIH BRAIN Initiative: Advancing neurotechnologies, integrating disciplines[J]. PLOS BIOLOGY, 2018, 16(11): 1-5.

    [11] Amunts K, Knoll A C, Lippert T, et al. The Human Brain Project—Synergy between neuroscience, computing, informatics, and braininspired technologies[J]. PLOS BIOLOGY, 2019, 17(7): 1-7.

    [12] Australian Brain Alliance. A Neuroethics Framework for the Australian Brain Initiative[J]. Neuron, 2020, 105(1): 201.

    [13] Illes J, Weiss S, Bains J, et al. A Neuroethics Backbone for the Evolving Canadian Brain Research Strategy[J]. Neuron, 2019, 101(3): 370-374.

    [14] Walter K, Joshua G, Amy A, et al. The State of the NIH BRAIN Initiative[J]. The Journal of Neuroscience, 2018: 3174.

    [15] Okano H, Miyawaki A, Kasai K. Brain/MINDS: brain-mapping project in Japan[J]. Philosophical Transactions of the Royal Society B: Biological Sciences, 2015, 370(1668): 20140310.

    [16] Jeong S J, Lee H, Hur E M, et al. Korea Brain Initiative: Integration and Control of Brain Functions[J]. Neuron, 2016, 92(3): 607-611.

    [17] 蒲慕明, 徐 波, 譚鐵牛. 腦科學(xué)與類腦研究概述[J]. 中國(guó)科學(xué)院院刊, 2016, 31(7): 725-736.

    [18] Laureys S, Boly M. Unresponsive wakefulness syndrome[J]. Archives italiennes de biologie, 2012, 150(2-3): 31-35.

    [19] 蘇令銀. 論機(jī)器人的道德地位:一種關(guān)系式的道德解釋學(xué)范式[J]. 自然辯證法研究, 2017(7): 38-42.

    [20] Ramos K M, Grady C, Greely H T, et al. The NIH BRAIN Initiative: Integrating Neuroethics and Neuroscience[J]. Neuron, 2019, 101(3): 394-398.

    Thinking on the Brain Project and Its Ethical Issues from the Perspective of Engineering

    Lin Ling

    (School of Humanities and Social Sciences, Peking Union Medical College, Beijing 100005, China)

    This study analyzes the characteristics of the brain project in biomedical engineering (e.g., scientific, systematic, and multi-party cooperation aspects), and then compares the differences and connections between neuroscience technology and the brain project. It further compares the goals and ethical concerns of brain projects in different countries. This study also reflects on the moral meaning of the brain project in regard to the influence on individual autonomy, and the dual uses of the results. Finally, the author proposes that the study of neuroengineering philosophy (as represented by the brain project) will become a new research field in engineering philosophy, and that ethics should be integrated into the brain project, e.g., by establishing ethics working groups.

    the Brain Project; philosophy of engineering; neuroethics; dual use

    2020–03–28;

    2020–05–22

    林 玲(1990–),女,碩士,助理研究員,研究方向?yàn)樯窠?jīng)倫理學(xué)。E-mail:linling714@163.com

    R-02;B82

    A

    1674-4969(2020)03-0225-08

    10.3724/SP.J.1224.2020.00225

    猜你喜歡
    倫理大腦計(jì)劃
    《心之死》的趣味與倫理焦慮
    護(hù)生眼中的倫理修養(yǎng)
    活力(2019年19期)2020-01-06 07:37:00
    暑假計(jì)劃
    學(xué)做假期計(jì)劃
    學(xué)做假期計(jì)劃
    Learn to Make a Holiday Plan學(xué)做假期計(jì)劃
    最強(qiáng)大腦
    最強(qiáng)大腦
    最強(qiáng)大腦
    最強(qiáng)大腦
    黄色一级大片看看| 免费播放大片免费观看视频在线观看| 午夜福利网站1000一区二区三区| 2022亚洲国产成人精品| 女人精品久久久久毛片| 综合色丁香网| 国产精品熟女久久久久浪| 国产成人aa在线观看| 18禁在线无遮挡免费观看视频| 国产精品嫩草影院av在线观看| 蜜桃在线观看..| 一区二区日韩欧美中文字幕 | 2021少妇久久久久久久久久久| 我要看黄色一级片免费的| 国产精品三级大全| 在线观看国产h片| 美女xxoo啪啪120秒动态图| 欧美日韩国产mv在线观看视频| 99久国产av精品国产电影| 中文字幕精品免费在线观看视频 | 国产一区二区激情短视频 | 欧美日韩一区二区视频在线观看视频在线| 亚洲精品乱码久久久久久按摩| 国产欧美日韩综合在线一区二区| 久久久国产一区二区| 人人妻人人添人人爽欧美一区卜| 国产成人aa在线观看| 在线观看www视频免费| av在线app专区| 考比视频在线观看| 色94色欧美一区二区| 国产福利在线免费观看视频| 国产成人免费观看mmmm| 国产成人av激情在线播放| 亚洲精品国产av成人精品| 韩国av在线不卡| 高清在线视频一区二区三区| 一级爰片在线观看| 国产日韩欧美亚洲二区| 97超碰精品成人国产| 久久久久久久久久人人人人人人| 亚洲天堂av无毛| 国产熟女午夜一区二区三区| 亚洲精品日韩在线中文字幕| 久久免费观看电影| 亚洲av在线观看美女高潮| 亚洲综合色网址| 久久久久久久久久久久大奶| 乱人伦中国视频| 蜜桃国产av成人99| 麻豆乱淫一区二区| 亚洲欧美日韩另类电影网站| 国产成人aa在线观看| 国产成人aa在线观看| 午夜91福利影院| 亚洲五月色婷婷综合| 亚洲精品一区蜜桃| 国产又色又爽无遮挡免| 国产av一区二区精品久久| 日日啪夜夜爽| 一二三四在线观看免费中文在 | 尾随美女入室| 亚洲精华国产精华液的使用体验| 国产av一区二区精品久久| 久久国产精品男人的天堂亚洲 | 亚洲精品乱码久久久久久按摩| 99精国产麻豆久久婷婷| 国产成人精品久久久久久| 免费高清在线观看日韩| 自线自在国产av| 国产亚洲一区二区精品| 999精品在线视频| 亚洲成人手机| 久久久久人妻精品一区果冻| 综合色丁香网| 久久97久久精品| 亚洲精品乱码久久久久久按摩| 亚洲av欧美aⅴ国产| 免费观看在线日韩| 亚洲性久久影院| 不卡视频在线观看欧美| 波野结衣二区三区在线| 国产高清不卡午夜福利| 美女脱内裤让男人舔精品视频| 少妇高潮的动态图| 亚洲成人av在线免费| 国产精品国产av在线观看| 又黄又爽又刺激的免费视频.| 亚洲精品中文字幕在线视频| 最近手机中文字幕大全| 亚洲欧美日韩卡通动漫| 91在线精品国自产拍蜜月| 免费av中文字幕在线| 最近最新中文字幕大全免费视频 | 久久久精品94久久精品| 亚洲精品国产色婷婷电影| 亚洲,一卡二卡三卡| 国语对白做爰xxxⅹ性视频网站| 亚洲精品日本国产第一区| 亚洲成人手机| 在线 av 中文字幕| 在线观看美女被高潮喷水网站| av一本久久久久| 久久国产亚洲av麻豆专区| 大码成人一级视频| 一级片'在线观看视频| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲精品色激情综合| 色婷婷av一区二区三区视频| 精品一区二区免费观看| 一区在线观看完整版| 日韩av在线免费看完整版不卡| 夫妻性生交免费视频一级片| 亚洲国产精品一区二区三区在线| 国产精品偷伦视频观看了| 欧美精品人与动牲交sv欧美| 国产男女超爽视频在线观看| 久久女婷五月综合色啪小说| 亚洲av欧美aⅴ国产| 在线观看免费日韩欧美大片| 欧美日韩精品成人综合77777| 久久精品国产自在天天线| 这个男人来自地球电影免费观看 | 国产日韩欧美亚洲二区| 免费少妇av软件| 在线观看人妻少妇| 中文字幕精品免费在线观看视频 | 制服诱惑二区| 男的添女的下面高潮视频| 久久精品国产自在天天线| 国产欧美另类精品又又久久亚洲欧美| 日日撸夜夜添| www.熟女人妻精品国产 | 亚洲精品第二区| 丁香六月天网| 黄网站色视频无遮挡免费观看| 乱人伦中国视频| 国产乱人偷精品视频| 男人添女人高潮全过程视频| 国产av一区二区精品久久| 亚洲国产精品999| 五月开心婷婷网| 中文字幕人妻丝袜制服| 亚洲av欧美aⅴ国产| 日韩中字成人| 国产亚洲午夜精品一区二区久久| 大片免费播放器 马上看| 自线自在国产av| av有码第一页| av免费观看日本| 一区二区av电影网| 成人18禁高潮啪啪吃奶动态图| 久久久久网色| 日本欧美视频一区| 成年美女黄网站色视频大全免费| av免费在线看不卡| 国产精品99久久99久久久不卡 | 亚洲av成人精品一二三区| 日韩三级伦理在线观看| 中文乱码字字幕精品一区二区三区| 亚洲欧美色中文字幕在线| 成人午夜精彩视频在线观看| 十八禁网站网址无遮挡| 亚洲av成人精品一二三区| 精品少妇内射三级| 丝袜脚勾引网站| 日本欧美视频一区| 亚洲精品乱码久久久久久按摩| 97在线视频观看| 国产老妇伦熟女老妇高清| 久久久久久久亚洲中文字幕| 精品福利永久在线观看| 日韩制服骚丝袜av| 最近手机中文字幕大全| 久久婷婷青草| 国产精品免费大片| 久久久久久人人人人人| 久久久精品区二区三区| 久久久久久人妻| 午夜影院在线不卡| 深夜精品福利| 亚洲国产成人一精品久久久| 一级爰片在线观看| 九九在线视频观看精品| 久久99精品国语久久久| 国产乱人偷精品视频| 亚洲高清免费不卡视频| 美女主播在线视频| 制服人妻中文乱码| 毛片一级片免费看久久久久| 三级国产精品片| 亚洲精品国产av蜜桃| 国产av一区二区精品久久| 不卡视频在线观看欧美| 国产在线免费精品| 一级毛片黄色毛片免费观看视频| 一区在线观看完整版| 多毛熟女@视频| 久久97久久精品| 国产精品99久久99久久久不卡 | 99re6热这里在线精品视频| 亚洲精品视频女| 美女国产视频在线观看| 免费大片18禁| 午夜激情av网站| 18禁动态无遮挡网站| 两个人免费观看高清视频| 亚洲中文av在线| 国产黄色免费在线视频| 色婷婷av一区二区三区视频| 9色porny在线观看| 欧美 亚洲 国产 日韩一| 超碰97精品在线观看| 久久国产精品男人的天堂亚洲 | 女人精品久久久久毛片| 国产日韩一区二区三区精品不卡| 欧美 亚洲 国产 日韩一| 女人被躁到高潮嗷嗷叫费观| h视频一区二区三区| 夫妻性生交免费视频一级片| 久久99蜜桃精品久久| 精品久久蜜臀av无| 国产成人免费无遮挡视频| 国产黄色视频一区二区在线观看| 新久久久久国产一级毛片| 成年人免费黄色播放视频| 免费高清在线观看视频在线观看| 大片电影免费在线观看免费| 国产精品久久久久久av不卡| 久久国产亚洲av麻豆专区| av女优亚洲男人天堂| 国产爽快片一区二区三区| 男人添女人高潮全过程视频| 亚洲,欧美,日韩| 最近最新中文字幕大全免费视频 | av一本久久久久| 国产精品久久久久久精品电影小说| 亚洲人成网站在线观看播放| 国产精品成人在线| 18禁在线无遮挡免费观看视频| 久久久a久久爽久久v久久| 熟女电影av网| 中国国产av一级| 欧美丝袜亚洲另类| 我要看黄色一级片免费的| 成年动漫av网址| 亚洲激情五月婷婷啪啪| 国产一区亚洲一区在线观看| 久久久精品区二区三区| 中国美白少妇内射xxxbb| 久久久久精品久久久久真实原创| a级毛片黄视频| 国产乱人偷精品视频| 久久久久久久久久久久大奶| 91在线精品国自产拍蜜月| 99热6这里只有精品| 国产男女超爽视频在线观看| 亚洲精品国产色婷婷电影| 99热全是精品| 人人妻人人澡人人爽人人夜夜| xxx大片免费视频| 丝袜在线中文字幕| 成人毛片60女人毛片免费| 中国三级夫妇交换| 高清av免费在线| 18在线观看网站| 成人黄色视频免费在线看| 色哟哟·www| 咕卡用的链子| 中文字幕制服av| 成年女人在线观看亚洲视频| 18+在线观看网站| 国产成人91sexporn| 2021少妇久久久久久久久久久| 精品人妻在线不人妻| 制服诱惑二区| 久久久久久伊人网av| 亚洲中文av在线| 亚洲经典国产精华液单| 亚洲久久久国产精品| 人体艺术视频欧美日本| 街头女战士在线观看网站| 午夜久久久在线观看| 一级毛片我不卡| 亚洲图色成人| 免费看av在线观看网站| 亚洲欧美日韩另类电影网站| 黄色 视频免费看| 午夜福利视频在线观看免费| 国产免费现黄频在线看| 久久精品国产自在天天线| 久久午夜综合久久蜜桃| 久久久久久久国产电影| 啦啦啦在线观看免费高清www| 色吧在线观看| 亚洲精品久久午夜乱码| 国产日韩欧美视频二区| 成人午夜精彩视频在线观看| 亚洲av国产av综合av卡| 97在线视频观看| 熟女人妻精品中文字幕| 99热全是精品| 91精品三级在线观看| 精品一区二区免费观看| 青春草国产在线视频| 亚洲av欧美aⅴ国产| 一区二区三区四区激情视频| 在线观看人妻少妇| 久久久久精品久久久久真实原创| 久久久久精品性色| 寂寞人妻少妇视频99o| 午夜免费鲁丝| 老熟女久久久| 精品国产一区二区久久| 99热全是精品| 日韩一本色道免费dvd| 亚洲欧美日韩卡通动漫| 三级国产精品片| 欧美变态另类bdsm刘玥| 国产极品天堂在线| 一级毛片电影观看| 熟女人妻精品中文字幕| 国产成人精品一,二区| 久久国产精品大桥未久av| 亚洲精品视频女| 搡老乐熟女国产| 欧美日韩av久久| 精品人妻在线不人妻| 欧美精品一区二区免费开放| 久久国产亚洲av麻豆专区| 丝瓜视频免费看黄片| 亚洲av欧美aⅴ国产| 欧美性感艳星| 亚洲五月色婷婷综合| 99精国产麻豆久久婷婷| 大码成人一级视频| 欧美人与性动交α欧美软件 | 精品人妻在线不人妻| 黑丝袜美女国产一区| 久久精品国产自在天天线| 黄色毛片三级朝国网站| 女的被弄到高潮叫床怎么办| 男女下面插进去视频免费观看 | 久久久国产欧美日韩av| 超色免费av| videossex国产| 国产深夜福利视频在线观看| 国产成人精品无人区| 免费观看无遮挡的男女| 日韩精品免费视频一区二区三区 | 七月丁香在线播放| 欧美成人精品欧美一级黄| 久久99一区二区三区| 中文字幕最新亚洲高清| 亚洲国产看品久久| 精品一区二区三区四区五区乱码 | 最近2019中文字幕mv第一页| 国产精品一区二区在线观看99| 亚洲成国产人片在线观看| 三上悠亚av全集在线观看| 1024视频免费在线观看| 9191精品国产免费久久| av有码第一页| 青青草视频在线视频观看| 免费在线观看完整版高清| 国产男人的电影天堂91| 又黄又爽又刺激的免费视频.| av免费观看日本| 免费日韩欧美在线观看| av网站免费在线观看视频| 好男人视频免费观看在线| av有码第一页| 黄片播放在线免费| 天天影视国产精品| 一级毛片 在线播放| 国产精品久久久久久久久免| av福利片在线| 超碰97精品在线观看| 制服诱惑二区| 最后的刺客免费高清国语| 国产亚洲精品第一综合不卡 | 建设人人有责人人尽责人人享有的| 亚洲久久久国产精品| 2018国产大陆天天弄谢| 美女视频免费永久观看网站| 亚洲人成77777在线视频| 久久精品国产综合久久久 | 日日摸夜夜添夜夜爱| 久热这里只有精品99| 亚洲内射少妇av| 97在线人人人人妻| 久久免费观看电影| 性色av一级| 欧美精品人与动牲交sv欧美| 51国产日韩欧美| 精品国产露脸久久av麻豆| 最后的刺客免费高清国语| 免费看光身美女| 欧美少妇被猛烈插入视频| 久久人人爽人人片av| 交换朋友夫妻互换小说| 日本欧美国产在线视频| 日韩熟女老妇一区二区性免费视频| 免费大片18禁| 午夜视频国产福利| 亚洲av电影在线观看一区二区三区| 男人添女人高潮全过程视频| 国产精品秋霞免费鲁丝片| 极品少妇高潮喷水抽搐| 最新中文字幕久久久久| 亚洲av在线观看美女高潮| 亚洲色图 男人天堂 中文字幕 | 高清毛片免费看| 日韩,欧美,国产一区二区三区| 久久这里有精品视频免费| 1024视频免费在线观看| 两个人看的免费小视频| 国产亚洲一区二区精品| 国产在线视频一区二区| 国产国拍精品亚洲av在线观看| 狂野欧美激情性bbbbbb| 欧美激情国产日韩精品一区| 亚洲美女黄色视频免费看| 亚洲五月色婷婷综合| 男女下面插进去视频免费观看 | 99国产精品免费福利视频| 色婷婷av一区二区三区视频| 老司机亚洲免费影院| 亚洲经典国产精华液单| 99久久综合免费| 免费看光身美女| av卡一久久| 久久久久久久久久成人| 亚洲欧美日韩卡通动漫| 在线精品无人区一区二区三| 国产精品一区二区在线不卡| 国产国拍精品亚洲av在线观看| 丁香六月天网| 国产成人免费观看mmmm| 99久久人妻综合| 1024视频免费在线观看| 欧美少妇被猛烈插入视频| 中文字幕亚洲精品专区| 波野结衣二区三区在线| 免费观看av网站的网址| www.色视频.com| 人人妻人人添人人爽欧美一区卜| 国内精品宾馆在线| 久久久欧美国产精品| 国产精品不卡视频一区二区| 欧美激情极品国产一区二区三区 | 日韩精品有码人妻一区| 777米奇影视久久| a级毛色黄片| 女人久久www免费人成看片| 夫妻午夜视频| 在线观看www视频免费| 制服丝袜香蕉在线| 大香蕉97超碰在线| 欧美+日韩+精品| 高清不卡的av网站| 在线天堂中文资源库| 在线观看国产h片| 巨乳人妻的诱惑在线观看| 国产精品国产三级国产av玫瑰| 在线观看免费视频网站a站| 欧美精品国产亚洲| 亚洲欧美色中文字幕在线| 女人精品久久久久毛片| 久久久久久人妻| 国产精品人妻久久久影院| 国产高清三级在线| 97在线视频观看| 欧美变态另类bdsm刘玥| 亚洲国产精品专区欧美| 丝瓜视频免费看黄片| 超色免费av| 欧美日韩亚洲高清精品| 两性夫妻黄色片 | 国产国语露脸激情在线看| 久久影院123| 卡戴珊不雅视频在线播放| 精品99又大又爽又粗少妇毛片| 狠狠婷婷综合久久久久久88av| 亚洲欧洲日产国产| 国产无遮挡羞羞视频在线观看| 99国产综合亚洲精品| 国产精品三级大全| 一级爰片在线观看| 欧美日韩视频精品一区| 欧美国产精品va在线观看不卡| 99re6热这里在线精品视频| 欧美精品av麻豆av| 国产免费又黄又爽又色| 国产欧美日韩综合在线一区二区| 在线观看国产h片| 国产不卡av网站在线观看| 最新中文字幕久久久久| 久久久久精品性色| 精品酒店卫生间| 久久午夜综合久久蜜桃| 日韩欧美一区视频在线观看| 精品久久蜜臀av无| 精品亚洲成a人片在线观看| 日本vs欧美在线观看视频| 成年av动漫网址| 日韩精品有码人妻一区| 狠狠精品人妻久久久久久综合| 如日韩欧美国产精品一区二区三区| 晚上一个人看的免费电影| 七月丁香在线播放| tube8黄色片| 亚洲av福利一区| 免费少妇av软件| 777米奇影视久久| 成年动漫av网址| 成人国语在线视频| 少妇 在线观看| 免费观看在线日韩| av在线播放精品| 国产亚洲精品第一综合不卡 | 天堂中文最新版在线下载| 日本爱情动作片www.在线观看| 久久精品熟女亚洲av麻豆精品| 亚洲精品,欧美精品| 校园人妻丝袜中文字幕| 国产伦理片在线播放av一区| 国产精品国产三级国产av玫瑰| 精品亚洲乱码少妇综合久久| 日韩不卡一区二区三区视频在线| 日韩欧美一区视频在线观看| av天堂久久9| 亚洲av电影在线进入| 国产亚洲最大av| 少妇精品久久久久久久| av在线观看视频网站免费| 成人漫画全彩无遮挡| 中文字幕免费在线视频6| 亚洲一码二码三码区别大吗| 久久97久久精品| 18+在线观看网站| 菩萨蛮人人尽说江南好唐韦庄| 狠狠精品人妻久久久久久综合| 这个男人来自地球电影免费观看 | 边亲边吃奶的免费视频| 国产成人欧美| 欧美精品人与动牲交sv欧美| 高清av免费在线| 国产精品国产三级专区第一集| 成人影院久久| 亚洲美女搞黄在线观看| 汤姆久久久久久久影院中文字幕| 婷婷色综合www| 波野结衣二区三区在线| 水蜜桃什么品种好| 91国产中文字幕| 免费黄网站久久成人精品| 桃花免费在线播放| 久久久久久久大尺度免费视频| 九色成人免费人妻av| 亚洲,欧美精品.| 亚洲精品国产av成人精品| 人成视频在线观看免费观看| 美女视频免费永久观看网站| av片东京热男人的天堂| 国产精品久久久久久精品古装| 亚洲天堂av无毛| 久久人人97超碰香蕉20202| 男女无遮挡免费网站观看| 久久久久精品久久久久真实原创| 最新中文字幕久久久久| 咕卡用的链子| 亚洲,欧美精品.| 成人国语在线视频| 精品国产露脸久久av麻豆| 国产成人免费无遮挡视频| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 久久久精品区二区三区| 一级,二级,三级黄色视频| 下体分泌物呈黄色| 人成视频在线观看免费观看| 天堂8中文在线网| 国产在线免费精品| 亚洲欧美日韩卡通动漫| 免费大片黄手机在线观看| 亚洲国产最新在线播放| 成人亚洲精品一区在线观看| 一区二区三区四区激情视频| 国产无遮挡羞羞视频在线观看| 国产欧美亚洲国产| 91在线精品国自产拍蜜月| 国产成人午夜福利电影在线观看| 美女国产视频在线观看| 18禁动态无遮挡网站| 久久免费观看电影| 亚洲人与动物交配视频| 午夜福利网站1000一区二区三区| 麻豆精品久久久久久蜜桃| 一本色道久久久久久精品综合| 欧美变态另类bdsm刘玥| 又粗又硬又长又爽又黄的视频| videosex国产| 卡戴珊不雅视频在线播放| 午夜日本视频在线| 亚洲精品国产av蜜桃| 99香蕉大伊视频| 高清在线视频一区二区三区| 制服丝袜香蕉在线| 国产精品女同一区二区软件| 少妇的逼水好多| 国产一区亚洲一区在线观看| 丝瓜视频免费看黄片| 欧美人与性动交α欧美精品济南到 | 色视频在线一区二区三区| 人体艺术视频欧美日本|