• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    腦科學(xué)和信息科學(xué)的交叉學(xué)科研究

    2015-05-12 08:17:00顧凡及
    自然雜志 2015年1期
    關(guān)鍵詞:維納神經(jīng)元神經(jīng)

    顧凡及

    復(fù)旦大學(xué)生命科學(xué)學(xué)院,上海 200433

    腦科學(xué)和信息科學(xué)的交叉學(xué)科研究

    顧凡及?

    復(fù)旦大學(xué)生命科學(xué)學(xué)院,上海 200433

    對(duì)腦和心智的研究已成為21世紀(jì)最前沿的科學(xué)研究,和信息科學(xué)進(jìn)行交叉研究已成為腦科學(xué)研究的一個(gè)重要趨勢(shì)。對(duì)這一交叉領(lǐng)域研究的歷史做了回顧,并對(duì)其現(xiàn)況做了評(píng)述,最后對(duì)其未來(lái)的發(fā)展趨勢(shì)做了展望。

    交叉學(xué)科研究;生物控制論;計(jì)算神經(jīng)科學(xué);仿神經(jīng)結(jié)構(gòu)工程;類(lèi)腦機(jī)器

    “在自然界中雜種往往不育,但是在科學(xué)中正相反,交叉學(xué)科常常驚人地豐產(chǎn)。如果一個(gè)學(xué)科過(guò)于單純,它就會(huì)枯萎?!?/p>

    ——克里克《狂熱的追求》[1]

    人腦是一種有1011個(gè)神經(jīng)元和1015個(gè)突觸聯(lián)系的多層次系統(tǒng)。腦不僅能認(rèn)識(shí)其外部世界,也能在某種程度上認(rèn)識(shí)自己的內(nèi)部世界,在已知的宇宙中再也沒(méi)有比這更復(fù)雜的系統(tǒng)了,因此對(duì)腦及其功能的研究已經(jīng)成了現(xiàn)代科學(xué)最大的挑戰(zhàn)。沒(méi)有哪一種單獨(dú)的方法可以完全揭開(kāi)腦功能之謎,每一種方法都只能揭示腦的某一個(gè)方面,因此多學(xué)科研究腦和心智已成為腦研究的一種重要趨勢(shì)?,F(xiàn)在人們普遍認(rèn)同,腦就其功能上來(lái)說(shuō),本質(zhì)上是一種信息處理系統(tǒng),因此以信息科學(xué)的思想、方法和技術(shù)來(lái)研究腦已成為多學(xué)科腦研究的主流之一。建立數(shù)學(xué)模型和計(jì)算機(jī)仿真也成了綜合多層次信息,認(rèn)識(shí)其機(jī)制的最重要的工具。

    圖1 維納 (引自http://oregonciberneticacch.wikispaces.com/ Norbert+Wiener)

    1 歷史的回顧

    人們?cè)?jīng)長(zhǎng)期認(rèn)為腦是靈魂的棲息地,因此不可能用數(shù)理方法來(lái)進(jìn)行研究。但是數(shù)理方法在化學(xué)和其他學(xué)科研究中的成功應(yīng)用終于在20世紀(jì)中葉,在美國(guó)推動(dòng)了一些學(xué)者開(kāi)始嘗試把數(shù)理科學(xué)的方法應(yīng)用于研究腦。在這些先驅(qū)者中有烏克蘭裔美國(guó)數(shù)學(xué)生物物理學(xué)家拉謝甫斯基(Nicolas Rashevsky,1899—1972),他召集了一大批物理學(xué)家和數(shù)學(xué)家參加他組織的科學(xué)討論會(huì)。雖然他本人并沒(méi)有對(duì)腦進(jìn)行多少研究,而且他把研究的重點(diǎn)主要放到能和勢(shì)的方面,因?yàn)楫?dāng)時(shí)還沒(méi)有多少人理解信息的重要性,但是不管是直接還是間接,拉謝甫斯基的科學(xué)活動(dòng)對(duì)推動(dòng)用數(shù)理方法研究腦還是起到了啟蒙作用。

    真正對(duì)多學(xué)科研究腦起推動(dòng)作用并有長(zhǎng)遠(yuǎn)影響的是德裔美國(guó)數(shù)學(xué)家維納(Norbert Wiener,1894—1964)(圖1)。維納小時(shí)候就是一位神童。他的父親一心想把維納培養(yǎng)成為一名數(shù)學(xué)家,他諄諄叮囑兒子:“記著,你今后的路是專攻數(shù)學(xué)。不要貪玩,不要三心二意,孩子!”盡管他學(xué)業(yè)優(yōu)秀,但是他并沒(méi)有完全遵照父親的囑咐。相反,他不斷地變換著興趣,大學(xué)一年級(jí)時(shí)他迷上了物理學(xué)和化學(xué),二年級(jí)時(shí)又被哲學(xué)吸引住了,三年級(jí)時(shí)興趣又轉(zhuǎn)到了生物學(xué)上,他甚至覺(jué)得自己應(yīng)該成為一名生物學(xué)家。但是他的深度近視和笨手笨腳使他不太適宜于成為一名實(shí)驗(yàn)科學(xué)家,所以最后還是回到了數(shù)學(xué)。但是他年輕時(shí)對(duì)數(shù)學(xué)、物理、化學(xué)、生物學(xué)和哲學(xué)的廣泛興趣和知識(shí),使他擺脫了當(dāng)時(shí)學(xué)科發(fā)展越來(lái)越專門(mén)化的桎梏,獨(dú)樹(shù)一幟地奠定高度跨學(xué)科的“控制論”的基礎(chǔ),成為一代科學(xué)巨匠!

    20世紀(jì)30年代末在哈佛醫(yī)學(xué)院有一個(gè)有關(guān)科學(xué)方法的系列討論會(huì),維納是其中的積極分子,參加這個(gè)討論會(huì)的還有其他的數(shù)學(xué)家、生理學(xué)家、物理學(xué)家、醫(yī)學(xué)家和工程師。他們一邊吃飯,一邊討論。正是通過(guò)這種討論,維納感悟到:“在科學(xué)發(fā)展上可以得到最大收獲的領(lǐng)域是各種已經(jīng)建立起來(lái)的部門(mén)之間的被忽視的無(wú)人區(qū)?!薄罢沁@些科學(xué)的邊緣區(qū)域,給有修養(yǎng)的研究者提供了最豐富的機(jī)會(huì)。”[2]不過(guò)要這樣做并不簡(jiǎn)單,維納說(shuō):

    “如果一個(gè)生理學(xué)問(wèn)題的困難實(shí)質(zhì)上是數(shù)學(xué)的困難,那么,十個(gè)不懂?dāng)?shù)學(xué)的生理學(xué)家的研究成績(jī)會(huì)和一個(gè)不懂?dāng)?shù)學(xué)的生理學(xué)家的研究成績(jī)完全一樣,不會(huì)更多。如果一個(gè)不懂?dāng)?shù)學(xué)的生理學(xué)家和一個(gè)不懂生理學(xué)的數(shù)學(xué)家合作,那么,這個(gè)人不會(huì)用那個(gè)人所能接受的術(shù)語(yǔ)表達(dá)自己的問(wèn)題,那個(gè)人也不能用這個(gè)人所懂得的任何形式來(lái)作出自己的回答?!娇茖W(xué)地圖上的這些空白地區(qū)去作適當(dāng)?shù)牟榭惫ぷ?,只能由這樣一群科學(xué)家來(lái)?yè)?dān)任,他們每人都是自己領(lǐng)域中的專家,但是每人對(duì)他的鄰近的領(lǐng)域都有十分正確和熟練的知識(shí);大家都習(xí)慣于共同工作,互相熟悉對(duì)方的思想習(xí)慣,并且能在同事們還沒(méi)有以完整的形式表達(dá)出自己的新想法的時(shí)候就理解這種新想法的意義。數(shù)學(xué)家不需要有領(lǐng)導(dǎo)一個(gè)生理學(xué)實(shí)驗(yàn)的本領(lǐng),但卻需要有了解一個(gè)生理學(xué)實(shí)驗(yàn),批判一個(gè)實(shí)驗(yàn)和建議別人去進(jìn)行一個(gè)實(shí)驗(yàn)的本領(lǐng)。生理學(xué)家不需要有證明某個(gè)數(shù)學(xué)定理的本領(lǐng),但是必須能夠了解數(shù)學(xué)定理中的生理學(xué)意義,能夠告訴數(shù)學(xué)家他應(yīng)當(dāng)去尋找什么東西。 ”[2]

    盡管時(shí)隔半個(gè)多世紀(jì),今天重讀維納的這些論斷,依然有振聾發(fā)聵之感。

    通過(guò)這些討論和研究,使他認(rèn)識(shí)到無(wú)論對(duì)動(dòng)物還是自動(dòng)機(jī)器中的控制和通信來(lái)說(shuō),其中都有著一些普適的原則,例如反饋和信息。正是這樣,他建立起了一門(mén)有關(guān)動(dòng)物和機(jī)器中控制和通信共同規(guī)律的邊緣科學(xué)——控制論[3]。

    盡管維納最終沒(méi)有按他年輕時(shí)的意愿成為一名生物學(xué)家,但是他對(duì)生物學(xué)的興趣,特別是腦的興趣始終未衰,到晚年他更把注意力放到將控制論應(yīng)用于生物系統(tǒng),特別是腦的研究上去,產(chǎn)生了像生物控制論乃至神經(jīng)控制論這樣的學(xué)科分支。他在去世前不久還和謝德(Schadé)合編了一套《生物控制論進(jìn)展》叢書(shū)[4],他在其中強(qiáng)調(diào)了從信息處理的角度來(lái)建立和生物系統(tǒng)同構(gòu)的數(shù)學(xué)模型的重要性。

    雖然限于當(dāng)時(shí)科學(xué)技術(shù)的發(fā)展水平,維納本人未能在對(duì)腦的信息處理上做出許多具體成果,但是他的思想奠定了這一方向的堅(jiān)實(shí)基礎(chǔ)。維納討論會(huì)上的??望溈丝?Warren Sturgis McCulloch,1898—1969)和匹茨(Walter Harry Pitts, Jr.,1923—1969) 在1943年根據(jù)當(dāng)時(shí)所知道的神經(jīng)元的知識(shí),建立起了一個(gè)神經(jīng)元的數(shù)學(xué)模型[5],成為神經(jīng)網(wǎng)絡(luò)研究的奠基者。1949年加拿大心理學(xué)家赫布(Donald Hebb)提出了一個(gè)有關(guān)學(xué)習(xí)機(jī)制的假設(shè)[6],后人把他的假設(shè)歸結(jié)為一句話,“經(jīng)常同時(shí)活動(dòng)的神經(jīng)元,就會(huì)聯(lián)結(jié)在一起?!彪m然他的這一預(yù)言直到多年以后才得到神經(jīng)生物學(xué)實(shí)驗(yàn)的證實(shí),但是這一假設(shè)大大推動(dòng)了對(duì)有學(xué)習(xí)能力的神經(jīng)網(wǎng)絡(luò)的研究。1960年美國(guó)心理學(xué)家羅森布拉特(Frank Rosenblatt,1928 —1971)仿照赫布的思想建立起了第一個(gè)具有學(xué)習(xí)能力的神經(jīng)網(wǎng)絡(luò)模型——感知機(jī)[7],它可以通過(guò)訓(xùn)練學(xué)會(huì)識(shí)別手寫(xiě)字等而引起轟動(dòng)。因?yàn)檫@個(gè)網(wǎng)絡(luò)只有一層,他的論敵抓住這一缺點(diǎn)從數(shù)學(xué)上嚴(yán)格證明了這種只有一層的網(wǎng)絡(luò)識(shí)別能力非常有限,而使神經(jīng)網(wǎng)絡(luò)的研究在20世紀(jì)70年代陷入低潮。直到80年代人們克服了單層的缺點(diǎn),神經(jīng)網(wǎng)絡(luò)運(yùn)動(dòng)才又復(fù)興起來(lái)。不過(guò)應(yīng)該指出,當(dāng)時(shí)的絕大部分和腦有關(guān)的交叉研究多半是借助有關(guān)腦知識(shí)的啟發(fā),用數(shù)學(xué)語(yǔ)言給予描述,并試圖以此解決工程問(wèn)題,而較少用信息科學(xué)的思想和方法解決腦科學(xué)的問(wèn)題。

    2 計(jì)算神經(jīng)科學(xué)

    不過(guò)事情也并非完全如此。20世紀(jì)30年代,英國(guó)生理學(xué)家霍奇金(Alan Lloyd Hodgkin,1914—1998)(圖2)一直對(duì)神經(jīng)脈沖的產(chǎn)生機(jī)制感興趣。當(dāng)時(shí)流行的膜理論認(rèn)為神經(jīng)脈沖的產(chǎn)生是由于當(dāng)神經(jīng)受到刺激時(shí),消除了膜對(duì)兩側(cè)離子的隔離,因此使原來(lái)內(nèi)負(fù)外正的膜電位差減小了,但是它不能解釋為什么神經(jīng)脈沖的峰值會(huì)超射到一個(gè)很大的正值。由于霍奇金在學(xué)生時(shí)代選修了數(shù)學(xué)和物理,而他的學(xué)生和合作者赫胥黎(Andrew Fielding Huxley)學(xué)的是數(shù)理科學(xué),因此他們運(yùn)用物理學(xué)思想把神經(jīng)細(xì)胞膜等效為一個(gè)阻容的并聯(lián)電路,其中的每個(gè)電阻就相當(dāng)于允許某種離子通過(guò)的一個(gè)通道。這在當(dāng)時(shí)還只是一種假設(shè),從實(shí)驗(yàn)上真正看到這種通道差不多是半個(gè)世紀(jì)以后的事了。不過(guò)關(guān)鍵的一點(diǎn)是他們認(rèn)為當(dāng)有神經(jīng)脈沖發(fā)生時(shí),不僅膜不再阻擋鉀離子流過(guò)膜,而且在一瞬間有大量的鈉離子從外界涌入細(xì)胞內(nèi),然后又自動(dòng)關(guān)閉。因此這些電阻并非固定電阻,而是可變電阻,其值和膜兩側(cè)的電位差以及時(shí)間有關(guān)。二戰(zhàn)打斷了他們的研究,直到戰(zhàn)后才又重續(xù)舊緣。他們對(duì)鉀和鈉的這種可變電導(dǎo)用實(shí)驗(yàn)進(jìn)行測(cè)定,然后對(duì)數(shù)據(jù)進(jìn)行了曲線擬合,這樣他們就建立起了神經(jīng)軸突細(xì)胞膜的一個(gè)方程組。在當(dāng)時(shí)電子計(jì)算機(jī)還極不普遍的情況下,他們硬是手算了三個(gè)星期求出了方程的數(shù)值解(圖3)[8]。從圖中可以看出理論計(jì)算和實(shí)際測(cè)量得到的結(jié)果吻合得何等地好,這樣他們就通過(guò)實(shí)驗(yàn)和理論計(jì)算的緊密結(jié)合解釋了神經(jīng)脈沖的成因和神經(jīng)脈沖產(chǎn)生超調(diào)的原因。更令人驚嘆的是根據(jù)他們模型的計(jì)算,還能預(yù)測(cè)神經(jīng)脈沖有閾值、不應(yīng)期、可以傳播和傳播速度等這些在建立模型時(shí)假設(shè)里沒(méi)有的性質(zhì)。這樣他們就闡明了神經(jīng)脈沖發(fā)生和傳播的機(jī)制,并開(kāi)辟了離子通道研究的新領(lǐng)域。無(wú)怪乎人們把霍奇金和赫胥黎的方程比喻為電生理學(xué)中的麥克斯韋方程。他們分享1963年的諾貝爾獎(jiǎng)確實(shí)是當(dāng)之無(wú)愧的。

    圖2 霍奇金

    圖3 神經(jīng)脈沖:上圖霍奇金和赫胥黎根據(jù)他們的方程算得的神經(jīng)脈沖波形;下圖在實(shí)驗(yàn)標(biāo)本上實(shí)際測(cè)得的神經(jīng)脈沖波形

    二戰(zhàn)期間,當(dāng)時(shí)21歲的生物學(xué)大學(xué)生哈森施泰因(Bernhard Hassenstein,1922— )和19歲的高中畢業(yè)生賴夏特(Werner Reichardt,1924—1992)都被送上了戰(zhàn)場(chǎng)。他們相約如果能逃過(guò)這場(chǎng)浩劫,戰(zhàn)后一定要在一起建立一所融合生物學(xué)和物理學(xué)的研究所。天從人愿,他們果然都從戰(zhàn)爭(zhēng)中活了下來(lái)。戰(zhàn)后賴夏特攻讀物理學(xué),并在1950年得到了博士學(xué)位。同年他又遇到了哈森施泰因,當(dāng)時(shí)后者也剛得到了他的博士學(xué)位,其論文內(nèi)容是有關(guān)甲蟲(chóng)的視動(dòng)轉(zhuǎn)向行為。賴夏特很快就認(rèn)識(shí)到對(duì)這些實(shí)驗(yàn)可以建立模型來(lái)進(jìn)行模擬。這在當(dāng)時(shí)是一種非常大膽的思想——居然可以用模型來(lái)研究像視覺(jué)運(yùn)動(dòng)感知這樣的內(nèi)心過(guò)程!

    他們研究了甲蟲(chóng)對(duì)外界視覺(jué)刺激的行為反應(yīng),結(jié)果表明其運(yùn)動(dòng)檢測(cè)器至少要有兩個(gè)不同的輸入傳感器,在運(yùn)動(dòng)時(shí),這兩個(gè)傳感器依次為環(huán)境中同一目標(biāo)所興奮,兩者之間有一小段時(shí)間延遲。根據(jù)這一事實(shí),他們建立了一個(gè)運(yùn)動(dòng)檢測(cè)模型,按照模型計(jì)算得出了一些和直觀想法相左的結(jié)果,但是對(duì)許多動(dòng)物的許多神經(jīng)元所做的實(shí)驗(yàn)結(jié)果卻都證實(shí)了這些預(yù)言。例如:模型預(yù)測(cè)反應(yīng)不會(huì)隨刺激速度的增大而一直增大下去,在到達(dá)某個(gè)最大值之后反而會(huì)下降;這個(gè)最優(yōu)速度和刺激條紋的空間頻率有關(guān)等等[9]。

    這一研究促進(jìn)了對(duì)許多其他動(dòng)物包括人在內(nèi)的運(yùn)動(dòng)視覺(jué)的研究。更為重要的一點(diǎn)是,這一研究大大推進(jìn)了人們根據(jù)生物學(xué)實(shí)驗(yàn)的結(jié)果,用數(shù)學(xué)工具建立定量模型的潮流。直覺(jué)不一定靠得住,而像有些俏皮的人說(shuō)的那樣,“筆比握它的人還要聰明?!彪m然賴夏德本人出身于物理學(xué),但是他非常重視生物學(xué)實(shí)驗(yàn),他對(duì)來(lái)到生物控制論研究所的每個(gè)年輕人都要贈(zèng)以忠告:“理論必須每時(shí)每刻都和實(shí)驗(yàn)緊密結(jié)合。我不相信無(wú)中生有的腦科學(xué)理論會(huì)有任何機(jī)會(huì)取得成功?!?/p>

    同一時(shí)期,美國(guó)原來(lái)學(xué)物理的拉爾(Wilfrid Rall,1922—)師從神經(jīng)科學(xué)家埃克爾斯攻讀博士學(xué)位,把原來(lái)用于研究電信號(hào)在海底金屬電纜線中傳導(dǎo)規(guī)律的電纜理論應(yīng)用到對(duì)樹(shù)突的研究[10]。他把樹(shù)突的每個(gè)分支看成是一種“電纜”。他的模型研究提示可能存在著當(dāng)時(shí)不為人知的樹(shù)-樹(shù)突觸,幾個(gè)月后才為他的同事用實(shí)驗(yàn)所證實(shí)。20世紀(jì)80年代他把精力集中在研究樹(shù)突有源性質(zhì)可能的功能意義上,他提出這可能是進(jìn)行局部放大。由此推動(dòng)了對(duì)樹(shù)突有源特性的研究。

    到了20世紀(jì)80年代,一方面?zhèn)鹘y(tǒng)的人工智能和人工神經(jīng)網(wǎng)絡(luò)的弱點(diǎn)漸漸顯現(xiàn):只是一味從行為上模仿人腦的某些功能而不深究腦的結(jié)構(gòu)和工作機(jī)制,就不可能真正用機(jī)器實(shí)現(xiàn)人的智能;另一方面如上所述,一些科學(xué)家用數(shù)理科學(xué)和信息科學(xué)技術(shù)研究神經(jīng)系統(tǒng)已經(jīng)取得了一些有希望的成果。正是在這種情況下美國(guó)的認(rèn)知科學(xué)家、神經(jīng)科學(xué)家和計(jì)算機(jī)科學(xué)家施瓦茨(Eric L. Schwartz,1947—)在1985年正式提出了計(jì)算神經(jīng)科學(xué)這一學(xué)科名稱[11]。1994年《計(jì)算神經(jīng)科學(xué)(Journal of Computational Neuroscience)》雜志在發(fā)刊詞里說(shuō)道:“對(duì)我們說(shuō)來(lái),‘計(jì)算神經(jīng)科學(xué)’可以定義如下:它主要研究人和動(dòng)物的神經(jīng)系統(tǒng)如何處理信息以產(chǎn)生有意義的行為。我們希望認(rèn)識(shí)神經(jīng)系統(tǒng)信息處理或者說(shuō)它所進(jìn)行的‘計(jì)算’的本質(zhì);在執(zhí)行這些任務(wù)時(shí)表達(dá)信息所用的代碼;以及執(zhí)行計(jì)算算法的神經(jīng)結(jié)構(gòu)。換句話說(shuō),我們想要找出神經(jīng)元和它們之間的相互作用用以產(chǎn)生功能性神經(jīng)回路的規(guī)則。”[12]經(jīng)過(guò)短短十幾年的發(fā)展,計(jì)算神經(jīng)科學(xué)已經(jīng)成為21世紀(jì)的科學(xué)前沿。正如美國(guó)國(guó)立衛(wèi)生研究院(NIH)在他們?yōu)椤蹲匀?神經(jīng)科學(xué)(Nature Neuroscience)》所組織的一期有關(guān)計(jì)算神經(jīng)科學(xué)的專輯的前言中所說(shuō):“很明顯,計(jì)算神經(jīng)科學(xué)是正在茁壯成長(zhǎng)而且還繼續(xù)要茁壯成長(zhǎng)的一個(gè)領(lǐng)域?!盵13]

    3 類(lèi)腦機(jī)器

    造出像人腦那樣有高度智能的機(jī)器一直是人們世代的夢(mèng)想,人們?cè)詾橹灰鶕?jù)人腦表現(xiàn)出的智能,精心編程就有可能用計(jì)算機(jī)加以復(fù)制。但是正如麥克卡洛在半個(gè)世紀(jì)以前所言:“我們能不能設(shè)計(jì)出一臺(tái)機(jī)器能做腦所能做的一切?對(duì)于這樣一個(gè)理論問(wèn)題的回答是:如果你能用一種清晰而有限的方法說(shuō)清楚腦能做什么,那么我們就能設(shè)計(jì)出一臺(tái)機(jī)器來(lái)實(shí)現(xiàn),但是你能說(shuō)清楚腦能做什么嗎?”在研發(fā)具有類(lèi)似于人腦智能的機(jī)器問(wèn)題上,這種行為主義的思潮和仿腦的思潮之爭(zhēng)一直貫穿始終,直至今天。此外,通過(guò)構(gòu)造這些機(jī)器和對(duì)這些機(jī)器進(jìn)行研究,也將使我們可以檢驗(yàn)我們對(duì)腦工作機(jī)制的某些假設(shè),從而加深我們對(duì)腦機(jī)制的認(rèn)識(shí)。

    在行為主義思潮之下,有些人總想僅僅通過(guò)提高計(jì)算機(jī)的運(yùn)算速度和加大計(jì)算機(jī)的存儲(chǔ)容量來(lái)創(chuàng)造與人腦一樣聰明,甚至比人腦更聰明的機(jī)器。人們津津樂(lè)道計(jì)算機(jī)“深藍(lán)”擊敗了國(guó)際象棋冠軍卡斯帕洛夫(Гарри Кимович Каспаров,1963—)(圖4),似乎“深藍(lán)”是真正有智能的,但是“深藍(lán)”的系統(tǒng)設(shè)計(jì)師許峰雄博士[14]說(shuō):

    “這場(chǎng)象棋大戰(zhàn)實(shí)際上是在承擔(dān)不同角色的兩種人之間進(jìn)行的:一方是棋手,另一方是工具制造者。加里和‘深藍(lán)’弈戰(zhàn)兩次,結(jié)局不同。在1996年的比賽中,作為棋手的人獲勝,而在1997年的重賽中,作為工具制造者的人獲勝?!盵15]

    關(guān)于“深藍(lán)”計(jì)算機(jī)有沒(méi)有智能的問(wèn)題,他也直截了當(dāng)?shù)鼗卮鹫f(shuō):

    “‘深藍(lán)’是沒(méi)有智能的。它只是一個(gè)制作精良的工具,在一個(gè)限定的領(lǐng)域內(nèi)能夠表現(xiàn)出智能行為,加里是國(guó)際象棋大賽中的輸家,但是他是真正有智能的棋手?!盵15]

    盡管沿著人工智能之路,近年來(lái)也取得了不俗的成就,如計(jì)算機(jī)“沃森”擊敗了幾屆電視知識(shí)搶答的冠軍,據(jù)說(shuō)最近有計(jì)算機(jī)通過(guò)了圖靈測(cè)試,但是對(duì)它們來(lái)說(shuō),許峰雄的上述斷言依舊適用。僅僅用自上而下的方法在行為上模仿人的智能行為,并無(wú)助于我們認(rèn)識(shí)腦和心智的機(jī)制問(wèn)題。

    這樣,一些人就企圖在作某些簡(jiǎn)化的條件下,模仿生物腦的局部機(jī)制,構(gòu)建在某些功能方面類(lèi)似于腦的機(jī)器。諾貝爾獎(jiǎng)得主埃德?tīng)柭?Gerald Edelman)的仿腦機(jī)(brain-based-devices (BBD)就是這類(lèi)研究的一個(gè)例子[16-17]。自1981年以來(lái),埃德?tīng)柭_(kāi)發(fā)了一系列的仿腦機(jī),它們通過(guò)經(jīng)驗(yàn)進(jìn)行學(xué)習(xí)。與傳統(tǒng)的機(jī)器人不同,仿腦機(jī)是通過(guò)從許多不同的仿真神經(jīng)回路中進(jìn)行選擇來(lái)進(jìn)行學(xué)習(xí)的,而不是按照事先編制好的程序指令來(lái)工作的。他們開(kāi)發(fā)了一系列不同型號(hào)的仿腦機(jī),模仿不同腦區(qū),如海馬或小腦的功能。

    例如有一種型號(hào)的仿腦機(jī)[18]可以在環(huán)境中自由行走,避開(kāi)障礙物,去取它看到的東西。在開(kāi)始時(shí)設(shè)計(jì)者只是在它的“腦”中設(shè)置兩條“價(jià)值觀”:光亮是好的;如果拾取的物體能通過(guò)它的金屬手給它充電是好的。其他一切就要通過(guò)它自己和環(huán)境打交道來(lái)獲取了。當(dāng)它在實(shí)驗(yàn)室里游逛時(shí),它會(huì)遇到一些在其頂上涂有條紋記號(hào)或圓斑記號(hào)的鋼積木。當(dāng)它取起上面有條紋記號(hào)的積木時(shí),有電流通過(guò)它的金屬手,它就知道這是“好味道”,而如果它取起上面有圓斑的積木,則沒(méi)有電流,它就認(rèn)為是“壞味道”。這樣它就把“味道”和看到的圖像聯(lián)系了起來(lái),經(jīng)過(guò)多次這樣的經(jīng)驗(yàn)以后,它就只靠視覺(jué)來(lái)拾取有好味道的積木(圖5)。 在開(kāi)始時(shí)其中的神經(jīng)元是按照已知的解剖結(jié)構(gòu)聯(lián)結(jié)成回路的,但是在和環(huán)境相互作用的過(guò)程中這些回路中的神經(jīng)元之間的連接權(quán)重會(huì)發(fā)生變化。對(duì)每個(gè)仿腦機(jī)來(lái)說(shuō),這種變化的模式都是獨(dú)特的,因?yàn)樗鼈兊慕?jīng)歷不一樣。用仿腦機(jī)來(lái)研究這種變化的優(yōu)點(diǎn)是可以詳細(xì)地研究所有的神經(jīng)元、突觸和回路的活動(dòng),而這在動(dòng)物實(shí)驗(yàn)上是更難做到的。

    圖4 “深藍(lán)”和卡斯帕洛夫正在對(duì)弈

    仿腦的另一條道路是直接用硬件來(lái)實(shí)現(xiàn)某些神經(jīng)組織,并在此基礎(chǔ)上構(gòu)造更為復(fù)雜的系統(tǒng)。這在現(xiàn)在被稱為“仿神經(jīng)結(jié)構(gòu)工程”。其奠基人美國(guó)計(jì)算機(jī)科學(xué)家米德(Carver Andress Mead,1934—)是大規(guī)模集成電路的先驅(qū)。正當(dāng)他事業(yè)如日中天之時(shí),他的興趣轉(zhuǎn)向了腦是如何進(jìn)行計(jì)算的問(wèn)題。他說(shuō)道:“我對(duì)于動(dòng)物視覺(jué)系統(tǒng)的機(jī)制越來(lái)越佩服。我老是對(duì)自己說(shuō):‘我永遠(yuǎn)也想不到這一點(diǎn),但是這確實(shí)是一個(gè)好主意。’”[19]正是通過(guò)學(xué)習(xí)視網(wǎng)膜的神經(jīng)機(jī)制,他指導(dǎo)一位生物學(xué)出身的博士生馬霍瓦爾德(Michelle (Misha) Mahowald,1963—1996)以“硅視網(wǎng)膜”作為她的博士論文課題。馬霍瓦爾德的硅視網(wǎng)膜是一種模擬視網(wǎng)膜頭三層解剖結(jié)構(gòu)(感光細(xì)胞、水平細(xì)胞和雙極細(xì)胞)和功能原理的芯片(圖6)。對(duì)硅視網(wǎng)膜的測(cè)試結(jié)果表明,它對(duì)外界圖像的反應(yīng)和生物視網(wǎng)膜的反應(yīng)很類(lèi)似,甚至還能再現(xiàn)“赫爾曼格點(diǎn)”這樣的錯(cuò)覺(jué)現(xiàn)象(圖7)。

    圖5 仿腦機(jī)在撿取頂上有條紋圖形的方塊[18]

    圖6 硅視網(wǎng)膜線路的示意圖(引自http://tapec.uv.es/pardo/ doctorado/visionchips/vision_chips/mahowald_mead. html)

    米德的學(xué)生和后繼者正在開(kāi)發(fā)具有生物真實(shí)性的神經(jīng)元電路硬件組成的系統(tǒng),這樣的新器件大大降低了能耗,縮小了體積。他的學(xué)生博阿漢(Kwabena Boahen)在2009年已經(jīng)構(gòu)造出有100萬(wàn)個(gè)神經(jīng)元的神經(jīng)網(wǎng)格超級(jí)計(jì)算機(jī)(Neurogrid supercomputer)(圖8),這樣他們終于可以不再靠軟件和消耗大量能量在普通的計(jì)算機(jī)上工作了,而用固化在低能耗硅片上的大量硅神經(jīng)元來(lái)進(jìn)行仿真。他的“神經(jīng)網(wǎng)格”芯片不再需要編程,而是按照自己的物理性質(zhì)自動(dòng)進(jìn)行。他們把16個(gè)神經(jīng)網(wǎng)格芯片聯(lián)結(jié)起來(lái),以模仿100萬(wàn)個(gè)神經(jīng)元和60億個(gè)突觸聯(lián)結(jié),而其消耗的能量不足1 W[20]。

    圖7 赫爾曼格點(diǎn)(你在白條的交叉點(diǎn)上似乎能看到有一些暗斑,這就是所謂的赫爾曼格點(diǎn))

    圖8 博阿漢實(shí)驗(yàn)室所研發(fā)的仿腦芯片中的電路一瞥[19]

    即使這樣,腦中生物神經(jīng)元有著極大的多樣性,更不要說(shuō)還有著比神經(jīng)元數(shù)量多10倍的神經(jīng)膠質(zhì)細(xì)胞,我們對(duì)此還很不了解。這些都會(huì)成為仿神經(jīng)結(jié)構(gòu)工程進(jìn)一步發(fā)展要遇到的難題。無(wú)論如何,不在傳統(tǒng)的計(jì)算機(jī)上進(jìn)行仿真,而是直接用硬件實(shí)現(xiàn)性質(zhì)類(lèi)似于神經(jīng)組織的硅芯片給人類(lèi)建立“人工腦”之夢(mèng)開(kāi)創(chuàng)了一條可能的新路。

    4 結(jié)語(yǔ)

    最近在神經(jīng)科學(xué)界有兩件引起轟動(dòng)的大事,這就是歐盟啟動(dòng)了為期十年、投入10億歐元資金的“人腦計(jì)劃”,而美國(guó)總統(tǒng)奧巴馬則宣布要啟動(dòng)一項(xiàng)為期更長(zhǎng)、耗資更大的“推進(jìn)創(chuàng)新神經(jīng)技術(shù)腦研究”提議。這兩大計(jì)劃的一個(gè)共同特點(diǎn)就是都強(qiáng)調(diào)了多學(xué)科研究腦的重要性。雖然學(xué)者們關(guān)于這兩大計(jì)劃的具體內(nèi)容以及是否要把資金都投在一個(gè)大項(xiàng)目中還有爭(zhēng)議,但是在關(guān)于應(yīng)該斥巨資研究腦,應(yīng)該通過(guò)多學(xué)科交叉合作研究腦這樣一些問(wèn)題上并無(wú)爭(zhēng)論。由于這兩大計(jì)劃內(nèi)容龐大,要介紹清楚其內(nèi)容和目前存在的爭(zhēng)議,在本文這樣一篇短文中不可能展開(kāi),好在筆者在近期已發(fā)表了幾篇文章[21-24],有興趣的讀者可以參看。關(guān)于多學(xué)科研究腦的更詳細(xì)的介紹,以及對(duì)這兩大腦計(jì)劃的介紹和評(píng)述也可參看拙作《腦海探險(xiǎn)——人類(lèi)怎樣認(rèn)識(shí)自己》[25]。

    (2014年11月21日收稿)

    [1] 克里克. 狂熱的追求[M]. 呂向東, 唐孝威, 譯. 合肥:中國(guó)科學(xué)技術(shù)大學(xué)出版社, 1994.

    [2] 維納. 控制論[M]. 郝季仁, 譯. 2版. 上海:科學(xué)出版社, 1963.

    [3] WIENER N.Cybernetics - or control and communication in the animal and machine(2nd Ed) [M]. MA: MIT Press, 1961

    [4] WIENER N, SCHADE J P . Progress in biocybernetics vol.1 [M]. New York: Elsevier Pub. Co. ,1964.

    [5] MCCULLOCH W, PITTS W. A logical calculus of the ideas immanent in nervous activity [J]. Bulletin of Mathematical Biophysics, 1943, 5: 115-133.

    [6] HEBB D O. The organization of behavior [M]. New York: John Wiley & Sons, 1949.

    [7] ROSENBLATT F. principles of neurodynamics: perceptrons and the theory of brain mechanisms [M]. Baltimore: Spartan Books, 1962.

    [8] HODGKIN A L, HUXLEY A F. A quantitative description of membrane current and its application to conduction and excitation in nerve [J]. Journal of Physiology. 1952, 117: 500-544.

    [9] REICHARDT W. Autocorrelation, a principle for the evaluation of sensory information by the central nervous system [M]// ROSENBLITH W A. Sensory Communication. MA: MIT Press, 1961: 303-317.

    [10] RALL W. Theoretical significance of dendritic trees for neuronal input-output relations [M]// REISS R F. Neural Theory and Modeling. Stanford: Stanford University Press, 1964.

    [11] SCHWARTZ E L. Computational neuroscience [M]. MA: The MIT Press, 1990.

    [12] RINZEL J, MIUER J, BOWER J M, et al. Editorial [J]. Journal of Computational Neuroscience, 1994, 1:9-10.

    [13] NIH. Computational neuroscience at the NIH [J]. Nature Neuroscience, 2000, 3: 1161-1164.

    [14] HSU F H. Behind deep blue: building the computer that defeated the world chess champion [M]. Princeton: Princeton University Press, 2004.

    [15] 許峰雄. “深藍(lán)”揭秘:追尋人工智能圣杯之旅[M]. 黃軍英, 蔡榮海, 程如煙, 等. 上海:上??萍冀逃霭嫔? 2005.

    [16] EDELMAN G M. Learning in and from brain-based device [J]. Science, 2007, 318: 1103-1105.

    [17] FLEISCHER J G, GALLY J A, EDELMAN G M. et al. Retrospective and prospective responses arising in a modeled hippocampus during maze navigation by a brain-based device [J]. Proc Natl Acad Sci USA , 2007, 104: 3556-3561.

    [18] KRICHMAR J L, EDELMAN G M. Brain-based devices: Intelligent systems based on principles of the nervous system [C]//Proceedings of the 2003 IEEE/RSJ International. Conference on Intelligent Robots and Systems. Las Vegas, Nevada, 2003: 940-945.

    [19] FREEDMAN D H. Brain makers—how scientists are moving beyond computers to create a rival to the human brain [M]. New York: Touchstone, 1995.

    [20] FOX D. Thinking machine [J]. Discover, 2009(10): 59-75.

    [21] GU F J. The human brain project EU is unlikely to create an artificial whole-brain in a decade [J]. Brain-Mind Magazine, 2013, (2): 4-6.

    [22] 顧凡及. 從藍(lán)腦計(jì)劃到人腦計(jì)劃: 歐盟腦研究計(jì)劃評(píng)介[J]. 科學(xué), 2013, 65(4): 16-20.

    [23] 顧凡及. 尖端創(chuàng)新神經(jīng)技術(shù)腦研究計(jì)劃: 美國(guó)腦研究計(jì)劃評(píng)介[J].科學(xué), 2013, 65(5): 19-23.

    [24] 顧凡及. 歐盟和美國(guó)兩大腦研究計(jì)劃之近況[J]. 科學(xué), 2014, 66(5): 16-21 .

    [25] 顧凡及. 腦海探險(xiǎn): 人類(lèi)怎樣認(rèn)識(shí)自己[M]. 上海: 上海科學(xué)技術(shù)出版社, 2014.

    Interdisciplinary studies on brain science with information science

    GU Fan-ji
    School of Life Sciences, Fudan University, Shanghai 200433, China

    Studies on the brain and mind have been the frontier of scientific researches in the 21st century, their interdisciplinary studies with information science play a key role in such research. A historical review, an introduction about the state of the art, and a perspective of this interdisciplinary field are given in this article.

    interdisciplinary studies, biological cybernetics, computational neuroscience, neuromorphic engineering, brain-like machine

    (編輯:溫 文)

    10.3969/j.issn.0253-9608.2015.01.004

    ?通信作者,E-mail:fjgu@fudan.edu.cn

    猜你喜歡
    維納神經(jīng)元神經(jīng)
    神經(jīng)松動(dòng)術(shù)在周?chē)窠?jīng)損傷中的研究進(jìn)展
    中西醫(yī)結(jié)合治療橈神經(jīng)損傷研究進(jìn)展
    《從光子到神經(jīng)元》書(shū)評(píng)
    自然雜志(2021年6期)2021-12-23 08:24:46
    躍動(dòng)的神經(jīng)元——波蘭Brain Embassy聯(lián)合辦公
    健忘的數(shù)學(xué)家
    大數(shù)學(xué)家維納趣事一籮筐
    “神經(jīng)”病友
    Coco薇(2015年5期)2016-03-29 22:51:13
    數(shù)學(xué)家維納的年齡
    各種神經(jīng)損傷的病變范圍
    健康管理(2015年2期)2015-11-20 18:30:01
    基于二次型單神經(jīng)元PID的MPPT控制
    欧美日韩亚洲综合一区二区三区_| 一级a爱视频在线免费观看| 国产精品av久久久久免费| 黑丝袜美女国产一区| 久久中文看片网| 久久久久亚洲av毛片大全| 好男人电影高清在线观看| 婷婷精品国产亚洲av| 国产一级毛片七仙女欲春2 | 亚洲精品在线观看二区| www日本黄色视频网| 久久精品国产亚洲av香蕉五月| 黄片小视频在线播放| 黄色视频,在线免费观看| 99久久无色码亚洲精品果冻| 午夜免费激情av| 桃色一区二区三区在线观看| 国产精品永久免费网站| 国产av一区在线观看免费| av片东京热男人的天堂| 一进一出抽搐动态| 午夜福利成人在线免费观看| 真人一进一出gif抽搐免费| 精品国产乱码久久久久久男人| 搡老妇女老女人老熟妇| 国产一卡二卡三卡精品| 色尼玛亚洲综合影院| 色综合欧美亚洲国产小说| 免费看日本二区| 一卡2卡三卡四卡精品乱码亚洲| 国产单亲对白刺激| 欧美另类亚洲清纯唯美| 亚洲欧洲精品一区二区精品久久久| 在线播放国产精品三级| 国产aⅴ精品一区二区三区波| 最近最新中文字幕大全电影3 | 亚洲国产精品久久男人天堂| 欧美一级毛片孕妇| 亚洲欧洲精品一区二区精品久久久| 亚洲成a人片在线一区二区| 午夜福利成人在线免费观看| e午夜精品久久久久久久| 久久久久国产一级毛片高清牌| 十分钟在线观看高清视频www| 国产v大片淫在线免费观看| 欧美中文日本在线观看视频| 午夜久久久久精精品| 真人做人爱边吃奶动态| 欧美绝顶高潮抽搐喷水| 黑人巨大精品欧美一区二区mp4| 婷婷精品国产亚洲av| 国内少妇人妻偷人精品xxx网站 | 制服人妻中文乱码| 看片在线看免费视频| 久久久久免费精品人妻一区二区 | 亚洲av美国av| 欧美日韩亚洲综合一区二区三区_| 免费人成视频x8x8入口观看| 国产真实乱freesex| 欧美中文日本在线观看视频| 久久 成人 亚洲| 熟女电影av网| 19禁男女啪啪无遮挡网站| 久久香蕉激情| 精品国产国语对白av| 成人特级黄色片久久久久久久| 国产成人系列免费观看| 国产男靠女视频免费网站| 欧美午夜高清在线| 亚洲精品美女久久久久99蜜臀| 亚洲精品国产精品久久久不卡| a级毛片a级免费在线| 国产激情欧美一区二区| 黑人欧美特级aaaaaa片| 亚洲人成网站高清观看| 又黄又粗又硬又大视频| 国产精品1区2区在线观看.| 国产视频一区二区在线看| 黄色毛片三级朝国网站| 国产亚洲精品av在线| 久久欧美精品欧美久久欧美| 国产精品九九99| 后天国语完整版免费观看| 国产v大片淫在线免费观看| 国产熟女xx| 亚洲五月色婷婷综合| 色哟哟哟哟哟哟| 午夜福利18| 色综合亚洲欧美另类图片| 色综合站精品国产| 99久久无色码亚洲精品果冻| 免费在线观看成人毛片| 午夜久久久在线观看| 国产又黄又爽又无遮挡在线| svipshipincom国产片| 少妇的丰满在线观看| 后天国语完整版免费观看| 一进一出抽搐动态| 日本三级黄在线观看| 免费在线观看视频国产中文字幕亚洲| 亚洲色图av天堂| 亚洲精品国产区一区二| 亚洲欧美日韩无卡精品| 深夜精品福利| 91av网站免费观看| 美女 人体艺术 gogo| 久久久久九九精品影院| 国产又色又爽无遮挡免费看| 一进一出好大好爽视频| 人妻丰满熟妇av一区二区三区| 搡老熟女国产l中国老女人| 欧美三级亚洲精品| 人人妻人人澡欧美一区二区| 2021天堂中文幕一二区在线观 | 久久精品国产99精品国产亚洲性色| 脱女人内裤的视频| 动漫黄色视频在线观看| 精品乱码久久久久久99久播| 1024视频免费在线观看| 久久久久国产一级毛片高清牌| 黑人欧美特级aaaaaa片| 国产亚洲精品一区二区www| 精品国产超薄肉色丝袜足j| 特大巨黑吊av在线直播 | 99国产极品粉嫩在线观看| 国产男靠女视频免费网站| 国产不卡一卡二| 老汉色av国产亚洲站长工具| 女性生殖器流出的白浆| 国产一卡二卡三卡精品| 啦啦啦 在线观看视频| 亚洲五月天丁香| 在线观看免费午夜福利视频| 亚洲一区高清亚洲精品| svipshipincom国产片| 午夜日韩欧美国产| 国产亚洲精品久久久久久毛片| 少妇粗大呻吟视频| 99re在线观看精品视频| 国产精品二区激情视频| 日日干狠狠操夜夜爽| 99riav亚洲国产免费| 女人被狂操c到高潮| 欧美最黄视频在线播放免费| 国产精品99久久99久久久不卡| av天堂在线播放| 亚洲av电影在线进入| 日本一区二区免费在线视频| 热re99久久国产66热| 神马国产精品三级电影在线观看 | 成年女人毛片免费观看观看9| 国语自产精品视频在线第100页| 亚洲久久久国产精品| 人人妻人人澡人人看| 少妇熟女aⅴ在线视频| 国产蜜桃级精品一区二区三区| 好男人在线观看高清免费视频 | 人成视频在线观看免费观看| 精品久久久久久久久久免费视频| 搡老岳熟女国产| 十八禁人妻一区二区| 窝窝影院91人妻| 日韩成人在线观看一区二区三区| tocl精华| 亚洲国产日韩欧美精品在线观看 | 亚洲欧洲精品一区二区精品久久久| 日韩欧美 国产精品| 国产亚洲精品久久久久5区| 丰满人妻熟妇乱又伦精品不卡| 免费在线观看影片大全网站| 母亲3免费完整高清在线观看| 亚洲人成网站高清观看| 99国产极品粉嫩在线观看| 夜夜爽天天搞| 色综合婷婷激情| 男人舔女人下体高潮全视频| 亚洲人成伊人成综合网2020| 一区二区三区激情视频| 亚洲七黄色美女视频| 两个人看的免费小视频| 最好的美女福利视频网| 久9热在线精品视频| av电影中文网址| 久久天堂一区二区三区四区| 午夜老司机福利片| 国产精品一区二区精品视频观看| 国产av不卡久久| 精品久久蜜臀av无| 999久久久国产精品视频| 久久精品国产亚洲av高清一级| 人人澡人人妻人| 午夜福利18| 午夜免费激情av| netflix在线观看网站| 男人舔女人下体高潮全视频| 老司机午夜十八禁免费视频| 国产乱人伦免费视频| 哪里可以看免费的av片| 少妇的丰满在线观看| 精品国产亚洲在线| 人成视频在线观看免费观看| 亚洲 欧美一区二区三区| 久久久国产欧美日韩av| 国产熟女午夜一区二区三区| 午夜激情av网站| 久久久久久久午夜电影| 精品久久久久久久久久久久久 | 免费看十八禁软件| 熟妇人妻久久中文字幕3abv| 99精品欧美一区二区三区四区| 成年免费大片在线观看| 999精品在线视频| 国产伦人伦偷精品视频| 亚洲欧美日韩高清在线视频| 一级a爱片免费观看的视频| 好男人在线观看高清免费视频 | 亚洲五月天丁香| 精品高清国产在线一区| 一进一出好大好爽视频| 99热6这里只有精品| 一二三四在线观看免费中文在| 91成年电影在线观看| 日本在线视频免费播放| 美女免费视频网站| 99久久精品国产亚洲精品| 欧美成人午夜精品| 狠狠狠狠99中文字幕| 日日夜夜操网爽| 国产高清激情床上av| bbb黄色大片| 一级a爱视频在线免费观看| 一个人免费在线观看的高清视频| 91老司机精品| 国产精品久久久人人做人人爽| aaaaa片日本免费| 亚洲电影在线观看av| 搡老妇女老女人老熟妇| 国产亚洲精品综合一区在线观看 | 青草久久国产| 国产精品乱码一区二三区的特点| 亚洲av电影在线进入| 丰满人妻熟妇乱又伦精品不卡| 国产精品久久久久久亚洲av鲁大| 俺也久久电影网| 国产精品亚洲美女久久久| 长腿黑丝高跟| 成人18禁高潮啪啪吃奶动态图| 亚洲国产毛片av蜜桃av| 女警被强在线播放| 亚洲精品在线美女| 国产成人精品无人区| 看黄色毛片网站| 国产精品,欧美在线| www国产在线视频色| 午夜视频精品福利| 男人的好看免费观看在线视频 | 一a级毛片在线观看| 免费在线观看黄色视频的| 一本大道久久a久久精品| 他把我摸到了高潮在线观看| 日韩欧美免费精品| 亚洲欧美精品综合久久99| 日本黄色视频三级网站网址| 19禁男女啪啪无遮挡网站| 欧美日韩黄片免| 90打野战视频偷拍视频| 午夜久久久在线观看| 男人舔女人的私密视频| 最近最新中文字幕大全免费视频| 日本在线视频免费播放| 免费在线观看影片大全网站| 久久精品国产亚洲av高清一级| 国产又黄又爽又无遮挡在线| 免费在线观看影片大全网站| 国产精品爽爽va在线观看网站 | 无限看片的www在线观看| 男人舔女人下体高潮全视频| 国产成人影院久久av| 免费一级毛片在线播放高清视频| 午夜福利18| 欧美在线一区亚洲| 人妻丰满熟妇av一区二区三区| 神马国产精品三级电影在线观看 | 嫁个100分男人电影在线观看| 亚洲欧美日韩高清在线视频| 日韩免费av在线播放| 国产精品av久久久久免费| 色尼玛亚洲综合影院| 国产一级毛片七仙女欲春2 | 亚洲国产欧美网| 亚洲国产精品sss在线观看| 久久亚洲真实| 精品国产乱子伦一区二区三区| 成人国产一区最新在线观看| 搡老妇女老女人老熟妇| 国产aⅴ精品一区二区三区波| 成人av一区二区三区在线看| 99热只有精品国产| tocl精华| 国产成+人综合+亚洲专区| 婷婷六月久久综合丁香| 一本一本综合久久| 香蕉久久夜色| 日本 av在线| 1024手机看黄色片| 美国免费a级毛片| 在线观看一区二区三区| 久久天躁狠狠躁夜夜2o2o| 日日爽夜夜爽网站| 美女免费视频网站| 这个男人来自地球电影免费观看| 99国产精品99久久久久| av中文乱码字幕在线| 亚洲精品久久国产高清桃花| 一级毛片女人18水好多| 亚洲美女黄片视频| 成人手机av| 国产精品乱码一区二三区的特点| 久久精品夜夜夜夜夜久久蜜豆 | 亚洲欧美一区二区三区黑人| 在线播放国产精品三级| ponron亚洲| 51午夜福利影视在线观看| 亚洲人成网站高清观看| 国产男靠女视频免费网站| 久久天躁狠狠躁夜夜2o2o| 精品高清国产在线一区| 一a级毛片在线观看| 高清毛片免费观看视频网站| 免费观看精品视频网站| 亚洲国产精品999在线| 成人午夜高清在线视频 | 99热只有精品国产| 久久久国产成人精品二区| 国产一级毛片七仙女欲春2 | 成人国产综合亚洲| 欧美在线黄色| 久9热在线精品视频| 欧美日韩瑟瑟在线播放| 99在线人妻在线中文字幕| 中出人妻视频一区二区| 欧美三级亚洲精品| 精品国产乱码久久久久久男人| 夜夜躁狠狠躁天天躁| 亚洲国产精品999在线| 亚洲色图 男人天堂 中文字幕| 日韩国内少妇激情av| 欧美激情 高清一区二区三区| 99热6这里只有精品| 午夜两性在线视频| 久久中文字幕一级| 成人18禁在线播放| 久久久久亚洲av毛片大全| 色精品久久人妻99蜜桃| 国产熟女xx| 国产亚洲欧美在线一区二区| 欧美日韩亚洲国产一区二区在线观看| 少妇粗大呻吟视频| 99国产精品一区二区蜜桃av| 日韩大尺度精品在线看网址| 丁香欧美五月| 午夜精品久久久久久毛片777| 欧美乱色亚洲激情| 亚洲久久久国产精品| 亚洲国产精品久久男人天堂| 国产三级在线视频| 大香蕉久久成人网| 天天一区二区日本电影三级| 国产三级黄色录像| 国产人伦9x9x在线观看| 女人高潮潮喷娇喘18禁视频| 国产精华一区二区三区| 又黄又粗又硬又大视频| 亚洲中文av在线| 日本在线视频免费播放| 人人妻人人澡欧美一区二区| 在线观看免费日韩欧美大片| 激情在线观看视频在线高清| 亚洲av日韩精品久久久久久密| 欧美中文综合在线视频| 国产精品影院久久| 亚洲色图 男人天堂 中文字幕| 少妇熟女aⅴ在线视频| 国产主播在线观看一区二区| 亚洲成a人片在线一区二区| 亚洲成人免费电影在线观看| 狠狠狠狠99中文字幕| 一区二区三区国产精品乱码| 精品国产美女av久久久久小说| 欧美中文日本在线观看视频| 国产成人欧美| 亚洲五月天丁香| 老司机深夜福利视频在线观看| 欧美日韩中文字幕国产精品一区二区三区| 级片在线观看| 波多野结衣av一区二区av| 三级毛片av免费| 亚洲熟女毛片儿| 免费人成视频x8x8入口观看| 搡老熟女国产l中国老女人| 日韩欧美三级三区| 成熟少妇高潮喷水视频| 免费看a级黄色片| 69av精品久久久久久| 国产成人精品久久二区二区免费| 亚洲av成人av| 正在播放国产对白刺激| 亚洲自拍偷在线| 久久久精品国产亚洲av高清涩受| 久久久久久久久中文| 国产欧美日韩精品亚洲av| 国产成人啪精品午夜网站| 国产三级在线视频| 中文字幕人妻熟女乱码| 国产男靠女视频免费网站| 51午夜福利影视在线观看| 人人妻人人看人人澡| 欧美黄色片欧美黄色片| 亚洲欧美精品综合久久99| 午夜影院日韩av| 中文字幕人妻熟女乱码| 一边摸一边做爽爽视频免费| 欧美成人性av电影在线观看| 香蕉久久夜色| 日韩视频一区二区在线观看| 免费观看精品视频网站| 黄色女人牲交| 精品日产1卡2卡| 久久久久亚洲av毛片大全| 色哟哟哟哟哟哟| 精华霜和精华液先用哪个| 免费在线观看黄色视频的| 欧美三级亚洲精品| 男女视频在线观看网站免费 | 久久精品国产综合久久久| 波多野结衣高清作品| 亚洲欧美精品综合久久99| 成人三级黄色视频| 成年免费大片在线观看| 男人舔奶头视频| 久久久久国内视频| 亚洲午夜精品一区,二区,三区| 听说在线观看完整版免费高清| 亚洲 欧美一区二区三区| 深夜精品福利| 成熟少妇高潮喷水视频| 精品久久久久久,| 国产麻豆成人av免费视频| 不卡一级毛片| 麻豆av在线久日| 白带黄色成豆腐渣| 满18在线观看网站| 欧美绝顶高潮抽搐喷水| 久久中文字幕人妻熟女| 日日夜夜操网爽| 亚洲激情在线av| 亚洲成人久久爱视频| 亚洲国产高清在线一区二区三 | 国产精品美女特级片免费视频播放器 | 亚洲国产中文字幕在线视频| 亚洲自拍偷在线| 国产麻豆成人av免费视频| 精品一区二区三区视频在线观看免费| 中亚洲国语对白在线视频| 9191精品国产免费久久| 亚洲精品美女久久久久99蜜臀| 午夜激情福利司机影院| 欧美亚洲日本最大视频资源| 桃红色精品国产亚洲av| 婷婷亚洲欧美| 男女之事视频高清在线观看| 日本熟妇午夜| 叶爱在线成人免费视频播放| 国产亚洲精品综合一区在线观看 | 性色av乱码一区二区三区2| 中文字幕av电影在线播放| 久久天堂一区二区三区四区| 婷婷丁香在线五月| 在线视频色国产色| 可以免费在线观看a视频的电影网站| 美女大奶头视频| 成年女人毛片免费观看观看9| 亚洲欧美日韩无卡精品| 在线看三级毛片| 嫩草影视91久久| 久9热在线精品视频| 精品国产亚洲在线| 亚洲五月天丁香| 超碰成人久久| 国产一区二区激情短视频| 50天的宝宝边吃奶边哭怎么回事| 久久精品夜夜夜夜夜久久蜜豆 | 99久久无色码亚洲精品果冻| 亚洲国产精品合色在线| 大型av网站在线播放| 美女国产高潮福利片在线看| 99国产精品一区二区蜜桃av| 欧美激情久久久久久爽电影| 亚洲aⅴ乱码一区二区在线播放 | 亚洲专区国产一区二区| 国产成人精品久久二区二区91| 免费在线观看视频国产中文字幕亚洲| 一夜夜www| 日本熟妇午夜| 亚洲国产精品成人综合色| av电影中文网址| 叶爱在线成人免费视频播放| 在线观看舔阴道视频| 久久久久久大精品| 精品高清国产在线一区| 亚洲性夜色夜夜综合| 窝窝影院91人妻| 久久久久久大精品| 免费一级毛片在线播放高清视频| 精品乱码久久久久久99久播| 精品第一国产精品| 宅男免费午夜| 亚洲在线自拍视频| 国产三级黄色录像| 午夜免费鲁丝| 久久精品国产清高在天天线| 丰满人妻熟妇乱又伦精品不卡| www日本黄色视频网| 欧美中文综合在线视频| 国产精品久久久人人做人人爽| 一本精品99久久精品77| 美女高潮喷水抽搐中文字幕| 国产成人av激情在线播放| 国产av不卡久久| 国产精品一区二区免费欧美| 啦啦啦 在线观看视频| 人人妻人人看人人澡| 国产精品av久久久久免费| 亚洲自偷自拍图片 自拍| 满18在线观看网站| 午夜激情av网站| 亚洲精华国产精华精| 国产精品亚洲一级av第二区| 1024视频免费在线观看| 亚洲欧美精品综合一区二区三区| 午夜福利在线观看吧| 亚洲 欧美 日韩 在线 免费| 99riav亚洲国产免费| 国产爱豆传媒在线观看 | 欧美一级毛片孕妇| 日韩 欧美 亚洲 中文字幕| 亚洲成国产人片在线观看| 99国产极品粉嫩在线观看| 在线av久久热| 欧美又色又爽又黄视频| 99久久国产精品久久久| 亚洲全国av大片| 日韩一卡2卡3卡4卡2021年| 精品电影一区二区在线| 国内精品久久久久久久电影| 亚洲av成人不卡在线观看播放网| 国产精品美女特级片免费视频播放器 | 一夜夜www| 国产伦在线观看视频一区| 91av网站免费观看| 久久精品亚洲精品国产色婷小说| 亚洲五月天丁香| 又紧又爽又黄一区二区| 国产欧美日韩一区二区精品| av中文乱码字幕在线| 精品日产1卡2卡| 亚洲国产精品sss在线观看| 啦啦啦 在线观看视频| 久久人妻福利社区极品人妻图片| 男男h啪啪无遮挡| 亚洲七黄色美女视频| 欧美日韩精品网址| 十八禁人妻一区二区| 女同久久另类99精品国产91| 两性夫妻黄色片| 国产精品免费视频内射| 国产亚洲av嫩草精品影院| av中文乱码字幕在线| 国产亚洲欧美精品永久| 草草在线视频免费看| 国产av一区在线观看免费| 亚洲av美国av| 成年免费大片在线观看| 一区福利在线观看| 亚洲天堂国产精品一区在线| 欧美激情极品国产一区二区三区| 91在线观看av| 日本a在线网址| 欧美三级亚洲精品| 国内精品久久久久久久电影| 久久人人精品亚洲av| 国产区一区二久久| 欧美三级亚洲精品| 免费看十八禁软件| 999久久久精品免费观看国产| 免费在线观看成人毛片| 一a级毛片在线观看| 啦啦啦观看免费观看视频高清| АⅤ资源中文在线天堂| 女人爽到高潮嗷嗷叫在线视频| 国产亚洲欧美在线一区二区| 日本熟妇午夜| 午夜福利视频1000在线观看| 午夜福利高清视频| 精品午夜福利视频在线观看一区| 久久精品夜夜夜夜夜久久蜜豆 | 国产黄色小视频在线观看| 757午夜福利合集在线观看| 91av网站免费观看| 少妇 在线观看| 国产亚洲av嫩草精品影院| 亚洲精品在线观看二区| 欧美中文综合在线视频| 啦啦啦 在线观看视频| 亚洲自偷自拍图片 自拍|