莫宏偉,叢 垚
(哈爾濱工程大學(xué)智能科學(xué)與工程學(xué)院,哈爾濱 150001)
當(dāng)前信息科技正在向智能化不斷邁進(jìn),這離不開人工智能、深度學(xué)習(xí)和云計(jì)算等技術(shù)的支持,同時(shí)在當(dāng)前大數(shù)據(jù)背景下,對(duì)計(jì)算系統(tǒng)大規(guī)模信息處理能力提出了更大的挑戰(zhàn)。當(dāng)前計(jì)算系統(tǒng)在信息處理方式上受限于傳統(tǒng)的馮·諾依曼結(jié)構(gòu),由于摩爾定律存在物理極限,因此芯片設(shè)計(jì)不具備通用性,無(wú)法實(shí)現(xiàn)真正的智能,使得研究學(xué)者向類腦研究方向進(jìn)行探索,企圖從人腦結(jié)構(gòu)及信息處理方式上得到啟發(fā),創(chuàng)建不同于馮·諾依曼結(jié)構(gòu)的類腦計(jì)算機(jī),使其在低能耗的條件下實(shí)現(xiàn)強(qiáng)大的信息處理能力,且具備通用性以及一定的認(rèn)知能力。類腦計(jì)算通常是指從硬件結(jié)構(gòu)到模型算法,由大腦神經(jīng)系統(tǒng)結(jié)構(gòu)和信息處理機(jī)制所啟發(fā)的新型計(jì)算方法。我們的大腦的確具備一些當(dāng)前計(jì)算機(jī)無(wú)法企及的優(yōu)點(diǎn):我們的大腦中存在將近103億個(gè)神經(jīng)細(xì)胞和超過(guò)106億個(gè)神經(jīng)突觸,大腦的日常功耗大約10~25W,而普通計(jì)算機(jī)的功耗則是大腦的10~20倍,圖形處理器的功耗則是大腦的100倍以上,且大腦的生物神經(jīng)元同時(shí)具備運(yùn)算和存儲(chǔ)能力。為此,類腦計(jì)算機(jī)可突破傳統(tǒng)馮·諾依曼結(jié)構(gòu),提升信息處理效率。
特殊的大腦結(jié)構(gòu)及腦內(nèi)信息傳遞方式是大腦具備真正智能的關(guān)鍵,人類對(duì)于大腦結(jié)構(gòu)及功能的探索從未止步:研究表明,大腦中的組織多以分層級(jí)結(jié)構(gòu)存在,例如視覺(jué)皮層組織[1],組織中存在著功能不對(duì)稱的正向和反向連接方式,正向連接(從低到高)有稀疏的軸突分叉,起源于大腦皮質(zhì)的上顆粒層,主要終止于第IV層;另一方面,反向連接顯示了豐富的軸突分叉,分布相較于正向連接更加分散,而且連接數(shù)量相當(dāng)多[2]。反向連接與人工神經(jīng)網(wǎng)絡(luò)中的反饋相關(guān),T. P. Lillicarp等[3]認(rèn)為在腦中的反向連接引起的反饋可誘發(fā)神經(jīng)活動(dòng),其反饋差值可用于逼近神經(jīng)活動(dòng)信號(hào),從而驅(qū)動(dòng)大腦深層網(wǎng)絡(luò)的有效學(xué)習(xí)。其他方面,T. Hainmueller等[4]的研究表明,齒狀回是海馬記憶形成的關(guān)鍵部分,其在不同的認(rèn)知功能中具有重要作用,包括辨別相似語(yǔ)境、將物體或事件與地點(diǎn)相聯(lián)系以及整合記憶操作;K. A. Ferguson等[5]的研究表明,皮層的增益調(diào)節(jié)使神經(jīng)元對(duì)變化的輸入做出適應(yīng)性反應(yīng),這種增益調(diào)節(jié)容易受到各種神經(jīng)活動(dòng)影響,包括注意力、學(xué)習(xí)和運(yùn)動(dòng)等,并且Y-氨基丁酸能抑制在皮層的增益調(diào)節(jié),從而起到關(guān)鍵而復(fù)雜的作用;A. Bicanski等[6]通過(guò)調(diào)查研究提出了具有矢量感受野的細(xì)胞功能分類,包括邊界矢量細(xì)胞、邊界細(xì)胞、目標(biāo)矢量細(xì)胞、跟蹤矢量細(xì)胞和自我中心邊界細(xì)胞等,這些神經(jīng)元的響應(yīng)為自底向上的環(huán)境布局表征和視覺(jué)空間意象生成以及導(dǎo)航規(guī)劃提供了基本神經(jīng)基礎(chǔ);J. Mcfadgen等[7]的研究表明,包含感知處理初始回路的皮層下區(qū)域可以確保處理效率并保障重要生命功能,而皮層下區(qū)域與大腦皮層區(qū)域間的交互作用促成了非典型的感知和認(rèn)知加工;L. R. Taxier等[8]在研究中總結(jié)了雌二醇的信號(hào)傳導(dǎo)機(jī)制及其在空間記憶、物體識(shí)別、社會(huì)記憶和恐懼記憶中的作用,越來(lái)越多的證據(jù)表明,雌二醇作為神經(jīng)調(diào)節(jié)劑在女性和男性的學(xué)習(xí)記憶方面都起著至關(guān)重要的作用;J. Duncan等[9]在研究中表明,任何一種有組織的認(rèn)知都來(lái)自于廣泛分布的腦活動(dòng),流體智力與腦中的多需求(Multiple Demand,MD)系統(tǒng)相關(guān),在皮層上可以看到9個(gè)MD活動(dòng)斑塊區(qū)域,主要分布在外側(cè)額葉、背內(nèi)側(cè)額葉、外側(cè)和內(nèi)側(cè)頂葉,以及顳枕葉皮層,在MD區(qū)域中算數(shù)活動(dòng)最強(qiáng),關(guān)系推理活動(dòng)最弱。這些有關(guān)大腦探索得到的客觀規(guī)律和機(jī)制,不僅作用于現(xiàn)代醫(yī)學(xué)和神經(jīng)科學(xué)領(lǐng)域,也可以作為類腦啟發(fā)式應(yīng)用于工程領(lǐng)域,促進(jìn)認(rèn)知智能。
類腦計(jì)算技術(shù)的研究路線可分為兩大類:一種是自上而下,即先通過(guò)科學(xué)手段觀察大腦內(nèi)結(jié)構(gòu)和功能運(yùn)行機(jī)制,然后根據(jù)觀察結(jié)果模仿大腦功能,例如歐盟的人類腦計(jì)劃和美國(guó)的腦科學(xué)計(jì)劃,以及目前各個(gè)國(guó)家都在推動(dòng)的腦圖譜和腦網(wǎng)絡(luò)組圖譜研究。腦圖譜通過(guò)圖像處理的方式按照不同的功能結(jié)構(gòu)劃分腦區(qū),腦網(wǎng)絡(luò)組圖譜則在腦圖譜的基礎(chǔ)上提供腦區(qū)與腦區(qū)之間、腦區(qū)與全腦之間的連接模式。通過(guò)腦網(wǎng)絡(luò)組圖譜可以進(jìn)一步對(duì)大腦局部功能進(jìn)行探索,2020年蔣田仔團(tuán)隊(duì)利用腦網(wǎng)絡(luò)組圖譜發(fā)現(xiàn)了紋狀體環(huán)路功能異常是精神分裂癥精準(zhǔn)診療的有效生物標(biāo)志物[10]。另一種是自下而上的方法,即先構(gòu)造大腦功能結(jié)構(gòu)相關(guān)的假說(shuō)和模型,然后驗(yàn)證假說(shuō)和模型是否與真實(shí)神經(jīng)結(jié)構(gòu)、動(dòng)力學(xué)規(guī)律相符,例如Friston的預(yù)測(cè)編碼[11]和自由能假說(shuō)[12]等。
總的來(lái)說(shuō),類腦計(jì)算技術(shù)首先借鑒大腦生理結(jié)構(gòu)及功能,建立類腦模型,然后在硬件上參照腦內(nèi)神經(jīng)元結(jié)構(gòu)創(chuàng)造實(shí)際的類腦元件,最終通過(guò)研究人腦學(xué)習(xí)、記憶和推理的運(yùn)行機(jī)制,并應(yīng)用于類腦模型中,使其具備人類智能甚至在某些層面上超越人類智能。
研究學(xué)者通過(guò)各種科學(xué)手段,如腦電圖(Electroencephalogram,EEG)[13]、功能性磁共振(functional Magnetic Resonance Imaging,fMRI)[14]和功能性近紅外光譜(functional Near-Infrared Spectroscopy,fNIRS)[15]等對(duì)大腦的局部構(gòu)造和功能進(jìn)行探索,得到多種腦內(nèi)神經(jīng)元組織上和功能上的客觀規(guī)律,如視覺(jué)皮層中大量的分層組織結(jié)構(gòu)、大量的反饋調(diào)節(jié)機(jī)制以及具有特殊作用的腦內(nèi)神經(jīng)細(xì)胞等,并以此為靈感,融合進(jìn)學(xué)科應(yīng)用中。卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)就是以人類視覺(jué)皮層的分層組織結(jié)構(gòu)為啟發(fā)的經(jīng)典案例[16],分層級(jí)的組織結(jié)構(gòu)在多個(gè)單元層級(jí)上對(duì)任務(wù)進(jìn)行分解,使復(fù)雜任務(wù)得以簡(jiǎn)化,從而易于控制。反饋調(diào)節(jié)機(jī)制,如注意力機(jī)制等,則是腦內(nèi)重要的信息處理機(jī)制,其和正饋處理一起形成了包括視覺(jué)感知過(guò)程在內(nèi)的完整腦功能回路。大腦的神經(jīng)可塑性以及腦內(nèi)具有特殊功能的神經(jīng)元?jiǎng)t賦予人類靈活的學(xué)習(xí)、記憶以及特殊的認(rèn)知功能。目前學(xué)者們發(fā)現(xiàn)和利用腦局部組織或功能的熱點(diǎn)研究包括:注意力機(jī)制(Attention Mechanism)、基于空間導(dǎo)航細(xì)胞的類腦導(dǎo)航和長(zhǎng)短期記憶網(wǎng)絡(luò) (Long Short Term Memory,LSTM)等。
注意力機(jī)制是大腦中存在的一種反饋機(jī)制,是研究人員在對(duì)人類視覺(jué)系統(tǒng)的研究中發(fā)現(xiàn)的。注意力機(jī)制體現(xiàn)在人類視覺(jué)系統(tǒng)對(duì)信息的有選擇攝取。當(dāng)將人眼接收的視覺(jué)信息傳入視覺(jué)系統(tǒng)時(shí),視覺(jué)系統(tǒng)并非照單全收,而是有篩選地關(guān)注更有價(jià)值的信息,并抑制對(duì)無(wú)關(guān)信息的關(guān)注??梢钥闯?,腦中的注意力具有指向性與集中性,指向性主要指大腦有選擇地關(guān)注感興趣的事物,而集中性則是指大腦在關(guān)注了感興趣的事物后抑制對(duì)其他無(wú)關(guān)信息的關(guān)注。注意力機(jī)制一直是心理學(xué)上的研究熱點(diǎn),與人類的學(xué)習(xí)行為有極大的關(guān)聯(lián),M. I. Ponser等[17-18]發(fā)展了注意力網(wǎng)絡(luò)理論,將注意力看作多網(wǎng)絡(luò)系統(tǒng),包括警覺(jué)性網(wǎng)絡(luò)、導(dǎo)向性網(wǎng)絡(luò)和執(zhí)行功能網(wǎng)絡(luò)[19]。而且認(rèn)知神經(jīng)科學(xué)學(xué)者們通過(guò)功能磁共振發(fā)現(xiàn),這些網(wǎng)絡(luò)在大腦中具有相應(yīng)的神經(jīng)功能區(qū)域[20],警覺(jué)性網(wǎng)絡(luò)對(duì)應(yīng)的區(qū)域主要在丘腦,大腦額葉和頂葉也有部分相應(yīng)區(qū)域,主要負(fù)責(zé)使個(gè)體保持警覺(jué)以便做出相應(yīng)響應(yīng)[21];導(dǎo)向性網(wǎng)絡(luò)對(duì)應(yīng)區(qū)域較廣泛,包括頂葉上部、顳頂葉聯(lián)合區(qū)、上丘腦和額葉眼動(dòng)區(qū),主要負(fù)責(zé)刺激選擇,在給定所有刺激中選擇最相關(guān)的[22-23];執(zhí)行功能網(wǎng)絡(luò)則主要對(duì)應(yīng)于前扣帶回和外側(cè)前額葉等,主要負(fù)責(zé)監(jiān)控大腦信息處理活動(dòng)[24-25]。
注意力機(jī)制模型最早于20世紀(jì)90年代提出并應(yīng)用于計(jì)算機(jī)視覺(jué)領(lǐng)域,現(xiàn)如今已經(jīng)成為深度學(xué)習(xí)模型中應(yīng)用最廣泛的組件之一,其作用主要是判斷輸入數(shù)據(jù)的貢獻(xiàn),類似于傳統(tǒng)的特征工程,但不同于傳統(tǒng)特征工程的靜態(tài)性,注意力機(jī)制是動(dòng)態(tài)性地計(jì)算數(shù)據(jù)貢獻(xiàn)。V. Mnih等[26]使用融合了注意力機(jī)制的循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks,RNN)模型進(jìn)行圖像分類,每次只對(duì)具有高注意力的像素部分進(jìn)行處理,從而使復(fù)雜的圖像分類問(wèn)題得以簡(jiǎn)化。D. Bahdanau等[27]首次將注意力機(jī)制引入自然語(yǔ)言處理(Natural Language Processing,NLP)領(lǐng)域中,并在基于編碼-解碼模型的機(jī)器翻譯任務(wù)中取得了十分理想的翻譯效果。以編碼-解碼模型為例,普通的編碼-解碼模型對(duì)于所有輸入所分配的處理權(quán)重都是一樣的,也就是說(shuō)注意力是平均分配的,在引入了注意力機(jī)制后,不同的編碼器輸出根據(jù)匹配程度計(jì)算得到不同的處理權(quán)值,即注意力得分,從而得到相關(guān)的注意力,如圖1所示。xi,i=1,2,3,4,為輸入向量序列;hi,i=1,2,3,4,為編碼器輸出序列;yi,i=1,2,3,4,為解碼器輸出序列。注意力得分按式(1)計(jì)算
ASi=Similarity(hi,kj)
(1)
其中,ASi為第i個(gè)編碼器輸出的注意力得分,通常需要對(duì)其進(jìn)行歸一化
(2)
最后按照注意力得分對(duì)編碼器輸出進(jìn)行加權(quán)求和
(3)
圖1 加入注意力機(jī)制的編碼-解碼模型Fig.1 Encoding-decoding model with attention mechanism
注意力機(jī)制按照其技術(shù)延伸機(jī)理的不同,除軟/硬注意力機(jī)制(Soft/Hard Attention)[28]、全局/局部注意力機(jī)制(Global/Local Attention)[29]和自注意力機(jī)制(Self Attention)[30]這些基本分類外,還有分層注意力機(jī)制(Hierarchical Attention)[31]和疊加式注意力機(jī)制(Attention Over Attention, AOA)[32]等組合式的延伸。A.Vaswani等[33]提出了多頭自注意力機(jī)制(Multi-headed Self-attention),采用注意力機(jī)制代替?zhèn)鹘y(tǒng)的RNN構(gòu)建編碼-解碼框架,其在WMT2014語(yǔ)料中的英德和英法任務(wù)上獲得了令人滿意的實(shí)驗(yàn)結(jié)果,并且訓(xùn)練速度比主流模型更快。Z. Qin等[34]提出了多頻譜通道注意力機(jī)制(Multi-spectral Channel Attention),在頻域上推廣了現(xiàn)有的通道注意力機(jī)制的預(yù)處理,簡(jiǎn)單而有效地完成了圖像分類、檢測(cè)以及任務(wù)分割。
記憶是大腦的重要功能,是行動(dòng)、學(xué)習(xí)與認(rèn)知的前提。所謂記憶,是大腦對(duì)于所接收信息的存儲(chǔ),腦內(nèi)信息的存儲(chǔ)。腦內(nèi)信息的存儲(chǔ)與神經(jīng)突觸的連接相關(guān),這種突觸連接分布于腦內(nèi)的多個(gè)神經(jīng)組織區(qū)域,包括海馬體、杏仁核、前額葉以及小腦[35-39]等。按時(shí)間長(zhǎng)短記憶可分為工作記憶、短時(shí)記憶以及長(zhǎng)時(shí)記憶,也可按功能劃分為從低到高的六種層次類型:由紋狀體和小腦控制的程序性記憶;由大腦皮層控制的促發(fā)記憶;由海馬體和大腦顳葉控制的語(yǔ)義記憶及情景記憶;由大腦皮層控制的短期記憶;由杏仁核控制的情緒記憶。
記憶使人類可以利用之前接收的信息對(duì)當(dāng)前接收的新信息加以理解和處理,即結(jié)合上下文加工新信息。而在深度學(xué)習(xí)模型中,傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)并不具備記憶功能,無(wú)法結(jié)合早期信息處理新信息??紤]到神經(jīng)網(wǎng)絡(luò)的這種設(shè)計(jì)缺陷,S. Hochreiter等[40]在1997年提出了LSTM模型,經(jīng)后來(lái)的學(xué)者改良,目前LSTM模型已經(jīng)成為廣泛應(yīng)用于各種序列模型的基本框架。LSTM是一種特殊的RNN,通過(guò)門結(jié)構(gòu)解決RNN中存在的長(zhǎng)期依賴問(wèn)題。LSTM主要構(gòu)成包括細(xì)胞狀態(tài)、遺忘門、輸入門和輸出門,如圖2所示。xt為當(dāng)前輸入;ht-1為上一時(shí)間步的輸出;ht為當(dāng)前時(shí)間步的輸出;Ct-1為上一時(shí)間步的細(xì)胞狀態(tài);Ct為當(dāng)前時(shí)間步的細(xì)胞狀態(tài)。LSTM的主要流程包括遺忘信息、更新信息以及輸出信息。首先遺忘門決定哪些信息需要從Ct-1中剔除,根據(jù)ht-1和xt按式(4)計(jì)算
ft=σ(Wf·[ht-1,xt]+bf)
(4)
接下來(lái)確定新的信息,并更新細(xì)胞狀態(tài)
it=σ(Wi·[ht-1,xt]+bi)
(5)
(6)
(7)
最后,基于Ct決定網(wǎng)絡(luò)的輸出ht
ot=σ(Wo·[ht-1,xt]+bo)
(8)
ht=ot*tanh(Ct)
(9)
目前,LSTM通常與注意力機(jī)制結(jié)合用于NLP任務(wù)中的序列到序列模型,并在該任務(wù)中獲得出色的表現(xiàn)。然而需要注意的是,LSTM雖然借鑒了大腦記憶功能,但并不遵循實(shí)際大腦中的記憶實(shí)現(xiàn)機(jī)制,且目前LSTM模型的訓(xùn)練復(fù)雜度較高。
圖2 LSTM網(wǎng)絡(luò)結(jié)構(gòu)Fig.2 LSTM network structure
人腦的海馬體是具有空間定位和情景記憶功能的特殊部位,從1971年O’Keefe在對(duì)海馬體的研究中發(fā)現(xiàn)了位置細(xì)胞后,奠定了海馬體在大腦認(rèn)知地圖中的重要地位。此后,O’Keefe與其他學(xué)者相繼在海馬體及大腦其他部位發(fā)現(xiàn)了同樣在空間導(dǎo)航中具有重要作用的方向、邊界和網(wǎng)格細(xì)胞[41-43]。具體發(fā)現(xiàn)及應(yīng)用的研究進(jìn)展如表1所示。
表1 導(dǎo)航功能細(xì)胞研究進(jìn)展
(1)類腦導(dǎo)航
研究人員從發(fā)現(xiàn)的這些具有導(dǎo)航功能的細(xì)胞上獲得啟發(fā),結(jié)合認(rèn)知地圖理念及相關(guān)人工智能算法,將其應(yīng)用于智能體導(dǎo)航中,類腦導(dǎo)航的研究主要包括環(huán)境感知技術(shù)、空間認(rèn)知技術(shù)、目標(biāo)導(dǎo)航技術(shù)以及群體導(dǎo)航技術(shù)?;陬惸X的導(dǎo)航系統(tǒng)比一般系統(tǒng)在路徑規(guī)劃和決策方面更具主動(dòng)性和靈活性。F. Yu等[54]將導(dǎo)航功能細(xì)胞的啟發(fā)應(yīng)用于SLAM系統(tǒng)中,使其能夠在大型三維環(huán)境中進(jìn)行導(dǎo)航,該NeuroSLAM系統(tǒng)結(jié)構(gòu)如圖3所示。整個(gè)系統(tǒng)包括連接位姿細(xì)胞、多層經(jīng)驗(yàn)地圖以及視覺(jué)模塊3個(gè)主要部分。視覺(jué)模塊提供局部視覺(jué)和自運(yùn)動(dòng)線索;連接位姿細(xì)胞模型的創(chuàng)建則基于三維網(wǎng)格細(xì)胞和多層頭向細(xì)胞,其根據(jù)局部視覺(jué)和自運(yùn)動(dòng)線索整合路徑;由局部視圖細(xì)胞、三維網(wǎng)格細(xì)胞、多層頭向細(xì)胞和三維視覺(jué)里程計(jì)的輸出驅(qū)動(dòng)多層經(jīng)驗(yàn)地圖的創(chuàng)建。
圖3 NeuroSLAM系統(tǒng)結(jié)構(gòu)示意圖[54]Fig.3 NeuroSLAM system architecture schematic diagram
(2)認(rèn)知功能拓展
海馬體的功能對(duì)研究者的啟發(fā)并不限于空間導(dǎo)航,T. E. Behrens等[55]認(rèn)為海馬體導(dǎo)航功能的規(guī)劃可推廣至一般的抽象推理認(rèn)知;J. C. Whittington[56]則將這種提取抽象結(jié)構(gòu)信息的規(guī)劃引入機(jī)器學(xué)習(xí)模型中,可以完成一定的推理任務(wù)。導(dǎo)航功能細(xì)胞的啟發(fā)同樣可用于視覺(jué)概念模型(Visual Concept Space Model,VCSM)的創(chuàng)建[57]。海馬內(nèi)嗅活動(dòng)模式可以為生物相關(guān)的任意變量(如聲音、氣味和面孔)提供空間編碼機(jī)制。該理論認(rèn)為,內(nèi)嗅網(wǎng)格系統(tǒng)為認(rèn)知空間維度提供了坐標(biāo)系統(tǒng),位置細(xì)胞的活動(dòng)可以代表認(rèn)知空間中的特定位置?;诖耍岢隽艘曈X(jué)概念的空間表征,即為某一變量(如椅子和臉)構(gòu)建一個(gè)空間,稱為視覺(jué)概念空間。在概念空間中,視覺(jué)概念用概念細(xì)胞來(lái)表示。該VCSM的系統(tǒng)工作原理如圖4所示。整個(gè)模型基于編碼-解碼網(wǎng)絡(luò),物體圖像被編碼為一系列屬性向量,并投影至概念空間中的一點(diǎn),概念空間中不同的點(diǎn)代表不同的概念細(xì)胞,投影至概念空間中的點(diǎn)會(huì)激活與其最匹配的概念細(xì)胞,最后激活的概念細(xì)胞決定了物體的概念;反過(guò)來(lái),已知物體概念同樣可以通過(guò)訓(xùn)練學(xué)習(xí)將物體從該模型中解碼出來(lái),即重構(gòu)圖像。
圖4 VCSM原理結(jié)構(gòu)示意圖Fig.4 VCSM structure schematic diagram
有關(guān)腦內(nèi)導(dǎo)航系統(tǒng)的研究仍在繼續(xù),X. Long等[58]發(fā)現(xiàn)除了海馬-內(nèi)嗅系統(tǒng)之外,軀體感官皮層中還存在另一種大腦導(dǎo)航系統(tǒng)。未來(lái)會(huì)有更多的研究來(lái)明確地揭示大腦導(dǎo)航功能的實(shí)現(xiàn)機(jī)制,并對(duì)當(dāng)前的類腦導(dǎo)航以及更寬泛的認(rèn)知推理給予啟示。
類腦計(jì)算的主要目的是創(chuàng)建不受限于馮·諾依曼體系的計(jì)算系統(tǒng),通過(guò)借鑒大腦的結(jié)構(gòu)和信息處理機(jī)制,實(shí)現(xiàn)低能耗、高效率的信息傳遞及處理,并支持具有大腦認(rèn)知功能的神經(jīng)網(wǎng)絡(luò)模型運(yùn)行[59]。神經(jīng)形態(tài)計(jì)算是類腦計(jì)算的主要方法之一,Carver Mead在20世紀(jì)80年代提出了神經(jīng)形態(tài)(Neuromorphic)一詞,即通過(guò)模仿生物神經(jīng)元特有結(jié)構(gòu)功能,在神經(jīng)網(wǎng)絡(luò)模型中實(shí)現(xiàn)和生物神經(jīng)元同等或相近的信息編碼方式[60]。神經(jīng)形態(tài)計(jì)算包括神經(jīng)形態(tài)模型和神經(jīng)形態(tài)芯片,所謂神經(jīng)形態(tài)模型,是在現(xiàn)有計(jì)算機(jī)硬件系統(tǒng)上實(shí)施對(duì)生物腦神經(jīng)網(wǎng)絡(luò)的模擬;而神經(jīng)形態(tài)芯片則是在硬件結(jié)構(gòu)上,從神經(jīng)元結(jié)構(gòu)、信息編碼方式到神經(jīng)元群體組織結(jié)構(gòu)、信息傳遞來(lái)逼近生物腦[61]。
2.1.1 神經(jīng)元模型
神經(jīng)形態(tài)模型的基本組成單元是神經(jīng)元模型,即模仿樹突、軸突和突觸結(jié)構(gòu)的模型。1952年,A. L. Hodgkin和A. F. Huxley在進(jìn)行烏賊動(dòng)作電位發(fā)生機(jī)制研究時(shí),發(fā)現(xiàn)了烏賊神經(jīng)細(xì)胞在受到脈沖電流刺激后細(xì)胞膜上的電位變化規(guī)律[62]。大腦神經(jīng)元之間的通信并非是數(shù)值形式的,而是依靠神經(jīng)細(xì)胞膜電位的升降的脈沖,因此借鑒大腦神經(jīng)元膜電位升降原理建立了人工神經(jīng)元模型,使得其所組成的神經(jīng)網(wǎng)絡(luò)在響應(yīng)速度和功耗上比一般的神經(jīng)網(wǎng)絡(luò)更具優(yōu)勢(shì)。研究學(xué)者提出了多種神經(jīng)元模型,常見的神經(jīng)元模型包括:
(1)Integrate-and-Fire(I&F)模型
I&F模型當(dāng)屬最典型的神經(jīng)元模型之一,神經(jīng)元膜電位Vm隨著時(shí)間動(dòng)態(tài)變化
(10)
其中,τm為電位下降的膜時(shí)間常數(shù);I(t)為輸入電流。
圖5所示為I&F模型上電壓變化過(guò)程,可以看出,當(dāng)膜電位超過(guò)一定閾值時(shí),神經(jīng)元開始釋放脈沖;然后膜電位則下降,當(dāng)下降到一定值后會(huì)保持一段時(shí)期,在該時(shí)期內(nèi)不再觸發(fā)神經(jīng)元。
圖5 L&F模型電壓變化過(guò)程示意圖Fig.5 The scheme of voltage change process of L&F model
(2) Leak Integrate-and-Fire(LIF)模型
LIF模型相當(dāng)于電容與電源及一個(gè)可變電阻并聯(lián),只考慮膜電位的被動(dòng)特性以及動(dòng)作電位的觸發(fā),其數(shù)學(xué)表達(dá)式如下
(11)
其中,Cm代表細(xì)胞膜表面電容;GL代表導(dǎo)納;EL代表被動(dòng)平衡電壓;Iapp代表外界輸入電流。
(3)Spike Response Model(SRM)模型
SRM是LIF模型的推廣,將LIF模型轉(zhuǎn)化為輸入和輸出脈沖的函數(shù),其一般形式可寫作
(12)
除此之外,還有更加復(fù)雜的Hodgkin-Huxley模型、Morris-Lecar模型、FitzHugh-Nagumo模型和Hindmarsh-Rose模型等,神經(jīng)元模型越接近真實(shí)神經(jīng)元結(jié)構(gòu)特性,其模型就越復(fù)雜,模型應(yīng)用效果也越好。傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元就是極度簡(jiǎn)化的大腦神經(jīng)元模型,同時(shí)考慮使用效果和結(jié)構(gòu)復(fù)雜性,LIF模型是神經(jīng)形態(tài)網(wǎng)絡(luò)中最常用的神經(jīng)元模型。
2.1.2 脈沖神經(jīng)網(wǎng)絡(luò)
脈沖神經(jīng)網(wǎng)絡(luò)(Spiking Neural Networks,SNN)作為第三代神經(jīng)網(wǎng)絡(luò),相比于目前應(yīng)用效果較好的CNN和RNN等第二代神經(jīng)網(wǎng)絡(luò),更加貼近腦中神經(jīng)元信息傳遞方式。1997年,W. Maass[63]提出了SNN,整個(gè)模型由脈沖神經(jīng)元構(gòu)成。與人工神經(jīng)網(wǎng)絡(luò)不同的是,SNN的輸入信號(hào)是脈沖序列,這與人腦中的信號(hào)形式一致[64-65]。如圖6所示,下游神經(jīng)元由上游神經(jīng)元驅(qū)動(dòng),且SNN神經(jīng)元只有當(dāng)接收和發(fā)射脈沖信號(hào)時(shí)才會(huì)被激活,這使其具備節(jié)約能耗的優(yōu)勢(shì),其0,1輸入形式也減少了點(diǎn)積和求和運(yùn)算量[66]。
圖6 SNN計(jì)算模型[66]Fig.6 SNN computational models
2.1.3 CA3模型
除了SNN以外,其他的神經(jīng)形態(tài)模型也多以上述仿腦神經(jīng)元結(jié)構(gòu)的人工神經(jīng)元為基本單元。Jensen等[72]采用SRM神經(jīng)元模型創(chuàng)建CA3模型,海馬體的一個(gè)關(guān)鍵功能是儲(chǔ)存和回憶聯(lián)想記憶。自聯(lián)想是指從自身的一個(gè)部分或噪聲樣本中檢索記憶,而異性聯(lián)想指的是由另一個(gè)類別的線索而喚起的記憶。海馬CA1區(qū)被認(rèn)為是異性聯(lián)想?yún)^(qū)域,海馬CA3區(qū)可作為陳述性記憶的異性聯(lián)想?yún)^(qū)域或自聯(lián)想?yún)^(qū)域。
CA3系統(tǒng)作為一個(gè)自聯(lián)想網(wǎng)絡(luò)運(yùn)行,通過(guò)內(nèi)嗅皮層在進(jìn)行部分線索的回憶過(guò)程中完成記憶的存儲(chǔ),CA3中的所有錐體細(xì)胞接收一個(gè)用于模擬θ節(jié)律的振蕩輸入,中間神經(jīng)元對(duì)所有錐體細(xì)胞起反饋抑制作用。圖7所示為基于SRM的CA3模型結(jié)構(gòu)示意圖,該網(wǎng)絡(luò)由短時(shí)記憶(Short-Term Memory, STM)和長(zhǎng)時(shí)記憶(Long-Term Memory, LTM)網(wǎng)絡(luò)組成。STM重復(fù)每個(gè)周期中的記憶項(xiàng)。中間神經(jīng)元提供反饋抑制,在每個(gè)周期的正部分產(chǎn)生γ子周期。LTM網(wǎng)絡(luò)在可修改的循環(huán)突觸中編碼信息。CA3中的錐體細(xì)胞和中間神經(jīng)元活動(dòng)由SRM神經(jīng)元模型來(lái)模擬。
圖7 基于SRM的CA3模型[72]Fig.7 CA3 model based on SRM
當(dāng)傳統(tǒng)的深度學(xué)習(xí)融入了腦機(jī)制啟發(fā)的模型后,網(wǎng)絡(luò)模型在效率和能耗方面有大幅提升,但目前對(duì)于學(xué)習(xí)、記憶、認(rèn)知和注意力機(jī)制的應(yīng)用還有待進(jìn)一步發(fā)掘,相關(guān)腦功能機(jī)理的后續(xù)研究仍在不斷開展。M. F. Panichello和T. J. Buschman[73]最近的一項(xiàng)研究表明,工作記憶和注意力受同一腦區(qū)支配。工作記憶是一種特殊的短時(shí)記憶,是大腦對(duì)信息進(jìn)行認(rèn)知操作過(guò)程中對(duì)信息的臨時(shí)存儲(chǔ),后續(xù)的信息加工都是在此基礎(chǔ)上進(jìn)行的。Panichello和Buschman對(duì)獼猴進(jìn)行了回顧性和前瞻性記憶測(cè)試,通過(guò)對(duì)外側(cè)前額葉皮層、額葉視區(qū)、頂葉皮層和中間視區(qū)V4這4個(gè)腦區(qū)神經(jīng)元亞群的放電速率進(jìn)行記錄和研究發(fā)現(xiàn),外側(cè)前額葉皮層同時(shí)控制著工作記憶和注意力的編碼,并且可以通過(guò)動(dòng)態(tài)表征轉(zhuǎn)化控制認(rèn)知行為。T. Bonhoeffer等[74]同樣針對(duì)前額葉皮層進(jìn)行了研究,前額葉皮層是與復(fù)雜思維過(guò)程有關(guān)的腦區(qū),腦區(qū)內(nèi)細(xì)胞可通過(guò)學(xué)習(xí)具備類別選擇能力,并且在改變學(xué)習(xí)規(guī)則后,細(xì)胞類別選擇性也產(chǎn)生相應(yīng)變化,這種靈活的表征能力是長(zhǎng)期記憶的結(jié)果,當(dāng)短期記憶轉(zhuǎn)化為長(zhǎng)期記憶時(shí),前額葉皮層內(nèi)的選擇性細(xì)胞就會(huì)發(fā)揮作用。A. Libby和T. J. Buschman[75]的研究表明,為了使大腦接收的新信息和腦內(nèi)短時(shí)記憶之間不會(huì)相互干擾或混淆,采用正交編碼的方式存儲(chǔ)信息,將記憶進(jìn)行旋轉(zhuǎn),使信息間的存儲(chǔ)相互分離,而這種旋轉(zhuǎn)正交的存儲(chǔ)機(jī)制有助于進(jìn)一步研究大腦對(duì)并發(fā)事件的處理細(xì)節(jié)。對(duì)于腦區(qū)功能的研究有助于探索大腦全局運(yùn)行機(jī)制,探索的過(guò)程往往伴隨著神經(jīng)形態(tài)模型的進(jìn)一步完善,在研究腦區(qū)功能的基礎(chǔ)上,各個(gè)區(qū)域間的連接作用及信息交互、協(xié)同運(yùn)行的方式將是神經(jīng)形態(tài)模型的研究重點(diǎn)。
神經(jīng)形態(tài)計(jì)算系統(tǒng)以模仿生物神經(jīng)元的神經(jīng)形態(tài)器件為基本單元,主體是與腦中神經(jīng)元網(wǎng)絡(luò)生理近似的SNN,與一般計(jì)算機(jī)遵循指令的工作方式不同,神經(jīng)形態(tài)計(jì)算系統(tǒng)遵循并行式工作、分布式處理機(jī)制,以完成學(xué)習(xí)、記憶和推理等認(rèn)知任務(wù)為目的[76]。當(dāng)前國(guó)內(nèi)外主流神經(jīng)形態(tài)芯片及相應(yīng)的神經(jīng)形態(tài)計(jì)算系統(tǒng)如圖8和表2所示。2014年,美國(guó)IBM公司推出了著名的真北(TrueNorth)芯片[77],采用28nm制造工藝,體積小,含有大量的可編程神經(jīng)元,具有很好的可擴(kuò)展性,不依靠全局時(shí)鐘信號(hào)協(xié)調(diào)工作,也不會(huì)因?yàn)橐粋€(gè)芯片損壞而影響整體工作。美國(guó)斯坦福大學(xué)開發(fā)的神經(jīng)形態(tài)超級(jí)計(jì)算機(jī)Neurogrid能夠模擬大規(guī)模腦內(nèi)神經(jīng)元以及突觸連接,從而可應(yīng)用于腦機(jī)接口[78]。英國(guó)曼徹斯特大學(xué)開發(fā)的SpiNNaker網(wǎng)絡(luò)架構(gòu),基于ARM芯片實(shí)現(xiàn)了部分腦功能模型,可以模仿大腦區(qū)域功能,其通信機(jī)制適合實(shí)時(shí)建模[79]。Intel公司發(fā)布的神經(jīng)擬態(tài)芯片Loihi,通過(guò)神經(jīng)元之間的脈沖傳輸數(shù)據(jù)結(jié)合STDP模型,最與眾不同之處在于該芯片擁有自主學(xué)習(xí)功能[80]。浙江大學(xué)使用792顆達(dá)爾文2代芯片,成功研發(fā)出類腦計(jì)算機(jī)Darwin Mouse[81],并助力實(shí)現(xiàn)了機(jī)器人協(xié)同工作和腦電信號(hào)電位解碼等應(yīng)用。目前的神經(jīng)形態(tài)芯片,主要依從神經(jīng)動(dòng)力學(xué)原理建立仿腦神經(jīng)網(wǎng)絡(luò),但對(duì)于已經(jīng)成熟的ANN等模型并不兼容,對(duì)此清華大學(xué)研發(fā)了天機(jī)芯片(Tianjic),融合了神經(jīng)科學(xué)和計(jì)算機(jī)科學(xué)兩條技術(shù)路線,可并行運(yùn)行神經(jīng)網(wǎng)絡(luò)模型,并在模型間無(wú)縫通信[82]。
圖8 主流神經(jīng)形態(tài)計(jì)算芯片F(xiàn)ig.8 Mainstream neuromorphic computing chip
表2 國(guó)內(nèi)外主流神經(jīng)形態(tài)計(jì)算系統(tǒng)及芯片
除了上述神經(jīng)形態(tài)芯片外,還有支持神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的非神經(jīng)形態(tài)芯片,如寒武紀(jì)芯片[83-84]以及嵌入式智能芯片圖形處理器(Graphics Processing unit,GPU)、現(xiàn)場(chǎng)可編程邏輯門陣列(Field Programmable Gate Array,F(xiàn)PGA)、專用集成電路(Application Specific Integrated Circuit,ASIC)[85]等。
除了神經(jīng)形態(tài)計(jì)算外,人工大腦也是類腦計(jì)算的重要研究?jī)?nèi)容,仿腦模型是人工大腦的重要部分,包括加拿大滑鐵盧大學(xué)開發(fā)的SPAUN仿腦模型[86]以及歐洲研究者設(shè)計(jì)的GENMOD人工神經(jīng)網(wǎng)絡(luò)。SPAUN腦模擬器具備約250萬(wàn)個(gè)虛擬神經(jīng)元,可以完成一系列認(rèn)知任務(wù),例如識(shí)別和記憶數(shù)字、回答與數(shù)字有關(guān)的問(wèn)題,以及完成一定難度的數(shù)學(xué)題目。SPAUN可以在記住數(shù)字后用機(jī)械臂將所記憶的數(shù)字重新寫出來(lái),當(dāng)需要記憶的數(shù)字長(zhǎng)度過(guò)長(zhǎng)時(shí),SPAUN腦模擬器會(huì)優(yōu)先記住開頭和結(jié)尾的數(shù)字,而且在回答問(wèn)題時(shí),它甚至?xí)q豫,這與人類智能的自然缺陷相吻合。而GENMOD人工神經(jīng)網(wǎng)絡(luò)則能夠在不提前訓(xùn)練的條件下,自主培養(yǎng)數(shù)感,進(jìn)行空間認(rèn)知。除了仿腦模型這樣的軟件,人工大腦還有人造神經(jīng)元和人工突觸這樣的硬件。
2016年,IBM公司設(shè)計(jì)出首個(gè)基于相變材料技術(shù)的人造神經(jīng)元[87],由輸入端、神經(jīng)薄膜、信號(hào)發(fā)生器和輸出端組成,如圖9所示,分別相當(dāng)于生物神經(jīng)元的樹突、雙分子層、神經(jīng)細(xì)胞主體和軸突。其中神經(jīng)薄膜由鍺銻碲復(fù)合材料制成,是一種相變材料,在人造神經(jīng)元中,當(dāng)信號(hào)到來(lái)時(shí),鍺銻碲薄膜從原本的無(wú)定形態(tài)到結(jié)晶態(tài),從而導(dǎo)電;而當(dāng)電流從薄膜通過(guò)產(chǎn)生信號(hào)并由輸出端發(fā)射后,薄膜又會(huì)恢復(fù)原來(lái)的狀態(tài)。這種人造神經(jīng)元技術(shù)與人工突觸的主要成分憶阻器是互補(bǔ)的,神經(jīng)元產(chǎn)生的信號(hào)主要通過(guò)突觸來(lái)傳遞。人工突觸也是人工神經(jīng)元重要的連接和信息傳遞器件。
圖9 人工神經(jīng)元示意圖[87]Fig.9 Artificial neuron schematic diagram
目前,人工突觸的研究主體是憶阻器[88-90]。憶阻器作為第4個(gè)無(wú)源電子元件,從特性上看是最適合的天然突觸模擬器件。如圖10所示,從結(jié)構(gòu)上看,憶阻器是2條相互垂直的金屬線交叉處的一個(gè)氧化結(jié),生物突觸通過(guò)釋放Ca和Na離子改變傳導(dǎo)特性,而憶阻器則是通過(guò)釋放氧離子改變傳導(dǎo)特性,也就是說(shuō),憶阻器通過(guò)改變其電阻值模仿生物突觸對(duì)學(xué)習(xí)行為的響應(yīng)[91]。
圖10 憶阻器結(jié)構(gòu)Fig.10 Memristor structure
記憶功能是憶阻器的重要特征,具體表現(xiàn)為能夠記憶流經(jīng)它的電荷數(shù)量,這直接影響器件的存儲(chǔ)能力,使其成為在促進(jìn)類腦智能方面最具潛力的基礎(chǔ)元件。2020年,清華大學(xué)和馬薩諸塞大學(xué)共同提出了一種基于全硬件憶阻器實(shí)現(xiàn)的CNN系統(tǒng)[92]。系統(tǒng)組成如圖11所示。該系統(tǒng)以ARM為控制核心,具有動(dòng)態(tài)隨機(jī)存儲(chǔ)器和8個(gè)憶阻器陣列PE,每個(gè)陣列有2048個(gè)憶阻器。該系統(tǒng)具有5層CNN網(wǎng)絡(luò),采用不同卷積核和多個(gè)相同卷積核分別對(duì)共享輸入和不同輸入進(jìn)行并行處理,通過(guò)混合訓(xùn)練方法可以進(jìn)行MNIST(Mixed National Institute of Standards and Technology)手寫數(shù)字識(shí)別,識(shí)別精度達(dá)到96%以上??傮w來(lái)說(shuō),該憶阻器CNN系統(tǒng)能夠適應(yīng)設(shè)備缺陷,實(shí)現(xiàn)了存算一體結(jié)構(gòu),并具有良好的可擴(kuò)展性。與Teala V100 GPU相比,功耗效率提高了2個(gè)數(shù)量級(jí),性能密度提高了1個(gè)數(shù)量級(jí)。
圖11 系統(tǒng)結(jié)構(gòu)圖[92]Fig.11 System architecture schematic diagram
除了憶阻器外,斯坦福大學(xué)和桑迪亞國(guó)家實(shí)驗(yàn)室的研究人員研發(fā)出一種人工突觸[93],成功模仿了人腦中的突觸傳遞信號(hào)的方式。其設(shè)計(jì)靈感源自電池,工作原理類似于晶體管,也具有3個(gè)電極,由于其材料與大腦組織成分的相似性,原理上這種人工突觸甚至可以和生物神經(jīng)元通信,這使其具有可觀的腦機(jī)接口應(yīng)用前景和研究?jī)r(jià)值。
類腦計(jì)算作為類腦智能的重要內(nèi)容是人工智能發(fā)展的必然趨勢(shì),也是各國(guó)將展開激烈競(jìng)爭(zhēng)的科技領(lǐng)域。國(guó)際上對(duì)大腦的研究從未停止,自從2013年美國(guó)腦計(jì)劃提出以來(lái),各國(guó)相繼提出了正式的腦計(jì)劃,國(guó)際上具有代表性的類腦研究項(xiàng)目及成果如表3所示。
表3 各國(guó)類腦研究項(xiàng)目及代表成果
中國(guó)腦計(jì)劃已經(jīng)醞釀了相當(dāng)長(zhǎng)一段時(shí)間,“腦科學(xué)與類腦研究”——中國(guó)腦計(jì)劃,作為重大科技項(xiàng)目被列入國(guó)家“十三五”規(guī)劃。腦科學(xué)的研究在中國(guó)擁有重要戰(zhàn)略地位,目前我國(guó)已有包括北京腦科學(xué)與類腦研究中心、上海腦科學(xué)與類腦研究中心在內(nèi)的超過(guò)20個(gè)研究機(jī)構(gòu)及實(shí)驗(yàn)室,作為腦科學(xué)與類腦研究基地,積極推動(dòng)中國(guó)腦計(jì)劃。根據(jù)中國(guó)科學(xué)院上海神經(jīng)科學(xué)研究所所長(zhǎng)蒲慕明介紹,中國(guó)腦計(jì)劃將遵從“一體兩翼(One body twowings) ”布局,以研究腦認(rèn)知的神經(jīng)原理為主體,研發(fā)腦重大疾病診治新手段和腦機(jī)智能新技術(shù)為兩翼。在未來(lái)15年內(nèi),以在腦科學(xué)、腦疾病早期診斷與干預(yù)、類腦智能器件3個(gè)前沿領(lǐng)域取得國(guó)際領(lǐng)先的成果為目標(biāo)[94]。
從研究成果上看,國(guó)際上對(duì)于類腦研究的進(jìn)展剛起步,各國(guó)都有各自的突破性自主類腦技術(shù)及產(chǎn)品,等同于處于同一起跑線,類腦計(jì)算領(lǐng)域的競(jìng)爭(zhēng)主要集中在神經(jīng)形態(tài)計(jì)算系統(tǒng)硬件及模型軟件上。從目前來(lái)看,神經(jīng)形態(tài)芯片研究的主要目的是避開原始的馮·諾依曼結(jié)構(gòu),以實(shí)現(xiàn)低功耗下信息高效傳遞及處理,各國(guó)研究的芯片主要支持的是符合生物神經(jīng)動(dòng)力學(xué)的SNN,但是似乎和當(dāng)前深度學(xué)習(xí)等算法的研究拉開距離,神經(jīng)形態(tài)芯片應(yīng)該具有良好的兼容性,同步于主流算法的研究,從而得以大規(guī)模應(yīng)用并相互促進(jìn)。模仿生物神經(jīng)元的人造元件性能從主體構(gòu)造和材料選擇上來(lái)說(shuō)都有待提高,設(shè)計(jì)能與生物神經(jīng)元交流的人造神經(jīng)元是一個(gè)很有前景的計(jì)劃。
對(duì)于神經(jīng)形態(tài)模型則有更大的提升空間。首先類腦計(jì)算得益于人類對(duì)大腦生理構(gòu)造運(yùn)行機(jī)制等規(guī)律的運(yùn)用,目前全球范圍內(nèi),人類對(duì)于大腦的全局結(jié)構(gòu)及功能包括信息傳遞、區(qū)域協(xié)調(diào)等尚未完全理解,而且對(duì)于目前已經(jīng)探索得到的生物運(yùn)行機(jī)制的發(fā)掘利用也仍有可提升的空間。就像對(duì)于類腦導(dǎo)航來(lái)說(shuō),我們知道位置細(xì)胞、邊界細(xì)胞、方向細(xì)胞和網(wǎng)格細(xì)胞各自的功能及作用原理,但對(duì)于這4個(gè)細(xì)胞如何共同協(xié)作促成人類大腦導(dǎo)航活動(dòng)的機(jī)理還不夠明確,相關(guān)的研究及仿真相對(duì)較少,致使其在應(yīng)用過(guò)程中不具備良好的可解釋性。其他的研究亦然,目前的研究都是對(duì)于大腦局部功能的研究,如何對(duì)目前的研究進(jìn)行從局部到整體的整合是未來(lái)的研究主題之一。我們一直希望了解的大腦的學(xué)習(xí)、推理和記憶等功能是在多區(qū)域共同協(xié)調(diào)控制下才出現(xiàn)的,腦中組織的功能具有相當(dāng)大的復(fù)雜性,常常出現(xiàn)多對(duì)一以及一對(duì)多的情況,也就是多個(gè)組織區(qū)域共同實(shí)現(xiàn)同一功能或一個(gè)組織區(qū)域具有不止一種功能,這都為腦功能的整合帶來(lái)困難,這種功能上的耦合性也是我們理解大腦認(rèn)知功能本質(zhì)的關(guān)鍵。