宋茜
近日,Google Research舉辦了一個關于深度學習概念理解的在線研討會。這次的在線研討會有一個演講特別引人注目,就是哥倫比亞大學計算機科學教授Christos Papadimitriou關于“大腦中的文字表征”的演講。
Papadimitriou在演講中討論了隨著我們對大腦信息處理機制理解的增多,我們將能夠開發(fā)更強健的算法、更好地理解和參與對話。他展示了一個簡單有效的模型,解釋了大腦不同區(qū)域如何相互溝通來解決認知問題。
Papadimitriou把與觀眾“交流”這件事描述為是“世界上最偉大的奇跡之一”。
大腦將結構化的知識轉換成電波,通過不同的媒介傳輸到聽者的耳朵,然后再由大腦處理并轉換成結構化的知識。“毫無疑問,所有這些都發(fā)生在棘波、神經元和突觸上。但是怎么實現的呢?這是一個巨大的問題。我相信,未來10年對于如何實現這一目標的細節(jié),我們將會有更好的辦法。”
大腦中神經元的集合
認知和神經科學家們正試圖弄清楚大腦中的神經活動是如何轉化為語言、數學、邏輯、推理、計劃和其他功能。如果科學家們能夠成功地用數學模型來描述大腦的運作,那么他們將打開一扇新的大門,創(chuàng)造出能夠模仿人類思維的人工智能系統(tǒng)。
許多研究集中在單個神經元的活動,直到幾十年前,科學家們還認為單個神經元對應著單個的想法。最流行的例子是“祖母細胞”理論,該理論聲稱,每當你看到祖母時,大腦中就有一個神經元會達到峰值。
最近的一些發(fā)現駁斥了這種說法,并證明了每個概念與大量的神經元都有關聯(lián),而且神經元與不同概念之間可能存在重疊。這些腦細胞群被稱為“集合體”,Papadimitriou將其描述為“一組高度連接、穩(wěn)定的神經元,它們代表著某種東西:一個詞、一個想法或一個物體等?!?/p>
神經科學家GyrgyBuzsáki將集合體描述為“大腦的字母表”。
大腦的數學模型
為了更好地理解集合體的作用,Papadimitriou提出了一個被稱為“互動循環(huán)網”的大腦數學模型,根據這個模型,大腦被劃分為有限數量的區(qū)域,每個區(qū)域包含數百萬個神經元。
每個區(qū)域都有遞歸,這意味著神經元之間相互作用,每個區(qū)域都與其他幾個區(qū)域有聯(lián)系,這些區(qū)域間的連接可以被激發(fā)或被抑制。這個模型提供了隨機性、可塑性和抑制性。
隨機性意味著每個大腦區(qū)域的神經元是隨機連接的,而且,不同的區(qū)域之間有著隨機的聯(lián)系。
可塑性使神經元和區(qū)域之間的連接能夠通過經驗和訓練進行調整。
抑制性意味著,在任何時刻,有限數量的神經元處于興奮狀態(tài)。
Papadimitriou將其描述為一個基于“生命的三種主要力量”的非常簡單的數學模型。
與來自不同學術機構的科學家一起,Papadimitriou在2020年發(fā)表在《美國國家科學院院刊(PNAS)》的一篇論文中詳細闡述了這個模型。
集合體是模型的關鍵組成部分,并且支持科學家們所說的“集合演算”,即一組能夠處理、存儲和檢索信息的操作?!斑@些操作不是憑空而來的,我相信這些操作是真的,我們可以通過數學證明和模擬驗證這些操作符合真實的行為這些操作符合(在大腦中)觀察到的行為?!?/p>
Papadimitriou和他的同事們假設集合和集合演算是解釋大腦認知功能(如推理、計劃、語言)的正確模型。Papadimitriou表示,大部分的認知能力都符合這個要求。
基于集合演算的自然語言處理
為了測試他們的思維模型,Papadimitriou和同事構建了一個自然語言處理系統(tǒng),該系統(tǒng)使用集合演算來分析英語句子。實際上,他們試圖創(chuàng)造一個人工智能系統(tǒng),模擬大腦中存放與詞匯和語言理解相對應的集合的區(qū)域?!皩嶋H情況是,如果一系列單詞在LEX中激發(fā)了這些集合,那么這個引擎將生成一個句子的解析。”Papadimitriou介紹說。
該系統(tǒng)專門通過模擬神經元spike來工作(就像大腦一樣),這些spike是由集合演算操作引起的,這些神經元集合體對應于內側顳葉、Wernicke和Broca區(qū)域,這3個區(qū)域是大腦中高度參與語言處理的區(qū)域。
該模型接收一系列單詞并生成一個語法樹,實驗表明,就神經元spike的速度和頻率而言,他們的模型活動與大腦中發(fā)生的活動非常接近。
人工智能模型仍然非常初級,缺少語言的許多重要部分,Papadimitriou承認這一點。研究人員正在制定計劃,填補存在的語言空白。他們相信,所有這些部分都可以用集合演算加以補充,這個假設需要通過時間的檢驗。
“這是語言的神經基礎嗎?是不是生來就有這樣一個東西存在于我們的大腦左半邊?”Papadimitriou問道。關于語言在人腦中是如何工作的,以及它與其他認知功能之間的關系,仍然存在許多問題。但是Papadimitriou相信集合模型使我們更接近理解這些功能,同時回答剩余的問題。語言分析只是測試集合演算理論的一種方法。Papadimitriou和他的合作者們正在研究其他的應用,包括學習和計劃,就像小孩子做的那樣。
Papadimitriou說:“我們的假設是,集合演算或類似的東西填補了邏輯存取賬單,換句話說,這是我們大腦計算方式的一個有用的抽象概念。”