可以說,人類正在進入人工智能(AI)時代。在人工智能深度學(xué)習(xí)研究領(lǐng)域,有“三駕馬車”和“四大金剛” 之說。“ 三駕馬車” 是指杰弗里·辛頓、延恩·勒昆和約書亞·本吉奧; “ 四大金剛” 則是“ 三駕馬車”和吳恩達。
杰弗里· 辛頓被譽為“ 人工智能教父” “ 深度學(xué)習(xí)之父” 。他將神經(jīng)網(wǎng)絡(luò)帶入到研究與應(yīng)用的熱潮, 將“ 深度學(xué)習(xí)” 從邊緣課題變成了谷歌等互聯(lián)網(wǎng)巨頭仰賴的核心技術(shù), 使人工智能發(fā)展到今天這般炙手可熱。
杰弗里· 辛頓1947年12月生于英國, 后移居加拿大。他的父親霍華德· 辛頓是英國著名的昆蟲學(xué)家?;羧A德有一個堂弟叫威廉· 辛頓, 一個堂妹叫瓊· 辛頓, 他們另一個更為中國人熟悉的名字分別為韓丁和寒春。
杰弗里· 辛頓可以說是家學(xué)淵源:他的曾祖父名叫查爾斯·辛頓,英國知名數(shù)學(xué)家、早期科普和科幻作者之一;曾祖母叫瑪麗·艾倫,是英國著名數(shù)學(xué)家、教育家、哲學(xué)家和邏輯學(xué)家喬治·布爾的女兒。
出生在這樣一個家庭,給辛頓帶來巨大的壓力。讀大學(xué)時,因為找不到人生方向, 杰弗里· 辛頓跑到倫敦打零工,讀“令人傷感的小說”,畢業(yè)后,他做過一年多木匠。直到25歲時,他才決定研究神經(jīng)網(wǎng)絡(luò), 以期教會機器學(xué)習(xí)。這在當時是癡人說夢,導(dǎo)師每周和他見一次面,每次都告訴他這是在浪費時間。沒人想到辛頓最后會成功,他成為席卷全球的人工智能革命的核心人物,甚至被譽為“人工智能教父”。
為了對神經(jīng)網(wǎng)絡(luò)刨根問底, 杰弗里·辛頓在求學(xué)期間堅持開展神經(jīng)網(wǎng)絡(luò)研究。1976年—1978年,他擔任蘇塞克斯大學(xué)認知科學(xué)研究項目研究員,并在1978年獲得了愛丁堡大學(xué)人工智能學(xué)博士學(xué)位。1982年,辛頓轉(zhuǎn)到卡耐基梅隆大學(xué)繼續(xù)做研究。他之后結(jié)了婚,從拉美收養(yǎng)了兩個孩子。在1980年代,辛頓就已經(jīng)是一位神經(jīng)網(wǎng)絡(luò)專家了。神經(jīng)網(wǎng)絡(luò)是人腦神經(jīng)元和突觸網(wǎng)絡(luò)的一個簡化模型。然而,當時科學(xué)界認為,把人工智能領(lǐng)域?qū)蛏窠?jīng)網(wǎng)絡(luò)方向是自尋死路。在20世紀80年代早期,他參與了一個雄心勃勃的關(guān)于使用計算機的軟硬件來模擬大腦的研究,這形成了早期的人工智能技術(shù)研究分支,也就是我們現(xiàn)在所知的“深度學(xué)習(xí)”。
1986年, 杰弗里· 辛頓和同事大衛(wèi)·魯姆哈特、羅納德·威廉姆斯一起發(fā)表了一篇突破性的論文,詳細介紹了一種叫作“反向傳播”的技術(shù)。通過推導(dǎo)人工神經(jīng)網(wǎng)絡(luò)的計算方式,反向傳播可以糾正很多深度學(xué)習(xí)模型在訓(xùn)練時產(chǎn)生的計算錯誤。
這帶動了人工智能在20世紀80年代末、90年代初的短暫復(fù)興,但很快,因為識別圖片和文字準確率極低,神經(jīng)網(wǎng)絡(luò)又被棄置,“人工智能寒冬”再次到來。
在他的研究陷入泥沼時,生活也瀕臨崩潰。1993年,辛頓第二任妻子羅莎德琳因癌癥去世,留下他和兩個孩子。整天待在實驗室的辛頓被迫要學(xué)會照看孩子。他的兒子患有注意力缺陷多動癥和其他學(xué)習(xí)障礙,辛頓必須每天下午6點前回家?!拔?6歲時就死在水里了?!?辛頓說, 自己當時覺得,到死都不會看到項目有所突破,可能至少要等到自己死后100年才能有所進展。
直到2009年, 在“ 水下” 掙扎了16年后,辛頓驚訝地發(fā)現(xiàn)英偉達的GPU芯片特別適合運行神經(jīng)網(wǎng)絡(luò)。他在一次學(xué)術(shù)會議上給上千名同事做了推薦,并給英偉達發(fā)了一封郵件,提到這一點并詢問對方能否免費送一塊GPU芯片給他做研究。然而,這封信石沉大海。直到2012年,一切才被改變。
2012年,計算機硬件的性能大幅提高,計算資源也越來越多,他的理論終于能在實踐中充分發(fā)展。他帶領(lǐng)兩個學(xué)生利用卷積神經(jīng)網(wǎng)絡(luò) (CNN) 參加了名為“圖像網(wǎng)絡(luò)大規(guī)模視覺識別挑戰(zhàn)” 的比賽。比賽的其中一項是, 讓機器辨認每張圖像中的狗是什么類型,從而對100多種狗進行分類。在比賽中,杰弗里·辛頓帶著他的學(xué)生以16%的錯誤率獲勝——這個錯誤率甚至低于人眼識別的錯誤率18%,并且遠低于前一年 25%的獲勝成績,這讓人們見識了深度學(xué)習(xí)的潛力。從此,深度學(xué)習(xí)一炮而紅。
2013年, 在吳恩達的牽頭下, 杰弗里·辛頓與其他多倫多大學(xué)的研究人員加盟了谷歌。當時谷歌正在用神經(jīng)網(wǎng)絡(luò)來幫助識別安卓手機上的語音命令和谷歌+網(wǎng)絡(luò)上標記的圖像。辛頓加盟谷歌的原因之一就是能借力谷歌的優(yōu)勢資源把深度學(xué)習(xí)研究做進一步推進。后來一直跟隨杰弗里·辛頓的學(xué)生也都成了人工智能領(lǐng)域炙手可熱的人物。
46歲就“死在水里”的辛頓,于人工智能的新紀元“復(fù)活”。2018年,辛頓和學(xué)生楊立昆以及另一位人工智能學(xué)者約書亞·本希奧共同獲得圖靈獎,這是計算機領(lǐng)域的最高獎。在整個計算機領(lǐng)域,辛頓成了論文引用量最高的學(xué)者,他同時是心理學(xué)領(lǐng)域論文引用量全球第二的人。
2023年, 辛頓從谷歌辭職。除了年齡的原因,還有他對人工智能的警覺?!叭绻阆M粋€系統(tǒng)有效,你需要賦予它創(chuàng)建自己子目標的能力。” 辛頓說,“現(xiàn)在的問題是,有一個非常普遍的子目標可以幫助實現(xiàn)幾乎所有目標——獲得更多控制權(quán)。問題是如何阻止它們想要控制?沒有人知道答案。”冷靜、謙遜與智慧,這大概就是人工智能教父讓人折服的風范。( 綜合整理報道)( 策劃/黃李玲)