“人工智能教父”曾對人工智能說“后悔”

2024 年諾貝爾物理學獎讓許多人驚呼“物理學不存在了！”因為它頒給了約翰?霍普菲爾德（John J.Hopfield）和杰弗里?辛頓（Geoffrey E. Hinton），理由是他們?yōu)闄C器學習奠定了基礎(chǔ)，為今天包括ChatGPT 在內(nèi)的人工智能鋪平了道路。

雖然成就斐然，而且可以預期必將深刻影響人類文明的未來，然而，會不會有那么一點兒不太“物理”?。?/p>

霍普菲爾德，真正的物理學家

要說不夠物理，獲獎者約翰·霍普菲爾德可未必同意——他本人就是物理學出身，雖然跨界生物學和神經(jīng)科學研究多年，但2006 年還擔任了美國物理學會的主席。

霍普菲爾德出生于1933 年，爸媽都是物理學家，從小就在物理學的世界里長大。他喜歡拆解家中的物品，如電視機、收音機，甚至他的自行車和模型飛機，以觀察它們的工作原理。于是，他從小就建立起了一個意識：這個世界是可以理解的，你可以拆開任何的東西，理解各部分之間的關(guān)系，并通過做實驗建立起定量的理解。

盡管他的父親因為經(jīng)濟大蕭條被迫改行，但這并未影響霍普菲爾德對物理學的熱情。他在斯沃斯莫爾學院選擇了物理學專業(yè)，并最終走上了科學研究的道路。

起初，霍普菲爾德對固體物理學感興趣，并因此去了康奈爾大學讀博士，畢業(yè)后又去了貝爾實驗室，之后還在加州大學伯克利分校和普林斯頓大學工作。然而，據(jù)霍普菲爾德本人說，他在科學問題上的注意力持續(xù)時間相對較短，總是在尋找更有趣的問題。

后來他轉(zhuǎn)向了生物物理學，之后又轉(zhuǎn)向了生物動力學，還發(fā)表了2 篇論文。在霍普菲爾德看來，物理學和生物化學的思路不一樣：對于不會發(fā)生的事，生物化學基本不考慮；但物理學認為，大多數(shù)化學反應在室溫下都是可能的。這種思維上的區(qū)別，讓他能夠以不同的角度看待生物學問題。也因為那些研究，他離開了普林斯頓大學物理學院，進入加州理工學院化學和生物科學學院工作。此時的貝爾霍普菲爾德已經(jīng)40 多歲了，但他還沒進入最終讓他獲得諾貝爾獎的那個研究領(lǐng)域。

1977 年，麻省理工學院的生物學教授弗朗西斯·奧托·施密特（Francis O. Schmitt）邀請他加入一個神經(jīng)科學研究項目?；羝辗茽柕虏恢绖e人為什么推薦他，而且根據(jù)他自己所說，他當時在會議上講了關(guān)于生物分子精確性的研究，在場40 名不同領(lǐng)域的專家都沒聽懂，可是，他還是以物理學家的身份進入了這個研究項目。

然后，他就對神經(jīng)科學著迷了。

1979 年，他開始研究簡單網(wǎng)絡中二元神經(jīng)元的計算動力學。1982 年，年近五旬的他發(fā)表論文，介紹了一種現(xiàn)在被稱為霍普菲爾德網(wǎng)絡的遞歸神經(jīng)網(wǎng)絡，這也正是為他帶來諾貝爾獎榮譽的研究。如今他91 歲了。

有趣的是，今年的另外一位獲獎人杰弗里?辛頓，搞了一輩子神經(jīng)網(wǎng)絡，卻沒有一種網(wǎng)絡被稱為“辛頓網(wǎng)絡”?；羝辗茽柕乱粋€搞物理的，反倒創(chuàng)造了用自己名字命名的霍普菲爾德網(wǎng)絡——還真是造化弄人。

辛頓：家庭不允許我當學渣

辛頓家絕對是標準的書香門第，杰弗里的曾祖父，查爾斯·辛頓，娶了喬治·布爾的的女兒——此布爾是英國著名數(shù)學家，提出了“布爾代數(shù)”。布爾的妻子瑪麗·愛倫·布爾（Mary Ellen Boole）是一位自學成才的數(shù)學家，幫助丈夫編纂了數(shù)學著作。

瑪麗的叔叔喬治·埃弗勒斯（George Everest），是著名探險家、地理學家，他的學生用“埃弗勒斯”給珠穆朗瑪峰做了英文名（而埃弗勒斯本人表示反對）。瑪麗的妹妹埃捷爾（Ethel），更被中國人熟知的身份是《牛虻》的作者伏尼契夫人——伏尼契是她的夫姓。

曾祖父查爾斯本人也是數(shù)學家，同時創(chuàng)作科幻小說。

杰弗里的父親是昆蟲學家、英國皇家學會成員。杰弗里的堂姑是寒春（Joan Hinton）。寒春是物理學博士，曾參與曼哈頓計劃，后與未婚夫陽早來到中國，從事農(nóng)業(yè)相關(guān)工作。寒春的哥哥韓丁（William Hinton）也與中國有很深的淵源，著有《翻身——中國一個村莊的革命紀實》。

辛頓家的各種血親姻親里，還包括查爾斯·霍頓，數(shù)學家，首次提出四維超正方體；塞巴斯蒂安·霍頓，戶外攀爬架的發(fā)明者；露西·埃弗勒斯，第一位被選入皇家化學學會的女性……

書香門第，外加嚴厲的父母，讓杰弗里從小就倍感壓力。媽媽給他的童年教育是“做不成學者，就是個渣渣”（Bean academic， or be a failure）。爸爸說：“你要是像我一樣努力，等你到了我現(xiàn)在年紀的兩倍時，估摸著能達到我現(xiàn)在的成就！”在彭博社的采訪里，杰弗里說：“大概在7 歲的時候，我就意識到一件事：我不讀個博士是不行的。”

辛頓曾對人工智能說“后悔”

對于他親自奠定了基礎(chǔ)，如今正在飛速發(fā)展的人工智能，辛頓感到了“后悔”。

在2023 年5 月離開谷歌后，辛頓終于能毫無顧忌地警示“人工智能的風險”了。而在10 年之前，辛頓與2名學生創(chuàng)立了深度神經(jīng)網(wǎng)絡研究公司DNNresearch，在ImageNet 圖像識別競賽中取得了突破性成績，從而引起了科技巨頭們的注意。谷歌收購了該公司，辛頓隨即加入，負責“谷歌大腦”（Google Brain）的部分研究工作。

離開谷歌后，辛頓在多個場合表達了自己的擔憂。

2024 年2 月，在牛津大學Romanes 講座上，他說：“如果數(shù)字超級智能真的想要控制世界，我們不太可能阻止它?！?/p>

他越是使用ChatGPT，越是感到不安，他說它的理解水平似乎代表了人工智能的一個新時代。當辛頓開始他的研究時，沒人認為他所從事的方向會成功，即使開始成功，也沒有人想到會這么快成功。所以辛頓既期待它在很多領(lǐng)域作出貢獻，也擔心技術(shù)由于發(fā)展太快會被濫用。

辛頓擔心人工智能可能會取代人類的工作，導致大量失業(yè)，尤其是在那些涉及例行任務的職位上，如律師助理、個人助理和翻譯。辛頓認為人工智能創(chuàng)造的財富可能會加劇全球貧富差距，因為新增的財富可能會流向已經(jīng)富有的人群，而不是窮人。

辛頓曾在社交媒體上這樣寫道：“毛毛蟲吸取營養(yǎng)，而后化繭成蝶。人們已經(jīng)提取了數(shù)十億個理解的金塊，而GPT-4 就是人類的蝴蝶。”很多人看到過這句話。

是辛頓開創(chuàng)的技術(shù)，導致了這種蛻變的發(fā)生，但按他現(xiàn)在的想法，蛻變還遠沒結(jié)束。辛頓在積極推動建設(shè)人工智能監(jiān)管框架、建立人工智能安全共識，以免人工智能通向人類無法控制的未來。

不過，得知自己獲得諾貝爾物理學獎之后，老爺子倒是沒有再次表示“后悔”，而是順手取消了核磁共振檢查。