智能體和程序體的對話

陸汝鈐

我在科學網(wǎng)上第一次看到張軍平教授寫的系列文章《愛犯錯的智能體》時，我還以為這里“智能體”指的是人工智能理論或編程中提到的專業(yè)名詞agent。但當我仔細讀其內容時，特別是在從頭瀏覽其內容時，才發(fā)現(xiàn)這里的智能體主要指的是人，尤其是生物學上的人。作者說的沒有錯，人確實易犯錯誤。書中從分析生物人的感知功能談起，以生動的例子介紹了人的視覺、聽覺、觸覺和體覺的解剖學知識及其基本原理。之后又進入人的感情世界，從人的情感、回憶、夢境，一直談到靈感和錯覺。在這個過程中，作者又適時討論計算機在處理人的感知世界時會遇到的麻煩及處理原則，甚至還不忘介紹一下討論對象的數(shù)學背景。高斯、黎曼、萊布尼茨、龐加萊、愛因斯坦、圖靈等大師級人物的名字頻頻出現(xiàn)。作者不費力地游弋于生命、計算機、數(shù)學、物理等幾大學科之間，讓讀者經(jīng)歷一次目不暇接的跨學科科學旅游。再加上一個個有趣的故事，還有詩，畫，歌，甚至還有鄉(xiāng)愁！以這樣的方式來做科普，我還是第一次讀到，感覺很新鮮、很解惑，又易于接受。

本書的主角是被稱作“智能體”的人，暫時稱之為人智能體。人是萬物之靈，卻也不能避免犯錯誤，“人非圣賢，孰能無過？”作者為何用一整本書來討論這類問題呢？看來除了分析人的感知和認知功能本身外，作者還試圖用人智能體犯的錯誤來考核另外一個智能體，即機器智能體，簡稱程序體。如果后者遇到了同樣的問題，它能避免犯錯嗎？人智能體犯錯誤一般有客觀和主觀兩方面的原因。客觀原因可能是面臨復雜的環(huán)境，包括對手的蓄意欺騙，主觀原因則往往可以歸結為經(jīng)驗不足或經(jīng)驗有偏差。為什么會把美女看成老太太呢？因為不知道看一幅畫可以從多個角度看。為什么會對隱藏在背景中的目標物視而不見呢？因為沒有想到畫中還會有畫。一個正常的人會吃一塹，長一智，變得越來越聰明。這是什么？這就是人智能體積累的經(jīng)驗，以及從經(jīng)驗中提取的理性認識。對此，程序體有一個很好的工具——貝葉斯理論。犯錯誤好比一個結論不當?shù)呢惾~斯推理，說明不是先驗有問題，就是驅動先驗的可能性有問題。一個有豐富先驗和可靠選擇機制的程序體就不大會犯類似的錯誤。所以人智能體在感到困惑的時候不妨咨詢一下程序體。

把貝葉斯模型比喻為人智能體的經(jīng)驗有一個問題，就是程序體編寫的貝葉斯模型都是針對有限前提的，即它只在程序體為它設定的某一類特定環(huán)境有效，而人智能體則以它的全部生活和終身經(jīng)歷為其經(jīng)驗支撐。試問程序體能夠構造出這樣的貝葉斯模型來嗎？這可能就是程序體不及人智能體的地方吧。不過貝葉斯理論至今仍是一個活躍的研究領域。隨著研究者們向它提出的問題越來越難，要求越來越苛刻，程序體也在一步步趕上來，更深刻的理論和技術不斷誕生。2006年有人提出了結構化先驗的概念，力圖把程序體中貝葉斯先驗涉及的眾多概念按人智能體的認知結構組織起來。先驗不再局限于某個有限的圖結構，而可以是一個時間上無窮的隨機過程。更進一步，復旦大學的李斌提出了可學習先驗的思想，直接挑戰(zhàn)原本屬于人智能體的“活到老，學到老”概念。當然教義還不止這一點，人智能體可以請教程序體的地方還很多。

我們再看看本書中所說的視覺自舉原理。動物的眼睛在差異巨大的光強變化之間能夠迅速自我調整以適應多變的外來光。我原來一直以為人和貓的眼睛在光強變化下的自適應原理是一樣的。感謝本書作者指出這兩者之間的區(qū)別，使我增加了知識。

我們可以看到，人智能體和程序體對事物的認知和處理能力實際上是互有短長的。本書作者提到的可解釋性問題是一個極好的例子。

本書談論智能。雖然并沒有正面給出智能或人工智能的定義，但是通過很多生動的例子，作者已經(jīng)透露了對于此類問題的一些觀點。讀者可能會注意到，人智能體會做的事情很多，會犯錯誤的場合也很多，而許多常見的錯誤卻沒有收入書中。我認為作者表明了這樣一個觀點。人智能體的智能并不局限于理性思維這樣的高級形式。學術界常用的公式：數(shù)據(jù)→信息→知識→智能（或智慧）只是程序體的一種智能公式。另一方面，如果我們仔細推敲“體感”這一節(jié)，可以發(fā)現(xiàn)本書并不認為大腦是生物智能的唯一產(chǎn)地。

可能有一種解釋是：腦干是一種生命現(xiàn)象，它卻與智能無關。但是腦干模擬功能是人工生命的一部分，它與人工智能有關。這種解釋使我們意外地得到了一個推論：人工智能模擬的是否不僅僅是智能，而可能也泛指某種生命現(xiàn)象？機器魚不也是這樣嗎？但是如果這個觀點能夠成立的話，就會產(chǎn)生一個問題：它是否管得太寬了？人工智能究竟是我們努力的目標？還是我們應該遵循的方法學？我在《人工智能》一書的前言中曾提到學界對于人工智能的態(tài)度有愚公派和智叟派之分。愚公派認為總有一天會把人工智能這座大山完全搬走（到那時機器像人一樣聰明），智叟派則認為努力挖山不應懈怠，但挖盡之日永遠不會來到。我愿意站在智叟派一邊，認為人工智能既是一種（無止境推進的）目標，更是一種（應該持之以恒的）方法學。

在結束序言之前我還想說一句公平話。本書名曰《愛犯錯的智能體》。人智能體在這里被一系列的故事批得灰頭土臉。但是號稱萬物之靈的人智能體，其智能真的就那么不堪嗎？我在這里只指出一點，人智能體固然愛犯錯，但是更能容錯。為什么某甲能夠一眼認出某乙？盡管某乙外表已與當年初見時很不一樣。為什么某丙能解決一個復雜的問題？盡管他從來沒有遇到過類似的情況。為什么不同的程序體被設計來處理不同的智能問題？而人智能體卻能夠處理各種各樣的智能問題，盡管他只有一個大腦，其結構還是固定的。所有這些和他們的容錯能力關系極大。為公平起見，我建議作者在本書出版后再寫一本《能容錯的智能體》，至少和本書一樣精彩，或者更精彩。

內容簡介

作者在科普性地介紹了人工智能前沿進展的同時，著重從犯錯的角度，淺顯易懂地剖析了智能體在視、聽、語言等方面存在的各種錯覺和犯錯。并指出，理解我們很少關注的犯錯，才有利于智能體的研究和發(fā)展。書中從分析生物人的感知功能談起，以生動的例子介紹了人的視覺、聽覺、觸覺和體覺的解剖學知識及其基本原理。之后又進入人的感情世界，從人的情感、回憶、夢境，一直談到靈感和錯覺。在這個過程中，作者又適時討論計算機在處理人的感知世界時會遇到的麻煩及處理原則，還不忘介紹一下討論對象的數(shù)學背景。高斯、黎曼、萊布尼茨、龐加萊、愛因斯坦、圖靈等大師級人物的名字頻頻出現(xiàn)。作者不費力地游弋于生命、計算機、數(shù)學、物理等幾大學科之間，讓讀者經(jīng)歷一次目不暇接的跨學科科學旅游。再加上一個個有趣的故事，還有詩，畫，歌，甚至還有鄉(xiāng)愁！這樣的科普，很新鮮、很解惑，又易于接受。

作者簡介

張軍平，復旦大學計算機科學技術學院，教授、博士生導師。主要研究方向是人工智能、機器學習、圖像處理、生物認證及智能交通。曾于2007.9-2008.3年作為訪問學者訪問加州大學圣地亞哥分校，2014.8-2015.8年作為ResearchAssociate受聘于賓夕法尼亞州立大學工作一年。曾主持3個國家自然科學基金、“863”項目和浦江人才計劃項目。目前主持2018科技部重點專項“人-機器人智能融合技術”子課題和國家自然科學基金面上項目。中國自動化學會混合智能專業(yè)委員會副主任，中國計算機學會人工智能專業(yè)委員會委員，中國人工智能學會機器學習專業(yè)委員會常委。發(fā)表100余篇人工智能相關的高質量論文。