ChatGPT：像人，更勝似人？

凌川兒

人工智能聊天機(jī)器人ChatGPT在全球持續(xù)走紅，讓自啟蒙階段到象牙塔的教育行業(yè)受到了極大震動。

單單就日常操作而言，它就能幫助人類學(xué)生寫作業(yè)、做翻譯甚至撰寫學(xué)術(shù)論文—已經(jīng)有來自北美地區(qū)的一項調(diào)查顯示，在參與調(diào)查的美國學(xué)生中，有超過一半用ChatGPT寫過作業(yè)，甚至有人因此拿了高分。

在另一邊，察覺到ChatGPT威脅的校方和教師系統(tǒng)，開始對它做出回應(yīng)和防備。繼法國巴黎政治大學(xué)要求所有師生禁用ChatGPT等一切基于AI的工具，以防學(xué)術(shù)欺詐和剽竊后，美國不少大學(xué)亦將“使用AI”列入了作弊手段。

“模仿即為智能”

新的一輪關(guān)于學(xué)術(shù)不端的恐慌潮因此而起。普林斯頓大學(xué)已經(jīng)出臺了一款名為GPTZero的人工智能檢測軟件，來確定師生們提交的文章是否為ChatGPT所編寫的；而斯坦福大學(xué)的研究團(tuán)隊所開發(fā)的檢測工具DetectGPT，則號稱準(zhǔn)確率高達(dá)95%。

普林斯頓大學(xué)推出人工智能檢測軟件GPTZero，判定師生文章是否由ChatGPT編寫

但相比學(xué)生借助ChatGPT抄襲、作弊引發(fā)的學(xué)術(shù)誠信問題，面對人工智能聊天機(jī)器人如此出色的搜集、整合資料能力和文本編寫能力，我們不得不承認(rèn)，傳統(tǒng)的師道“授業(yè)解惑”行為將經(jīng)受更為嚴(yán)峻而久遠(yuǎn)的挑戰(zhàn)：以知識傳遞為核心的教育模式，在將來是否還有存在的價值？

換句話說，在極端條件下，當(dāng)未來有比ChatGPT更出色的數(shù)字生命體出現(xiàn)，它幾乎能回答所有學(xué)生提出的問題，也因此能根據(jù)學(xué)生所掌握知識的薄弱點，來做到因材施教，那么人類教師應(yīng)該教些什么？反過來，當(dāng)這些知識能被如此便捷地獲取后，人類學(xué)生從啟蒙階段花費十幾年的時間，進(jìn)行學(xué)習(xí)、做題究竟有沒有意義？學(xué)生又應(yīng)該學(xué)習(xí)什么內(nèi)容，才是最為迫切需要的呢？

思維的本質(zhì)就是計算，因此人的心理過程就是一個計算執(zhí)行的過程。

關(guān)于創(chuàng)造性教育和記憶力訓(xùn)練的關(guān)系，一件為人們所津津樂道的軼事是：1921年，當(dāng)愛因斯坦訪問美國的時候，有記者問這位當(dāng)年的諾貝爾物理學(xué)獎得主，聲音的速度是多少—愛因斯坦拒絕回答，而是轉(zhuǎn)移話題稱，這可以在任何一本物理書中查到答案，并說出了一句名言：大學(xué)教育的功能，不在于記住已有的事實，而在于訓(xùn)練大腦如何去思考。

早在ChatGPT橫空出世之前，我們就已熟知，人工智能會應(yīng)用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)及自然語言處理等技術(shù)，來提升自己并解決實際問題。在這樣的學(xué)習(xí)過程中，它就是通過大量地識別和記憶，來完成已有的知識積累。

也正因如此，在像ChatGPT這般表現(xiàn)優(yōu)異的生成式強(qiáng)人工智能誕生后，人們似乎越來越確信，AI具備擬人的思考和學(xué)習(xí)能力，以致我們可以放心地讓渡出部分決策權(quán)和重復(fù)勞動，來迎接一場新的技術(shù)革命的到來。但實際上，關(guān)于“機(jī)器真的能思考嗎？”的爭論，從上世紀(jì)50年代伴隨著人工智能出現(xiàn)后，就由來已久—這也是當(dāng)我們在討論人工智能對于人類教育的沖擊時，必須先思考的問題。

1950年，英國數(shù)學(xué)家、計算機(jī)科學(xué)家阿蘭·圖靈在《思想》雜志上，發(fā)表了一篇名為《計算機(jī)與智慧》的論文。正是在這篇著名論文里，他提出了“機(jī)器能否思考”的問題。

為了回答這個問題，阿蘭·圖靈在論文中給出了他所認(rèn)為的一臺計算機(jī)是否具有智能的判斷標(biāo)準(zhǔn)，即后世廣為流傳的圖靈測試。簡單來說，在該測試中，他假設(shè)了這樣的場景：一位自然人測試者身處黑暗的屋子里，與一臺機(jī)器或一個人進(jìn)行對話，倘若測試者無法分辨出與其對話的是人還是機(jī)器，那么就可以稱機(jī)器通過了圖靈測試。

計算機(jī)在不和人接觸的情況下與人交流，讓后者無法判斷對方是人還是機(jī)器，那么它就擁有了智能。這一測試使得阿蘭·圖靈與其后計算主義的追隨者們相信，“思考的機(jī)器”是可能的—他們認(rèn)為，人腦能做到的一切，機(jī)器都能模仿；更進(jìn)一步，人的心智和計算機(jī)程序具有一樣的工作原理，思維的本質(zhì)就是計算，因此人的心理過程就是一個計算執(zhí)行的過程。

關(guān)于阿蘭·圖靈的傳記電影《模仿游戲》

換句話說，在阿蘭·圖靈眼里，無所謂計算機(jī)內(nèi)部的活動是如何開展的，它的實際行為表現(xiàn)即是唯一證明；只要計算機(jī)能在這場“模仿游戲”里通過，那么它就具備和人一樣的智能（這正是2014年上映的關(guān)于阿蘭·圖靈的傳記電影《模仿游戲》片名的來源）。

“理解”與“執(zhí)行”的差異

但在哲學(xué)界，始終有反對的聲音存在。對于“機(jī)器可以具有真正智能”的所謂強(qiáng)人工智能觀點，它們認(rèn)為，機(jī)器所表現(xiàn)的這種智能，只是一種模擬的“智能”，即使某臺計算機(jī)通過了圖靈測試，也不能排除實際上，它對問題沒有任何理解的可能性；因此，計算機(jī)不可能具備真正意義的智能。

經(jīng)典的圖靈測試在人工智能的“強(qiáng)弱”上，不能作為智能意識產(chǎn)生的推演依據(jù)。

用純粹的觀點語言來闡述反對派的觀點，興許有些抽象，不妨來看一個相對具象的思想實驗：在上世紀(jì)80年代，美國哲學(xué)教授約翰·塞爾勒在“圖靈測試”的場景基礎(chǔ)上，于其著作《意識的大腦與程序》中，提出了“中文屋論證”，來對強(qiáng)人工智能觀點發(fā)起質(zhì)疑。

在中文屋實驗里，想象同樣是一個孩子坐在一間被反鎖的屋子里，他只通曉英文，對中文一點也不懂。在屋內(nèi)，有一盒中文卡片和一本用英文編寫的規(guī)則手冊。假設(shè)每當(dāng)屋子外有寫了中文問題的紙條遞進(jìn)來后，這個人都能按照規(guī)則手冊的操作，來將屋內(nèi)的中文卡片組合成詞句，來完美回答被送進(jìn)來的問題，那么這個人就通過了“理解中文”的圖靈測試—盡管這個人本身仍然不懂中文。

塞爾勒通過這個實驗認(rèn)為，計算機(jī)所運行的程序是形式化的句法實體，但人所擁有的智能卻是具有語義性的，“理解”不僅僅是機(jī)械的翻譯和句法的轉(zhuǎn)換，而且還在于其體現(xiàn)了主體的意向性。

回到圖靈測試的黑屋背景里，塞爾勒想表達(dá)的意思是，就算機(jī)器能夠模擬人的行為與對話，也不能夠認(rèn)定其具有人的意識或者思維，這無非是在完美規(guī)則下的固定回應(yīng)罷了。值得玩味的是，在現(xiàn)代教育面臨AI沖擊的今天，被灌輸知識的人類學(xué)生，屢屢被比作是“中文屋”里操作卡片的孩子，這隱約更加符合在信息爆炸的新世紀(jì)，人們關(guān)于賽博格等后現(xiàn)代宣言“不可知論”的擔(dān)憂。

2015年，美國卡內(nèi)基·梅隆大學(xué)利用核磁共振腦成像技術(shù)，記錄人腦理解概念的神經(jīng)活動

大規(guī)模的數(shù)據(jù)積累

塞爾勒所抓住的最有力反擊點，是所謂的“理解”和“執(zhí)行”之間尚且存在著差異。有趣的是，曾經(jīng)被認(rèn)為是無法被看到的理解過程，也隨著科學(xué)的發(fā)展變?yōu)榱爽F(xiàn)實。

2015年，美國卡內(nèi)基·梅隆大學(xué)利用核磁共振腦成像技術(shù)，第一次將人腦理解概念的神經(jīng)活動，以視頻方式表現(xiàn)了出來：志愿者學(xué)習(xí)不同的新知識的時候，會將其存儲到不同的腦區(qū)。

然而，這只是一次對人體生理反應(yīng)的成功捕捉。人腦理解語義和概念的具體過程還有待揭秘，是故科學(xué)家也暫時做不到用機(jī)器模擬人腦的理解機(jī)制。

可事實上，人們對于數(shù)據(jù)積累，有著更加簡單粗暴的辦法：在ChatGPT吸引了全球目光之后，就已經(jīng)有媒體曝出，為了訓(xùn)練這個聊天工具，其背后的公司OpenAI在肯尼亞雇了時薪還不到2美元的外包勞工。他們需要在9小時的工作時間內(nèi)，閱讀并標(biāo)注最多20萬個單詞，還必須在工作中觀看兒童性虐待、謀殺等一系列引發(fā)心理和生理不適的內(nèi)容，來減少ChatGPT的有毒內(nèi)容。

從包括特斯拉在內(nèi)的自動駕駛研發(fā)公司所招募的大批數(shù)據(jù)標(biāo)記員，到機(jī)器人在線客服背后的真人員工，在更廣闊的行業(yè)應(yīng)用里，人工智能所帶來的自動化變革，依然在底層依賴著大量的廉價勞動力，即使“阿爾法狗們”已經(jīng)在窮舉規(guī)則的道路上走得更遠(yuǎn)，已經(jīng)學(xué)會預(yù)測，并具備模擬人腦神經(jīng)網(wǎng)絡(luò)架構(gòu)的雛形了。

可以說，目前的人工智能，仍然是對人類思維、行為的模仿，它尚且停留在工具和機(jī)械范疇，并不是真正意義上的人格實體與道德實體；經(jīng)典的圖靈測試在人工智能的“強(qiáng)弱”上，也不能作為智能意識產(chǎn)生的推演依據(jù)。

但我們不應(yīng)忘記，計算機(jī)科學(xué)家阿爾文·納拉亞南在設(shè)計機(jī)器人時，提出需要遵循“圖靈紅色警戒”的建議：機(jī)器人的定位應(yīng)當(dāng)是機(jī)器人，而不是人甚至超越人。

責(zé)任編輯謝奕秋 xyq@nfcmag.com