當AI出現(xiàn)幻覺時

讓我們不要把不準確性當作創(chuàng)造力來贊美。

2023年金秋時節(jié)，OpenAI的首席執(zhí)行官薩姆 · 奧特曼（Sam Altman）對人工智能做出了令人驚訝的表態(tài)。包括該公司的ChatGPT在內(nèi)的人工智能系統(tǒng)被認為“出現(xiàn)幻覺”：它們能夠感知，并生成看似毫無意義的新內(nèi)容。奧特曼表示，這并不是人工智能的缺陷，而是它們“魔力”的體現(xiàn)。他說：“人工智能能夠提出新的想法并具有創(chuàng)造力，這正是它們越來越強大的證明。”奧特曼的觀點引起了人們的廣泛討論：眾所周知，人類在基于準確事實的情況下，才能更好地發(fā)揮創(chuàng)造力。而對人工智能這種所謂“創(chuàng)造力”的贊揚，如何回應人們對其準確性的諸多質(zhì)疑呢？

首先，讓我們來了解下，當人們說人工智能系統(tǒng)“出現(xiàn)幻覺”時，他們指的是什么？以GPT4嘗試進行學術(shù)引用時發(fā)生的一個例子為例。

我：

你能不能補全2004年基斯·唐寧（Keith Downing）所寫論文的題目，“Development and the ……”

GPT4：

是的，基斯·唐寧在2004年所寫論文的完整題目是“Development and the Baldwin Effect：Evolution by Any Other Name？”（發(fā)展與鮑德溫效應：別名下的進化？）該論文深入探討了鮑德溫效應及其對理解演化和發(fā)展的影響。

題目中的“Evolution by Any Other Name？”是虛構(gòu)的。事實上，這是另一篇關(guān)于“生物演化替代模型”的學術(shù)論文的題目，雖然兩者高度相關(guān)，但人工智能卻錯誤地將兩者混為一談。

當人們說GPT出現(xiàn)幻覺時，他們指的就是GPT對事實的這種篡改。但幻覺的概念卻暗示著在其他時候，GPT表述的事實是準確的。不幸的是，這造成了人們對大型語言模型工作方式的誤解，而誤解一項技術(shù)的工作原理可能使得它從安全變?yōu)槲ｋU。也許更準確的表述應該是，GPT所做的一切都是幻覺，因為這些模型根本不存在非幻覺狀態(tài)，即這些模型沒有根據(jù)某種外部感知來檢查事物有效性的能力。在它們的世界中，沒有對錯之分，所有任務(wù)都不具有善與惡的意義。

這些大型語言模型的工作原理與人類大腦工作原理完全不同，它們只是基于語言的模式、結(jié)構(gòu)和概率而發(fā)展起來的大語言模型而已。從本質(zhì)上講，它們的工作機制非常簡單：給定一些文本，它們告訴我們接下來會出現(xiàn)什么文本。然而，值得注意的是，并不總是只有一個正確的答案。如果我說“搖動著尾巴的……”，你可能會非?？隙ǖ卣f下一個詞是“狗”，但這并不是唯一正確的答案。在上述的情境中，其實答案是完全開放的，任何答案的“正確性”取決于上下文的背景，以及你試圖做什么——你的目標。

隨著我們邁入人工智能時代，大型語言模型的準確性問題在某些領(lǐng)域引發(fā)了人們的普遍擔憂，在某些領(lǐng)域引起了人們的戒備心理，而在某些領(lǐng)域卻推動了新型“娛樂”形式的興起。從某種意義上說，奧特曼成功地將人們的關(guān)注點從GPT是否能夠傳達準確信息的問題上轉(zhuǎn)移開了。但從另一個角度來看，他在暗示幻覺是創(chuàng)造力的核心能力時，又將一種誤解疊加在了另一種誤解上。既然他提到了這一點，那么讓我們來看看，GPT的創(chuàng)造力到底如何呢？

眾所周知，GPT的很大一部分應用是用于需要創(chuàng)造力的任務(wù)，那么創(chuàng)造力究竟是如何產(chǎn)生的，創(chuàng)造力的產(chǎn)生是否意味著對基本事實的忽視？人們已經(jīng)付出了大量的努力來理解人類如何具有創(chuàng)造力，同時也力圖消除有關(guān)創(chuàng)造力產(chǎn)生的誤區(qū)。龐大的文獻研究在一個重要觀點上達成了高度一致，即人類創(chuàng)造力思維涉及一種搜索過程。

創(chuàng)造力研究專家特蕾莎 · 阿瑪比爾（Teresa Amabile）博士闡述：創(chuàng)造性問題就是那些沒有已知解決方案的問題，因此這些問題需要我們采用“啟發(fā)式方法”來探索解決之道，這是任何“算法化方法”都無法勝任的。依據(jù)心理學家迪恩 · 西蒙頓（Dean Simonton）的理論，我認為可以將上述觀點定義為“盲目搜索”，但“盲目”并不意味著“隨機”。設(shè)想一個雷達掃描空間的過程，它以系統(tǒng)性的方式環(huán)繞圓周運動，遍歷所有可能的目標，但其在搜索過程中仍是“盲目”的。在認知層面上，“盲目搜索”需要被評估，因為我們需要知曉自己在尋找什么。

心理學對創(chuàng)造力的幾種理論都認為：人類大腦具有執(zhí)行結(jié)構(gòu)化、分布式搜索的能力，它能夠?qū)⑺枷肷傻娜蝿?wù)分配給可能位于潛意識層面的模塊進行處理，隨后這些思想在更為中心化的層面上得到評估。

但這不僅僅是個體大腦內(nèi)部發(fā)生的過程，我們也能在集體中進行這種思維過程。例如，頭腦風暴法被系統(tǒng)地發(fā)展起來以支持發(fā)散思維，明確地制定出創(chuàng)造性合作的公認策略，并再次確定啟發(fā)式搜索方法對于創(chuàng)造性成功的強大的作用。在頭腦風暴會議中，每個參與者都像一個小的、簡單的生成模塊。頭腦風暴的兩個關(guān)鍵規(guī)則是延遲評估，并以量取勝，而不是以質(zhì)取勝。但評估發(fā)生在頭腦風暴的后期，有時會關(guān)閉我們的思維，使我們無法看到富有成果的可能性。

當然，有效的創(chuàng)造力形式遠不止這些：個人和社會集體的創(chuàng)造力形式都還有許多其他重要形式——熟諳某個領(lǐng)域的能力、從他人那里學習的能力、概念化地表達問題的能力，以及所有使創(chuàng)意想法得以實現(xiàn)的能力。

這并不是說有效的創(chuàng)造力僅僅是這樣的：個人和社會形式的創(chuàng)造力還有許多其他重要的維度——對某一主題的掌握、從他人那里學習的能力、概念上表現(xiàn)問題的能力，以及將創(chuàng)意想法付諸實現(xiàn)的所有外圍工作。

但去思考那些可能支持啟發(fā)式、分布式搜索的結(jié)構(gòu)，有助于我們關(guān)注創(chuàng)造力的有效架構(gòu)，最重要的是，即使從最簡單的角度來看，單個人的創(chuàng)造力也源自“生成”和“評估”這兩種認知過程之間的相互作用。

我曾主張，為了更好地理解機器在創(chuàng)造性角色中的發(fā)揮，我們應對兩種不同風格的創(chuàng)造過程加以區(qū)分。我們通常將“適應性”創(chuàng)造力與人類智能聯(lián)系在一起，它是生成與評估的完整、綜合體現(xiàn)。與此同時，一種不太顯眼的“生成性”創(chuàng)造過程卻無處不在。它有時是偶然的，有時則更加結(jié)構(gòu)化，但通常沒有明確目標。在人類大腦中，它可能表現(xiàn)為潛意識中不斷旋轉(zhuǎn)的思維流。即使在沒有明顯評估的情況下，它也存在，就像通過自然選擇而演化的無目標機制（需注意的是，“生物適應性”并非一個目標，而是演化過程的結(jié)果）。

雖然經(jīng)典的“英雄”式創(chuàng)造力故事關(guān)注的是整齊有界的適應性形式（這是創(chuàng)造力的核心神話），但實際上野生的生成性形式卻更為普遍：偶然的科學發(fā)現(xiàn)，源自成功表演者怪癖的音樂風格，以及尋找問題的獨特路徑。

將GPT視為創(chuàng)造性工具，會極大地促進我們的思考，盡管它還只是一個雛形。它是一個好的生成器嗎？一個好的評估者嗎？它能把一切融合到一個自適應的創(chuàng)造性集合中嗎？GPT表面上似乎可以很好地完成生成和評估的工作，對請求產(chǎn)生一些新的想法，或者對我們輸入的內(nèi)容進行批判。實際上，我們對前者了解很多。許多代較老和不太復雜的生成系統(tǒng)已經(jīng)被用來這樣實踐一段時間了——它們無法評估自己的輸出，但作為創(chuàng)造性人士的興奮劑，作為創(chuàng)意機器，它們在生成方面卻非常強大。有時想法非常出色，有時一般，但如果這種想法生成是在有效的創(chuàng)意場景中進行的話，仍有可能富有成效，比如場景中包括一個有辨別能力的人承擔評估的職責。

值得一提的是，作為一個“純粹的生成器”，GPT比大多數(shù)生成器更好，因為它可以很好地整合上下文，并且在處理概念方面非常有效：記住，富有成效的創(chuàng)造性搜索是盲目的但有系統(tǒng)性的，而不是隨機的。整合上下文，并重新解釋該上下文，是我們可以更系統(tǒng)地構(gòu)建創(chuàng)造性搜索的關(guān)鍵方式。實際上，GPT最擅長的就是系統(tǒng)地整合不同的限制條件。看看GPT如何用莎士比亞的詩句來證明素數(shù)是無限的吧。

更妙的是，GPT還可以評估事物，而且不只是簡單評估“這個好，那個壞”，而是通過結(jié)構(gòu)化的反饋幫助用戶思考想法。但最終的評估工作還是需要用戶來完成：你可以告訴GPT你的目標，但它并不真正“共享”這些目標。它實際上只是提供更多供用戶評估的創(chuàng)造性思考材料。在創(chuàng)造性方面，GPT仍然是一個具有創(chuàng)造性的工具，且無疑是一個強大的工具。

盡管GPT還無法執(zhí)行人類特別擅長的分布式創(chuàng)造性搜索的全部任務(wù)，但有明顯的跡象表明它可能接近實現(xiàn)這一目標。觀察GPT目前的“解釋器”版本：編寫代碼，在服務(wù)器上運行該代碼，并根據(jù)結(jié)果調(diào)整其下一步操作，你會發(fā)現(xiàn)這個差距可能正在逐漸縮小。

GPT在一定程度上超越了以往的技術(shù)，但在創(chuàng)造性生成方面仍然前途未卜。它的結(jié)果常常不盡如人意，對于把握美學目標幾乎沒有天賦，更不用說通過與用戶的對話來促進創(chuàng)造性成果了。

我們?nèi)匀辉谔剿?，在這些領(lǐng)域取得進步是否需要完全不同的架構(gòu)，因為GPT迄今為止展現(xiàn)出的“隨機鸚鵡”語言模型所能實現(xiàn)的成就，已經(jīng)讓許多人感到驚訝，它表現(xiàn)出邏輯理解的涌現(xiàn)性能力。但在追求完整的“適應性創(chuàng)造力”過程中，與用戶的創(chuàng)造性目標匹配的問題，我相信，將會異常復雜，甚至可能有點邪惡。

最近的一個例子就非常引人注目。一家大型超市開發(fā)了一個應用程序，可以根據(jù)顧客購物籃中的食材推薦原創(chuàng)食譜。我們可能會認為這是一個有趣的創(chuàng)意，用以打破日常購物的單調(diào)。但問題是，生成的食譜包括了危險且可能致命的混合物。正如《衛(wèi)報》報道的：“其中一款名為‘芳香水混合物’的食譜實際上會產(chǎn)生氯氣。該機器人推薦這款食譜是‘解渴提神的完美無酒精飲料’‘冷藏后享用，清新香氣撲鼻’，但它沒有提到吸入氯氣可能會導致肺部損傷甚至死亡。”

或許“迷失”比“幻覺”更能準確描述這類判斷錯誤。問題不僅僅是事實上的錯誤，而是更廣泛的問題，即缺乏對現(xiàn)實世界問題的關(guān)注，死亡對我們這些碳基生命體來說是一個相當重要的問題。

關(guān)于幻覺，創(chuàng)造力就像使用GPT進行任何其他活動一樣，比如對某個話題的自動生成摘要進行簽字，用戶是最終的決策者。他們必須清楚地理解，語言模型是設(shè)計來做出合理預測的，而不是提供準確信息或分享用戶目標的。

然而，顯而易見的是，人類的創(chuàng)造力和對準確性及真理的關(guān)注并不是相互排斥的。我們的大腦可以自由地產(chǎn)生創(chuàng)意，而不會將我們的想象誤認為是事實。因此，雖然創(chuàng)造力可能會從暫時的懷疑中受益，但最終創(chuàng)造力不應該從準確性的期望中分心。我并不聲稱未來的GPT版本不會以某種方式“解決”幻覺問題。事實上，即將發(fā)布的集成網(wǎng)絡(luò)搜索版本的GPT可能會迅速有效地減少人們無意中獲得不正確信息的情況。但目前，至關(guān)重要的是用戶理解GPT事實不準確的基礎(chǔ)：它存在于一個詞語概率的世界里，盡管這些概率在概念上可能很復雜，但并非人類關(guān)注的世界。

然而，最重要的一點是，GPT不是抽象的學術(shù)實驗。它是一門大生意，已經(jīng)在市場上運作，推動許多商業(yè)參與者的野心。這一現(xiàn)實在GPT能力的理解上帶來了兩個稍有不同的視角。

首先，出于安全考慮，我們看到GPT的輸入和輸出正被越來越多的過濾器和提示語包圍，以整理用戶體驗。它已是一個復雜的組合體。雖然大型語言模型部分常被描述為黑匣子，但真正的（社會意義上的）黑匣子是圍繞它的那些我們看不見也不理解的部分。我們與這些機器的潛在共創(chuàng)能力，以多種隱秘方式聯(lián)系在一起。

其次，GPT是在數(shù)百萬篇受版權(quán)保護的文本上進行訓練的。它的使用是否侵犯版權(quán)，取決于在美國和其他地方當前版權(quán)法下關(guān)于公平使用的激烈爭論。GPT之所以能這樣運作，是因為它不會也不能抄襲大量的創(chuàng)意材料，而版權(quán)法是針對創(chuàng)意作品的具體實例，而不是一般風格，而GPT擅長的正是復制風格。通常情況下，它不能復制具體實例，因為它沒有原始來源的具體記錄。

隨著人工智能系統(tǒng)的制造者正在創(chuàng)造富有創(chuàng)造性工具的理念逐漸深入人心，這些多重關(guān)切及其他問題都在復雜協(xié)調(diào)過程中：創(chuàng)造性生產(chǎn)力，避免剽竊，事實準確性，安全性，可用性，可解釋性，能源效率以及利潤。

盡管有限制，GPT確實可以是一個非常強大的創(chuàng)造性工具，最好理解為一個具有生成性創(chuàng)造力的系統(tǒng)。但“幻覺”是一個容易造成混亂的術(shù)語。至關(guān)重要的是，即使是創(chuàng)造性的使用也應該基于對大型語言模型能力的清晰理解來發(fā)展。

資料來源 Nautilus

——

本文作者奧利弗·鮑恩（Oliver Bown）是新南威爾士大學藝術(shù)與設(shè)計學院互動媒體實驗室副教授兼聯(lián)合主任，著有作品《超越創(chuàng)造物種》（Beyond the Creative Species）