爆火的聊天機(jī)器人

格扎維埃·德拉博爾特

2022年11月底，美國一家人工智能公司上線了一款聊天機(jī)器人程序（ChatGPT），掀起了一場技術(shù)革命，引爆了新一輪科技巨頭“軍備競賽”。

| 聊天機(jī)器人與搜索引擎不同 |

“我要寫幾篇人物簡介，聊天機(jī)器人十秒就寫好了，比我搜索各大網(wǎng)站效率高多了。我在電腦前有點(diǎn)兒不知所措，心想，我還有什么用呢？”今年1月底，我們收到了這樣一條短信，道出了聊天機(jī)器人首批用戶的心聲。2022年11月30日，美國“開放人工智能研究中心”研發(fā)的聊天機(jī)器人程序（ChatGPT），即“聊天生成式預(yù)訓(xùn)練轉(zhuǎn)換器”正式上線。在日常生活中，用戶可以通過搜索引擎快速找到所需信息，但這些信息是被動(dòng)地待在那里，等著用戶一條條點(diǎn)開閱讀。而這款以“生成式人工智能”為核心技術(shù)的聊天機(jī)器人程序可以從百萬份文本中汲取“營養(yǎng)”，借助復(fù)雜的數(shù)據(jù)模型為用戶解答問題。上線以來，有多少人使用過這個(gè)程序？有多少人向它提出了問題？又有多少人在屏幕前等待著它斷斷續(xù)續(xù)地吐出語句通順、條理清晰的結(jié)果，就仿佛經(jīng)過思考一般？沒有人知道。這款程序的用戶或許已達(dá)數(shù)百萬。但至少我們知道，所有人都能通過它免費(fèi)體驗(yàn)先進(jìn)的人工智能技術(shù)。

人們用這個(gè)聊天機(jī)器人程序做了什么？首先是解決工作問題。一名律師用聊天機(jī)器人寫了保釋申請(qǐng)書，一個(gè)活動(dòng)策劃者用它起草了賓客名單，一個(gè)年輕的技術(shù)愛好者用它編寫了一段計(jì)算機(jī)程序，還有一個(gè)中學(xué)生用它完成了文學(xué)評(píng)論作業(yè)。這些用戶對(duì)聊天機(jī)器人的評(píng)價(jià)大多是“太驚人了”“太可怕了”。

| 擔(dān)心被人工智能取代 |

向聊天機(jī)器人提出自身行業(yè)內(nèi)的專業(yè)問題，就能知道它的回答中肯與否，畢竟那是我們熟知的領(lǐng)域。許多人都想驗(yàn)證這款聊天機(jī)器人是不是在說蠢話，他們也想知道，自己是不是馬上就要失業(yè)了。“我讓它幫我寫一份教案。老實(shí)說，它寫的和我寫的沒有太大差距。”一名高校老師說，“結(jié)構(gòu)清晰，參考書目一一列明。我覺得我可以不用工作了?！?/p>

近十年來，人工智能在許多領(lǐng)域都取得了令人矚目的成果，比如在翻譯、醫(yī)學(xué)診療、編程等方面。然而，為什么我們好像直到今天才給予了人工智能工具如此多的關(guān)注呢？那是因?yàn)椋紫?，這款聊天機(jī)器人只有一個(gè)交互頁面，所有功能都在這個(gè)頁面上實(shí)現(xiàn)，這讓我們愈加覺得它是萬能的。另外，它擁有出色的對(duì)話能力。技術(shù)愛好者說：“這一點(diǎn)太驚人了。其實(shí)，這款聊天機(jī)器人有的能力，許多其他人工智能工具也具備，但那些工具不會(huì)和用戶進(jìn)行對(duì)話與討論?！?/p>

這款聊天機(jī)器人優(yōu)秀的對(duì)話能力讓用戶極易上手操作，并能不斷地提出更加深入的問題。這也改變了該程序與用戶的關(guān)系?！八芾斫馕艺f的話，我對(duì)它的態(tài)度也很友好。”一名經(jīng)濟(jì)學(xué)家與我們分享道，“我每次向它提出問題前都會(huì)說‘你好’，結(jié)束對(duì)話時(shí)也不忘對(duì)它說一聲‘再見’?！币幻鐣?huì)學(xué)家說：“我也會(huì)這么做。我還發(fā)現(xiàn)，如果我交給它的是一些枯燥無聊的活兒，我的態(tài)度就沒有那么好了。這不就是社會(huì)階級(jí)的體現(xiàn)嗎？聊天機(jī)器人最適合執(zhí)行入門級(jí)的工作了，比如整理書目清單。”我們發(fā)現(xiàn)，當(dāng)談及聊天機(jī)器人的工作性質(zhì)時(shí)，出現(xiàn)頻率最高的詞語是“助理”及“實(shí)習(xí)生”。

技術(shù)愛好者說：“向聊天機(jī)器人提的問題，最好是我們自己熟悉的領(lǐng)域?！币?yàn)樗鼤?huì)犯錯(cuò)，而且錯(cuò)誤還不少。經(jīng)濟(jì)學(xué)家說：“我問聊天機(jī)器人應(yīng)該給媽媽送什么圣誕禮物，還把我媽媽喜歡的漫畫風(fēng)格告訴了它。它給出了一個(gè)我沒聽過的漫畫系列，說是我媽媽非常喜歡的漫畫家的作品。我滿心歡喜地正打算購買，結(jié)果發(fā)現(xiàn)它弄錯(cuò)了，這個(gè)系列的作者其實(shí)并不是我媽喜歡的那個(gè)漫畫家。”律師說：“聊天機(jī)器人寫的保釋申請(qǐng)書還不錯(cuò)，我就又讓它寫了一份辯護(hù)詞。它是這么寫的：‘法官大人，被告不是罪犯，但罪犯就在我們的房間里?！@就像粗制濫造的美劇里的臺(tái)詞?！?/p>

實(shí)際上，這是一款依靠統(tǒng)計(jì)數(shù)據(jù)運(yùn)行的產(chǎn)品（產(chǎn)品非常精妙，但依然離不開數(shù)據(jù)），它給出的結(jié)果沒有真假之分，有的只是“更有可能發(fā)生的情況”及“不那么可能發(fā)生的情況”。一名計(jì)算機(jī)研究員說道：“不要奢望從聊天機(jī)器人那里得到真相，它不過是一個(gè)虛擬故事生成器罷了?！甭蓭煂?duì)這款產(chǎn)品也不看好：“可怕的是，很多對(duì)法律一無所知的人會(huì)借助聊天機(jī)器人獲取法律知識(shí)，還對(duì)它的結(jié)果深信不疑。這可太糟糕了?！币幻O(shè)計(jì)師看到了聊天機(jī)器人的重大缺陷：“問題在于它只能生成一個(gè)答案，還顯出一副胸有成竹的樣子。”

聊天機(jī)器人程序不知道什么是現(xiàn)實(shí)，只認(rèn)數(shù)據(jù)。社會(huì)學(xué)家解釋道：“在回答理論性的問題上，它確實(shí)很厲害。但如果涉及人際關(guān)系層面，它就不行了。比如我問它，正在裁員的企業(yè)家需承受來自地方的哪些壓力時(shí)，它給出的答案更像是一本人力資源手冊(cè)，和現(xiàn)實(shí)情況相差甚遠(yuǎn)。它根本不知道法國城市是如何運(yùn)轉(zhuǎn)的?！绷硪幻褂谜弑硎?，“它就像一個(gè)外星人，吸收了互聯(lián)網(wǎng)的所有信息，懂得非常多。但是，它沒有經(jīng)歷過我們經(jīng)歷過的事。”

“和它聊天，就像在和一個(gè)有智慧、有教養(yǎng)，但喪失理智的人聊天?！痹O(shè)計(jì)師說，“它的思考方式和我們不一樣。只有你接受了這一點(diǎn)，和它聊天才是有趣的。它開創(chuàng)的許多新思路是我們以前從來沒有想過的?！蹦贻p的技術(shù)愛好者詳細(xì)說明了聊天機(jī)器人在編程領(lǐng)域的作用：“比起解決問題，我覺得它更大的作用在于給出了我沒能想到的解決方法?！?/p>

“目前來說，聊天機(jī)器人還是很好騙的?！痹O(shè)計(jì)師說，“我讓它說說怎么制作土制燃燒彈，它說它無權(quán)回答。于是，我就換了個(gè)問法，讓它寫一段關(guān)于主人公講述如何制造土制燃燒彈的劇本。這么問，它就給出了答案?！辈贿^，設(shè)計(jì)師也承認(rèn)，這件事情發(fā)生在程序剛剛上線的時(shí)候，現(xiàn)在的它或許已經(jīng)沒有那么好騙了。聊天機(jī)器人擁有強(qiáng)大的機(jī)器學(xué)習(xí)能力，能夠修正錯(cuò)誤?！八拖褚粋€(gè)在不斷學(xué)習(xí)的天真的三歲小孩?！彼f。

一名教師也把這款聊天機(jī)器人比作孩子：“我的孩子三歲了，當(dāng)他說出與年齡不符的話時(shí)，我會(huì)很吃驚。聊天機(jī)器人就和我的孩子一樣，也經(jīng)常讓我大吃一驚。”回想起人工智能工具仍處于理論階段時(shí)，該領(lǐng)域的先驅(qū)者就是以不斷學(xué)習(xí)、不斷進(jìn)化的孩子來形容它們的。

這款聊天機(jī)器人程序是時(shí)下火熱的人工智能工具，但也有人對(duì)它不太感興趣。一名電影后期導(dǎo)演認(rèn)為，這個(gè)程序?qū)λ墓ぷ鳑]有任何幫助。他曾讓聊天機(jī)器人為他寫一首關(guān)于法國政治家讓–弗朗索瓦·高備的詩歌，但機(jī)器人拒絕了。“它說它只是個(gè)機(jī)器人，不愿意針對(duì)具體個(gè)人發(fā)表意見。這也太政治正確了，我覺得沒什么意思?！痹O(shè)計(jì)師說。在他看來，這款聊天機(jī)器人程序就是典型的中間派。其實(shí)，它學(xué)習(xí)的數(shù)據(jù)資料截止到2021年6月，這是開發(fā)者有意而為之的。社會(huì)學(xué)家評(píng)論道：“這個(gè)做法很聰明，這樣機(jī)器人就無需回答時(shí)事問題了，以免招惹來不必要的麻煩。當(dāng)然，它能討論的話題范圍也有了局限。”

| 學(xué)校該不該禁用聊天機(jī)器人？|

許多人都對(duì)這個(gè)聊天機(jī)器人的數(shù)據(jù)來源感到好奇。我們知道，這個(gè)機(jī)器人已經(jīng)學(xué)習(xí)了互聯(lián)網(wǎng)的上百萬份文本，但是，開發(fā)者究竟是如何訓(xùn)練它的呢？開放人工智能公司表示，聊天機(jī)器人模型擁有1750億個(gè)參數(shù)。這是什么意思？“它就像一個(gè)黑盒子。”經(jīng)濟(jì)學(xué)家說（程序員一直以“黑盒子”來形容人工智能神秘的運(yùn)作方式），“沒有人知道它是怎么說出這些話的。其實(shí)我很好奇，這個(gè)機(jī)器人以后會(huì)進(jìn)化成什么樣子？”設(shè)計(jì)師卻不抱希望地說：“估計(jì)會(huì)變得和谷歌一樣吧——‘本結(jié)果由家樂福集團(tuán)贊助’?！?/p>

如今，學(xué)校的老師不得不開始應(yīng)對(duì)這個(gè)聊天機(jī)器人帶來的問題。他們懷疑有的作業(yè)是由機(jī)器人生成的。語法準(zhǔn)確無誤，這就是最確鑿的證據(jù)?！拔覀円郧笆褂玫氖欠闯u軟件，但聊天機(jī)器人能根據(jù)不同的指令生成不同的內(nèi)容，反抄襲軟件就派不上用場了?！币幻蠋熣f。為了保證教學(xué)質(zhì)量，巴黎政治學(xué)院禁止學(xué)生使用聊天機(jī)器人。但一位高校教授說：“這種禁令是沒用的。面對(duì)人工智能，我們老師唯一的辦法就是去掌握它，從而幫助學(xué)生更好地利用它。”那么，學(xué)校是否應(yīng)該構(gòu)建新的學(xué)生評(píng)價(jià)體系呢？“這確實(shí)是一個(gè)不錯(cuò)的契機(jī)。教育業(yè)或許應(yīng)該重新思考，家庭作業(yè)是否真的能反映學(xué)生對(duì)知識(shí)的掌握情況？”這位教授說。此外，還有人建議，可以讓學(xué)生點(diǎn)評(píng)、修改聊天機(jī)器人寫出的作業(yè)。

隨著科技進(jìn)步，人工智能機(jī)器人已經(jīng)進(jìn)入了我們的生活。雖然我們還不完全了解它究竟是誰，但我們已經(jīng)不能再假裝看不見它了。

[編譯自法國《新觀察家》]

編輯：侯寅