愚蠢的人工智能

詹姆斯·布賴德爾

我們接觸的人工智能其實(shí)是對既有文化的大范圍盜用。如果我們真覺得這樣的人工智能可以給人類帶來諸多益處，后果將不堪設(shè)想。

| 互聯(lián)網(wǎng)上的人工智能熱潮 |

2021年1月，“開放人工智能”公司發(fā)布了一款名為“達(dá)力”的產(chǎn)品。用戶只需輸入一小段文字，簡單描述自己想要的圖片，稍等片刻，達(dá)力就可以生成一張和文字匹配度頗高的圖片，效果不比插畫師的作品差，但速度更快，而且免費(fèi)。舉例來說，如果輸入“用圣–?？颂K佩里的風(fēng)格畫一只帶翅膀的豬從月球上空飛過”，你就會(huì)得到一幅帶有《小王子》作者水彩風(fēng)格的畫作。2022年，達(dá)力新版本問世更是在互聯(lián)網(wǎng)引發(fā)了“創(chuàng)作”狂潮。社交媒體上到處都是網(wǎng)友千奇百怪的作品，什么風(fēng)格都有。短短幾個(gè)月后，“開放人工智能”另一款名為ChatGPT的產(chǎn)品再次引爆互聯(lián)網(wǎng)。這款產(chǎn)品瞄準(zhǔn)的是語言，而非圖像。比如，你讓它用美國詩人艾倫·金斯伯格的口吻給《約伯記》寫一篇概要，幾秒鐘內(nèi)，你就可以得到一篇像模像樣的作品；你讓它將金斯伯格的詩作《嚎叫》用咨詢公司演示文稿的形式呈現(xiàn)出來，它也可以照做。這些產(chǎn)品擁有靠圖像和文字創(chuàng)造新奇事物的能力，有幾個(gè)人會(huì)對這樣的能力說“不”呢？

實(shí)際上，這些產(chǎn)品依托的是“提示工程”技術(shù)：用戶輸入文本后，系統(tǒng)會(huì)基于對文本內(nèi)容的理解，生成與用戶期待最匹配的反饋，有時(shí)甚至可以給出超預(yù)期的反饋?？萍荚u(píng)論員預(yù)測，提示工程師將成為最受追捧和最賺錢的職業(yè)。未來，代碼將不復(fù)存在，人類和人工智能系統(tǒng)之間最有效的溝通方式也將變成人類語言本身。屆時(shí)，我們再也不用學(xué)代碼了，只需將想法告訴人工智能，剩下的一切它自會(huì)處理。我們的想象力有多遠(yuǎn)，人工智能就可以走多遠(yuǎn)——人類想象力的邊界將成為人工智能天花板的唯一上限。

沒多久，市面上就出現(xiàn)了達(dá)力的效仿者。沒有獲得達(dá)力內(nèi)測資格的用戶可以嘗試達(dá)力迷你版（后更名為“人工智能蠟筆”），其功能雖然沒有達(dá)力強(qiáng)大，但也足以讓用戶體驗(yàn)一番。與此同時(shí)，達(dá)力的競品也相繼浮出水面，比如《旅途之間》和《穩(wěn)定擴(kuò)散》，它們雖說采用了不同的方式整理和生成圖像，但其目的和達(dá)力并無二致。短短幾個(gè)月，人工智能應(yīng)用的細(xì)分領(lǐng)域就涌現(xiàn)出了制作三維模型以及短視頻的產(chǎn)品，出品方既有業(yè)余愛好者和學(xué)術(shù)機(jī)構(gòu)，也有谷歌、微軟等巨頭。

達(dá)力這個(gè)名字結(jié)合了迪士尼動(dòng)畫片主人公瓦力和西班牙超現(xiàn)實(shí)主義畫家薩爾瓦多·達(dá)利的名字。提起瓦力，我們會(huì)想到那個(gè)在人類廢墟上清掃垃圾的可愛機(jī)器人；提起達(dá)利，我們則會(huì)想到他的名言，比如“那些什么都不屑于模仿的人，什么也創(chuàng)作不了”，再比如“重要的是傳播混亂，而非消除混亂”。

過去一年，人工智能迎來了新風(fēng)口，以達(dá)力和ChatGPT為代表的軟件牢牢抓住了大眾的想象力?？萍季揞^曾經(jīng)想靠區(qū)塊鏈和虛擬現(xiàn)實(shí)創(chuàng)造新增長點(diǎn)，但無一不折戟而返。這一次，他們終于在人工智能上找到了夢寐以求的增長點(diǎn)。對用戶而言，人工智能至少是有趣的，雖然這種新鮮感最多能維持五六分鐘。其次，人工智能本身自帶光環(huán)，會(huì)讓人聯(lián)想到科幻小說、巨大的機(jī)器人以及超級(jí)大腦，光是這種聯(lián)想就足以讓人倍感新奇和興奮。不過，我們?nèi)绻芙议_人工智能光鮮的面紗，就會(huì)發(fā)現(xiàn)事實(shí)遠(yuǎn)非如此。

| 人工智能并非新鮮事物 |

過去幾十年，人工智能在學(xué)界的基本定義從未變過，其底層技術(shù)就是神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)的理論以及實(shí)踐最早可以追溯到上世紀(jì)90年代。彼時(shí)，我們可以用神經(jīng)網(wǎng)絡(luò)技術(shù)生成圖片，只不過絕大多數(shù)情況下得到的是抽象色塊。聊天機(jī)器人的歷史就更悠久了，早在上世紀(jì)60年代，麻省理工學(xué)院的約瑟夫·維森鮑姆就以心理咨詢師為原型，做出了第一款真正意義上的人工智能聊天機(jī)器人“伊麗莎”。你如果說“我好難過”，伊麗莎會(huì)問你“為什么覺得難過啊？”維森鮑姆想借此證明人類的溝通是膚淺的，他并沒有打算以此為基礎(chǔ)，為未來的產(chǎn)品提供藍(lán)圖。

早期的人工智能對世界知之甚少，學(xué)術(shù)機(jī)構(gòu)也缺乏大規(guī)模實(shí)驗(yàn)的計(jì)算能力。和今日的人工智能相比，早期的產(chǎn)品并不是差在智能上，而是差在數(shù)據(jù)和功率上。過去20年，科技巨頭從我們的文化和日常生活中收集了海量數(shù)據(jù)，建立了大型數(shù)據(jù)中心，并配裝了功能強(qiáng)大的超級(jí)電腦來整理數(shù)據(jù)。陳舊的人工神經(jīng)網(wǎng)絡(luò)也因此脫胎換骨，變得馬力十足，也正是這一變化造就了如今的人工智能新風(fēng)口。

| 盜用藝術(shù)家心血生產(chǎn)圖片 |

科技公司的數(shù)據(jù)中心存有數(shù)以百萬計(jì)帶標(biāo)簽的圖片，人工智能靠分析它們生成新的圖片?！皫?biāo)簽”是指每張圖片都附帶一小段描述圖片內(nèi)容和特征的文字。神經(jīng)網(wǎng)絡(luò)“吃掉”這些帶標(biāo)簽的圖片后，會(huì)將形狀、顏色、構(gòu)圖等細(xì)微的圖片特征和特定的詞語或短語聯(lián)系起來，構(gòu)成數(shù)十億組配對。用戶只需輸入簡單的文字，神經(jīng)網(wǎng)絡(luò)就會(huì)調(diào)動(dòng)相關(guān)配對，依據(jù)優(yōu)先次序?qū)⒓扔械男螤?、顏色和?gòu)圖重新排列組合，生成新圖片。那么，這些帶標(biāo)簽的原始圖片從何而來？

答案是圖文數(shù)據(jù)集。德國非營利機(jī)構(gòu)萊恩發(fā)布的圖文數(shù)據(jù)集訓(xùn)練過許多大型人工智能模型，比如《穩(wěn)定擴(kuò)散》以及谷歌的圖像生成器。萊恩的研究員從網(wǎng)頁數(shù)據(jù)集抓取那些本身附有描述性文字的圖片，再將文字圖片加工，之后把這些素材以大型圖文數(shù)據(jù)集的形式發(fā)布。2022年3月，萊恩發(fā)布新的圖文數(shù)據(jù)集，總共含有50多億組圖像–文本對。這些圖片是最廣義上的“公共”圖像——凡是網(wǎng)上出現(xiàn)過的圖片，都有可能成為其中一分子。因此，不出意料，這種圖文數(shù)據(jù)集會(huì)帶來詭異的副作用。

2022年9月，舊金山的數(shù)字藝術(shù)家拉賓使用了一款名為“我是否被抄了”的軟件。藝術(shù)家的作品是否淪為了人工智能圖像生成模型的“養(yǎng)料”，用“我是否被抄了”一測便知。藝術(shù)家馬特·德里赫斯特和霍莉·赫恩登共同研發(fā)了該軟件，想弄清楚人工智能究竟是如何利用藝術(shù)家心血的。拉賓用軟件掃描了一遍萊恩數(shù)據(jù)庫，發(fā)現(xiàn)有一張自己的頭像。她一路倒查，找到了照片的源頭。她曾經(jīng)因?yàn)橐环N罕見的遺傳病看過醫(yī)生，治療期間，醫(yī)生給她拍過幾張照片。這些照片是她病歷的一部分，她也在病歷上簽過字，病歷上明確寫明一切資料僅限治療使用。醫(yī)生于2018年去世，之后，這些照片以某種方式跑到了網(wǎng)上，最后還進(jìn)了萊恩的圖文數(shù)據(jù)集，成為了神經(jīng)網(wǎng)絡(luò)理解和創(chuàng)作圖像的“養(yǎng)分”。

“這無異于數(shù)字版的收受贓物。有人從我已故醫(yī)生那兒偷了我的照片，上傳到網(wǎng)上，隨后照片又被數(shù)據(jù)集抓取了?！崩e接受采訪時(shí)說，“照片泄露本身就夠糟了，現(xiàn)在還成了別人產(chǎn)品的一部分。而且，每個(gè)人的照片都有可能遭遇同樣的事。未來，照片被濫用的可能性非常高?！?/p>

面向大眾的人工智能產(chǎn)品，不管是主攻圖像還是主攻文字，抑或是那些基于數(shù)據(jù)的應(yīng)用軟件，其實(shí)都是對既有文化的大范圍盜用，只是這個(gè)范圍確實(shí)大到了我們難以想象的地步。不論是公眾的還是私人的，不論是法律還是其他層面，那些被人工智能“吃掉”的文字和圖片都屬于“合理使用”的模糊范疇。先進(jìn)的神經(jīng)網(wǎng)絡(luò)里究竟發(fā)生了什么，我們很難從外部理解。不過，有一點(diǎn)可以肯定：人工智能生成的結(jié)果遠(yuǎn)談不上神奇或原創(chuàng)，所有一切都是依托歷代藝術(shù)家既有的作品拼湊出來的，這些藝術(shù)家既沒有得到應(yīng)有的認(rèn)可，也沒有得到任何經(jīng)濟(jì)回報(bào)。

換句話說，人工智能的圖文生成系統(tǒng)本質(zhì)上是純粹的原始積累：盜用絕大多數(shù)人的心血，為硅谷少數(shù)幾家科技巨頭及其億萬富豪老板創(chuàng)造財(cái)富。這些公司的賺錢模式就是將觸角伸到人們?nèi)粘Ｉ畹姆椒矫婷?，其中也包括最私密和最具?chuàng)造力的部分，比如我們的私密對話、偏好以及夢想。它們將我們的夢想據(jù)為己有，一如往日的地主和強(qiáng)盜貴族將土地圈為私有；它們承諾這樣做可以為人類提供前所未有的新體驗(yàn)，讓我們享有接觸人類所有知識(shí)的機(jī)會(huì)，并創(chuàng)造人與人溝通的新方式。但是，真相并非如此，它們所做的無非是將我們的夢想打包兜售給我們，還宣稱這是人工智能的結(jié)晶，它們真正能兌現(xiàn)的承諾就是借此撈到更多的錢。

| ChatGPT只是看似聰明 |

2022年11月，“開放人工智能”發(fā)布ChatGPT。這一產(chǎn)品的問世重塑了我們的觀念，讓我們重新思考人工智能和人類創(chuàng)造力互動(dòng)的可能。它的結(jié)構(gòu)與聊天機(jī)器人類似，但其功能遠(yuǎn)比傳統(tǒng)聊天機(jī)器人強(qiáng)大。你只要會(huì)用，就可以讓它幫你寫代碼，解決數(shù)學(xué)難題，寫作任務(wù)也不在話下，書評(píng)、學(xué)術(shù)文章、婚禮致辭、法律合同，你都可以找它代筆。

對于那些一想到寫郵件或者寫文章就頭疼的人，ChatGPT顯然是一大利器。不過，和圖像生成器一樣，它也可能讓一些人丟掉飯碗。許多學(xué)校擔(dān)心學(xué)生會(huì)用它寫作業(yè)，為了避免此類情況，校方出臺(tái)規(guī)定，禁用ChatGPT。學(xué)術(shù)期刊《自然》也發(fā)布規(guī)定，禁止將ChatGPT列為學(xué)術(shù)論文作者。但是，機(jī)構(gòu)本身其實(shí)也有可能濫用這款聊天機(jī)器人。今年2月，范德堡大學(xué)皮博迪教育與人類發(fā)展學(xué)院做了一件令學(xué)生震驚的事：美國一所學(xué)校發(fā)生槍擊案后，學(xué)院給學(xué)生群發(fā)了一封吊唁信，并為學(xué)生提供了建議，但這封電子郵件的落款竟然是ChatGPT。這樣的事提醒我們，人工智能到底能否在諸多領(lǐng)域代勞，似乎還需要我們進(jìn)一步思考。

倘若用ChatGPT完全替代我們的日常交流不合適，那讓它充當(dāng)我們的助手，幫助我們從浩如煙海的信息中快速提取想要的信息如何？微軟已經(jīng)在這個(gè)方向先行一步了。它的做法是將自家搜索引擎必應(yīng)和ChatGPT結(jié)合起來，這一舉動(dòng)也提升了必應(yīng)的知名度。這段時(shí)間，網(wǎng)上確實(shí)興起了“遇事不決問ChatGPT”的潮流，但它的回復(fù)能否稱得上真的知識(shí)，還要打上問號(hào)。

不久前，我和ChatGPT互動(dòng)過一次，讓它給我推薦幾本與多物種生命民主有關(guān)的書。多物種生命民主是一個(gè)新興的研究領(lǐng)域，主要強(qiáng)調(diào)政治決策應(yīng)該把非人類物種的生存納入考慮范疇。“你能不能給我推薦幾本這方面的書？”我問道。它很快開出書單，并且附上了頗具說服力的推薦語。太牛了！但我一查才發(fā)現(xiàn)，推薦的四本書里只有一本真實(shí)存在。它提到幾點(diǎn)與多物種生命民主有關(guān)的概念，也都是從右翼手冊打包拷貝過來的。比如，它告訴我多物種生命民主名義上是在維護(hù)動(dòng)物權(quán)益，實(shí)則是對環(huán)境有害的自由派觀念，并且會(huì)導(dǎo)致產(chǎn)權(quán)擴(kuò)張。

ChatGPT能跟我說這些，并不是因?yàn)樗驹谟遗闪?，而是因?yàn)樗旧砭秃艽馈Ｋx取了互聯(lián)網(wǎng)大部分的內(nèi)容，知道人類語言聽上去應(yīng)該是怎樣的，但它從未和現(xiàn)實(shí)有過任何交集。它擅長生產(chǎn)像模像樣的話語，但那些話頂多也就是陳詞濫調(diào)和平庸之語。它并沒有能力生成與真實(shí)世界存在真實(shí)關(guān)聯(lián)的語句。倘若有人告訴你ChatGPT可以仿效人類意識(shí)或者說接近人類意識(shí)，你可千萬別上當(dāng)。

越來越多的人相信人工智能知識(shí)淵博，可以說出有意義的內(nèi)容。這種想法非常危險(xiǎn)，任其發(fā)展，人類的集體智慧會(huì)受到污染，我們的思考能力和批判性思維也會(huì)受到損害?？萍脊韭暦Q，大家有疑問，可以讓ChatGPT解答；評(píng)論員宣稱，可以讓ChatGPT走進(jìn)課堂，充當(dāng)助教。果真如此，我們與可靠合法的信息源只會(huì)越隔越遠(yuǎn)，因?yàn)槲覀冎g插入了ChatGPT的套話，并且套話與可靠信息的界限會(huì)變得越來越模糊，直至我們看不出區(qū)別。

人工智能對地球也有害。2019年發(fā)布的一篇研究報(bào)告指出，單是訓(xùn)練一款人工智能模型，整個(gè)過程釋放的二氧化碳就可以達(dá)到284噸，相當(dāng)于五輛美國汽車一生的碳排放量。據(jù)估計(jì)，未來五年，人工智能所造成的碳排放會(huì)上漲近50%。從氣候變暖到海洋酸化，從森林大火到物種滅絕，每一項(xiàng)罪責(zé)都與人工智能脫不了干系。從這個(gè)角度看，眼下還有什么比追捧人工智能更蠢的事嗎？

| 探索新可能 |

我們不妨后退一步，倘若當(dāng)下的人工智能應(yīng)用模式讓人感到無比凄涼，我們是否還有別的選擇？我們能否將人工智能用于正途，而不是讓它去剝削、苛待、誤導(dǎo)或頂替我們？答案是肯定的，只要我們愿意跳出公司霸權(quán)對人工智能的定義，我們就可以有其他選擇。

有人就繞開了公司霸權(quán)，試圖用人工智能拯救瀕危的土著語言。聯(lián)合國估計(jì)，平均每兩周就有一門土著語言消失，講這門語言的人的智慧經(jīng)驗(yàn)也會(huì)跟著一并消失。土著語言瀕危的全球性問題是幾百年來殖民主義以及種族同化政策帶來的惡果，而如今崛起的主流機(jī)器語言學(xué)習(xí)模型更是進(jìn)一步加劇了這一趨勢。也就是說，主要語種的影響力會(huì)因?yàn)檫@些模型進(jìn)一步加強(qiáng)，而弱勢語種則會(huì)因此被進(jìn)一步邊緣化。

新西蘭小型非營利電臺(tái)“?？帷钡墓?jié)目采用毛利語播放。語言在科技領(lǐng)域并非對等，有的強(qiáng)勢，有的邊緣。海酷電臺(tái)為了對抗這種不平等，將20余年的廣播錄音全部轉(zhuǎn)化成了電子版，希望惠及語言研究人員和毛利族社區(qū)。許多俚語和俗語都失傳了，沒人聽得懂。?？犭娕_(tái)為了將音頻資料轉(zhuǎn)為文字，專門訓(xùn)練了自己的語音識(shí)別模型。如此一來，該模型就可以“聽懂”音頻，將多年的電臺(tái)錄音轉(zhuǎn)成文本。

經(jīng)過幾年努力，海酷電臺(tái)成功打造了一套高精度開源毛利語識(shí)別系統(tǒng)。這一系統(tǒng)成長如此之快，離不開毛利族社區(qū)的貢獻(xiàn)。?？犭娕_(tái)把能聯(lián)系到的毛利族社區(qū)都聯(lián)系了一遍，邀請毛利人朗讀文本，充實(shí)語料庫。?？犭娕_(tái)的成功范例為土著語言的復(fù)蘇蹚出一條新路，加拿大東南部的莫霍克人以及夏威夷土著都跟著做起了類似項(xiàng)目。

之前，有外國企業(yè)想建立自己的毛利語語音識(shí)別模型，聯(lián)系過毛利人，希望他們伸出援手。?？犭娕_(tái)動(dòng)員毛利族社區(qū)拒絕這一邀請：“這些人排擠我們的語言，用蠻力迫使我們的祖父母放棄了自己的語言，如今又想把我們的語言做成服務(wù)賣給我們，賺我們的錢?！焙？犭娕_(tái)的辦法是，毛利人貢獻(xiàn)的一切數(shù)據(jù)都?xì)w毛利族社區(qū)所有，這樣既可以幫助毛利人復(fù)興自己的語言，又可以避免電子殖民主義。

這波人工智能浪潮教會(huì)了我們一個(gè)道理：公司理解的人工智能具有非常大的局限性。如果將利益最大化視作終極目標(biāo)，那股東價(jià)值將成為衡量一切的尺度，如此一來，我們對藝術(shù)、想象力、審美還有情感的追求自然會(huì)大打折扣。實(shí)際上，我們理應(yīng)從人工智能中獲得更多，但前提是我們有能力參與其中。不要怕，它們并沒有那么復(fù)雜，正如科幻作家厄休拉·勒古恩所寫：“科技，只要我們想學(xué)，還是學(xué)得會(huì)的?！?/p>

[編譯自英國《衛(wèi)報(bào)》、美國《紐約客》]

編輯：要媛