AI：非人類權(quán)威的生成

熊偉

生成式AI的狂飆突進(jìn)讓人工智能受到的關(guān)注又多了一些。其實(shí)，在實(shí)驗(yàn)室里，在數(shù)不清的服務(wù)器組成的廣袤“農(nóng)場(chǎng)”上，在生產(chǎn)車間，在線上線下的閑聊中，人工智能從未離場(chǎng)。只是看到生成式AI跨過了嫻熟運(yùn)用自然語言的關(guān)口，人們對(duì)各種技術(shù)路線的人工智能又新增了期待，也新增了擔(dān)憂。

人工智能技術(shù)本身的進(jìn)步引發(fā)好奇，人工智能在各產(chǎn)業(yè)的應(yīng)用值得跟蹤，人工智能的社會(huì)影響同樣不容忽視。我們已經(jīng)在《中國信息化》今年（2023年）5月號(hào)刊發(fā)《生成式AI與輿論——“海量耳機(jī)效應(yīng)”》，提出生成式AI能夠造就一種輿論工具，給海量用戶“戴上耳機(jī)”，在他們耳邊絮語，潛移默化地影響他們的思想。新的輿論工具將是顛覆性的，比已有的報(bào)紙、雜志、廣播、電視、網(wǎng)站、移動(dòng)新媒體等等媒介更加有力。

輿論是社會(huì)的“皮膚”，也可能是人工智能首先影響的社會(huì)層面。我們將由表及里，繼續(xù)討論。

回溯祭祀活躍的部落，以吏為師的國家，以及其他林林總總的古代社會(huì)，我們會(huì)意識(shí)到，人群中出現(xiàn)權(quán)威的歷史已經(jīng)十分漫長了。如果要找到各種權(quán)威的共同點(diǎn)，或許可以說，他們都是受到周圍人們信服的知識(shí)提供者，占據(jù)著文化的高地。按照文化社會(huì)學(xué)的觀點(diǎn)，所謂文化，就是社會(huì)或人群共同的信息。如果把文化的范圍擴(kuò)大，加上物質(zhì)部分，文化則是社會(huì)或人群共同的成果。在人工智能出現(xiàn)之前，知識(shí)全部直接產(chǎn)自人類；而現(xiàn)在人工智能也可以生產(chǎn)知識(shí)，盡管其中有大量錯(cuò)誤的知識(shí)。但這一點(diǎn)并不特殊，因?yàn)槿祟愐采a(chǎn)了大量錯(cuò)誤的知識(shí)。當(dāng)新的知識(shí)源出現(xiàn)時(shí)，非人類權(quán)威也立即出現(xiàn)了。

圍棋之“神”

生物學(xué)中有“生態(tài)龕位”概念，指不同物種憑借各自優(yōu)勢(shì)在生態(tài)系統(tǒng)中占據(jù)生存位置。人類在飛翔、游泳、視覺、聽覺、嗅覺、速度、力量等等方面，都弱于某些物種，但智力卓越，由此占據(jù)了生物圈中最具優(yōu)勢(shì)地位的生態(tài)龕位。因?yàn)槿说膬?yōu)勢(shì)來自智力，所以當(dāng)人們看到比自己跑的快的羚羊、獵豹，比自己力量強(qiáng)的獅子、大象，不會(huì)有心理劣勢(shì)。同樣地，當(dāng)人們制造出比自己速度快的工具，汽車、火車、飛機(jī)，比自己力量大的機(jī)械，起重機(jī)、空氣錘，也沒有什么失落感。然而一旦人們發(fā)覺智力被其他事物超越，感受就完全不同了。人容易接受非人的“他者”力強(qiáng)于人，卻難以接受“他者”智勝于人。而且智力之中還有區(qū)分，有些智近乎力，如暴力解算。計(jì)算機(jī)算多位數(shù)相乘比人快很多，毫不稀奇，人們不放在心上，但在分析、推理、決策上，人總是自負(fù)的，被人工智能超越，就沒那么舒服了。

棋類游戲是一個(gè)值得研究的角度。人工智能下棋超過人類造成很大的心理改變，而圍棋帶來最后一擊。1997年5月，IBM公司的計(jì)算機(jī)“深藍(lán)”第一次在標(biāo)準(zhǔn)國際象棋比賽中打敗世界冠軍卡斯帕羅夫。這一事件在未來幾年引起了嚴(yán)重的擔(dān)憂。筆者在2001年采訪包括三位圖靈獎(jiǎng)獲得者在內(nèi)的多位專家，寫了題為《像海參一樣愚蠢——人工智能與智能計(jì)算縱橫》的科普文章，發(fā)表在《計(jì)算機(jī)世界》上。其中有一句“當(dāng)IBM的計(jì)算機(jī)打敗國際象棋大師的時(shí)候，有人坐不住了：計(jì)算機(jī)如此聰明，它們能力的成長會(huì)失去控制，最終危害人類嗎？”反映了二十多年前世紀(jì)之交時(shí)人們面對(duì)人工智能的心態(tài)?？梢妼?duì)人工智能的警惕絕不是新近產(chǎn)生的。那時(shí)計(jì)算機(jī)下圍棋還很業(yè)余，有人一度認(rèn)為計(jì)算機(jī)永遠(yuǎn)也下不過人類專業(yè)圍棋手，并臆想了一些理由來支持這種判斷。但圍棋的特殊性并沒有維持住人類的領(lǐng)先地位，2016年3月，谷歌旗下DeepMind公司研發(fā)的AlphaGo戰(zhàn)勝圍棋冠軍李世石，比分為4：1；2017年5月，AlphaGo的升級(jí)版AlphaGo Master戰(zhàn)勝世界排名最高的圍棋手柯潔，比分為3：0。

頂尖圍棋手面對(duì)比自己下棋更厲害的人工智能，一開始表現(xiàn)得非常不甘心。李世石36歲就退役了，他說敗給人工智能對(duì)他打擊很大。柯潔在與AlphaGo Master對(duì)局時(shí)落淚，此后數(shù)次表示不愿意與人工智能比賽，還說“我這輩子打不敗AI”“我并不希望AI出現(xiàn)”。但在機(jī)器的實(shí)力面前，人類不得不承認(rèn)差距。李世石九段在退役紀(jì)念賽上與韓國圍棋AI“韓豆”下了兩局棋，第一局竟然被讓二子！面對(duì)AI，棋手們的心理也有明顯的變化，從原先的不甘、遺憾，到現(xiàn)在下出AI的第一選擇時(shí)的自喜——棋手們已經(jīng)甘當(dāng)AI的小學(xué)生了。不得不說，他們是理智的。自從棋手們不再“妄想”戰(zhàn)勝AI而是誠心誠意向AI學(xué)習(xí)，他們的棋力迅速提高了。世界冠軍唐韋星說，人工智能可以很好地幫助年輕棋手提高水平。

圍棋AI已然遠(yuǎn)遠(yuǎn)超越人類，成了圍棋之“神”。這正是一個(gè)非人類權(quán)威生成的故事。

知識(shí)的流向

下棋的策略方法是知識(shí)的一類，此類知識(shí)的效用體現(xiàn)在棋力上。棋手向人工智能學(xué)習(xí)，是通過觀察對(duì)局，總結(jié)規(guī)律，然后自己形成關(guān)于行棋方法的知識(shí)。棋手們并沒有向圍棋人工智能詢問如何提升棋力。

知識(shí)檢索類AI則與此不同，你可以向它們提問，然后獲得想要的知識(shí)。知識(shí)檢索類AI大放異彩的事件發(fā)生在2011年2月，IBM公司研發(fā)的人工智能“沃森”以懸殊比分在美國著名智力競(jìng)答電視節(jié)目“危險(xiǎn)邊緣”中擊敗兩位人類“常勝將軍”，把100萬美元大獎(jiǎng)收入囊中。筆者曾采訪參與IBM“沃森”項(xiàng)目的研究員潘越，寫了一篇題為《像海參一樣愚蠢，但比科學(xué)家聰明》的專欄文章，2011年7月發(fā)表在財(cái)富中文網(wǎng)上。潘越說，通過上網(wǎng)檢索并用判斷算法評(píng)估檢索結(jié)果的正確性，“沃森”能回答“是什么”，但對(duì)“為什么”和“怎么樣”類型的問題表現(xiàn)很差。

生成式AI如ChatGPT和知識(shí)檢索類AI也不同?！拔稚惫ぷ鲿r(shí)是要接入互聯(lián)網(wǎng)搜索答案的，ChatGPT卻不聯(lián)網(wǎng)，它自己根據(jù)此前的訓(xùn)練來生成答案?！拔稚背鲥e(cuò)的情況很少發(fā)生，偶爾出錯(cuò)的原因是它搜到了錯(cuò)誤答案卻誤以為正確；ChatGPT則“擅長”胡編亂造，每每提供錯(cuò)誤答案，需要人類自己核實(shí)它生成內(nèi)容的正確性。讓今天的ChatGPT和12年前的“沃森”來一場(chǎng)知識(shí)比賽，“沃森”必然完勝。

生成式AI的長處在于掌握自然語言，真的能夠自己“說話”而不是復(fù)述輸入的內(nèi)容。當(dāng)生成式AI和知識(shí)檢索類AI實(shí)現(xiàn)優(yōu)勢(shì)互補(bǔ)，人們就有了既能夠提供可靠知識(shí)，又很會(huì)使用人類語言文字的AI。即使只考察12年前的“沃森”，也不難認(rèn)識(shí)到，AI能夠掌握的數(shù)據(jù)比一個(gè)人的記憶庫不知大多少倍。其實(shí)，知識(shí)權(quán)威的桂冠正像棋力桂冠一樣，已經(jīng)牢牢戴在AI的頭上，如在醫(yī)療領(lǐng)域，人工智能作為醫(yī)學(xué)知識(shí)權(quán)威，早就開始“執(zhí)業(yè)”診療了。今年6月，中國科學(xué)院院士顧東風(fēng)教授說：人工智能可以快速處理大量醫(yī)療數(shù)據(jù)；在臨床診斷方面，AI能夠識(shí)別5類38種心電圖，算法的診斷敏感性明顯高于普通心內(nèi)科醫(yī)師的水平。

吉登斯在《現(xiàn)代性的后果》一書中提出：“在現(xiàn)代性的條件下，再?zèng)]有什么知識(shí)是‘原來意義上的知識(shí)了，在‘原來的意義上，‘知道就是能確定。”這種觀點(diǎn)能夠幫助我們理解數(shù)字時(shí)代的“知識(shí)反哺”現(xiàn)象——傳統(tǒng)社會(huì)里總是前輩向后輩傳授知識(shí)，而在現(xiàn)代社會(huì)，由于知識(shí)日新月異，并且青少年接受能力更強(qiáng)，父母、祖父母反而要從青少年那里獲得知識(shí)，如手機(jī)的設(shè)置、網(wǎng)購的方法。我們也可以設(shè)想，在AI應(yīng)用普及的未來，再?zèng)]有什么知識(shí)是“原來”意義上的知識(shí)了，除非它經(jīng)過了AI的確認(rèn)。在那樣的場(chǎng)景中，AI扮演熟悉互聯(lián)網(wǎng)和手機(jī)操作的青少年，人類扮演它們的父母和祖父母。人們開始習(xí)慣于就某個(gè)不了解的知識(shí)向AI提問，把獲得的回答奉為標(biāo)準(zhǔn)答案。這種方法的好處是節(jié)約時(shí)間，讓學(xué)習(xí)知識(shí)的效率極大提高，但難免讓AI成為無可爭(zhēng)議的知識(shí)權(quán)威。

當(dāng)人們?cè)谥T多領(lǐng)域習(xí)慣了非人類權(quán)威，社會(huì)心理將變得怎樣？不妨參考圍棋手們預(yù)演的心路歷程：痛苦——不甘——反抗——反抗失敗——接受現(xiàn)實(shí)——察覺好處——甘之如飴。

非人類權(quán)威的生成，也即人類權(quán)威的黃昏。由于AI，世界將從諸神的黃昏走向人類的黃昏嗎？抑或AI將成為新的造神運(yùn)動(dòng)的產(chǎn)物？或許我們還有一些時(shí)間來思考這些問題。