百度文心一言：讓智能涌現(xiàn)

江川

“生成式AI和大模型的智能涌現(xiàn)，是全新的計(jì)算范式帶來(lái)的新機(jī)會(huì)。這意味著，AI技術(shù)已經(jīng)發(fā)展到一個(gè)臨界點(diǎn)，各行各業(yè)都不可避免地被改變?！薄顝┖?/p>

3月16日，在OpenAI發(fā)布GPT-4兩天后，百度召開(kāi)新聞發(fā)布會(huì)。百度CEO李彥宏宣布正式推出大語(yǔ)言模型、生成式AI產(chǎn)品“文心一言”，并面向個(gè)人用戶和企業(yè)用戶邀約測(cè)試。截至3月17日早9點(diǎn)，排隊(duì)申請(qǐng)百度文心一言企業(yè)版API調(diào)用服務(wù)測(cè)試的企業(yè)用戶達(dá)7.38萬(wàn)家。

平安證券表示，百度發(fā)布文心一言，吹響了國(guó)內(nèi)大模型應(yīng)用的號(hào)角。伴隨著文心一言的催化，國(guó)內(nèi)AIGC產(chǎn)業(yè)鏈將迎來(lái)空前的市場(chǎng)機(jī)會(huì)。長(zhǎng)江證券認(rèn)為，百度文心一言掀起了新一輪AI產(chǎn)業(yè)鏈的浪潮，有望帶動(dòng)底層基礎(chǔ)設(shè)施環(huán)節(jié)、底層數(shù)據(jù)資源環(huán)節(jié)、基礎(chǔ)模型環(huán)節(jié)、上層應(yīng)用環(huán)節(jié)的發(fā)展。

對(duì)標(biāo)ChatGPT

百度此次推出的文心一言，具備包括文學(xué)創(chuàng)作、商業(yè)文案創(chuàng)作、數(shù)理推算、中文理解、多模態(tài)生成在內(nèi)的多項(xiàng)通用能力，不僅做到了整體上的“人有我有”，還在某些局部做到了“人有我優(yōu)”。

先看文學(xué)創(chuàng)作能力。在發(fā)布會(huì)現(xiàn)場(chǎng)，李彥宏一連問(wèn)了六個(gè)有關(guān)《三體》的問(wèn)題，包括“《三體》作者是哪里人？”“可以總結(jié)一下《三體》的核心內(nèi)容嗎？”“如果要續(xù)寫(xiě)的話，可以從哪些角度出發(fā)？”文心一言的回答總結(jié)了《三體》的第一部在講什么，第二部在講什么，第三部在講什么，續(xù)寫(xiě)又是角色的塑造、情節(jié)設(shè)計(jì)、文化背景、哲學(xué)思考。李彥宏繼續(xù)追問(wèn)“如何從哲學(xué)角度來(lái)進(jìn)行續(xù)寫(xiě)？生命的意義，人與宇宙的關(guān)系，道德和倫理，價(jià)值和信仰，科技和人文的關(guān)系”“電視劇《三體》的演員都有哪些？”文心一言都比較準(zhǔn)確地列出了一系列參與的演員。這6輪對(duì)話，體現(xiàn)出文心一言各方面的能力，比如總結(jié)分析的能力、推理的能力?！笆聦?shí)性的東西對(duì)于一個(gè)搜索引擎來(lái)說(shuō)不是那么難，但是對(duì)于一個(gè)生成式預(yù)訓(xùn)練大模型來(lái)說(shuō)，出錯(cuò)的概率還是挺高的，這些問(wèn)題都答對(duì)相當(dāng)不容易，因?yàn)榘俣任男囊谎圆捎昧酥R(shí)增強(qiáng)和檢索增強(qiáng)。我們有5500億的事實(shí)知識(shí)在訓(xùn)練數(shù)據(jù)里，所以可以保證事實(shí)性的問(wèn)題回答比較準(zhǔn)確?！?/p>

再看商業(yè)文案創(chuàng)作能力。李彥宏問(wèn)：“如果要成立一個(gè)用大模型服務(wù)中小企業(yè)數(shù)字化升級(jí)的科技服務(wù)公司，應(yīng)該給它起個(gè)什么名字？”文心一言回答：信智科技、數(shù)智云圖、云集科技、意向科技、魔方科技；問(wèn)：“給我起一個(gè)公司的服務(wù)slogan，來(lái)表達(dá)共贏的概念”。答：“數(shù)智共贏智慧未來(lái)”；問(wèn)：“幫我生成一篇公司成立的新聞稿，數(shù)智云圖，以共贏的服務(wù)理念，用大模型來(lái)服務(wù)中小企業(yè)的數(shù)字化升級(jí)，要求是600字左右”，文心一言也生成了相應(yīng)的新聞稿。這里涉及相應(yīng)的理解能力、表達(dá)能力、創(chuàng)意創(chuàng)作能力。這些能力都是沒(méi)有辦法教文心一言的。那么文心一言是怎么做到的？李彥宏解釋?zhuān)鋵?shí)還是要有好的技術(shù)，要有大的數(shù)據(jù)。“人們說(shuō)讀書(shū)破萬(wàn)卷，文心一言可能讀了千億萬(wàn)億的頁(yè)面，用了幾十億的搜索請(qǐng)求，用了很多的圖片，用了我們?nèi)恐R(shí)圖譜的5500億的事實(shí)，在不斷地訓(xùn)練過(guò)程當(dāng)中，逐步具備了一些比較通用的能力。大模型當(dāng)參數(shù)達(dá)到千億量級(jí)，又有足夠多的訓(xùn)練語(yǔ)料數(shù)據(jù)來(lái)進(jìn)行訓(xùn)練時(shí)，就會(huì)發(fā)生智能涌現(xiàn)，就是沒(méi)有教過(guò)它的能力它也會(huì)?！?/p>

文心一言是要對(duì)標(biāo)ChatGPT，甚至GPT-4，這個(gè)門(mén)檻無(wú)疑是很高的。基于GPT-3.5的ChatGPT在2022年11月30日橫空出世不久，新版本GPT-4又迅速發(fā)布。無(wú)論是速度還是呈現(xiàn)效果，都足以讓科技巨頭拉響警報(bào)。升級(jí)更新后的ChatGPT-4處理文字內(nèi)容的上限拓展到2.5萬(wàn)個(gè)字符，是ChatGPT的8倍。

李彥宏坦言，在內(nèi)測(cè)的過(guò)程當(dāng)中，文心一言的能力還算不上完美。但是為什么現(xiàn)在要發(fā)布？李彥宏給出的理由是有市場(chǎng)需求。百度的各個(gè)產(chǎn)品線，從搜索到智能云到自動(dòng)駕駛到小度，都在等著要用這樣的技術(shù)。大語(yǔ)言模型產(chǎn)品一旦發(fā)布出來(lái)，它就會(huì)獲得真實(shí)的用戶反饋，而有了用戶反饋，它的迭代速度就會(huì)非?？?，它的能力提升就會(huì)非?？?。

值得肯定的是，在全球的大廠當(dāng)中，百度是第一個(gè)發(fā)布大語(yǔ)言模型產(chǎn)品的。微軟是直接調(diào)用OpenAI，Google、Facebook、Meta、Amazon現(xiàn)在都沒(méi)有真正發(fā)布同類(lèi)型、同級(jí)別的產(chǎn)品。

持續(xù)高投入

大語(yǔ)言模型、生成式AI產(chǎn)品意味著背后的大資金投入。無(wú)論是OpenAI還是百度，在這方面的投入都是數(shù)百億級(jí)別。OpenAI兩次共獲得微軟110億美金的投資。據(jù)國(guó)盛證券報(bào)告估算，GPT-3訓(xùn)練一次的成本約為140萬(wàn)美元，每一次訓(xùn)練任務(wù)都耗資巨大。僅參照Chat?GPT來(lái)看，Chat?GPT其大模型GPT經(jīng)歷了三次迭代，參數(shù)量一度從1.17億增加到1750億，預(yù)訓(xùn)練數(shù)據(jù)量從5GB增加到45TB，整體運(yùn)行所需的投入達(dá)到百億。

在人工智能界，百度是中國(guó)大廠中投入最多的。2022年百度核心研發(fā)費(fèi)用達(dá)到214.16億元，占百度核心收入比例達(dá)22.4%。其實(shí)百度在過(guò)去的十幾年當(dāng)中，一直在AI的研發(fā)上堅(jiān)持投入。

在人工智能剛開(kāi)始被大家討論的時(shí)候，百度就已經(jīng)在該領(lǐng)域開(kāi)始默默耕耘。2014年百度涉足智能駕駛領(lǐng)域，2015年上線世界首個(gè)大規(guī)模神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯系統(tǒng)，比Google早了一年多。2016年百度正式發(fā)布“百度大腦”并開(kāi)源中國(guó)第一個(gè)深度學(xué)習(xí)框架飛槳。飛槳的出現(xiàn)打破了Google和Facebook的壟斷，現(xiàn)已躋身全球前二。

做AI講究“軟硬兼具”，百度“軟”有飛槳，“硬”有昆侖。2018年百度自主設(shè)計(jì)、2019年流片成功、2020年實(shí)現(xiàn)量產(chǎn)、2021年升級(jí)的百度昆侖AI芯片已經(jīng)得到大規(guī)模應(yīng)用。此外，百度還研發(fā)出鴻鵠語(yǔ)音芯片，打破了卡脖子問(wèn)題，使中國(guó)公司不再完全依靠外來(lái)輸入。從算力、算法到數(shù)據(jù)，從高端芯片昆侖芯，到飛槳深度學(xué)習(xí)框架，再到文心大模型，百度在各個(gè)層面都早有關(guān)鍵自研技術(shù)，給文心一言提供了強(qiáng)大的技術(shù)支持。

而百度的文心大模型和OpenAI的GPT模型類(lèi)似，早在2019年就已推出，且經(jīng)過(guò)了多次的迭代，從剛開(kāi)始單一的自然語(yǔ)言理解延伸到目前的多模態(tài)，包括視覺(jué)、文檔、文圖、語(yǔ)音等多模態(tài)多功能，因此“文心一言”所基于的ERNIE系列模型也已經(jīng)具備較強(qiáng)泛化能力和性能。

在發(fā)布會(huì)現(xiàn)場(chǎng)，技術(shù)出身的李彥宏分享了IT領(lǐng)域最近發(fā)生的一些變化。過(guò)去，IT的技術(shù)棧分為3層，底層是芯片層，中間是操作系統(tǒng)層，上面是應(yīng)用層或者軟件層。“在PC時(shí)代、移動(dòng)互聯(lián)網(wǎng)時(shí)代都是這樣，但是當(dāng)我們進(jìn)入AI時(shí)代，IT技術(shù)棧從3層變?yōu)榱?層，即芯片層、框架層、模型層、應(yīng)用層。芯片層過(guò)去以CPU為主，未來(lái)很可能會(huì)以GPU為主。文心一言處在模型層，AI時(shí)代的應(yīng)用會(huì)基于這些大模型來(lái)進(jìn)行開(kāi)發(fā)。”

李彥宏談到，在全球范圍內(nèi)，芯片、框架、模型、應(yīng)用這4層都有領(lǐng)先產(chǎn)品的公司，百度是絕無(wú)僅有的那一個(gè)。百度的優(yōu)勢(shì)非常獨(dú)特，這個(gè)優(yōu)勢(shì)在未來(lái)文心的迭代速度上會(huì)有明顯的感受。事實(shí)上，從2月7日百度正式官宣文心一言要發(fā)布以來(lái)，僅僅一個(gè)多月的時(shí)間，已經(jīng)有650家企業(yè)宣布接入文心一言的生態(tài)，這意味著很多企業(yè)其實(shí)已經(jīng)明白，這是一個(gè)大機(jī)會(huì)。

生成式AI，它是代表了一個(gè)新的技術(shù)范式，它會(huì)帶來(lái)市場(chǎng)需求的爆發(fā)性增長(zhǎng)，商業(yè)價(jià)值的釋放會(huì)是前所未有的指數(shù)級(jí)。正如李彥宏所暢想的，在通用的基礎(chǔ)模型之上，在4層結(jié)構(gòu)上可以有能源大模型、交通大模型、媒體大模型，等等?？梢宰龀蛇m合于千行百業(yè)的、服務(wù)各種各樣應(yīng)用的模型。文心一言依托它超強(qiáng)的自然語(yǔ)言理解能力、表達(dá)能力以及推理能力，可以使得任何一個(gè)公司都能離自己的客戶更近，做出更好的客戶體驗(yàn)，從而更好地建立競(jìng)爭(zhēng)優(yōu)勢(shì)。

大模型帶來(lái)了AI產(chǎn)業(yè)的變革，也將是未來(lái)十年的主流趨勢(shì)，這已經(jīng)成為了業(yè)界共識(shí)。想要入場(chǎng)分羹的選手不少。自去年12月ChatGPT發(fā)布之后，無(wú)論是一級(jí)市場(chǎng)，還是國(guó)內(nèi)外的大廠，都在發(fā)力大模型，研發(fā)類(lèi)ChatGPT產(chǎn)品。前美團(tuán)聯(lián)合創(chuàng)始人王慧文、出門(mén)問(wèn)問(wèn)CEO李志飛、前搜狗CEO王小川、前京東高級(jí)副總裁周伯文等一批大佬，都在殺向大模型賽道。國(guó)內(nèi)大廠們更是如此。除了百度之外，阿里、騰訊、華為、字節(jié)、科大訊飛、商湯都沒(méi)有放棄大模型之戰(zhàn)。

對(duì)于百度而言，另一大優(yōu)勢(shì)是贏在了時(shí)間。正如李彥宏所說(shuō)：“無(wú)論是什么樣的公司，都不可能在幾個(gè)月的時(shí)間里靠突擊做出來(lái)這樣的技術(shù)。文心一言是百度十幾年超大規(guī)模的研發(fā)投入，慢慢積累出來(lái)的。”