ChatGPT背后的黑科技，主宰高算力的CPO技術(shù)

郭勇

ChatGPT引爆算力需求

作為人工智能三大核心要素之一，算力也被譽(yù)為人工智能“發(fā)動(dòng)機(jī)”。

ChatGPT用戶數(shù)快速增長(zhǎng)，需求量火爆引發(fā)宕機(jī)。ChatGPT自發(fā)布以來(lái)用戶數(shù)量快速增長(zhǎng)。在龐大用戶群涌入的情況下，ChatGPT服務(wù)器2天宕機(jī)5次，火爆程度引人注目的同時(shí)也催生了對(duì)算力基礎(chǔ)設(shè)施建設(shè)更高的要求。以ChatGPT為例，其在模型訓(xùn)練階段每次升級(jí)需要投入約3422萬(wàn)元，該筆投入相較于運(yùn)營(yíng)階段來(lái)說(shuō)規(guī)模較小。在模型上線運(yùn)營(yíng)階段，機(jī)構(gòu)測(cè)算每?jī)|活躍用戶將帶來(lái)13.5EFlops的算力需求，需要6.9萬(wàn)臺(tái)NVIDIADGXA10080G服務(wù)器支撐。

根據(jù)中國(guó)信通院數(shù)據(jù)，2021年全球計(jì)算設(shè)備算力總規(guī)模達(dá)到615EFlops，其中超算算力規(guī)模為14EFlops。換而言之，在每個(gè)用戶每天收到1500字回答的情況下，以2021年全球超算算力的規(guī)模，僅能支撐ChatGPT最多擁有1億日均上線人數(shù)。假設(shè)全球6家科技巨頭能夠在未來(lái)3年內(nèi)各自擁有一款活躍人數(shù)2億的ChatGPT類應(yīng)用，則有望帶來(lái)162EFlops超算算力需求，超算算力需求較目前提升空間超過(guò)10倍。

打破算力瓶頸的CPO技術(shù)

不同服務(wù)器之間需要頻繁的大量數(shù)據(jù)交換，數(shù)據(jù)互聯(lián)的帶寬往往會(huì)限制整體任務(wù)的性能，這成為數(shù)據(jù)中心引入超高帶寬基于硅光子的數(shù)據(jù)互聯(lián)的主要理由。而CPO共同封裝光子是業(yè)界公認(rèn)未來(lái)高速率產(chǎn)品形態(tài)，是未來(lái)解決高速光電子的散熱和功耗問(wèn)題的最優(yōu)解決方案之一。

共封裝光學(xué)CPO（co-packagedoptics），指的是將光引擎和交換芯片共同封裝在一起的光電共封裝。較之傳統(tǒng)方案中（實(shí)現(xiàn)光電轉(zhuǎn)換功能的）可插拔光模塊插在交換機(jī)前面板的形式，CPO方案顯著縮短了交換芯片和（實(shí)現(xiàn)光電轉(zhuǎn)換功能的）光引擎之間的距離，使得損耗減少，高速電信號(hào)能夠高質(zhì)量地在兩者之間傳輸，同時(shí)提升了集成度并能夠降低功耗，整體優(yōu)勢(shì)顯著。在最新的OCP峰會(huì)上，英偉達(dá)代表表示AI所需的網(wǎng)絡(luò)連接帶寬將增加32倍，當(dāng)前光模塊速率已無(wú)法滿足這一帶寬提升需求。繼續(xù)使用光模塊會(huì)帶來(lái)成本翻倍和20%-25%的額外功耗。為此需要新的激光器和調(diào)制器設(shè)計(jì)，并且CPO方案可能將功耗降低50%。

提前布局的科技巨頭

技術(shù)和經(jīng)濟(jì)上的雙重優(yōu)勢(shì)，讓科技巨頭們爭(zhēng)相涌入CPO賽道，目前AWS、微軟、Meta、谷歌等云計(jì)算巨頭，思科、博通、Marvell、IBM、英特爾、英偉達(dá)、AMD、臺(tái)積電、格芯、Ranovus等網(wǎng)絡(luò)設(shè)備龍頭及芯片龍頭，均前瞻性地布局CPO相關(guān)技術(shù)及產(chǎn)品，并推進(jìn)CPO標(biāo)準(zhǔn)化工作——

在數(shù)據(jù)中心領(lǐng)域，CPO技術(shù)可以實(shí)現(xiàn)更高的數(shù)據(jù)密度和更快的數(shù)據(jù)傳輸速度，可以應(yīng)用于高速網(wǎng)絡(luò)交換、服務(wù)器互聯(lián)和分布式存儲(chǔ)等領(lǐng)域。例如，F(xiàn)acebook在其自研的數(shù)據(jù)中心網(wǎng)絡(luò)FabricAggregator中采用了CPO技術(shù)，將光模塊和芯片封裝在同一個(gè)封裝體中，從而提高了網(wǎng)絡(luò)的速度和質(zhì)量。

在云計(jì)算領(lǐng)域，CPO技術(shù)可以實(shí)現(xiàn)高速云計(jì)算和大規(guī)模數(shù)據(jù)處理。例如，微軟在其云計(jì)算平臺(tái)Azure中采用了CPO技術(shù)，將光模塊和芯片封裝在同一塊PCB板上，并使用微型化的線纜連接光模塊和芯片。

在5G通信領(lǐng)域，CPO技術(shù)可以實(shí)現(xiàn)更快的無(wú)線數(shù)據(jù)傳輸和更穩(wěn)定的網(wǎng)絡(luò)連接。例如，華為在其5G通信系統(tǒng)中采用了CPO技術(shù)，將收發(fā)器和芯片封裝在同一個(gè)封裝體中，從而實(shí)現(xiàn)了高速、高密度、低功耗的通信。

爭(zhēng)奪算力霸權(quán)時(shí)代話語(yǔ)權(quán)

AIGC熱潮驅(qū)動(dòng)下，全球科技龍頭的軍備競(jìng)賽已經(jīng)打響，CPO正站在風(fēng)口的風(fēng)口，既處在未來(lái)“卡脖子”數(shù)據(jù)傳輸通道，有著大廠們的集體背書(shū)，也有多個(gè)大賽道的加持，這背后除需要企業(yè)投入資源競(jìng)爭(zhēng)外，更需要管理層的支持。

2020年，業(yè)界開(kāi)始對(duì)發(fā)展CPO標(biāo)準(zhǔn)形成共識(shí)。國(guó)外COBO和OIF等行業(yè)組織成立了工作組，國(guó)內(nèi)中科院計(jì)算所牽頭成立CCITA聯(lián)盟（中國(guó)計(jì)算機(jī)互聯(lián)技術(shù)聯(lián)盟），為制訂前沿互聯(lián)技術(shù)標(biāo)準(zhǔn)籌備相關(guān)工作。現(xiàn)階段，國(guó)內(nèi)外CPO標(biāo)準(zhǔn)進(jìn)程基本相近，均已初步完成規(guī)格草案的撰寫(xiě)。CCITA聯(lián)盟于2021年5月啟動(dòng)在中國(guó)電子標(biāo)準(zhǔn)化協(xié)會(huì)的國(guó)內(nèi)CPO標(biāo)準(zhǔn)立項(xiàng)工作，聯(lián)合了超過(guò)40家會(huì)員廠商，規(guī)劃交換機(jī)及網(wǎng)卡CPO應(yīng)用場(chǎng)景的規(guī)格標(biāo)準(zhǔn)。

不過(guò)我國(guó)光芯片產(chǎn)業(yè)起步較晚，技術(shù)實(shí)力與國(guó)外企業(yè)相比有一定差距，國(guó)內(nèi)相關(guān)企業(yè)僅在2.5G和10G光芯片領(lǐng)域?qū)崿F(xiàn)核心技術(shù)的掌握，根據(jù)ICC的數(shù)據(jù)，2.5G及以下速率光芯片國(guó)產(chǎn)化率超過(guò)90%；10G光芯片國(guó)產(chǎn)化率約60%，II-VI、Lumentum等外企牢牢占據(jù)高功率光芯片主要市場(chǎng)份額，而近年來(lái)隨著天孚通信、新易盛、聯(lián)特科技等布局“CPO技術(shù)”的核心企業(yè)崛起，我國(guó)有望在硅光、CPO等前沿技術(shù)領(lǐng)域取得突破。