搭建國產(chǎn)算力底座，自主可控“弄潮”AI時(shí)代

中昊芯英以中國首枚高性能TPU架構(gòu)AI芯片“剎那?”為基石，打造了1024塊芯片片間高效互聯(lián)、可支撐超千億參數(shù)大模型的大規(guī)模AI計(jì)算集群“泰則?”，不僅填補(bǔ)了國內(nèi)TPU架構(gòu)AI芯片的空白，更為我國高性能AI芯片領(lǐng)域的“卡脖子”難題提供了國產(chǎn)自主可控的軟硬件解決方案

人工智能時(shí)代，大模型規(guī)?？焖俚懔π枨笥瓉肀l(fā)式增長。AI芯片作為核心算力硬件，市場前景廣闊，更是科技競爭力的關(guān)鍵。正所謂，誰掌握了人工智能芯片，誰就掌握了算力供給的來源，誰就在人工智能時(shí)代掌握制高點(diǎn)。然而，隨著大模型計(jì)算需求和復(fù)雜度的指數(shù)級(jí)增長，傳統(tǒng)GPU在用于大模型訓(xùn)練時(shí)，成本高、算力利用率低、能耗大的問題日益凸顯。目前，全球科技巨頭如蘋果、微軟、亞馬遜、特斯拉、OpenAI等，以及新興的明星初創(chuàng)企業(yè)如Groq和Etched，都在探索研發(fā)AI專用芯片以替代英偉達(dá)GPU，AI芯片格局正朝著TPU等AI專用芯片的方向演進(jìn)。在全球科技產(chǎn)業(yè)將目光緊緊鎖定人工智能領(lǐng)域之際，TPU憑借其更顯著的功耗和成本優(yōu)勢、更優(yōu)異的片間互聯(lián)優(yōu)勢、更成熟的技術(shù)生態(tài)優(yōu)勢等，正在成長為AI時(shí)代的“弄潮兒”。

面對(duì)全球芯片之爭愈演愈烈，中昊芯英（杭州）科技有限公司（下稱“中昊芯英”）作為國內(nèi)唯一掌握TPU架構(gòu)AI芯片核心技術(shù)并實(shí)現(xiàn)芯片量產(chǎn)的公司，打造了中國首枚高性能TPU架構(gòu)AI芯片“剎那?”，并基于此構(gòu)建支持1024塊芯片高速片間互聯(lián)、可支撐超千億參數(shù)大模型運(yùn)算需求的大規(guī)模AI計(jì)算集群“泰則?”，不僅填補(bǔ)了國內(nèi)TPU架構(gòu)AI芯片的空白，更為我國高性能AI芯片領(lǐng)域的“卡脖子”難題提供了國產(chǎn)自主可控的軟硬件解決方案。

三位一體化方案加速AI產(chǎn)業(yè)化

通過“自研AI芯片＋超算集群＋AIGC預(yù)訓(xùn)練大模型”的三位一體化方案，中昊芯英為全球客戶提供具備生產(chǎn)變革能力的AI創(chuàng)新技術(shù)方案，加速AI工程落地與產(chǎn)業(yè)化進(jìn)程。

中昊芯英以“剎那?”和“泰則?”為核心，旨在為AIGC時(shí)代的超大規(guī)模AI大模型計(jì)算提供高性能AI芯片與計(jì)算集群?！皠x那?”是中昊芯英歷時(shí)近5年打造的、性能達(dá)國際一流水平的全自研TPU架構(gòu)高性能AI芯片，擁有完全自主可控的IP核、全自研指令集與計(jì)算平臺(tái)。在處理大規(guī)模AI模型計(jì)算任務(wù)時(shí)，相較于國外知名GPU產(chǎn)品，“剎那?”的計(jì)算性能超越其近1.5倍，在完成相同AI大模型計(jì)算任務(wù)量時(shí)的能耗降低30%，單位算力成本僅為其50%。“剎那?”采用專為AI訓(xùn)練而生的TPU架構(gòu)，其系統(tǒng)性能超越GPU架構(gòu)數(shù)倍，是比GPU更適合于數(shù)據(jù)中心進(jìn)行大量部署的深度學(xué)習(xí)計(jì)算單元。

“泰則?”大規(guī)模AI計(jì)算集群系統(tǒng)是基于中昊芯英自研的高性能TPU芯片“剎那?”構(gòu)建的AI計(jì)算集群系統(tǒng)，實(shí)現(xiàn)了1024片芯片的高效片間互聯(lián)，可支撐超千億參數(shù)大模型的計(jì)算與推理。其強(qiáng)悍的系統(tǒng)性能和卓越的擴(kuò)展性專為處理如AlphaZero、AlphaGo、GPT等前沿人工智能模型的大規(guī)模計(jì)算任務(wù)量身打造。“泰則?”大規(guī)模AI計(jì)算集群系統(tǒng)能夠強(qiáng)有力地支撐包括AIGC大模型計(jì)算、高級(jí)無人駕駛模型訓(xùn)練、蛋白質(zhì)結(jié)構(gòu)精密預(yù)測在內(nèi)的各類高強(qiáng)度AI運(yùn)算場景。

“泰則?”不僅具備雄厚的底層算力儲(chǔ)備，而且通過精細(xì)化的算力調(diào)度機(jī)制，能夠?qū)崟r(shí)響應(yīng)多用戶需求，動(dòng)態(tài)調(diào)整分配的工作負(fù)載算力和存儲(chǔ)資源，確保各種復(fù)雜應(yīng)用場景下的高效協(xié)同與靈活部署。在系統(tǒng)層級(jí)，管理、計(jì)算與存儲(chǔ)網(wǎng)絡(luò)三者實(shí)現(xiàn)了有機(jī)結(jié)合：管理網(wǎng)絡(luò)與初始化數(shù)據(jù)共享同一網(wǎng)絡(luò)環(huán)境，軟件層面則精細(xì)劃分管理權(quán)限，使得服務(wù)器節(jié)點(diǎn)間能夠無縫協(xié)同，高效完成計(jì)算任務(wù)以及相關(guān)數(shù)據(jù)的交換，實(shí)現(xiàn)了對(duì)整個(gè)算力系統(tǒng)的智能化管理和高效利用。

值得一提的是，2024年11月，中昊芯英基于國產(chǎn)TPU算力服務(wù)器“泰則?”在高校中的應(yīng)用，助力太極股份成功入選中國互聯(lián)網(wǎng)協(xié)會(huì)評(píng)選的2024年度互聯(lián)網(wǎng)助力經(jīng)濟(jì)社會(huì)數(shù)字化轉(zhuǎn)型特色案例名單。該案例通過部署基于全國產(chǎn)自研AI芯片打造的TPU算力服務(wù)器，成功打破了高校對(duì)進(jìn)口高端算力設(shè)備的依賴，實(shí)現(xiàn)了算力資源的自主可控。同時(shí)，該案例的成功模式還具有較高的可復(fù)制性與可推廣性。

近年來，中昊芯英已與浙江大學(xué)計(jì)算機(jī)創(chuàng)新技術(shù)研究院、上海交通大學(xué)、杭州電子科技大學(xué)、上海人工智能研究院等國內(nèi)知名高校、科研機(jī)構(gòu)展開深度合作，共同推動(dòng)AI芯片技術(shù)的突破與應(yīng)用。這些應(yīng)用的成功落地，不僅顯著提升了高校的科研效率與教學(xué)質(zhì)量，更為國產(chǎn)芯片技術(shù)在高?？蒲信c教育領(lǐng)域的推廣與應(yīng)用奠定了堅(jiān)實(shí)基礎(chǔ)。

此外，中昊芯英基于“剎那?”構(gòu)建的“泰則?”大規(guī)模AI計(jì)算集群系統(tǒng)解決方案，以創(chuàng)新的TPU架構(gòu)支撐超千億參數(shù)大模型的計(jì)算需求，入選由新華網(wǎng)聯(lián)合中國電子信息產(chǎn)業(yè)發(fā)展研究院編制的相關(guān)報(bào)告，成為2024年度“數(shù)字樣板工程”實(shí)踐案例之一。

拓展應(yīng)用場景，加速賦能千行百業(yè)

目前，中昊芯英產(chǎn)品主要應(yīng)用于云廠商、運(yùn)營商以及行業(yè)垂類模型應(yīng)用商、高校、科研機(jī)構(gòu)等終端算力用戶，輻射金融、制造業(yè)、醫(yī)療、教育等行業(yè)。

在賦能領(lǐng)域大模型構(gòu)建方面，中昊芯英與國泰君安開展合作，為金融大模型垂直場景落地提供算力及算法底座，助力國泰君安“國芯證道”方案成功實(shí)現(xiàn)了基于國產(chǎn)芯片的金融大模型工程的完整啟動(dòng)?！皣咀C道”方案創(chuàng)新性地提出了Early Exit、Token Skipping、權(quán)重共享、低秩分解、注意力優(yōu)化等多項(xiàng)技術(shù)，現(xiàn)已在NL2SQL、資訊分析等金融領(lǐng)域應(yīng)用驗(yàn)證。

在賦能智算中心建設(shè)方面，中昊芯英已與深圳聯(lián)通、星羅智算等各地政府、運(yùn)營商、企業(yè)共同打造智算中心。其中，公司與深圳聯(lián)通合作打造了廣東地區(qū)首個(gè)全采用國產(chǎn)TPU芯片的高性能AI智算中心，形成訓(xùn)推一體化樞紐，成為中國聯(lián)通在深圳的核心智算高地的重要組成部分。

下一步，中昊芯英將攜手高校、科研機(jī)構(gòu)及產(chǎn)業(yè)鏈上下游企業(yè)共同優(yōu)化技術(shù)方案、不斷提升產(chǎn)品效能，推動(dòng)國產(chǎn)AI芯片技術(shù)及TPU算力服務(wù)器在更廣泛的領(lǐng)域內(nèi)得到應(yīng)用與落地，拓展人工智能技術(shù)場景化落地，加速賦能千行百業(yè)。

未來，中昊芯英將繼續(xù)深耕AI芯片領(lǐng)域，不斷在算力上實(shí)現(xiàn)對(duì)現(xiàn)有技術(shù)的超越，為AI領(lǐng)域的深度學(xué)習(xí)和復(fù)雜模型計(jì)算提供強(qiáng)大的算力硬件支持，并以更加高效智能的人工智能軟硬件一體化解決方案推動(dòng)AI產(chǎn)業(yè)升級(jí)，為我國新質(zhì)生產(chǎn)力的發(fā)展注入更多動(dòng)力。

[本文由中昊芯英（杭州）科技有限公司供稿]