HBM(High Bandwidth Memory),意為高帶寬存儲器,作為一款新型CPU/GPU 內(nèi)存芯片,其具備高帶寬、高容量、低功耗等優(yōu)勢,契合了大模型時代對高算力和大存儲的迫切需求,被公認(rèn)為“最適用于AI 訓(xùn)練、推理的存儲芯片”。目前HBM 已成為AI 服務(wù)器、數(shù)據(jù)中心、汽車駕駛等高性能計算領(lǐng)域的標(biāo)配,未來的適用市場仍在不斷拓寬,需求持續(xù)高增。
在HBM領(lǐng)域,目前市場供應(yīng)仍由海外存儲三大巨頭SK海力士、三星以及美光所壟斷,國產(chǎn)HBM正處于0到1的突破期。值得關(guān)注的是,美國即將對HBM輸華實施新的限制措施,制裁加碼或?qū)⒊蔀镠BM國產(chǎn)化加速演進(jìn)的催化劑。國內(nèi)存儲廠商將同時受益于供應(yīng)鏈國產(chǎn)份額的提升及存儲芯片行業(yè)的景氣周期復(fù)蘇,板塊有望迎來戴維斯雙擊,建議關(guān)注國內(nèi)HBM上下游相關(guān)產(chǎn)業(yè)鏈的投資機遇。
自ChatGPT爆火之后,國內(nèi)外大廠爭相競逐AI大模型。AI大模型的基礎(chǔ),就是靠海量數(shù)據(jù)和強大算力來支撐訓(xùn)練和推理過程,越發(fā)龐大的并行數(shù)據(jù)處理需求也對算力和帶寬提出了更高的要求。簡單來說,GPU處理器負(fù)責(zé)提供算力,算力決定了每秒處理數(shù)據(jù)的速度;存儲器負(fù)責(zé)提供帶寬,帶寬決定了每秒可訪問的數(shù)據(jù)。然而在過去20年中,存儲和計算并沒有同步發(fā)展,硬件的峰值計算能力增加了90000倍,而內(nèi)存硬件互連帶寬卻只是提高了30倍。當(dāng)存儲的性能跟不上處理器,對指令和數(shù)據(jù)的搬運時間將會大大超過處理器運算所消耗時間,此時,能夠打破“內(nèi)存墻”的高帶寬內(nèi)存HBM便應(yīng)運而生,成為高算力芯片的首選搭配。
HBM作為全新一代的CPU/GPU內(nèi)存芯片,HBM本質(zhì)上是指基于2.5/3D先進(jìn)封裝技術(shù),把多塊DRAM(動態(tài)隨機存儲器)堆疊起來后與GPU芯片封裝在一起,實現(xiàn)大容量,高位寬的DDR組合陣列。(見圖一)華福證券指出,和傳統(tǒng)的動態(tài)隨機存儲器DRAM相比,HBM具有高帶寬、低功耗、小尺寸三大特點:
1)高帶寬:HBM采用了存算一體的近存計算架構(gòu),不通過外部連線的方式與CPU或GPU集成,而是通過中介層緊湊而快速地連接,同時通過堆棧結(jié)構(gòu)的改變來增加引腳數(shù)量,以實現(xiàn)更高帶寬。
2)低功耗:HBM的垂直堆疊結(jié)構(gòu)減少了數(shù)據(jù)傳輸?shù)木嚯x,從而降低了功耗;同時,TSV(硅通孔)技術(shù)的應(yīng)用也有助于減少功耗。
3)小尺寸:HBM由于與GPU封裝在一塊,使得內(nèi)存模塊的尺寸大大減小,有助于實現(xiàn)更緊湊的系統(tǒng)設(shè)計。目前,主流數(shù)據(jù)中心GPU均采用HBM技術(shù),英偉達(dá)V100、A100、H100系列與AMDMI100、MI200、MI300系列均應(yīng)用HBM內(nèi)存,HBM在數(shù)據(jù)中心GPU中逐漸占據(jù)核心地位。
自2014年SK海力士發(fā)布首款硅穿孔HBM產(chǎn)品至今,HBM技術(shù)已經(jīng)發(fā)展至第五代,分別為HBM1/2/2E/3/3E,代際升級主要體現(xiàn)在數(shù)據(jù)速率和容量密度上,HBM芯片容量從1GB升級至24GB,帶寬從128GB/s提升至1.2TB/s,數(shù)據(jù)傳輸速率從1Gbps提高至9.2Gbps。據(jù)海力士表示,未來HBM的開發(fā)周期已縮短至大約1年。據(jù)TrendForce預(yù)計,HBM主流將在2024年移轉(zhuǎn)至HBM3與HBM3E,而HBM412hi(12層)有望于2026年推出,HBM416hi(16層)產(chǎn)品預(yù)計2027年問世。
HBM市場格局集中,主要被存儲器三大巨頭韓國SK海力士、三星以及美國美光所壟斷。根據(jù)Trend‐Force數(shù)據(jù),預(yù)計2024年SK海力士在HBM市場中的市占率預(yù)計為47-49%,三星電子的市占率為47-49%、美光的市占率為3-5%。TrendForce基于三星、海力士和美光的出貨口徑測算,2023年全球HBM產(chǎn)業(yè)收入達(dá)43.5億美元,預(yù)計2024年快速增長至183億美元,同比漲幅超過300%,2025年預(yù)計漲幅仍超過100%,景氣持續(xù)高增。
國內(nèi)方面,由于受制于DRAM和先進(jìn)封裝量產(chǎn)工藝,仍處于積極研發(fā)狀態(tài),尚無大規(guī)模量產(chǎn)產(chǎn)品。隨著中國智能化、數(shù)字化、信息化技術(shù)的的深入發(fā)展,各大領(lǐng)域?qū)τ诟咝阅軆Υ嫫鳟a(chǎn)品的需求將持續(xù)增長,加之HBM應(yīng)用領(lǐng)域向智能駕駛、通信設(shè)備等領(lǐng)域拓展,中國市場的HBM需求量預(yù)計將保持較高的增速。
值得注意的是,美國商務(wù)部工業(yè)和安全局(BIS)于12月2日發(fā)布了新一輪對華半導(dǎo)體出口管制措施,主要包括5個方向:對24種半導(dǎo)體制造設(shè)備和3種用于開發(fā)或生產(chǎn)半導(dǎo)體的軟件工具實施新的管制;對高帶寬存儲器(HBM)實施新的管制;針對合規(guī)和轉(zhuǎn)移問題的新的“紅旗警告”;在“實體清單”中新增加140個名單并進(jìn)行14項修改,涵蓋中國大多數(shù)核心設(shè)備制造商、半導(dǎo)體晶圓廠和投資公司;以及幾項關(guān)鍵的監(jiān)管變化,以增強先前管制的有效性。
其中,HBM作為先進(jìn)計算和人工智能(AI)應(yīng)用的重要存儲器組件,受到特別管控。不光是美國生產(chǎn)的HBM在管制范圍,包含美國技術(shù)的外國生產(chǎn)HBM,根據(jù)“先進(jìn)計算直接產(chǎn)品規(guī)則”,這些產(chǎn)品也需遵守規(guī)定。HBM相關(guān)廠商申請許可證的要求也更加嚴(yán)格,如果HBM被用于先進(jìn)計算、AI模型訓(xùn)練或推理,則需要出口許可證。若相關(guān)設(shè)備或技術(shù)的最終用戶涉及國家安全風(fēng)險或敏感實體清單上的機構(gòu),則默認(rèn)拒絕許可。
為進(jìn)一步細(xì)化控制范圍,美國商務(wù)部更新了對先進(jìn)節(jié)點DRAM的定義,改為以下兩種新的判定標(biāo)準(zhǔn)之一:一方面是高存儲密度標(biāo)準(zhǔn),內(nèi)存密度超過0.288Gb/mm2的DRAM;另一方面是存儲單元面積標(biāo)準(zhǔn),單元面積小于0.0019μm2。通過明確存儲單元面積、存儲密度及HBM的三維堆疊技術(shù)等標(biāo)準(zhǔn),美國對HBM嚴(yán)防死守,對存儲芯片的控制更加精細(xì)化。
按照美國商務(wù)部公告的說法,最新的這一系列措施是目前為止最嚴(yán)格的戰(zhàn)略性出口管控,同時還不加掩飾地指出,其宣布的所有政策變化都是為了限制中國自主生產(chǎn)先進(jìn)技術(shù)的能力,延緩中國開發(fā)人工智能的能力、削弱中國本地化先進(jìn)半導(dǎo)體生態(tài)系統(tǒng)。
就目前來看,若美國HBM禁令如期生效,美光作為美國本土企業(yè),受限于出口管制,無法向中國大陸出售先進(jìn)HBM產(chǎn)品,韓系廠商三星、SK海力士在中國市場的業(yè)務(wù)拓展或也將受到潛在的影響與阻礙。
回顧歷史,每一次美對華核心科技的重大制裁都間接快速推動了我國半導(dǎo)體產(chǎn)業(yè)的巨大進(jìn)步。2018年-2019年,美國商務(wù)部宣布7年內(nèi)禁止美企與中興通訊開啟任何業(yè)務(wù)、華為被列入實體清單,這是美國開啟對我國半導(dǎo)體領(lǐng)域技術(shù)限制的開端,也是我國終端公司重視供應(yīng)鏈安全、采用中國芯的開始;2020年,BIS將中國芯片制造商中芯國際列入實體清單,同時全球芯片產(chǎn)能急劇緊張,該階段芯片國產(chǎn)化進(jìn)程大大加速。
回到HBM領(lǐng)域,當(dāng)前國內(nèi)部分企業(yè)雖有一定的DRAM和先進(jìn)封裝技術(shù)基礎(chǔ),但掌握的DRAM工藝制程仍明顯落后于國際水平,在此背景下,美國制裁的加碼或?qū)⒌贡茋鴥?nèi)存儲制造商提高面對供應(yīng)鏈中斷和技術(shù)挑戰(zhàn)問題下的自主可控能力,加速獨立研發(fā)進(jìn)程,進(jìn)一步推動產(chǎn)業(yè)鏈自主化。未來隨著國內(nèi)廠商在生產(chǎn)過程中不斷積累經(jīng)驗和完善工藝,有望實現(xiàn)HBM的量產(chǎn)突破,將使半導(dǎo)體領(lǐng)域的國產(chǎn)替代進(jìn)程再次提速,自主可控進(jìn)程邁上新臺階。
下一篇文章,我們將就HBM產(chǎn)業(yè)鏈及投資機會展開梳理。