處在黃金風口上的HBM是什么？

HBM儼然成為了當前存儲行業(yè)競爭中最為鮮美的一塊蛋糕。近日，臺積電宣布結合N12FFC+和N5制程技術，生產(chǎn)用于HBM4的基礎裸片，為HBM 4做好擴產(chǎn)準備，并且CoWoS先進封裝產(chǎn)能多次擴產(chǎn)，只為滿足行業(yè)高漲的HBM需求。三大存儲原廠也動態(tài)不斷，此前SK海力士、三星、美光均表示近兩年HBM產(chǎn)能已售罄，近期，三星和SK海力士兩家表示為了滿足需求，他們將超過20%的DRAM產(chǎn)線轉換為HBM產(chǎn)線。隨著HBM3E和HBM4的持續(xù)推進，帶動行業(yè)生態(tài)發(fā)生變革，三大存儲原廠與臺積電比以往更加緊密的聯(lián)系在一起。

01

概述

1.HBM

圖片來源：AMD

如上圖所示，HBM是由多個DRAM堆疊而成，主要利用TSV（硅通孔）和微凸塊（Micro bump）將裸片相連接，多層DRAM die再與最下層的Base die連接，然后通過凸塊（Bump）與硅中階層（interposer）互聯(lián)。同一平面內(nèi)，HBM與GPU、CPU或ASIC共同鋪設在硅中階層上，再通過CoWoS等2.5D先進封裝工藝相互連接，硅中介層通過CuBump連接至封裝基板上，最后封裝基板再通過錫球與下方PCB基板相連。該產(chǎn)品巧妙的設計大大縮小了尺寸面積，容量擴大的同時，實現(xiàn)了高帶寬、低延遲、低功耗的效果。

AI時代隨著計算需求的不斷提升，高端GPU、存儲器等需求供不應求。當前GPU補位CPU功能，并不斷強化自身算力。但是處理器的性能以每年大約55%速度快速提升，而內(nèi)存性能的提升速度則只有每年10%左右。目前傳統(tǒng)顯存GDDR5等也面臨著帶寬低、功耗高等瓶頸，GPUCPU也算不過來了。

GPU顯存一般采用GDDR或者HBM兩種方案，但行業(yè)多數(shù)據(jù)顯示，HBM性能遠超GDDR。此處來看看AMD關于HBM與DDR（Double Data Rate）內(nèi)存的參數(shù)對比，以業(yè)界最為火爆的GDDR5為例。

圖片來源：AMD

根據(jù)AMD數(shù)據(jù)，從顯存位寬來看，GDDR5為32-bit,HBM為其四倍，達到了1024-bit；從時鐘頻率來看，HBM為500MHz，遠遠小于GDDR5的1750MHz；從顯存帶寬來看，HBM的一個stack大于100GB/s,而GDDR5的一顆芯片為25GB/s。在數(shù)據(jù)傳輸速率上，HBM遠高于GDDR5。而從空間利用角度來看，HBM由于與GPU封裝在一塊，從而大幅度減少了顯卡PCB的空間，而GDDR5芯片面積為HBM芯片三倍，這意味著HBM能夠在更小的空間內(nèi)，實現(xiàn)更大的容量。因此，HBM可以在實現(xiàn)高帶寬和高容量的同時節(jié)約芯片面積和功耗，被視為GPU存儲單元理想解決方案。

但是HBM對比GDDR5/DDR5等依舊存在一定劣勢。TrendForce集邦咨詢研究顯示，在相同制程及容量下，HBM顆粒尺寸較DDR5大35%~45%；良率（包含TSV封裝良率），則比起DDR5低約20%~30%；生產(chǎn)周期（包含TSV）較DDR5多1.5-2個月，整體從投片到產(chǎn)出與封裝完成需要兩個季度以上。從長遠發(fā)展角度看，在AI浪潮之下，業(yè)界大廠率先考慮搶奪HBM就變得十分合理了。

據(jù)TrendForce集邦咨詢最新研究，三大原廠開始提高先進制程的投片，繼存儲器合約價翻揚后，公司資金投入開始增加，產(chǎn)能提升將集中在今年下半年，預期1alpha nm（含）以上投片至年底將占DRAM總投片比重約40%。其中，HBM由于獲利表現(xiàn)佳，加上需求持續(xù)看增，故生產(chǎn)順序最優(yōu)先。但受限于良率僅約50~60%，且晶圓面積相較DRAM產(chǎn)品，放大逾60%，意即所占投片比重高。以各家TSV產(chǎn)能來看，至年底HBM將占先進制程比重35%，其余則用以生產(chǎn)LPDDR5(X)與DDR5產(chǎn)品。

目前HBM已然成為AI服務器、數(shù)據(jù)中心、汽車駕駛等高性能計算領域的標配，未來其適用市場還在不斷拓寬。據(jù)TrendForce集邦咨詢研究顯示，產(chǎn)能方面，2023~2024年HBM占DRAM總產(chǎn)能分別是2%及5%，至2025年占比預估將超過10%。產(chǎn)值方面，2024年起HBM之于DRAM總產(chǎn)值預估可逾20%，至2025年占比有機會逾三成。展望2025年，由主要AI解決方案供應商的角度來看，HBM規(guī)格需求大幅轉向HBM3e，且將會有更多12hi的產(chǎn)品出現(xiàn)，帶動單芯片搭載HBM的容量提升。2024年的HBM需求位元年成長率近200%，2025年可望將再翻倍。

2.優(yōu)勢

HBM在帶寬、功耗、封裝體積方面具備明顯優(yōu)勢。按照不同應用場景，行業(yè)標準組織JEDEC將DRAM分為三個類型：標準DDR、移動DDR以及圖形DDR，圖形DDR中包括GDDR和HBM。相比于標準的DDR4、DDR5等產(chǎn)品，以GDDR和HBM為代表的圖形DDR具備更高的帶寬，其中HBM在實現(xiàn)更大帶寬的同時也具備更小的功耗和封裝尺寸。

GDDR和HBM有效解決了內(nèi)存墻的問題，在中高端GPU中得到廣泛應用。過去20年中，處理器的峰值計算能力增加了90,000倍，但是內(nèi)存/硬件互連帶寬卻只是提高了30倍。存儲性能的提升遠遠跟不上處理器性能提升，導致內(nèi)存性能極大限制了處理器性能的發(fā)揮，對指令和數(shù)據(jù)的搬運（寫入和讀出）的時間將是處理器運算所消耗時間的幾十倍乃至幾百倍，而且引發(fā)了高能耗，即出現(xiàn)了“內(nèi)存墻”問題。具備更高帶寬的GDDR和HBM相比傳統(tǒng)DDR有更高的帶寬，因此有效的解決了該問題，GDDR和成為中高端GPU搭載的主流內(nèi)存方案，HBM也在部分高端GPU中得到應用。

3.HBM有望替代GDDR成為主流方案

AI大模型對于數(shù)據(jù)傳輸提出了更高的要求，HBM有望替代GDDR成為主流方案：

GDDR5功耗更高，高功耗未來會限制GPU的性能提升；GDDR5為了實現(xiàn)更高帶寬，需要電路承載更大的電壓，導致電路尺寸偏大。NAND、DRAM和Optics等技術將受益于片上集成，但在技術上并不兼容。

主流數(shù)據(jù)中心GPU均采用HBM技術。英偉達V100、A100、H100均采用HBM內(nèi)存，同樣，AMDMI100、MI200、MI300也都采用HBM內(nèi)存，目前HBM內(nèi)存在數(shù)據(jù)中心GPU中逐步占據(jù)主導地位。

4.HBM持續(xù)迭代，帶寬、速率提升

自2013年SK海力士推出第一代HBM以來，在三大原廠的競合下，至今已歷經(jīng)第二代（HBM2）、第三代（HBM2E）、第四代（HBM3）、第五代（HBM3E）產(chǎn)品。

今年HBM3e將是市場主流，集中在今年下半年出貨。另外據(jù)行業(yè)消息，第六代（HBM4）也正在研發(fā)中，變革較大，一改一代至五代的1024位內(nèi)存接口，集中采用2048位內(nèi)存接口，有望使傳輸速度再次翻倍。今天我們的關注焦點也將集中在HBM3E及HBM4上。

其一，「HBM3進階到HBM3e」，預期NVIDIA將于今年下半年開始擴大出貨搭載HBM3e的H200，取代H100成為主流，隨后GB200及B100等亦將采用HBM3e。AMD則規(guī)劃年底前推出MI350新品，期間可能嘗試先推MI32x等過渡型產(chǎn)品，與H200相抗衡，均采HBM3e。

其二，「HBM搭載容量持續(xù)擴增」，為了提升AI服務器整體運算效能及系統(tǒng)頻寬，將由目前市場主要采用的NVIDIA H100（80GB），至2024年底后將提升往192~288GB容量發(fā)展；AMD亦從原MI300A僅搭載128GB，GPU新品搭載HBM容量亦將達288GB。

其三，「搭載HBM3e的GPU產(chǎn)品線，將從8hi往12hi發(fā)展」，NVIDIA的B100、GB200主要搭載8hi HBM3e，達192GB，2025年則將推出B200，搭載12hi HBM3e，達288GB；AMD將于今年底推出的MI350或2025年推出的MI375系列，預計均會搭載12hi HBM3e，達288G。

相較于普通存儲芯片，HBM芯片價格相對較高，且有繼續(xù)上升趨勢。TrendForce集邦咨詢表示，HBM3e的TSV良率目前僅約40~60%，仍有待提升，加上并非三大原廠都已經(jīng)通過HBM3e的客戶驗證，故HBM買方也愿意接受漲價，以鎖定質(zhì)量穩(wěn)定的貨源。并且未來HBM每Gb單價可能因DRAM供應商的可靠度，以及供應能力產(chǎn)生價差，對于供應商而言，未來平均銷售單價將會因此出現(xiàn)差異，并進一步影響獲利。

02

制造工藝

1.HBM制造工藝包括TSV、Bumping和堆疊等工藝環(huán)節(jié)

HBM是由多個DRAMdie堆疊而成，利用硅通孔（TSV）和微凸塊（Microbump）將die之間相連接，多層DRAMdie再與最下層的Basedie連接，然后通過凸塊（Bump）與硅中階層（interposer）互聯(lián)。HBM與GPU、CPU或ASIC共同鋪設在硅中階層上，通過CoWoS等2.5D封裝工藝相互連接，硅中介層通過CuBump連接至封裝基板（Package Substrate）上，最后封裝基板再通過錫球與下方的PCB基板相連。

2.存儲大廠高度聚焦先進封裝，HBM4或將直接放置在處理器上

根據(jù)全球半導體觀察，目前HBM存儲芯片的整體良率在65%左右，HBM良率的高低主要受到其堆疊架構復雜性的影響，這涉及到多層次的內(nèi)存結構和作為各層連接之用的直通TSV技術。這些復雜技術增加了制程缺陷的風險，可能導致良率低于設計較簡單的內(nèi)存產(chǎn)品。因此存儲大廠紛紛加碼HBM先進封裝，提升HBM良率并降低功耗。此外，根據(jù)CFM，SK海力士擬將新一代HBM4堆棧直接放置在處理器上，通過3D堆疊的形式進一步提高I/O數(shù)量。

3.SK海力士憑借MR-MUF技術占據(jù)HBM市場份額，三星考慮將MUF用于3DSRDIMM

SK海力士在HBM2E和HBM3的生產(chǎn)中引入了大規(guī)?；亓鞒尚偷撞刻畛洌∕R-MUF）工藝，提高了HBM超過10萬個微凸塊互連的質(zhì)量，此外，該工藝充分增加了熱虛擬凸塊的數(shù)量，同時由于采用了高導熱率的模制底部填充（MUF）材料，因此散熱性能更加出色。根據(jù)全球半導體觀察，三星認為MUF非常適合3DSRDIMM，而目前3DSRDIMM使用TSV技術制造，主要應用于服務器上，三星正在考慮在其下一代DRAM中MUF技術。若三星也導入MUF，相關制造材料或將持續(xù)受益。

03

發(fā)展現(xiàn)狀

1.國際

近日，美光宣布已開始量產(chǎn)其HBM3E高帶寬內(nèi)存解決方案。英偉達H200TensorCoreGPU將采用美光8層堆疊的24GB容量HBM3E內(nèi)存，并于2024年第二季度開始出貨。美光HBM3E引腳速率超過9.2Gb/s，提供超過1.2TB/s的內(nèi)存帶寬。與HBM3相比，HBM3E將數(shù)據(jù)傳輸速率和峰值內(nèi)存帶寬提高了44%，這對于英偉達H200等需要大量帶寬的處理器來說尤其重要。美光利用其1β（1-beta）技術、先進的硅通孔（TSV）和其他實現(xiàn)差異化封裝解決方案來生產(chǎn)HBM3E產(chǎn)品，有助于公司在數(shù)據(jù)中心級產(chǎn)品上提升技術競爭實力和市場占有率。

三星發(fā)布首款36GB HBM3E 12HDRAM，目前為三星容量最大的HBM。三星HBM3E12H支持全天候最高帶寬達1280GB/s，產(chǎn)品容量也達到了36GB。相比三星8層堆疊的HBM38H，HBM3E12H在帶寬和容量上大幅提升超過50%。HBM3E12H采用了先進的熱壓非導電薄膜（TCNCF）技術，使得12層和8層堆疊產(chǎn)品的高度保持一致，以滿足當前HBM封裝的要求。相比HBM38H，HBM3E12H搭載于人工智能應用后，公司預計人工智能訓練平均速度可提升34%，同時推理服務用戶數(shù)量也可增加超過11.5倍。

SK海力士率先量產(chǎn)HBM3E，HBM4或于2026年推出。根據(jù)半導體行業(yè)觀察，SK海力士于1月中旬正式結束了HBM3E的開發(fā)工作，并順利完成英偉達歷時半年的性能評估，計劃于3月開始大規(guī)模生產(chǎn)HBM3E產(chǎn)品，這批HBM3E將用于英偉達下一代Blackwell系列的AI芯片旗艦產(chǎn)品B100上，而英偉達則計劃于2024年第二季度末或第三季度初推出該系列產(chǎn)品。根據(jù)TrendForce，HBM4預計規(guī)劃于2026年推出，或采取HBM堆棧在SoC主芯片之上的封裝方式。

2.國內(nèi)

國內(nèi)存儲廠商入局HBM市場。根據(jù)采招網(wǎng)，近日，武漢新芯發(fā)布《高帶寬存儲芯粒先進封裝技術研發(fā)和產(chǎn)線建設》招標項目，利用三維集成多晶圓堆疊技術，打造更高容量、更大帶寬、更小功耗和更高生產(chǎn)效率的國產(chǎn)高帶寬存儲器（HBM）產(chǎn)品，推進多晶圓堆疊工藝產(chǎn)業(yè)化，新增生產(chǎn)設備約17臺/套，擬實現(xiàn)月產(chǎn)出能力≥3000片（12英寸）。國內(nèi)存儲廠商在HBM技術上的加速突破，有望在AI大浪潮的需求下提升競爭實力，相關產(chǎn)業(yè)鏈也或將受益。

04

競爭格局

1.寡頭壟斷，SK海力士占過半份額

HBM市場格局集中，SK海力士占有主導地位。根據(jù)Trendforce數(shù)據(jù)，2023年SK海力士市占率預計為53%，三星市占率38%、美光市占率9%。。

HBM市場競爭白熱化。2023年市場主要HBM代際是HBM2、HBM2e和HBM3，算力卡性能提升刺激HBM產(chǎn)品更迭，2023年下半年伴隨NVIDIAH100與AMDMI300的搭載，HBM3滲透率提升。2024年伊始，SK海力士完成HBM3e開發(fā)，并送樣英偉達測試，有望于上半年量產(chǎn)。預計三星電子和美光科技即將送樣HBM3e，也有望于上半年量產(chǎn)，其中美光科技跳過了HBM3，直接研發(fā)HBM3e。三家原廠在HBM領域的競爭日趨白熱化。

2.更多DRAM廠商正切入HBM賽道，國產(chǎn)HBM有望突破

二線、三線DRAM廠商也正在切入HBM賽道。華邦電于2023年8月介紹了其類HBM高帶寬產(chǎn)品CUBEx，采用1~4層TSVDRAM堆疊，I/O速度500M~2Gbps，總帶寬最高可達1024GB/s，顆粒容量為0.5~4GB，功耗低至不足1pJ/bit。這種比常規(guī)HBM擁有更高帶寬的CUBEx可用于AR、VR、可穿戴等領域。

國產(chǎn)DRAM廠商有望突破HBM。目前一線廠商DRAM制程在1alpha、1beta水平，國產(chǎn)DRAM制程在25~17nm水平，中國臺灣DRAM制程在25~19nm水平，國內(nèi)DRAM制程接近海外。且國內(nèi)擁有先進封裝技術資源和GPU客戶資源，有強烈的國產(chǎn)化訴求，未來國產(chǎn)DRAM廠商有望突破HBM。

05

市場測算

1.AI刺激服務器存儲容量擴充，HBM需求強勁

（1）AI服務器刺激更多存儲器用量，大容量內(nèi)存條、HBM、eSSD需求旺盛

根據(jù)Trendforce，目前服務器DRAM（模組形態(tài)為常規(guī)內(nèi)存條RDIMM和LRDIMM）的普遍配置約為500~600GB，而AI服務器在單條模組上則多采64~128GB，單臺服務器搭載16~36條，平均容量可達1TB以上。對于企業(yè)級SSD，由于AI服務器追求的速度更高，其要求優(yōu)先滿足DRAM或HBM需求，在SSD的容量提升上則呈現(xiàn)非必要擴大容量的態(tài)勢，但配置也顯著高于常規(guī)服務器。

（2）隨著算力卡更新迭代，HBM規(guī)格持續(xù)提升

未來在AI模型逐漸復雜化的趨勢下，服務器的數(shù)據(jù)計算和存儲需求將快速增長，并同步帶動服務器DRAM、企業(yè)級SSD以及HBM的需求成長。相較于一般服務器而言，AI服務器多增加GPGPU的使用，以NVIDIAA100/H10080GB配置8張計算，HBM用量約為640GB，超越常規(guī)服務器的內(nèi)存條容量，H200、B100、MI300等算力卡將搭載更高容量、更高速率HBM。

2.通用服務器呈現(xiàn)弱復蘇態(tài)勢，AI服務器快速增長

（1）傳統(tǒng)服務器呈現(xiàn)弱復蘇態(tài)勢，2024年出貨量同比增長2%

根據(jù)Trendforce，2024年服務器出貨驅動力以北美CSP為主，但受限于通貨膨脹高，企業(yè)融資成本居高不下，壓縮資本支出，整體需求尚未恢復至疫情前成長幅度，預計2024年全球服務器整機出貨量約1365.4萬臺，同比增長2.05%。

（2）受益于北美CSP訂單帶動，AI服務器ODM對2024年展望樂觀

1）廣達：預計2024年AI服務器出貨雙位數(shù)增長，訂單主要來自于Microsoft及AWS等；2）Supermicro：預計2024年AI服務器出貨量有機會翻倍成長，訂單主要來自CoreWeave與Tesla，積極拓展Apple、Meta等客戶AI訂單；3）Inventec：除了北美CSP需求，中國客戶如ByteDance需求最強，預估2024年AI服務器出貨量年成長可達雙位數(shù)，占比約10~15%；4）Foxconn：獲得Oracle、AWS訂單，預計2024年服務器ODM出貨量增長5~7%。

3.2024年HBM市場容量有望接近9億GB

通過測算全球算力卡的HBM需求，結論是：

（1）從容量看

2023年HBM市場容量為2.8億GB，預計2024年增長至8.9億GB，2026年增長至14.1億GB，2023~2026年CAGR為71%。增長驅動因素是：算力卡單卡HBM容量提升、算力卡出貨量提升、新的玩家產(chǎn)品放量。

AI服務器出貨增速遠高于傳統(tǒng)服務器、手機、PC+NB等傳統(tǒng)市場，且單機DRAM容量增速更快，因此HBM在全球DRAM市場的占比將逐步提升，2023年容量占比為1%（2023年大宗DRAM市場容量為275億GB），2026年將提升至3%。

（2）從產(chǎn)值看

2023年HBM市場規(guī)模為40億美元，預計2024年增長至148億美元，2026年增長至242億美元，2023~2026年CAGR為82%。增長驅動因素是：算力卡單卡HBM容量提升、算力卡出貨量提升、新的玩家產(chǎn)品放量、技術迭代帶來單GBHBM單價提升。

大宗DRAM具備強商品屬性，價格周期性明顯，HBM具備定制品屬性，技術迭代催動ASP提升，長期看HBM在DRAM市場的占比會持續(xù)提升，2023年HBM銷售額在DRAM市場的占比為8%，2026年將提升至17%。

4.HBM市場測算明細及關鍵假設

關鍵假設：1）對2025年之后的算力卡增長采用保守假設：2023-2024年算力卡維持緊缺，假設2025年供需平衡，增長趨緩。2）HBM滲透率假設：2023年HBM市場的主流代際為HBM2、HBM2e和HBM3，預計2024年主流代際轉變?yōu)镠BM3e，由于各家原廠的HBM4方案未定，2025~2026年保守假設以HBM3e為主。3）HBM價格假設：定價上HBM3e>HBM3 >HBM2e >HBM2，并且隨著產(chǎn)品迭代，老產(chǎn)品價格有自然年降。其中HBM3e有24GB和36GB版本，以24GB版本測算。4）大宗DRAM的容量和銷售額來自Gartner預測，包含了2024~2025年的漲價周期和2026年周期頂部的假設，數(shù)據(jù)中不含HBM。

06

相關公司

1.通富微電

2.中微公司

3.拓荊科技

4.芯源微

5.其他相關公司

07

HBM4

HBM4可看做是HBM技術一個新的分水嶺，一方面是HBM領域先進封裝技術獲得長足發(fā)展，更為重要的是產(chǎn)業(yè)鏈出現(xiàn)三大方面的改變。其一，主要內(nèi)存制造商正計劃對高帶寬內(nèi)存技術進行更實質(zhì)性的改變，一改往常的1024位接口，從更寬的2048位內(nèi)存接口開始。其二，行業(yè)生態(tài)改變，三大存儲原廠SK海力士、三星、美光與臺積電展開高度緊密合作。畢竟在此之前，三家原廠的芯片基本基于本公司自己的制程工藝開展芯片生產(chǎn)。其三，HBM芯片的定制化趨勢更為明顯。

幾家大廠HBM4進度幾何？

2024年4月19日，SK海力士宣布，公司就下一代HBM產(chǎn)品生產(chǎn)和加強整合HBM與邏輯層的先進封裝技術，將與臺積電公司密切合作，雙方近期簽署了諒解備忘錄（MOU）。5月2日，SK海力士在韓國舉行的記者招待會上表示，其HBM4量產(chǎn)時間從2026年提至2025年。具體來說，SK海力士計劃在2025年下半年推出采用12層DRAM堆疊的首批HBM4產(chǎn)品，而16層堆疊HBM稍晚于2026年推出。因為當前距離量產(chǎn)時間還較早，還沒有相關產(chǎn)品參數(shù)出來。

SK海力士在HBM方面一直處于領先地位，由其主導并采用的HBM以硅通孔技術（TSV：Through Silicon Via）、批量回流模制底部填充（MR-MUF：Mass Reflow-Molded Underfill）先進封裝技術在行業(yè)享有盛名。目前隨著HBM芯片堆疊層數(shù)的增加，MR-MUF技術容易翹曲、導致晶圓末端彎曲、空洞現(xiàn)象（即保護材料在某些區(qū)域分布不均勻）的問題引起行業(yè)高度關注。SK海力士方表示，正在推進TSV和MR-MUF的技術發(fā)展。與HBM開發(fā)初期相比，他們成功地減少了翹曲現(xiàn)象，目前正在開發(fā)克服這一問題的技術。下一步，抉擇會聚焦在減少空隙。

此外，SK海力士還致力于芯粒（Chiplet）及混合鍵合（Hybrid bonding）等下一代先進封裝技術的開發(fā)，以支持半導體存儲器和邏輯芯片之間的異構集成，同時促進新型半導體的發(fā)展。當中，Hybrid bonding也是被看作是HBM封裝的又一個新選擇。但根據(jù)之前的計劃不一樣，SK海力士打算在下一代的HBM 4中持續(xù)采用尖端封裝技術MR-MUF。作為替代方案而出現(xiàn)的混合鍵合技術預計由于HBM標準的放寬而緩慢引入。

三星方面則計劃通過針對高溫環(huán)境優(yōu)化的NCF組裝技術和尖端工藝技術，將16H技術融入下一代HBM4中。據(jù)三星的規(guī)劃，HBM 4將在2025年生產(chǎn)樣品。另外據(jù)外媒報道，三星在早前的一個會議上表示，正在考慮在HBM 4中使用混合鍵合或NCF。其認為，混合鍵合更具優(yōu)勢，因為它們可以緊湊地添加更多堆疊，而無需使用填充凸塊進行連接的硅通孔(TSV)。使用相同的技術，HBM上的核心芯片DRAM也可以變得更厚。

這里值得關注的便是三星在HBM封裝上采用的TC-NCF非導電薄膜熱壓縮先進封裝技術。這是一種與SK海力士MR-MUF略有不同的技術。在每次堆疊芯片時，都會在各層之間放置一層不導電的粘合膜。該薄膜是一種聚合物材料，用于使芯片彼此絕緣并保護連接點免受撞擊。隨著發(fā)展，三星逐漸減少了NCF材料的厚度，將12層第五代HBM3E的厚度降至7微米(μm)。該公司認為這種方法的優(yōu)點是可以最大限度地減少隨著層數(shù)增加和芯片厚度減小而可能發(fā)生的翹曲，使其更適合構建更高的堆棧。

美光是這場HBM戰(zhàn)局中的半路殺出者，畢竟它一入局，便將目光投向了HBM3。如下圖所示，美光曬出了其HBM3E和HBM4產(chǎn)品路線圖。方案路線圖顯示，其HBM4預計在2026年推出，而到2028年則由HBM4E接棒。

圖片來源：美光

關于未來的布局，美光披露了暫名為HBMnext的下一代HBM內(nèi)存，業(yè)界猜測這有可能便是其HBM 4。美光預計HBMNext將提供36 GB和64 GB容量，這意味著多種配置，例如12-Hi 24 Gb堆棧(36 GB)或16-Hi 32 Gb堆棧(64 GB)。至于性能，美光宣稱每個堆棧的帶寬為1.5 TB/s–2+TB/s，這意味著數(shù)據(jù)傳輸速率超過11.5 GT/s/pin。

2024年4月19日，SK海力士宣布，公司就下一代HBM產(chǎn)品生產(chǎn)和加強整合HBM與邏輯層的先進封裝技術，將與臺積電公司密切合作，雙方近期簽署了諒解備忘錄（MOU）。5月2日，SK海力士在韓國舉行的記者招待會上表示，其HBM4量產(chǎn)時間從2026年提至2025年。具體來說，SK海力士計劃在2025年下半年推出采用12層DRAM堆疊的首批HBM4產(chǎn)品，而16層堆疊HBM稍晚于2026年推出。因為當前距離量產(chǎn)時間還較早，還沒有相關產(chǎn)品參數(shù)出來。

SK海力士在HBM方面一直處于領先地位，由其主導并采用的HBM以硅通孔技術（TSV：Through Silicon Via）、批量回流模制底部填充（MR-MUF：Mass Reflow-Molded Underfill）先進封裝技術在行業(yè)享有盛名。目前隨著HBM芯片堆疊層數(shù)的增加，MR-MUF技術容易翹曲、導致晶圓末端彎曲、空洞現(xiàn)象（即保護材料在某些區(qū)域分布不均勻）的問題引起行業(yè)高度關注。SK海力士方表示，正在推進TSV和MR-MUF的技術發(fā)展。與HBM開發(fā)初期相比，他們成功地減少了翹曲現(xiàn)象，目前正在開發(fā)克服這一問題的技術。下一步，抉擇會聚焦在減少空隙。

此外，SK海力士還致力于芯粒（Chiplet）及混合鍵合（Hybrid bonding）等下一代先進封裝技術的開發(fā)，以支持半導體存儲器和邏輯芯片之間的異構集成，同時促進新型半導體的發(fā)展。當中，Hybrid bonding也是被看作是HBM封裝的又一個新選擇。但根據(jù)之前的計劃不一樣，SK海力士打算在下一代的HBM 4中持續(xù)采用尖端封裝技術MR-MUF。作為替代方案而出現(xiàn)的混合鍵合技術預計由于HBM標準的放寬而緩慢引入。

三星方面則計劃通過針對高溫環(huán)境優(yōu)化的NCF組裝技術和尖端工藝技術，將16H技術融入下一代HBM4中。據(jù)三星的規(guī)劃，HBM 4將在2025年生產(chǎn)樣品。另外據(jù)外媒報道，三星在早前的一個會議上表示，正在考慮在HBM 4中使用混合鍵合或NCF。其認為，混合鍵合更具優(yōu)勢，因為它們可以緊湊地添加更多堆疊，而無需使用填充凸塊進行連接的硅通孔(TSV)。使用相同的技術，HBM上的核心芯片DRAM也可以變得更厚。

這里值得關注的便是三星在HBM封裝上采用的TC-NCF非導電薄膜熱壓縮先進封裝技術。這是一種與SK海力士MR-MUF略有不同的技術。在每次堆疊芯片時，都會在各層之間放置一層不導電的粘合膜。該薄膜是一種聚合物材料，用于使芯片彼此絕緣并保護連接點免受撞擊。隨著發(fā)展，三星逐漸減少了NCF材料的厚度，將12層第五代HBM3E的厚度降至7微米(μm)。該公司認為這種方法的優(yōu)點是可以最大限度地減少隨著層數(shù)增加和芯片厚度減小而可能發(fā)生的翹曲，使其更適合構建更高的堆棧。

美光是這場HBM戰(zhàn)局中的半路殺出者，畢竟它一入局，便將目光投向了HBM3。如下圖所示，美光曬出了其HBM3E和HBM4產(chǎn)品路線圖。方案路線圖顯示，其HBM4預計在2026年推出，而到2028年則由HBM4E接棒。

圖片來源：美光

關于未來的布局，美光披露了暫名為HBMnext的下一代HBM內(nèi)存，業(yè)界猜測這有可能便是其HBM 4。美光預計HBMNext將提供36 GB和64 GB容量，這意味著多種配置，例如12-Hi 24 Gb堆棧(36 GB)或16-Hi 32 Gb堆棧(64 GB)。至于性能，美光宣稱每個堆棧的帶寬為1.5 TB/s–2+TB/s，這意味著數(shù)據(jù)傳輸速率超過11.5 GT/s/pin。

談談HBM4以后的專業(yè)化、定制化趨勢

在談及HBM4時，臺積電以及SK海力士、三星、美光均提及專業(yè)定制化趨勢。據(jù)悉，目前三大原廠目前與英偉達、AMD、微軟簽訂的HBM供應協(xié)議早已開啟了定制條款。

SK海力士認為，市場將更傾向于專業(yè)化(Specialized)和定制化(Customized)產(chǎn)品，以滿足客戶需求。他強調(diào)，對于新一代HBM，卓越的性能是基本條件，同時，還須具備滿足不同客戶的特定需求、超越傳統(tǒng)存儲器性能的優(yōu)勢。

三星則表示，業(yè)界越來越認識到，處理器和內(nèi)存公司各自優(yōu)化其產(chǎn)品的孤立努力不足以釋放AGI時代所需的創(chuàng)新。因此，“定制HBM”成為潮流，這也代表了實現(xiàn)處理器和內(nèi)存之間協(xié)同優(yōu)化以加速這一趨勢的第一步。為此，三星利用其在內(nèi)存、代工、系統(tǒng)LSI和先進封裝方面的綜合能力。

在剛剛結束的美光科技交流會上，美光透露出一條重磅消息，在HBM產(chǎn)能不足的背景下，業(yè)內(nèi)已經(jīng)越來越傾向于定制化的HBM產(chǎn)品，主要是因為下游客戶越發(fā)個性化的需求。為了解決客戶對于性能、功能、尺寸、形態(tài)、功效等方面的差異化需求，市場將更傾向于打造專業(yè)化(Specialized)和定制化(Customized)HBM產(chǎn)品。

此前，行業(yè)針對HBM大規(guī)模擴產(chǎn)的行為產(chǎn)生未來是否會過剩擔憂。行業(yè)人士表示，專業(yè)化和定制化可以有效解決這類問題。由于定制化的存儲產(chǎn)品與客戶需求高度耦合，未來存儲廠商和客戶會有更深的綁定關系。這一改變可以增加HBM下游供給的確定性，使得存儲廠商在做產(chǎn)能規(guī)劃的時候更有計劃性。