全球首款12層堆疊HBM3E，開(kāi)始量產(chǎn)了

最近，韓國(guó) SK 海力士宣布，已開(kāi)始量產(chǎn)全球首款 12 層 HBM3E 產(chǎn)品，容量為 36GB，這是迄今為止現(xiàn)有 HBM 的最大容量。

SK 海力士聲稱，12 層 HBM3E 產(chǎn)品在速度、容量和穩(wěn)定性方面均達(dá)到全球最高標(biāo)準(zhǔn)。該公司計(jì)劃在年內(nèi)向客戶提供量產(chǎn)產(chǎn)品。

受此消息影響，SK 海力士股價(jià)周四在韓股市場(chǎng)上大漲。

SK 海力士率先實(shí)現(xiàn) 12 層 HBM 量產(chǎn)

今年 3 月，SK 海力士向客戶交付 8 層 HBM3E 產(chǎn)品，創(chuàng)下業(yè)界首位。時(shí)隔 6 個(gè)月后，SK 海力士再次業(yè)界首個(gè)實(shí)現(xiàn) 12 層 HBM3E 芯片量產(chǎn)，再次證明其技術(shù)優(yōu)勢(shì)。

SK 海力士是自 2013 年推出世界首款 HBM 以來(lái)，開(kāi)發(fā)并供應(yīng)從第一代 (HBM1) 到第五代 (HBM3E) 全部 HBM 系列的唯一企業(yè)。

如今，SK 海力士實(shí)現(xiàn)在業(yè)界率先量產(chǎn) 12 層 HBM3E 后，將滿足人工智能企業(yè)日益增長(zhǎng)的需求，并繼續(xù)保持其在人工智能存儲(chǔ)器市場(chǎng)的領(lǐng)先地位。

SK 海力士總裁 Justin Kim 表示：「SK 海力士再次突破了 AI 內(nèi)存領(lǐng)域的技術(shù)限制，展示了我們?cè)?AI 內(nèi)存領(lǐng)域的行業(yè)領(lǐng)先地位…為了克服人工智能時(shí)代的挑戰(zhàn)，我們將穩(wěn)步準(zhǔn)備下一代內(nèi)存產(chǎn)品，繼續(xù)保持全球第一的地位。」

速度、容量、穩(wěn)定性均達(dá)最高標(biāo)準(zhǔn)

據(jù)該公司介紹，12 層 HBM3E 產(chǎn)品在速度、容量、穩(wěn)定性等人工智能存儲(chǔ)器所必需的所有領(lǐng)域都符合世界最高標(biāo)準(zhǔn)。

SK 海力士將內(nèi)存運(yùn)行速度提高到 9.6 Gbps，這是目前可用的最高內(nèi)存速度。如果大型語(yǔ)言模型 Llama 3 70b 由單個(gè)搭載 4 個(gè) HBM3E 產(chǎn)品的 GPU 驅(qū)動(dòng)，每秒可讀取總計(jì) 700 億個(gè)參數(shù) 35 次。

SK 海力士的 12 層產(chǎn)品和此前同等厚度的 8 層產(chǎn)品相比，容量增加了 50%。為了實(shí)現(xiàn)這一目標(biāo)，該公司將每個(gè) DRAM 芯片比以前薄 40%，并使用 TSV 技術(shù)垂直堆疊。

該公司還通過(guò)應(yīng)用其核心技術(shù) Advanced MR-MUF 工藝，解決了由于將更薄的芯片堆疊得更高而產(chǎn)生的結(jié)構(gòu)問(wèn)題。這使得新一代產(chǎn)品散熱性能比上一代產(chǎn)品高 10%，并通過(guò)增強(qiáng)翹曲控制來(lái)確保產(chǎn)品的穩(wěn)定性和可靠性。

三星進(jìn)展如何？

HBM（高帶寬存儲(chǔ)器）是 GPU 的關(guān)鍵組件，有助于處理復(fù)雜應(yīng)用程序產(chǎn)生的大量數(shù)據(jù)，芯片垂直堆疊技術(shù)可以在節(jié)省空間的同時(shí)降低功耗。

目前，HBM 的主要制造商只有三個(gè)——SK 海力士、美光科技和三星電子。其中，三星電子于今年 2 月首次推出了 HBM3E 12H。

三星 HBM3E 12H 支持全天候最高帶寬達(dá) 1280GB/s，產(chǎn)品容量也達(dá)到了 36GB。相比三星 8 層堆疊的 HBM3 8H，HBM3E 12H 在帶寬和容量上大幅提升超過(guò) 50%。

「當(dāng)前行業(yè)的人工智能服務(wù)供應(yīng)商越來(lái)越需要更高容量的 HBM，而我們的新產(chǎn)品 HBM3E 12H 正是為了滿足這種需求而設(shè)計(jì)的，」三星電子存儲(chǔ)器產(chǎn)品企劃團(tuán)隊(duì)執(zhí)行副總裁 Yongcheol Bae 表示，「這一新的存儲(chǔ)解決方案是我們研發(fā)多層堆疊 HBM 核心技術(shù)以及在人工智能時(shí)代為高容量 HBM 市場(chǎng)提供技術(shù)領(lǐng)導(dǎo)力而努力的一部分。」

HBM3E 12H 采用了先進(jìn)的熱壓非導(dǎo)電薄膜（TC NCF）技術(shù)，使得 12 層和 8 層堆疊產(chǎn)品的高度保持一致，以滿足當(dāng)前 HBM 封裝的要求。因?yàn)樾袠I(yè)正在尋找緩解薄片帶來(lái)的芯片彎曲問(wèn)題，這項(xiàng)技術(shù)將在更高的堆疊中帶來(lái)更多益處。三星一直在努力降低其非導(dǎo)電薄膜（NCF）材料的厚度，并實(shí)現(xiàn)芯片之間的間隙最小化至 7 微米（μm），同時(shí)消除了層與層之間的空隙。這些努力使其 HBM3E 12H 產(chǎn)品的垂直密度比其 HBM3 8H 產(chǎn)品提高了 20% 以上。

三星先進(jìn)的熱壓非導(dǎo)電薄膜（TC NCF）技術(shù)還通過(guò)允許在芯片之間使用不同尺寸的凸塊（bump）改善 HBM 的熱性能。在芯片鍵合（chip bonding）過(guò)程中，較小凸塊用于信號(hào)傳輸區(qū)域，而較大凸塊則放置在需要散熱的區(qū)域。這種方法有助于提高產(chǎn)品的良率。

隨著人工智能應(yīng)用的指數(shù)級(jí)增長(zhǎng)，HBM3E 12H 有望成為未來(lái)系統(tǒng)的優(yōu)選解決方案，滿足系統(tǒng)對(duì)更大存儲(chǔ)的需求。憑借超高性能和超大容量，HBM3E 12H 將幫助客戶更加靈活地管理資源，同時(shí)降低數(shù)據(jù)中心的總體擁有成本（TCO）。相比 HBM3 8H，HBM3E 12H 搭載于人工智能應(yīng)用后，預(yù)計(jì)人工智能訓(xùn)練平均速度可提升 34%，同時(shí)推理服務(wù)用戶數(shù)量也可增加超過(guò) 11.5 倍。

關(guān)于量產(chǎn)進(jìn)度，三星表示已開(kāi)始向客戶提供 HBM3E 12H 樣品，預(yù)計(jì)于今年下半年開(kāi)始大規(guī)模量產(chǎn)。