HBM（高帶寬內(nèi)存）技術(shù)展望：2024年及以后

HBM（高帶寬內(nèi)存）技術(shù)是即將到來的“內(nèi)存內(nèi)計算/處理”時代的一種“近內(nèi)存計算（Near Memory Computing）/處理”階段。由于人工智能/機(jī)器學(xué)習(xí)的高需求，三星、SK海力士和美光這三大內(nèi)存制造商正在HBM技術(shù)的開發(fā)上競相角逐。HBM是一種具有高帶寬和寬通道的3D堆疊DRAM器件，這意味著它非常適合高性能計算（HPC）、高性能圖形處理單元（GPU）、人工智能和數(shù)據(jù)中心應(yīng)用所需的高能效、高性能、大容量和低延遲內(nèi)存。因此，對于內(nèi)存制造商而言，硅通孔（TSV）工藝集成和3D HBM DRAM芯片堆疊技術(shù)是最重要的關(guān)鍵詞。隨著HBM DRAM制造商為每一代產(chǎn)品開發(fā)和采用新技術(shù)，我們預(yù)計即將推出的HBM4（2025-2026年）和HBM4E（2027-2028年）器件將擁有48GB甚至64GB，16Hi和1.6TB/s或更高。

在HBM技術(shù)和產(chǎn)品方面，英偉達(dá)推出了配備HBM2E和HBM3器件的Hoper H100 Tensor Core GPU、Grace Hopper GH100和GH200。請參考SK海力士在市場上所有世代（HBM1、HBM2、HBM2E、HBM3、HBM3E和HBM4）HBM DRAM芯片的功能摘要[1]。自2013年以來，SK海力士發(fā)布了用于AMD和英偉達(dá)GPU的HBM芯片。帶寬從HBM Gen1的約1 Gbps和HBM Gen2的2 Gbps，增加到HBM2E的3.6 Gbps，再到現(xiàn)在的HBM3的6.4 Gbps和HBM3E的9.6 Gbps。
對于Gen1和Gen2 HBM器件，SK海力士在HBM DRAM芯片堆疊中采用了TC-NCF方法，而對于Gen3和Gen4則采用了MR-MUF工藝。SK海力士在此基礎(chǔ)上進(jìn)行了更多優(yōu)化，并為Gen5開發(fā)了先進(jìn)的MR-MUF以改善散熱。即將推出的Gen6 HBM4可能會結(jié)合使用這種技術(shù)和新的混合鍵合技術(shù)。