博客專欄

EEPW首頁 > 博客 > 存儲(chǔ)芯片巨頭,開啟AI算力爭霸賽

存儲(chǔ)芯片巨頭,開啟AI算力爭霸賽

發(fā)布人:芯東西 時(shí)間:2023-08-01 來源:工程師 發(fā)布文章
巨頭排隊(duì)瘋搶、價(jià)格一路暴漲,HBM乘上生成式AI快車。

作者 |  ZeR0
編輯 |  漠影
韓國存儲(chǔ)芯片巨頭們正在打一場(chǎng)翻身仗。盡管從最新財(cái)報(bào)來看,存儲(chǔ)芯片復(fù)蘇未見好轉(zhuǎn),供應(yīng)過剩導(dǎo)致營業(yè)利潤大幅下降,但這些存儲(chǔ)芯片巨頭們的股價(jià)均在上周上漲。力挽狂瀾的核心功臣,便是逐漸成為數(shù)據(jù)中心AI訓(xùn)練必備組件的AI相關(guān)內(nèi)存芯片——高帶寬內(nèi)存(HBM)因生成式AI開發(fā)和商業(yè)化競爭加劇,第二季度對(duì)AI相關(guān)內(nèi)存的需求大幅增加。HBM的受關(guān)注程度,在上周SK海力士和三星發(fā)布最新財(cái)報(bào)后舉行的電話會(huì)議期間可見一斑,分析師們就HBM相關(guān)進(jìn)展和后續(xù)規(guī)劃密集發(fā)問。自去年英偉達(dá)發(fā)布世界首款采用HBM3的GPU H100以來,HBM3及更先進(jìn)HBM芯片的熱度一直居高不下。據(jù)英國《金融時(shí)報(bào)》援引兩位接近SK海力士的消息人士報(bào)道,英偉達(dá)和AMD要求SK海力士提供尚未量產(chǎn)的下一代HBM3E芯片的樣品。英偉達(dá)已要求SK海力士盡快供應(yīng)HBM3E,并愿意支付“溢價(jià)”。

圖片

▲英偉達(dá)GPU及其他AI芯片HBM采用情況(圖源:SemiAnaysis

雖說今年縮減開支是重頭戲,但存儲(chǔ)芯片巨頭們?cè)贖BM方向的投資仍相當(dāng)舍得——合計(jì)掌控著全球90%HBM芯片市場(chǎng)的兩家大廠SK海力士和三星均表態(tài),計(jì)劃明年將HBM芯片產(chǎn)量提高一倍,并為了更好應(yīng)對(duì)HBM不斷增長的需求,而減少其他類別存儲(chǔ)芯片的投資
01.英偉達(dá)AMD微軟亞馬遜排隊(duì)坐等用上HBM3E


高帶寬內(nèi)存(HBM)屬于DRAM的一類分支,使用堆疊技術(shù)來提高圖形處理器(GPU)等計(jì)算芯片的帶寬和性能,相比傳統(tǒng)DRAM芯片產(chǎn)品具有尺寸更小、功耗更低、帶寬更高、處理數(shù)據(jù)速度更快等優(yōu)勢(shì)。

圖片

 ▲2015年AMD介紹新型存儲(chǔ)芯片HBM(圖源:AMD)

HBM最初用于高端游戲顯卡,目前在全球動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器(DRAM)市場(chǎng)中占有的市場(chǎng)份額較小,但潛力非常可觀。隨著云計(jì)算及生成式AI服務(wù)的發(fā)展,全球大型科技公司將越來越多地使用HBM,來快速處理快速增長的數(shù)據(jù)。據(jù)芯片行業(yè)咨詢公司SemiAnalysis披露,HBM的價(jià)格大約是標(biāo)準(zhǔn)DRAM芯片的5倍,利潤豐厚,預(yù)計(jì)到HBM占全球內(nèi)存收入的比例將從目前的不到5%增長到2026年的20%以上。自2013年開發(fā)全球首款HBM芯片以來,全球第二大存儲(chǔ)芯片巨頭SK海力士一直處于HBM領(lǐng)先地位。這也是SK海力士首次在內(nèi)存技術(shù)競賽中領(lǐng)先于三星。隨后兩家韓企進(jìn)入激烈的HBM搶位賽,爭相開始量產(chǎn)HBM2、HBM2E等芯片。2022年6月,SK海力士宣布開始量產(chǎn)業(yè)界首款HBM3內(nèi)存,與英偉達(dá)H100 GPU配合使用,預(yù)計(jì)將于2022年第三季度發(fā)貨。該內(nèi)存將為H100提供高達(dá)819GB/s的內(nèi)存帶寬。

圖片

▲歷代HBM性能演進(jìn)(圖源:SK海力士和Rambus)

目前SK海力士是目前唯一一家批量出貨HBM3的供應(yīng)商,擁有超過95%的市場(chǎng)份額。它正在為AMD MI300X和英偉達(dá)H100生產(chǎn)數(shù)據(jù)速率為5.6GT/s的12層24GB HBM3。今年一開年,HBM3便呈大熱之勢(shì),訂單迅速增加。2月份有報(bào)道稱,據(jù)市場(chǎng)人士透露,HBM3價(jià)格近期上漲了5倍。隨后在5月30日,SK海力士乘勝追擊推出最新的HBM3E,每個(gè)堆棧的帶寬從HBM3的819GB/s增加到1TB/s,將于明年上半年投入生產(chǎn),據(jù)說英偉達(dá)、AMD、微軟、亞馬遜等芯片大廠正排隊(duì)搶貨。這驅(qū)動(dòng)HBM價(jià)格進(jìn)一步大幅上漲。據(jù)行研機(jī)構(gòu)TrendForce的數(shù)據(jù),SK海力士2022年在全球HBM市場(chǎng)占有50%的份額,三星以40%的份額緊隨其后,美國存儲(chǔ)芯片巨頭對(duì)手美光以10%的份額排名第三SK海力士披露,生成式AI市場(chǎng)的擴(kuò)張已迅速推高對(duì)AI服務(wù)器內(nèi)存的需求。在AI相關(guān)需求激增的驅(qū)動(dòng)下,上周三,SK海力士報(bào)告其今年第二季度同比由盈轉(zhuǎn)虧,營業(yè)虧損為2.88萬億韓元,其股價(jià)上周卻上漲了12%。

圖片

▲過去半年SK海力士股價(jià)變化

次日,三星宣布第二季度營業(yè)利潤為6685億韓元,同比下降95%。受益于最新一代HBM3芯片在內(nèi)的高端內(nèi)存技術(shù)訂單激增,三星股價(jià)周四上漲了2.4%,然后又有所回落。

圖片

▲過去半年三星電子股價(jià)變化

TrendForce預(yù)測(cè),2023年全球HBM芯片需求將增長60%,達(dá)到2.9億GB,明年將再增長30%,2025年整體市場(chǎng)有望達(dá)20億美元以上。預(yù)計(jì)明年SK海力士將占據(jù)HBM市場(chǎng)53%的份額,其次是三星(38%)和美光(9%)。
02.AI服務(wù)器使用的內(nèi)存比傳統(tǒng)服務(wù)器至少多出1~8倍


在財(cái)報(bào)電話會(huì)議上,SK海力士首席財(cái)務(wù)官Kim Woohyun說:“與傳統(tǒng)服務(wù)器相比,AI服務(wù)器使用的內(nèi)存至少多出1~8倍,以實(shí)現(xiàn)更快的計(jì)算處理,并采用HBM等高性能內(nèi)存產(chǎn)品,這不僅會(huì)推動(dòng)需求,而且對(duì)盈利能力產(chǎn)生了積極影響。他談道,從今年年初開始,智能手機(jī)、個(gè)人電腦和服務(wù)器的需求一直疲軟。但從第二季度開始,AI服務(wù)器的需求急劇上升,抵消了其他產(chǎn)品需求的部分損失。自第二季度以來,生成式AI引發(fā)的對(duì)高端服務(wù)器的需求迅速增加。相應(yīng)地,高密度DDR5和HBM產(chǎn)品的需求也在快速增長。三星內(nèi)存業(yè)務(wù)執(zhí)行副總裁Jaejune Kim在三星財(cái)報(bào)電話會(huì)議上談到第二季度在服務(wù)器方面的內(nèi)存需求,由于對(duì)生成式AI的強(qiáng)勁需求,數(shù)據(jù)中心領(lǐng)域的投資在有限的資本支出中集中在AI服務(wù)器上,對(duì)通用服務(wù)器和存儲(chǔ)的需求相對(duì)有限。今年隨著企業(yè)投資水平的降低,存儲(chǔ)芯片客戶將重點(diǎn)放在昂貴的AI服務(wù)器上的投資,對(duì)傳統(tǒng)服務(wù)器的投資可能會(huì)暫時(shí)下降。不過,SK海力士分析預(yù)測(cè),通用服務(wù)器仍將廣泛用于AI服務(wù)的開發(fā)、部署和運(yùn)營,因此從長遠(yuǎn)來看也將刺激通用服務(wù)器的需求增長據(jù)Kim Woohyun披露,SK海力士的圖形DRAM銷售額(包括HBM產(chǎn)品)此前僅占DRAM銷售額的個(gè)位數(shù)百分比。但自從去年第四季度達(dá)到DRAM銷售額的10%以來,這一比例迅速增長到第二季度超過20%。SK海力士用于AI服務(wù)器的HBM和高密度DDR5模塊的銷量大幅增長。該公司預(yù)計(jì)今年HBM的銷量預(yù)計(jì)將比去年增長兩倍以上,并預(yù)計(jì)明年將進(jìn)一步增長。
03.今明HBM需求預(yù)計(jì)陡峭增漲兩家大廠披露HBM最新路線圖


業(yè)內(nèi)專家表示,由于調(diào)整產(chǎn)能需要時(shí)間,未來兩年HBM供應(yīng)預(yù)計(jì)仍將緊張,而快速增加HBM產(chǎn)量也很困難,因?yàn)樗枰獙iT的生產(chǎn)線。SK海力士和三星給出了相近的產(chǎn)業(yè)趨勢(shì)解讀:內(nèi)存需求一直在從去年創(chuàng)紀(jì)錄的低增長水平中復(fù)蘇,當(dāng)前復(fù)蘇尚不足以使全行業(yè)庫存水平恢復(fù)正常,上半年庫存水平仍較高,但庫存已經(jīng)見頂,并預(yù)測(cè)隨著減產(chǎn)效果進(jìn)一步顯現(xiàn),下半年存儲(chǔ)芯片需求將較上半年有所改善。為了進(jìn)一步加速庫存正?;?,兩家存儲(chǔ)芯片大廠都在選擇性地對(duì)DRAM和NAND的某些產(chǎn)品進(jìn)行額外的生產(chǎn)調(diào)整,下半年重點(diǎn)抓盈利能力,專注于高附加值和高密度產(chǎn)品來優(yōu)化其產(chǎn)品組合,特別是加強(qiáng)銷售組合中HBM、DDR5等高價(jià)值前沿產(chǎn)品的份額的增長,減少庫存水平較高、盈利能力不及DRAM的NAND的產(chǎn)量。

圖片

▲SK海力士在財(cái)報(bào)電話會(huì)議期間披露公司后續(xù)規(guī)劃,將支持高密度和HBM產(chǎn)品需求

SK海力士相信第三季度AI服務(wù)器需求將持續(xù)增漲,特別是高密度DDR模塊和HBM,這兩款產(chǎn)品的收入有望在下半年比上半年增速更高,HBM的需求將在明年保持相當(dāng)健康的增長。近期,特別是隨著超大規(guī)模企業(yè)對(duì)生成式AI服務(wù)的競爭加劇,三星收到了來自此類客戶的大量需求,預(yù)計(jì)今年和明年HBM的需求可能會(huì)出現(xiàn)相當(dāng)陡峭的增長。目前SK海力士的首要任務(wù)是投資增加HBM的大規(guī)模生產(chǎn)。該公司剛剛對(duì)今年年初制定的有關(guān)技術(shù)產(chǎn)能組合的規(guī)劃進(jìn)行了調(diào)整,以應(yīng)對(duì)對(duì)高密度DDR5和HBM不斷增長的需求。對(duì)于HBM路線圖來說,重要的是與GPU的發(fā)布或領(lǐng)先加速器市場(chǎng)的公司的時(shí)間表保持一致。SK海力士預(yù)計(jì)將在2026年某個(gè)時(shí)候轉(zhuǎn)向HBM Gen 4,并正為此做準(zhǔn)備。根據(jù)其路線圖,明年下半年將是HBM3E量產(chǎn)期,也是HBM3E的供應(yīng)擴(kuò)大期。今年SK海力士的重點(diǎn)是增加HBM量產(chǎn)所需的1Z納米的比例,還準(zhǔn)備增加1B納米產(chǎn)能和TSV產(chǎn)能,為明年上半年開始供貨的HBM3E做準(zhǔn)備。為了與市場(chǎng)增長預(yù)期保持一致,三星一直在擴(kuò)展其HBM業(yè)務(wù),產(chǎn)品方面擁有向主要客戶獨(dú)家供應(yīng)HBM2的記錄,后續(xù)還就HBM2E開展業(yè)務(wù),計(jì)劃2023年下半年開始大規(guī)模生產(chǎn)HBM3。三星HBM3正在接受具有行業(yè)頂級(jí)性能和密度或容量的客戶資格認(rèn)證,已開始向主要的AI SoC公司和云計(jì)算公司發(fā)貨8層16GB和12層24GB產(chǎn)品。具有更高性能和容量的三星下一代HBM3P芯片計(jì)劃于今年晚些時(shí)候發(fā)布。

圖片

▲三星HBM3介紹(圖源:SemiAnalysis)

三星還一直投資HBM生產(chǎn)能力,基于此已經(jīng)預(yù)訂了大約10億或十億中值Gb級(jí)的客戶需求,大約是去年的兩倍,并正在通過提高生產(chǎn)力來進(jìn)一步提高供應(yīng)能力,到2024年計(jì)劃將HBM產(chǎn)能增加至少是2023年水平的兩倍。另據(jù)此前報(bào)道,三星擬投資1萬億韓元擴(kuò)產(chǎn)HBM。對(duì)于三星來說,它雖然在HBM競爭的反應(yīng)比SK海力士慢半拍,但考慮到通常AI芯片與HBM存儲(chǔ)器一起集成到單個(gè)封裝中,三星擁有一個(gè)其他芯片企業(yè)所不具備的優(yōu)勢(shì)——兼具先進(jìn)GAA工藝技術(shù)、HBM技術(shù)和先進(jìn)封裝技術(shù)。如果未來三星能夠推出最大化發(fā)揮這三類關(guān)鍵技術(shù)協(xié)同效應(yīng)的解決方案,這有望成為未來三星在AI算力市場(chǎng)競爭中的關(guān)鍵壁壘。
04.結(jié)語:存儲(chǔ)芯片巨頭打響HBM爭霸賽


隨著云計(jì)算和生成式AI服務(wù)越來越受歡迎,對(duì)HBM等高性能內(nèi)存芯片的需求與日俱增。在HBM價(jià)格不斷上漲的情況下,英偉達(dá)等芯片巨頭仍在預(yù)訂更多HBM產(chǎn)能來滿足其GPU需求,這導(dǎo)致HBM3芯片的供給更加緊俏。在今年資本支出大幅下降的情況下,在HBM市場(chǎng)領(lǐng)先的SK海力士正通過提高生產(chǎn)力、加快設(shè)備交付時(shí)間和削減其他領(lǐng)域的投資等努力,確保HBM3的產(chǎn)能和投資。穩(wěn)居全球存儲(chǔ)芯片第一的三星,自然不甘在HBM這一極具前景的細(xì)分市場(chǎng)屈居于SK海力士身后,亦加大馬力爭取新訂單并專注于HBM等高附加值產(chǎn)品的銷售。全球排名第三的美國存儲(chǔ)芯片巨頭美光科技也在上周面向AI客戶發(fā)布了最新DRAM四年路線圖,包括用于AI和高性能計(jì)算應(yīng)用的HBMNext。到2024年,美光科技HBM3E預(yù)計(jì)將在第三季度/第四季度開始出貨。

圖片

▲美光科技披露面向AI基礎(chǔ)設(shè)施需求的解決方案路線圖

存儲(chǔ)芯片巨頭們正在嚴(yán)陣以待,通過加大在先進(jìn)技術(shù)突破和擴(kuò)大產(chǎn)能方面的投資,為持續(xù)到來的HBM等支持大規(guī)模數(shù)據(jù)處理的高性能內(nèi)存產(chǎn)品的需求激增做好準(zhǔn)備。SK海力士能否在HBM技術(shù)和市場(chǎng)保持領(lǐng)先身位、長期掌握議價(jià)權(quán),也是業(yè)界強(qiáng)烈關(guān)注的焦點(diǎn)。


*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。



關(guān)鍵詞: 算力爭霸賽

技術(shù)專區(qū)

關(guān)閉