博客專欄

EEPW首頁 > 博客 > AI服務(wù)器需求帶動存儲器出貨量,韓企廠商大吃紅利 | 百能云芯

AI服務(wù)器需求帶動存儲器出貨量,韓企廠商大吃紅利 | 百能云芯

發(fā)布人:百能云芯 時(shí)間:2023-04-18 來源:工程師 發(fā)布文章

 

AI服務(wù)器出貨動能強(qiáng)勁帶動HBMhigh bandwidth memory高頻寬存儲器需求提升,預(yù)計(jì)2023AI服務(wù)器出貨量年增15.4%。


伺服器.jpg

據(jù)TrendForce研究顯示,2022年三大原廠HBM市占率分別為SK海力士(SK hynix)50%、三星電子(Samsung)40%、美光科技(Micron)10%。此外,高級深度學(xué)習(xí)AI GPU的規(guī)格也刺激HBM產(chǎn)品更迭,2023下半年伴隨NVIDIA H100AMD MI300的搭載,三大原廠也已規(guī)劃相對應(yīng)規(guī)格HBM3的量產(chǎn)。因此,在今年有更多客戶將導(dǎo)入HBM3的預(yù)期下,SK海力士作為目前唯一量產(chǎn)新世代HBM3產(chǎn)品的供應(yīng)商,其整體HBM市占率可望此提升至53%,而三星、美光則預(yù)計(jì)陸續(xù)在今年底至明年初量產(chǎn),HBM市占率分別為38%9%

 

目前英偉達(dá)NVIDIA所定義的DL/ MLAI服務(wù)器平均每臺均搭載4張或8高級顯卡,搭配兩顆主流型號的x86服務(wù)器CPU,而主要拉貨力道來自于美系云端業(yè)者Google、AWS、MetaMicrosoft。據(jù)TrendForce統(tǒng)計(jì),2022高級搭載GPGPU的服務(wù)器出貨量年增約9%,其中近80%的出貨量均集中在中、美系八大云端業(yè)者。展望2023年,微軟Microsoft、臉書Meta、百度字節(jié)跳動相繼推出基于生成式AI衍生的產(chǎn)品服務(wù)而積極加單,預(yù)估今年AI服務(wù)器出貨量年增率可望達(dá)15.4%,2023~2027AI服務(wù)器出貨量年復(fù)合成長率約12.2%。

 

根據(jù)TrendForce調(diào)查,AI服務(wù)器可望帶存儲器需求成長,以現(xiàn)階段而言,Server DRAM普遍配置約為500~600GB左右,而AI服務(wù)器在單條模組上則多采64~128GB,平均容量可達(dá)1.2~1.7TB之間。以Enterprise SSD而言,由于AI服務(wù)器追求的速度更高,其要求往往優(yōu)先DRAMHBM滿足,在SSD固態(tài)硬盤的容量提升上則呈現(xiàn)非必要擴(kuò)大容量的態(tài)勢,但在傳輸界面上,則會為了高速運(yùn)算的需求而優(yōu)先采用PCIe 5.0。而相較于一般服務(wù)器而言,AI服務(wù)器多增加GPGPU的使用,因此以英偉達(dá)NVIDIA A100 80GB配置48張采計(jì),HBM用量約為320~640GB。未來在AI模型逐漸復(fù)雜化的趨勢下,將刺激更多的存儲器用量,并同步帶動Server DRAMSSD以及HBM的需求成長。

 

*免責(zé)聲明:文章來源于網(wǎng)絡(luò),如有爭議,請聯(lián)系客服。


*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請聯(lián)系工作人員刪除。




相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉