博客專欄

EEPW首頁 > 博客 > Meta全新自研AI芯片曝光:性能相比MTIA v1提升了3倍!

Meta全新自研AI芯片曝光:性能相比MTIA v1提升了3倍!

發(fā)布人:芯智訊 時間:2024-04-29 來源:工程師 發(fā)布文章

image.png

4月11日消息,在英特爾、谷歌相繼推出最新的AI芯片之后,Meta于當(dāng)?shù)貢r間10日也公布了全新的自研AI芯片“下一代MTIA”(Next Gen MTIA)。

去年,Meta推出的首款自研AI芯片MTIA(MTIA v1)采用的是臺積電7nm制程,而下一代MTIA同樣是交由臺積電代工,不過制程工藝升級到了5nm。并且,下一代MTIA配備更多處理核心,片內(nèi)存儲(on-chip memory)也翻倍到了256MB(MTIA v1 僅有128MB),off-chip LPDDR5也提高到了128GB(MTIA v1 為 64GB),主頻也從800MHz上升到了1.35GHz,當(dāng)然功耗也增加到了90W(MTIA v1 為 25W)。

Meta表示,在四個關(guān)鍵模型中,“下一代MTIA”性能比MTIA v1提升了3倍,“由于我們控制整個堆疊,所以與商用GPU相比,可以達(dá)成更高的運(yùn)算效率?!?/p>

Meta透露,“下一代MTIA”目前已投入16個數(shù)據(jù)中心區(qū)域使用。不過,目前Meta還沒有使用“下一代MTIA”訓(xùn)練生成式AI,盡管該公司聲稱有多項(xiàng)項(xiàng)目正在進(jìn)行。此外,Meta承認(rèn)“下一代MTIA”不會取代目前用于訓(xùn)練模型的GPU,而是補(bǔ)充運(yùn)算資源。

對于頭部的云服務(wù)廠商來說,亞馬遜已經(jīng)推出了多款自研AI芯片和Arm服務(wù)器CPU。微軟去年也已AI芯片Azure Maia 100和服務(wù)器CPU Azure Cobalt 100。谷歌近日也向Google Cloud客戶推出用于訓(xùn)練AI模型的TPU v5p,并發(fā)布了首款為數(shù)據(jù)中心設(shè)計(jì)的Arm構(gòu)架Axion CPU。

Meta近年不遺余力加強(qiáng)AI技術(shù)開發(fā),自行研發(fā)定制化AI芯片以滿足自身的運(yùn)算需求。該公司一直是英偉達(dá)H100 GPU的大客戶,今年底前Meta運(yùn)算基礎(chǔ)設(shè)施預(yù)計(jì)采購達(dá)到35萬顆H100。同時Meta也在加速推進(jìn)自研MTIA系列AI芯片的進(jìn)程,以降低對于英偉達(dá)的依賴,并降低采購成本。

編輯:芯智訊-林子


*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點(diǎn),如有侵權(quán)請聯(lián)系工作人員刪除。



關(guān)鍵詞: 芯片

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉