新聞中心

EEPW首頁 > 智能計算 > 業(yè)界動態(tài) > AI加速器對抗 AMD面對英偉達不落下風

AI加速器對抗 AMD面對英偉達不落下風

作者: 時間:2025-03-27 來源:中時電子報 收藏

「買愈多、省愈多」的話語權輪到發(fā)聲! 根據近期業(yè)者公布AI服務器測試結果顯示,MI300X在相同條件下,達到H200 5倍之Tokens(參數(shù))吞吐量。 得益于在ROCm生態(tài)系導入的新AI Tensor Engine(張量引擎),加速GPU訓練及推理; 另外,在硬件層面大量堆疊HBM也發(fā)揮關鍵作用。 未來在成本更加錙銖必較的情況下, AI服務器更顯優(yōu)勢。

本文引用地址:http://2s4d.com/article/202503/468708.htm

平價語言模型的崛起,正在重塑GPU市場生態(tài),阿里巴巴首開全球數(shù)據中心算力過剩第一槍,業(yè)界分析,未來成本更加被檢視情況下,AMD AI服務器價值將重獲市場重視。 過往自豪的CUDA生態(tài)護城河,AMD強化ROCm補齊短版,最新推出的AI Tensor Engine,搭配更佳的硬體規(guī)格,與主流業(yè)者一決雌雄。

法人分析,臺廠于AI服務器供應鏈扮演重要角色,硬件組裝具競爭優(yōu)勢,因此包括鴻海、廣達,散熱業(yè)者奇鋐、雙鴻等也能吃到AMD服務器訂單。 晶片也委托臺積電生產,但相較,AMD更敢于嘗試新技術,MI300領先市場采用采用SoIC搭配CoWoS,今年將推出的MI350X以臺積電3納米制程打造,并用上HBM3E,更大的吞吐量、使推理性能將前一代提高35倍。

AMD之MI300X在DeepSeek-R1推理性能表現(xiàn)突出,結果顯示,MI300X運行FP8最高參數(shù)版本之DeepSeek-R1時,在相同延遲下吞吐量最高可達輝達H200之5倍,科技業(yè)者指出,H200單一節(jié)點可處理16個請求、MI300X則可處理128個。

AMD原先預估今年上半年AI業(yè)務收入將持平,不過,受中國大陸特規(guī)版MI308強勁需求推動,法人透露,CSP的資本支出成長及阿里巴巴和騰訊的采用,將推動AMD今年AI業(yè)務收入成長至87億美元,相較去年50億美元、大幅成長7成。 在消費性產品部分,Radeon 9070系列發(fā)布帶動,AMD游戲GPU預計表現(xiàn)強勁,該系列GPU在光追性能方面大幅提升,并引入全新的AI加速性能,第二季表現(xiàn)可期。



關鍵詞: AI加速器 AMD 英偉達

評論


相關推薦

技術專區(qū)

關閉