單價炒到4萬美元!傳馬斯克已購入數(shù)千片英偉達H100
導讀:近日據(jù)CNBC報道,由于ChatGPT等語言模型火爆,英偉達最先進的H100在eBay上的單片售價超過了4萬美元,而此前零售商的售價約為3.6萬美元。
圖:英偉達H100計算卡
H100是NVIDIA在2022年發(fā)布的旗艦AI芯片,取代了一直被稱為AI應用“主力軍”的芯片A100,與A100相比,H100的能效提高了3.5倍,價格也從1萬美元上漲到超過3萬美元。
NVIDIA黃仁勛曾經(jīng)表示,20塊H100 GPU就可承托全球互聯(lián)網(wǎng)的流量。
芯片大師曾報道ChatGPT等火爆,英偉達增加A100等旗艦GPU投片,開發(fā)人員正在使用H100來構建所謂的大型語言模型(LLMs)。
據(jù)報道,特斯拉CEO埃隆·馬斯克在美國內華達州成立了一家名為X.AI的人工智能公司,旨在與Open AI展開競爭。據(jù)說馬斯克為了新項目已經(jīng)從NVIDIA購買了數(shù)千顆高性能GPU。
圖:單價被炒到4萬美元的H100
3D游戲先驅、前Meta consulting技術主管約翰·卡馬克在Twitter上提到英偉達H100的漲價,上周五,至少有8個H100在eBay掛牌出售,價格從39995美元到46000美元不等。
而訓練一個AI語言模型,尤其是像GPT這樣的大型模型,需要數(shù)百個高端GPU協(xié)同工作。比如微軟就斥資數(shù)億美元購買了數(shù)萬顆Nvidia A100芯片,幫助打造ChatGPT。
根據(jù)最近的爆料,為了創(chuàng)建和維持ChatGPT所需的人工智能分析數(shù)據(jù)的龐大數(shù)據(jù)庫,開發(fā)商OpenAI使用了10000個英偉達的GPU進行相關的訓練。而為了支持實際應用,滿足服務器的需求,OpenAI已使用了約2.5萬個英偉達的GPU,隨著需求的增加未來預計還會增加。
圖:售價數(shù)百萬的英偉達DGX
此外,Nvidia還提供了一臺帶有八顆GPU的超級計算機,稱為DGX。年初英偉達宣布推出新服務,允許公司以每月37,000美元的價格租用DGX——該系統(tǒng)將使用Nvidia A100芯片。如果要購買,不同配置的DGX售價將高達數(shù)百萬元。
行業(yè)專家表示,要構建比目前可用的模型更大、數(shù)據(jù)需求量更大的模型,將需要更強大的芯片。
同時,由于當前AI算力稀缺,高端GPU的價格和行情仍將上漲。
*博客內容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權請聯(lián)系工作人員刪除。