ai gpu 文章進(jìn)入ai gpu技術(shù)社區(qū)

英偉達(dá)推出 Tensor RT-LLM，使大語(yǔ)言模型在搭載 RTX 的 PC 平臺(tái)上運(yùn)行速度提高 4 倍

IT之家 10 月 18 日消息，英偉達(dá)是硬件領(lǐng)域的生成型人工智能之王，該公司的 GPU 為微軟、OpenAI 等公司的數(shù)據(jù)中心提供動(dòng)力，運(yùn)行著 Bing Chat、ChatGPT 等人工智能服務(wù)。今天，英偉達(dá)宣布了一款新的軟件工具，旨在提升大型語(yǔ)言模型（LLM）在本地 Windows PC 上的性能。在一篇博客文章中，英偉達(dá)宣布了其 TensorRT-LLM 開源庫(kù)，這個(gè)庫(kù)之前是為數(shù)據(jù)中心發(fā)布的，現(xiàn)在也可以用于 Windows PC。最大的特點(diǎn)是，如果 Windows PC 配備英偉達(dá) GeF
關(guān)鍵字：英偉達(dá) GPU 人工智能

英偉達(dá)下一代GPU：Blackwell B100將采用HBM3E顯存，計(jì)劃于明年第二季度左右發(fā)布

今年8月，SK海力士宣布開發(fā)出了全球最高規(guī)格的HBM3E內(nèi)存，并將從明年上半年開始投入量產(chǎn)，目前已經(jīng)開始向客戶提供樣品進(jìn)行性能驗(yàn)證。據(jù)MT.co.kr報(bào)道，繼第4代產(chǎn)品HBM3之后，SK海力士將向英偉達(dá)獨(dú)家供應(yīng)第五代高帶寬內(nèi)存HBM3E，此舉有望進(jìn)一步鞏固其作為AI半導(dǎo)體公司的地位。據(jù)半導(dǎo)體業(yè)界15日消息，SK海力士將于明年初向英偉達(dá)提供滿足量產(chǎn)質(zhì)量要求的HBM3E內(nèi)存，并開展最終的資格測(cè)試。一位半導(dǎo)體行業(yè)高管表示，“沒有HBM3E，英偉達(dá)就無(wú)法銷售B100”，“一旦質(zhì)量達(dá)到要求，合同就只是時(shí)間問(wèn)題。”據(jù)
關(guān)鍵字：英偉達(dá) GPU Blackwell B100 HBM3E 顯存

?GPU市場(chǎng)開始分化，中國(guó)迎來(lái)更多商機(jī)

最近，關(guān)于 GPU，或與 GPU 相關(guān)的消息不斷，例如，OpenAI 正探索自研 AI 芯片，微軟將在今年 11 月推出自研的 AI 芯片，三星推出 Exynos 2400 處理器，自研的 GPU 再次升級(jí)，等等。這些都是市場(chǎng)和廠商尋求更多變化的體現(xiàn)。在全球半導(dǎo)體行業(yè)整體不景氣的 2023 年，只有 AI 服務(wù)器系統(tǒng)和相關(guān)芯片一枝獨(dú)秀，而 AI 服務(wù)器使用的處理器多數(shù)是 GPU，不幸的是（對(duì)于多數(shù) GPU 廠商而言），在這一僅有的優(yōu)秀市場(chǎng)，多數(shù)廠商都只能喝湯，有的甚至連湯都喝不上，唯一大口吃肉的是英偉達(dá)。
關(guān)鍵字： GPU

英偉達(dá)的突飛猛進(jìn)而變動(dòng)的半導(dǎo)體行業(yè)

進(jìn)入10月，2023年也逐漸聽到了年末的腳步聲。以半導(dǎo)體為首的電子器件行業(yè)在23年也發(fā)生了各種各樣的事情。其中本人關(guān)注的十七年就是是英偉達(dá)的突飛猛進(jìn)。在GPU的世界份額排行榜上，“突飛猛進(jìn)”一詞可能不適合全球半導(dǎo)體排名前十的英偉達(dá)，但英偉達(dá)23年的業(yè)務(wù)擴(kuò)張屬實(shí)讓人震撼。成為那個(gè)導(dǎo)火索的是人工智能。在人工智能訓(xùn)練中所使用的服務(wù)器如CHATGPT，都使用了英偉達(dá)的GPU相關(guān)產(chǎn)品作為核心設(shè)備。GPU雖不能像CPU那樣復(fù)雜多樣，但是，GPU擅長(zhǎng)并行處理，能夠高速重復(fù)同樣的計(jì)算，這樣的特征恰好適合于在學(xué)習(xí)過(guò)程中高速
關(guān)鍵字：英偉達(dá) GPU AI

俄羅斯計(jì)劃使用被禁的 Nvidia H100 GPU 構(gòu)建十大超級(jí)計(jì)算機(jī)

俄羅斯有一個(gè)雄心勃勃的計(jì)劃，到 2030 年建造多達(dá) 10 臺(tái)超級(jí)計(jì)算機(jī)，每臺(tái)可能容納 10,000 到 15,000 個(gè) Nvidia H100 GPU。從計(jì)算的角度來(lái)看，這將為國(guó)家提供類似于用于訓(xùn)練 Chat GPT 的性能。總的來(lái)說(shuō)，配備如此多 H100 GPU 的系統(tǒng)可以產(chǎn)生約 450 FP64 TFLOPS，這是 ExaFLOP 的一半，迄今為止只有美國(guó)才能達(dá)到這一超級(jí)計(jì)算機(jī)性能水平。?在“可信基礎(chǔ)設(shè)施”團(tuán)隊(duì)的牽頭下，俄羅斯項(xiàng)目承諾突破計(jì)算能力的界限，每臺(tái)機(jī)器可能配備 10,000
關(guān)鍵字： GPU 超級(jí)計(jì)算機(jī) NVIDIA

GPU定價(jià)更新

Radeon 7800 XT 是這一代最受歡迎的顯卡之一。
關(guān)鍵字： GPU Radeon 7800 XT

AMD 傳放棄高端游戲顯卡、重押 AI，要跟英偉達(dá)「拼了」

GPU 價(jià)格恐飆高。
關(guān)鍵字： AMD RDNA GPU

蘋果首發(fā)3nm芯片，GPU性能暴漲

今日，蘋果舉辦發(fā)布會(huì)，正式推出了包括iPhone 15系列和Apple Watch Series 9 / Ultra 2在內(nèi)的多款產(chǎn)品，其售價(jià)從1999元到13999元不等。其中iPhone 15 Pro/15 Pro Max的最大亮點(diǎn)也是芯片，其搭載的A17 Pro 芯片，也是業(yè)界首款 3 nm芯片。集成了 190 億顆晶體管，晶體管間僅有 12 個(gè)硅原子寬度的縫隙，內(nèi)置六核 CPU的性能是 A16 Bionic 的兩倍，而效率則高達(dá)四倍。作為對(duì)比，A15 有 150 億個(gè)晶體管，A14有118 億個(gè)晶
關(guān)鍵字： 3nm GPU

AI GPU供不應(yīng)求！臺(tái)積電第三次追加設(shè)備訂單

ChatGPT火爆致使人工智能服務(wù)器需求激增，特別是英偉達(dá)的AI GPU需求。為應(yīng)對(duì)CoWoS市場(chǎng)激增得需求以及加強(qiáng)競(jìng)爭(zhēng)，業(yè)界消息顯示，自第二季度以來(lái)，臺(tái)積電已第三次追加設(shè)備訂單。業(yè)界透露，目前臺(tái)積電將訂單可見性從2024年第二季度延長(zhǎng)到年底。一些獨(dú)家供應(yīng)商甚至收到了延續(xù)至2025年的訂單。除了Rudolph、Disco、SUS、ASMPT等國(guó)際設(shè)備巨頭繼續(xù)受益于新增訂單外，Scientech、GPTC等中國(guó)臺(tái)灣設(shè)備制造商也收到了第三波訂單。設(shè)備廠商估算，臺(tái)積電2023年CoWoS總產(chǎn)能逾12萬(wàn)片，202
關(guān)鍵字： AI GPU 臺(tái)積電

碾壓 H100！英偉達(dá) GH200 超級(jí)芯片首秀 MLPerf v3.1，性能躍升 17%

【新智元導(dǎo)讀】傳說(shuō)中的英偉達(dá) GH200 在 MLPerf 3.1 中驚艷亮相，性能直接碾壓 H100，領(lǐng)先了 17%。繼 4 月份加入 LLM 訓(xùn)練測(cè)試后，MLPerf 再次迎來(lái)重磅更新！剛剛，MLCommons 發(fā)布了 MLPerf v3.1 版本更新，并加入了兩個(gè)全新基準(zhǔn)：LLM 推理測(cè)試 MLPerf Inference v3.1，以及存儲(chǔ)性能測(cè)試 MLPerf Storage v0.5。而這，這也是英偉達(dá) GH200 測(cè)試成績(jī)的首次亮相！相比于單張 H100 配合英特爾 CPU，GH200 的
關(guān)鍵字：英偉達(dá) GPU 計(jì)算平臺(tái)

業(yè)績(jī)?cè)旒?？英偉達(dá)被投資人圍攻黃仁勛拋售自家股票套現(xiàn)3.4億

9月8日消息，英偉達(dá)最新提交的監(jiān)管文件顯示，黃仁勛在過(guò)去幾個(gè)交易日里出售了價(jià)值近4300萬(wàn)美元的股票（約3.4億元左右）。這樣的舉措英偉達(dá)更受大家關(guān)注，因?yàn)槟壳安簧偻顿Y人都質(zhì)疑公司業(yè)績(jī)?cè)旒?。有關(guān)英偉達(dá)二季度“破紀(jì)錄”財(cái)報(bào)涉嫌造假的陰謀論正在社交媒體和投資者論壇中甚囂塵上，令9月6日和7日的股價(jià)均跌約3%，抹去8月23日盤后公布二季報(bào)以來(lái)的全部漲幅。據(jù)研投機(jī)構(gòu)Macrotips Trading總結(jié)，英偉達(dá)是在幾乎沒有增加成本的情況下實(shí)現(xiàn)了驚人增長(zhǎng)，其收入成本同比僅增長(zhǎng)了6.8%（第二季度），毛利率卻達(dá)到聞所
關(guān)鍵字：英偉達(dá) GPU

人的大腦相當(dāng)于什么水平的 GPU 和 CPU ?

人腦的基本結(jié)構(gòu)和功能人類的大腦是一個(gè)驚人的機(jī)器，能處理復(fù)雜的信息，使我們能理解和響應(yīng)周圍的世界。它由大約860億個(gè)神經(jīng)元組成，每個(gè)神經(jīng)元可以與其他神經(jīng)元通過(guò)約1000個(gè)突觸進(jìn)行連接，形成一種復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)。大腦的這種網(wǎng)絡(luò)結(jié)構(gòu)讓我們可以進(jìn)行多種多樣的認(rèn)知活動(dòng)，如感知、記憶、思考、語(yǔ)言等。這種網(wǎng)絡(luò)是通過(guò)電信號(hào)進(jìn)行通信的，當(dāng)電信號(hào)通過(guò)神經(jīng)元時(shí)，它會(huì)在突觸處釋放化學(xué)物質(zhì)，這些化學(xué)物質(zhì)會(huì)跨越突觸間隙，與另一個(gè)神經(jīng)元的接收器結(jié)合，引發(fā)新的電信號(hào)，如此往復(fù)，完成信息的傳遞和處理。這種處理方式雖然復(fù)雜，但速度非?？欤刮?/li>
關(guān)鍵字： CPU GPU

2023Q2 報(bào)告顯示 PC 用 GPU 市場(chǎng)復(fù)蘇：AMD 份額環(huán)比增加 1.2 個(gè)百分點(diǎn)

IT之家 8 月 29 日消息，根據(jù)市場(chǎng)調(diào)查機(jī)構(gòu) Jon Peddie Research（JPR）發(fā)布的最新報(bào)告，2023 年第 2 季度全球 PC 用 GPU 市場(chǎng)規(guī)模為 6160 萬(wàn)美元（IT之家備注：當(dāng)前約 4.49 億元人民幣），同比下降了 23%。整體而言，PC 用 GPU 在 2022-2026 年期間的復(fù)合年增長(zhǎng)率將為 3.70%，預(yù)估在 2026 年年末總規(guī)模達(dá)到 29.98 億片。JPR 推測(cè) PC 用獨(dú)立顯卡（DGPU）的滲透率將增長(zhǎng)到 32%。統(tǒng)計(jì)報(bào)告顯示，PC 用 GPU
關(guān)鍵字： GPU AMD

英偉達(dá)稱 47% 的顯卡用戶升級(jí)使用 GeForce RTX

IT之家 8 月 24 日消息，英偉達(dá)今天公布的最新財(cái)報(bào)業(yè)績(jī)顯示，游戲業(yè)務(wù)收入為 24.9 億美元，同比增長(zhǎng) 22%、環(huán)比增長(zhǎng) 11%，管理層認(rèn)為庫(kù)存和需求水平恢復(fù)正常。英偉達(dá)首席財(cái)務(wù)官科萊特?克雷斯（Colette Kress）在財(cái)報(bào)電話會(huì)議中發(fā)表講話，IT之家翻譯如下：適用于筆記本和桌面的 GeForce RTX 40 系列進(jìn)一步推動(dòng)了公司游戲業(yè)務(wù)的增長(zhǎng)，終端消費(fèi)者的需求穩(wěn)健，且符合常規(guī)季節(jié)性需求。我們相信在經(jīng)歷了去年的放緩之后，全球終端需求已恢復(fù)增長(zhǎng)，出現(xiàn)了巨大的升級(jí)機(jī)遇。在我們的終端客戶
關(guān)鍵字：英偉達(dá) GPU Geforce

中國(guó)瘋搶 GPU，這場(chǎng)困局如何破？

在 AI 領(lǐng)域，GPU 的主要應(yīng)用場(chǎng)景有兩個(gè)，第一個(gè)是訓(xùn)練場(chǎng)景，即利用 GPU 加速 AI 算法的訓(xùn)練。第二個(gè)場(chǎng)景是推理場(chǎng)景，即利用 GPU 加速 AI 算法推理。目前，國(guó)內(nèi)高端 AI 場(chǎng)景中的 GPU 應(yīng)用基本上都由英偉達(dá)的 A800 覆蓋。A800 被視為是 A100 的「閹割版」。去年由于美國(guó)政府收緊對(duì)華出口管制，英偉達(dá)迅速推出數(shù)據(jù)傳輸速度相對(duì)較慢的 A800，用來(lái)代替 A100 向中國(guó)出口，與此類似的還有更高端的英偉達(dá) H100 和 H800。由于中國(guó)暫時(shí)沒有能力提供用于云端 AI 訓(xùn)練的高性能
關(guān)鍵字：英偉達(dá) GPU