首頁  資訊  商機   下載  拆解   高校  招聘   雜志  會展  EETV  百科   問答  電路圖  工程師手冊   Datasheet  100例   活動中心  E周刊閱讀   樣片申請
EEPW首頁 >> 主題列表 >> hopper gpu

英偉達推出 Tensor RT-LLM,使大語言模型在搭載 RTX 的 PC 平臺上運行速度提高 4 倍

  • IT之家 10 月 18 日消息,英偉達是硬件領域的生成型人工智能之王,該公司的 GPU 為微軟、OpenAI 等公司的數據中心提供動力,運行著 Bing Chat、ChatGPT 等人工智能服務。今天,英偉達宣布了一款新的軟件工具,旨在提升大型語言模型(LLM)在本地 Windows PC 上的性能。在一篇博客文章中,英偉達宣布了其 TensorRT-LLM 開源庫,這個庫之前是為數據中心發(fā)布的,現在也可以用于 Windows PC。最大的特點是,如果 Windows PC 配備英偉達 GeF
  • 關鍵字: 英偉達  GPU  人工智能  

英偉達下一代GPU:Blackwell B100將采用HBM3E顯存,計劃于明年第二季度左右發(fā)布

  • 今年8月,SK海力士宣布開發(fā)出了全球最高規(guī)格的HBM3E內存,并將從明年上半年開始投入量產,目前已經開始向客戶提供樣品進行性能驗證。據MT.co.kr報道,繼第4代產品HBM3之后,SK海力士將向英偉達獨家供應第五代高帶寬內存HBM3E,此舉有望進一步鞏固其作為AI半導體公司的地位。據半導體業(yè)界15日消息,SK海力士將于明年初向英偉達提供滿足量產質量要求的HBM3E內存,并開展最終的資格測試。一位半導體行業(yè)高管表示,“沒有HBM3E,英偉達就無法銷售B100”,“一旦質量達到要求,合同就只是時間問題?!睋?/li>
  • 關鍵字: 英偉達  GPU  Blackwell B100  HBM3E  顯存  

?GPU市場開始分化,中國迎來更多商機

  • 最近,關于 GPU,或與 GPU 相關的消息不斷,例如,OpenAI 正探索自研 AI 芯片,微軟將在今年 11 月推出自研的 AI 芯片,三星推出 Exynos 2400 處理器,自研的 GPU 再次升級,等等。這些都是市場和廠商尋求更多變化的體現。在全球半導體行業(yè)整體不景氣的 2023 年,只有 AI 服務器系統(tǒng)和相關芯片一枝獨秀,而 AI 服務器使用的處理器多數是 GPU,不幸的是(對于多數 GPU 廠商而言),在這一僅有的優(yōu)秀市場,多數廠商都只能喝湯,有的甚至連湯都喝不上,唯一大口吃肉的是英偉達。
  • 關鍵字: GPU  

英偉達的突飛猛進而變動的半導體行業(yè)

  • 進入10月,2023年也逐漸聽到了年末的腳步聲。以半導體為首的電子器件行業(yè)在23年也發(fā)生了各種各樣的事情。其中本人關注的十七年就是是英偉達的突飛猛進。在GPU的世界份額排行榜上,“突飛猛進”一詞可能不適合全球半導體排名前十的英偉達,但英偉達23年的業(yè)務擴張屬實讓人震撼。成為那個導火索的是人工智能。在人工智能訓練中所使用的服務器如CHATGPT,都使用了英偉達的GPU相關產品作為核心設備。GPU雖不能像CPU那樣復雜多樣,但是,GPU擅長并行處理,能夠高速重復同樣的計算,這樣的特征恰好適合于在學習過程中高速
  • 關鍵字: 英偉達  GPU  AI  

俄羅斯計劃使用被禁的 Nvidia H100 GPU 構建十大超級計算機

  • 俄羅斯有一個雄心勃勃的計劃,到 2030 年建造多達 10 臺超級計算機,每臺可能容納 10,000 到 15,000 個 Nvidia H100 GPU。 從計算的角度來看,這將為國家提供類似于用于訓練 Chat GPT 的性能。 總的來說,配備如此多 H100 GPU 的系統(tǒng)可以產生約 450 FP64 TFLOPS,這是 ExaFLOP 的一半,迄今為止只有美國才能達到這一超級計算機性能水平。?在“可信基礎設施”團隊的牽頭下,俄羅斯項目承諾突破計算能力的界限,每臺機器可能配備 10,000
  • 關鍵字: GPU  超級計算機  NVIDIA  

GPU定價更新

  • Radeon 7800 XT 是這一代最受歡迎的顯卡之一。
  • 關鍵字: GPU  Radeon 7800 XT  

蘋果首發(fā)3nm芯片,GPU性能暴漲

  • 今日,蘋果舉辦發(fā)布會,正式推出了包括iPhone 15系列和Apple Watch Series 9 / Ultra 2在內的多款產品,其售價從1999元到13999元不等。其中iPhone 15 Pro/15 Pro Max的最大亮點也是芯片,其搭載的A17 Pro 芯片,也是業(yè)界首款 3 nm芯片。集成了 190 億顆晶體管,晶體管間僅有 12 個硅原子寬度的縫隙,內置六核 CPU的性能是 A16 Bionic 的兩倍,而效率則高達四倍。作為對比,A15 有 150 億個晶體管,A14有118 億個晶
  • 關鍵字: 3nm  GPU  

AI GPU供不應求!臺積電第三次追加設備訂單

  • ChatGPT火爆致使人工智能服務器需求激增,特別是英偉達的AI GPU需求。為應對CoWoS市場激增得需求以及加強競爭,業(yè)界消息顯示,自第二季度以來,臺積電已第三次追加設備訂單。業(yè)界透露,目前臺積電將訂單可見性從2024年第二季度延長到年底。一些獨家供應商甚至收到了延續(xù)至2025年的訂單。除了Rudolph、Disco、SUS、ASMPT等國際設備巨頭繼續(xù)受益于新增訂單外,Scientech、GPTC等中國臺灣設備制造商也收到了第三波訂單。設備廠商估算,臺積電2023年CoWoS總產能逾12萬片,202
  • 關鍵字: AI  GPU  臺積電  

碾壓 H100!英偉達 GH200 超級芯片首秀 MLPerf v3.1,性能躍升 17%

  • 【新智元導讀】傳說中的英偉達 GH200 在 MLPerf 3.1 中驚艷亮相,性能直接碾壓 H100,領先了 17%。繼 4 月份加入 LLM 訓練測試后,MLPerf 再次迎來重磅更新!剛剛,MLCommons 發(fā)布了 MLPerf v3.1 版本更新,并加入了兩個全新基準:LLM 推理測試 MLPerf Inference v3.1,以及存儲性能測試 MLPerf Storage v0.5。而這,這也是英偉達 GH200 測試成績的首次亮相!相比于單張 H100 配合英特爾 CPU,GH200 的
  • 關鍵字: 英偉達  GPU  計算平臺  

業(yè)績造假?英偉達被投資人圍攻 黃仁勛拋售自家股票套現3.4億

  • 9月8日消息,英偉達最新提交的監(jiān)管文件顯示,黃仁勛在過去幾個交易日里出售了價值近4300萬美元的股票(約3.4億元左右)。這樣的舉措英偉達更受大家關注,因為目前不少投資人都質疑公司業(yè)績造假。有關英偉達二季度“破紀錄”財報涉嫌造假的陰謀論正在社交媒體和投資者論壇中甚囂塵上,令9月6日和7日的股價均跌約3%,抹去8月23日盤后公布二季報以來的全部漲幅。據研投機構Macrotips Trading總結,英偉達是在幾乎沒有增加成本的情況下實現了驚人增長,其收入成本同比僅增長了6.8%(第二季度),毛利率卻達到聞所
  • 關鍵字: 英偉達  GPU  

人的大腦相當于什么水平的 GPU 和 CPU ?

  • 人腦的基本結構和功能人類的大腦是一個驚人的機器,能處理復雜的信息,使我們能理解和響應周圍的世界。它由大約860億個神經元組成,每個神經元可以與其他神經元通過約1000個突觸進行連接,形成一種復雜的網絡結構。大腦的這種網絡結構讓我們可以進行多種多樣的認知活動,如感知、記憶、思考、語言等。這種網絡是通過電信號進行通信的,當電信號通過神經元時,它會在突觸處釋放化學物質,這些化學物質會跨越突觸間隙,與另一個神經元的接收器結合,引發(fā)新的電信號,如此往復,完成信息的傳遞和處理。這種處理方式雖然復雜,但速度非??欤刮?/li>
  • 關鍵字: CPU  GPU  

2023Q2 報告顯示 PC 用 GPU 市場復蘇:AMD 份額環(huán)比增加 1.2 個百分點

  • IT之家 8 月 29 日消息,根據市場調查機構 Jon Peddie Research(JPR)發(fā)布的最新報告,2023 年第 2 季度全球 PC 用 GPU 市場規(guī)模為 6160 萬美元(IT之家備注:當前約 4.49 億元人民幣),同比下降了 23%。整體而言,PC 用 GPU 在 2022-2026 年期間的復合年增長率將為 3.70%,預估在 2026 年年末總規(guī)模達到 29.98 億片。JPR 推測 PC 用獨立顯卡(DGPU)的滲透率將增長到 32%。統(tǒng)計報告顯示,PC 用 GPU
  • 關鍵字: GPU  AMD  

英偉達稱 47% 的顯卡用戶升級使用 GeForce RTX

  • IT之家 8 月 24 日消息,英偉達今天公布的最新財報業(yè)績顯示,游戲業(yè)務收入為 24.9 億美元,同比增長 22%、環(huán)比增長 11%,管理層認為庫存和需求水平恢復正常。英偉達首席財務官科萊特?克雷斯(Colette Kress)在財報電話會議中發(fā)表講話,IT之家翻譯如下:適用于筆記本和桌面的 GeForce RTX 40 系列進一步推動了公司游戲業(yè)務的增長,終端消費者的需求穩(wěn)健,且符合常規(guī)季節(jié)性需求。我們相信在經歷了去年的放緩之后,全球終端需求已恢復增長,出現了巨大的升級機遇。在我們的終端客戶
  • 關鍵字: 英偉達  GPU  Geforce  

中國瘋搶 GPU,這場困局如何破?

  • 在 AI 領域,GPU 的主要應用場景有兩個,第一個是訓練場景,即利用 GPU 加速 AI 算法的訓練。第二個場景是推理場景,即利用 GPU 加速 AI 算法推理。目前,國內高端 AI 場景中的 GPU 應用基本上都由英偉達的 A800 覆蓋。A800 被視為是 A100 的「閹割版」。去年由于美國政府收緊對華出口管制,英偉達迅速推出數據傳輸速度相對較慢的 A800,用來代替 A100 向中國出口,與此類似的還有更高端的英偉達 H100 和 H800。由于中國暫時沒有能力提供用于云端 AI 訓練的高性能
  • 關鍵字: 英偉達  GPU  
共794條 11/53 |‹ « 9 10 11 12 13 14 15 16 17 18 » ›|

hopper gpu介紹

您好,目前還沒有人創(chuàng)建詞條hopper gpu!
歡迎您創(chuàng)建該詞條,闡述對hopper gpu的理解,并與今后在此搜索hopper gpu的朋友們分享。    創(chuàng)建詞條

熱門主題

樹莓派    linux   
關于我們 - 廣告服務 - 企業(yè)會員服務 - 網站地圖 - 聯系我們 - 征稿 - 友情鏈接 - 手機EEPW
Copyright ?2000-2015 ELECTRONIC ENGINEERING & PRODUCT WORLD. All rights reserved.
《電子產品世界》雜志社 版權所有 北京東曉國際技術信息咨詢有限公司
備案 京ICP備12027778號-2 北京市公安局備案:1101082052    京公網安備11010802012473