IT之家 10 月 18 日消息,英偉達是硬件領域的生成型人工智能之王,該公司的 GPU 為微軟、OpenAI 等公司的數據中心提供動力,運行著 Bing Chat、ChatGPT 等人工智能服務。今天,英偉達宣布了一款新的軟件工具,旨在提升大型語言模型(LLM)在本地 Windows PC 上的性能。在一篇博客文章中,英偉達宣布了其 TensorRT-LLM 開源庫,這個庫之前是為數據中心發(fā)布的,現在也可以用于 Windows PC。最大的特點是,如果 Windows PC 配備英偉達 GeF
關鍵字:
英偉達 GPU 人工智能
今年8月,SK海力士宣布開發(fā)出了全球最高規(guī)格的HBM3E內存,并將從明年上半年開始投入量產,目前已經開始向客戶提供樣品進行性能驗證。據MT.co.kr報道,繼第4代產品HBM3之后,SK海力士將向英偉達獨家供應第五代高帶寬內存HBM3E,此舉有望進一步鞏固其作為AI半導體公司的地位。據半導體業(yè)界15日消息,SK海力士將于明年初向英偉達提供滿足量產質量要求的HBM3E內存,并開展最終的資格測試。一位半導體行業(yè)高管表示,“沒有HBM3E,英偉達就無法銷售B100”,“一旦質量達到要求,合同就只是時間問題?!睋?/li>
關鍵字:
英偉達 GPU Blackwell B100 HBM3E 顯存
最近,關于 GPU,或與 GPU 相關的消息不斷,例如,OpenAI 正探索自研 AI 芯片,微軟將在今年 11 月推出自研的 AI 芯片,三星推出 Exynos 2400 處理器,自研的 GPU 再次升級,等等。這些都是市場和廠商尋求更多變化的體現。在全球半導體行業(yè)整體不景氣的 2023 年,只有 AI 服務器系統(tǒng)和相關芯片一枝獨秀,而 AI 服務器使用的處理器多數是 GPU,不幸的是(對于多數 GPU 廠商而言),在這一僅有的優(yōu)秀市場,多數廠商都只能喝湯,有的甚至連湯都喝不上,唯一大口吃肉的是英偉達。
關鍵字:
GPU
進入10月,2023年也逐漸聽到了年末的腳步聲。以半導體為首的電子器件行業(yè)在23年也發(fā)生了各種各樣的事情。其中本人關注的十七年就是是英偉達的突飛猛進。在GPU的世界份額排行榜上,“突飛猛進”一詞可能不適合全球半導體排名前十的英偉達,但英偉達23年的業(yè)務擴張屬實讓人震撼。成為那個導火索的是人工智能。在人工智能訓練中所使用的服務器如CHATGPT,都使用了英偉達的GPU相關產品作為核心設備。GPU雖不能像CPU那樣復雜多樣,但是,GPU擅長并行處理,能夠高速重復同樣的計算,這樣的特征恰好適合于在學習過程中高速
關鍵字:
英偉達 GPU AI
俄羅斯有一個雄心勃勃的計劃,到 2030 年建造多達 10 臺超級計算機,每臺可能容納 10,000 到 15,000 個 Nvidia H100 GPU。 從計算的角度來看,這將為國家提供類似于用于訓練 Chat GPT 的性能。 總的來說,配備如此多 H100 GPU 的系統(tǒng)可以產生約 450 FP64 TFLOPS,這是 ExaFLOP 的一半,迄今為止只有美國才能達到這一超級計算機性能水平。?在“可信基礎設施”團隊的牽頭下,俄羅斯項目承諾突破計算能力的界限,每臺機器可能配備 10,000
關鍵字:
GPU 超級計算機 NVIDIA
今日,蘋果舉辦發(fā)布會,正式推出了包括iPhone 15系列和Apple Watch Series 9 / Ultra 2在內的多款產品,其售價從1999元到13999元不等。其中iPhone 15 Pro/15 Pro Max的最大亮點也是芯片,其搭載的A17 Pro 芯片,也是業(yè)界首款 3 nm芯片。集成了 190 億顆晶體管,晶體管間僅有 12 個硅原子寬度的縫隙,內置六核 CPU的性能是 A16 Bionic 的兩倍,而效率則高達四倍。作為對比,A15 有 150 億個晶體管,A14有118 億個晶
關鍵字:
3nm GPU
ChatGPT火爆致使人工智能服務器需求激增,特別是英偉達的AI GPU需求。為應對CoWoS市場激增得需求以及加強競爭,業(yè)界消息顯示,自第二季度以來,臺積電已第三次追加設備訂單。業(yè)界透露,目前臺積電將訂單可見性從2024年第二季度延長到年底。一些獨家供應商甚至收到了延續(xù)至2025年的訂單。除了Rudolph、Disco、SUS、ASMPT等國際設備巨頭繼續(xù)受益于新增訂單外,Scientech、GPTC等中國臺灣設備制造商也收到了第三波訂單。設備廠商估算,臺積電2023年CoWoS總產能逾12萬片,202
關鍵字:
AI GPU 臺積電
【新智元導讀】傳說中的英偉達 GH200 在 MLPerf 3.1 中驚艷亮相,性能直接碾壓 H100,領先了 17%。繼 4 月份加入 LLM 訓練測試后,MLPerf 再次迎來重磅更新!剛剛,MLCommons 發(fā)布了 MLPerf v3.1 版本更新,并加入了兩個全新基準:LLM 推理測試 MLPerf Inference v3.1,以及存儲性能測試 MLPerf Storage v0.5。而這,這也是英偉達 GH200 測試成績的首次亮相!相比于單張 H100 配合英特爾 CPU,GH200 的
關鍵字:
英偉達 GPU 計算平臺
9月8日消息,英偉達最新提交的監(jiān)管文件顯示,黃仁勛在過去幾個交易日里出售了價值近4300萬美元的股票(約3.4億元左右)。這樣的舉措英偉達更受大家關注,因為目前不少投資人都質疑公司業(yè)績造假。有關英偉達二季度“破紀錄”財報涉嫌造假的陰謀論正在社交媒體和投資者論壇中甚囂塵上,令9月6日和7日的股價均跌約3%,抹去8月23日盤后公布二季報以來的全部漲幅。據研投機構Macrotips Trading總結,英偉達是在幾乎沒有增加成本的情況下實現了驚人增長,其收入成本同比僅增長了6.8%(第二季度),毛利率卻達到聞所
關鍵字:
英偉達 GPU
人腦的基本結構和功能人類的大腦是一個驚人的機器,能處理復雜的信息,使我們能理解和響應周圍的世界。它由大約860億個神經元組成,每個神經元可以與其他神經元通過約1000個突觸進行連接,形成一種復雜的網絡結構。大腦的這種網絡結構讓我們可以進行多種多樣的認知活動,如感知、記憶、思考、語言等。這種網絡是通過電信號進行通信的,當電信號通過神經元時,它會在突觸處釋放化學物質,這些化學物質會跨越突觸間隙,與另一個神經元的接收器結合,引發(fā)新的電信號,如此往復,完成信息的傳遞和處理。這種處理方式雖然復雜,但速度非??欤刮?/li>
關鍵字:
CPU GPU
IT之家 8 月 29 日消息,根據市場調查機構 Jon Peddie Research(JPR)發(fā)布的最新報告,2023 年第 2 季度全球 PC 用 GPU 市場規(guī)模為 6160 萬美元(IT之家備注:當前約 4.49 億元人民幣),同比下降了 23%。整體而言,PC 用 GPU 在 2022-2026 年期間的復合年增長率將為 3.70%,預估在 2026 年年末總規(guī)模達到 29.98 億片。JPR 推測 PC 用獨立顯卡(DGPU)的滲透率將增長到 32%。統(tǒng)計報告顯示,PC 用 GPU
關鍵字:
GPU AMD
IT之家 8 月 24 日消息,英偉達今天公布的最新財報業(yè)績顯示,游戲業(yè)務收入為 24.9 億美元,同比增長 22%、環(huán)比增長 11%,管理層認為庫存和需求水平恢復正常。英偉達首席財務官科萊特?克雷斯(Colette Kress)在財報電話會議中發(fā)表講話,IT之家翻譯如下:適用于筆記本和桌面的 GeForce RTX 40 系列進一步推動了公司游戲業(yè)務的增長,終端消費者的需求穩(wěn)健,且符合常規(guī)季節(jié)性需求。我們相信在經歷了去年的放緩之后,全球終端需求已恢復增長,出現了巨大的升級機遇。在我們的終端客戶
關鍵字:
英偉達 GPU Geforce
在 AI 領域,GPU 的主要應用場景有兩個,第一個是訓練場景,即利用 GPU 加速 AI 算法的訓練。第二個場景是推理場景,即利用 GPU 加速 AI 算法推理。目前,國內高端 AI 場景中的 GPU 應用基本上都由英偉達的 A800 覆蓋。A800 被視為是 A100 的「閹割版」。去年由于美國政府收緊對華出口管制,英偉達迅速推出數據傳輸速度相對較慢的 A800,用來代替 A100 向中國出口,與此類似的還有更高端的英偉達 H100 和 H800。由于中國暫時沒有能力提供用于云端 AI 訓練的高性能
關鍵字:
英偉達 GPU
hopper gpu介紹
您好,目前還沒有人創(chuàng)建詞條hopper gpu!
歡迎您創(chuàng)建該詞條,闡述對hopper gpu的理解,并與今后在此搜索hopper gpu的朋友們分享。
創(chuàng)建詞條
關于我們 -
廣告服務 -
企業(yè)會員服務 -
網站地圖 -
聯系我們 -
征稿 -
友情鏈接 -
手機EEPW
Copyright ?2000-2015 ELECTRONIC ENGINEERING & PRODUCT WORLD. All rights reserved.
《電子產品世界》雜志社 版權所有 北京東曉國際技術信息咨詢有限公司
京ICP備12027778號-2 北京市公安局備案:1101082052 京公網安備11010802012473