華為推出全新架構(gòu)昇騰 AI 計算集群，支持超萬億參數(shù)大模型訓練

IT之家 9 月 20 日消息，在今日舉行的華為全聯(lián)接大會 2023 期間，華為常務董事、ICT 基礎設施業(yè)務管理委員會主任、企業(yè) BG 總裁汪濤正式發(fā)布全新架構(gòu)的昇騰 AI 計算集群 ——Atlas 900 SuperCluster，可支持超萬億參數(shù)的大模型訓練。

據(jù)介紹，新集群采用了全新的華為星河 AI 智算交換機 CloudEngine XH16800，借助其高密的 800GE 端口能力，兩層交換網(wǎng)絡即可實現(xiàn) 2250 節(jié)點（等效于 18000 張卡）超大規(guī)模無收斂集群組網(wǎng)。

新集群同時使用了創(chuàng)新的超節(jié)點架構(gòu)，大大提升了大模型訓練能力。此外，發(fā)揮華為在計算、網(wǎng)絡、存儲、能源等領域的綜合優(yōu)勢，從器件級、節(jié)點級、集群級和業(yè)務級全面提升系統(tǒng)可靠性，將大模型訓練穩(wěn)定性從天級提升到月級。

此外，華為發(fā)布了更開放、更易用的 CANN 7.0 異構(gòu)計算架構(gòu)，不僅全面兼容業(yè)界的 AI 框架、加速庫和主流大模型，還深度開放底層能力，讓 AI 框架和加速庫可以更直接地調(diào)用和管理計算資源，使能開發(fā)者自定義高性能算子，讓大模型具備差異化的競爭力。

華為還升級了 Ascend C 編程語言，以更高效的編程方式，簡化算子實現(xiàn)邏輯，大幅縮短融合算子的開發(fā)周期，為 AI 模型與應用的快速開發(fā)賦能。

面向全球企業(yè)和開發(fā)者，華為云官網(wǎng)今日正式上線昇騰 AI 云服務“百模千態(tài)”專區(qū)，專區(qū)收錄了業(yè)界主流開源大模型，并全面基于昇騰 AI 云服務進行適配和優(yōu)化；提供應用開發(fā)的工具鏈，開發(fā)工具已經(jīng)全部實現(xiàn)了云化，免去繁瑣的配置流程，實現(xiàn)一鍵接入，即開即用。

▲ 昇騰 AI 云服務百模千態(tài)專區(qū)

IT之家查詢獲悉，截至今年 7 月，昇騰 AI 集群已支撐全國 25 個城市的人工智能計算中心建設，其中 7 個城市公共算力平臺入選首批國家“新一代人工智能公共算力開放創(chuàng)新平臺”。

同時，昇騰 AI 已發(fā)展 30 多家硬件伙伴、1200 多家 ISV，聯(lián)合推出了 2500 多個行業(yè) AI 解決方案，規(guī)模服務于運營商、互聯(lián)網(wǎng)、金融等行業(yè)。