Arm全面設(shè)計(jì)助力Arm架構(gòu)生態(tài)發(fā)展,構(gòu)建可持續(xù)AI數(shù)據(jù)中心
新聞重點(diǎn):
● Arm全面設(shè)計(jì)(Arm Total Design) 生態(tài)項(xiàng)目推出一年來,成員規(guī)模翻倍,推動(dòng)了全球芯片創(chuàng)新
● Arm、三星晶圓代工廠 (Samsung Foundry) 、ADTechnology 和 Rebellions 合作開發(fā)基于 Neoverse CSS V3 的 AI CPU 芯粒 (chiplet) 平臺(tái),應(yīng)用于云、高性能計(jì)算 (HPC) 以及人工智能/機(jī)器學(xué)習(xí) (AI/ML) 訓(xùn)練和推理
● 安國(guó)國(guó)際科技 (Alcor Micro)和Alphawave推出基于臺(tái)積公司工藝的全新芯粒,用于打造可持續(xù) AI 數(shù)據(jù)中心
近日,Arm 控股有限公司 (以下簡(jiǎn)稱 Arm) 分享了 Arm 全面設(shè)計(jì)生態(tài)項(xiàng)目推出一周年后的最新動(dòng)態(tài):參與企業(yè)已迅速擴(kuò)展到近30 家,涵蓋了從 IC 設(shè)計(jì)到晶圓代工服務(wù)等各項(xiàng)專業(yè)能力,最新加入的企業(yè)包括安國(guó)國(guó)際科技、神盾公司 (Egis)、熵碼科技 (PUFsecurity) 和 SEMIFIVE。此外,通過該生態(tài)項(xiàng)目,Arm、三星晶圓代工廠、ADTechnology 和 Rebellions 正在聯(lián)手向市場(chǎng)推出 AI CPU 芯粒平臺(tái),面向云、HPC 以及 AI/ML 訓(xùn)練和推理工作負(fù)載。
Arm基礎(chǔ)設(shè)施事業(yè)部營(yíng)銷副總裁 Eddie Ramirez 表示:“隨著 AI 算力需求的增長(zhǎng),確保開發(fā)者以高性能、低功耗且易用的方式,在全球應(yīng)用最普及的計(jì)算平臺(tái)上輕松運(yùn)行創(chuàng)新成果至關(guān)重要。Arm 計(jì)算子系統(tǒng) (CSS) 和 Arm 全面設(shè)計(jì)正助力軟硬件的快速進(jìn)步,推動(dòng) AI 開發(fā)。我們已邁入工程創(chuàng)意發(fā)展的時(shí)代,Arm 正提供必要的工具和技術(shù),以推動(dòng) AI 和芯片領(lǐng)域的創(chuàng)新?!?/p>
全新Arm 架構(gòu)解決方案推動(dòng) AI 數(shù)據(jù)中心的可持續(xù)發(fā)展
Arm 全面設(shè)計(jì)帶動(dòng)了全球合作,促成了多個(gè)以 CSS 為核心的生成式 AI 計(jì)算解決方案誕生。其中一個(gè)絕佳的例子是由 Arm、三星晶圓代工廠、ADTechnology 和 Rebellions聯(lián)合推出的 AI CPU 芯粒平臺(tái)。該平臺(tái)專門針對(duì)云、HPC 以及 AI/ML 訓(xùn)練和推理工作負(fù)載,結(jié)合了 Rebellions 的 REBEL AI 加速器和搭載 Neoverse CSS V3 的 ADTechnology 計(jì)算芯粒,并采用三星晶圓代工廠 2nm 全環(huán)繞柵極 (GAA) 先進(jìn)工藝技術(shù),帶來出色的性能和能效,預(yù)計(jì)可為生成式 AI 工作負(fù)載(Llama3.1 405B 參數(shù) LLM)帶來2-3倍的能效優(yōu)勢(shì)。
三星電子副總裁兼代工業(yè)務(wù)開發(fā)負(fù)責(zé)人 Taejoong Song 表示:“AI 和 HPC 設(shè)計(jì)需要采用具有最高性能、高晶體管密度和高能效的技術(shù)解決方案。三星晶圓代工廠的 2nm GAA 工藝專為滿足嚴(yán)格的 HPC 和 AI 設(shè)計(jì)要求而設(shè)計(jì),我們很高興能夠利用 Arm CSS 的靈活性和 Arm 全面設(shè)計(jì)的優(yōu)勢(shì)來打造 AI CPU 芯粒平臺(tái),進(jìn)一步推動(dòng)超大規(guī)模企業(yè)和云服務(wù)提供商采用我們的尖端技術(shù)和設(shè)計(jì)解決方案?!?/p>
這個(gè)合作范例充分體現(xiàn)了 Arm 全面設(shè)計(jì)和基于標(biāo)準(zhǔn)計(jì)算子系統(tǒng)在加速 AI 芯片開發(fā)方面的獨(dú)特價(jià)值。通過集成 Arm 優(yōu)化的 EDA 工具、全球設(shè)計(jì)專業(yè)知識(shí)和晶圓代工服務(wù)合作關(guān)系,Arm為 AI 加速器設(shè)計(jì)人員簡(jiǎn)化了集成流程。隨著 AI 工作負(fù)載的快速演進(jìn),緊密耦合 CPU 計(jì)算對(duì)于支持完整的 AI 堆棧至關(guān)重要。數(shù)據(jù)預(yù)處理、編排、數(shù)據(jù)庫(kù)增強(qiáng)技術(shù)(例如檢索增強(qiáng)生成 (RAG)) 等都能受益于 Arm Neoverse CPU 的性能效率。Arm 已經(jīng)在 CSS 中融入了對(duì)這些要求的支持, 并通過Arm 全面設(shè)計(jì)生態(tài)項(xiàng)目從中受益。
專為 AI 基礎(chǔ)設(shè)施打造的新標(biāo)準(zhǔn)
CSS 和 Arm 全面設(shè)計(jì)正在幫助打造可持續(xù) AI 數(shù)據(jù)中心的硬件基礎(chǔ)。Arm 全面設(shè)計(jì)已經(jīng)在加速開發(fā)基于 Arm 架構(gòu)的測(cè)試芯片以及由 Neoverse N 系列或 V 系列 CSS 驅(qū)動(dòng)的芯粒產(chǎn)品。通過提供優(yōu)先獲取最新 CSS 的廣泛途徑,我們降低了行業(yè)準(zhǔn)入門檻,打造了從云端到邊緣的多樣化芯粒解決方案,并加速了開發(fā)速度。
近日,Alcor Micro 宣布他們正在構(gòu)建由 CSS 驅(qū)動(dòng)的芯粒,針對(duì) AI/ML 訓(xùn)練和推理用例。Alphawave 近期也宣布推出基于 CSS 的先進(jìn)計(jì)算芯粒,面向 AI/ML、HPC、數(shù)據(jù)中心和 5G/6G 應(yīng)用。這些基于 Arm 架構(gòu)的芯粒充分展現(xiàn)了 Arm 生態(tài)系統(tǒng)獨(dú)有的多樣性、靈活性和全球化。
此外,Arm 全面設(shè)計(jì)合作伙伴(包括 Alphawave、Cadence 和 proteanTecs 等)正通過 CSS 在先進(jìn)節(jié)點(diǎn)上驗(yàn)證第三方 IP 產(chǎn)品,以確保其符合 Arm 規(guī)范和標(biāo)準(zhǔn)。這意味著合作伙伴可以在先進(jìn)節(jié)點(diǎn)上構(gòu)建基于 CSS 的定制芯片,并獲得無縫的開箱即用的軟件體驗(yàn)。
這種軟件就緒程度始終是釋放 AI 潛力的關(guān)鍵。30 多年來,Arm 不斷進(jìn)行資源投入,以確保在 Arm 平臺(tái)上運(yùn)行的軟件“開機(jī)即用”。如今,所有主流框架和操作系統(tǒng)均在 Arm 架構(gòu)上運(yùn)行。對(duì)于 Arm 全面設(shè)計(jì)生態(tài)項(xiàng)目而言,這意味著 Arm 合作伙伴推向市場(chǎng)的多樣化芯片解決方案,都能充分利用同樣充滿活力且高度整合的軟件生態(tài)系統(tǒng)。這項(xiàng)持續(xù)投入的最新成果之一是 Arm Kleidi 技術(shù)的推出,該項(xiàng)技術(shù)被集成到 PyTorch 和 Llama.cpp 等開源項(xiàng)目,優(yōu)化了 Arm 平臺(tái)上的 CPU 推理。這對(duì)于Arm 全面設(shè)計(jì)合作伙伴來說尤為重要,他們無需依賴專用的加速器,即可通過 CSS為邊緣 AI 計(jì)算打造芯粒。
評(píng)論