kleidiai 文章 進入kleidiai技術(shù)社區(qū)

Arm KleidiAI 助力提升 PyTorch 上 LLM 推理性能

• 作者：Arm 基礎設施事業(yè)部軟件工程師 Nobel Chowdary Mandepudi生成式人工智能 (AI) 正在科技領(lǐng)域發(fā)揮關(guān)鍵作用，許多企業(yè)已經(jīng)開始將大語言模型 (LLM) 集成到云端和邊緣側(cè)的應用中。生成式 AI 的引入也使得許多框架和庫得以發(fā)展。其中，PyTorch 作為熱門的深度學習框架尤為突出，許多企業(yè)均會選擇其作為開發(fā) AI 應用的庫。通過部署 Arm Kleidi 技術(shù) ，Arm 正在努力優(yōu)化 PyTorch，以加速在基于 Arm 架構(gòu)的處理器上運行 LLM 的性能
• 關(guān)鍵字： Arm  KleidiAI  PyTorch  LLM