大模型迭代引發(fā)一體機(jī)市場(chǎng)熱潮，IDC啟動(dòng)大模型推理算力系列研究

2025年1月以來(lái)，中國(guó)市場(chǎng) AI 創(chuàng)企深度求索開(kāi)發(fā)的 AI開(kāi)源 大模型 DeepSeek的爆火引起廣泛關(guān)注，近期DeepSeek等大模型的迭代也推動(dòng)了一體機(jī)產(chǎn)品的密集發(fā)布，吸引了包括服務(wù)器、云服務(wù)、行業(yè)應(yīng)用開(kāi)發(fā)、大模型技術(shù)供應(yīng)商等多方參與，根據(jù)IDC統(tǒng)計(jì)，市場(chǎng)上已迅速有接近百家廠(chǎng)商推出AI一體機(jī)產(chǎn)品。

未來(lái)AI算力市場(chǎng)服務(wù)模式如何演變？AI一體機(jī)有哪些市場(chǎng)機(jī)會(huì)？基于市場(chǎng)上的普遍問(wèn)題，IDC進(jìn)行了總結(jié)，旨在為技術(shù)供應(yīng)商和行業(yè)用戶(hù)提供參考：

中國(guó)市場(chǎng)AI算力服務(wù)的模式

DeepSeek等大模型的迭代推動(dòng)了AI算力服務(wù)模式的更新升級(jí)，一方面，用戶(hù)端對(duì)AI算力建設(shè)提出新的需求，包括算力效率提升、推理需求增加、供應(yīng)方式多樣化等；另一方面，供應(yīng)側(cè)，AI算力基礎(chǔ)設(shè)施服務(wù)模式也不斷創(chuàng)新。中國(guó)市場(chǎng)的AI算力建設(shè)，走出了一條具備中國(guó)特色的差異化路線(xiàn)。

當(dāng)前提供AI計(jì)算服務(wù)的模式主要有以下幾種：

●   公有云算力服務(wù)：在公有云上提供算力基礎(chǔ)設(shè)施，即公有云廠(chǎng)商的AIaaS服務(wù)。

●   智算中心：由政府牽頭，國(guó)資平臺(tái)發(fā)起智算中心項(xiàng)目，由集成商作為總包，智算中心廠(chǎng)商參與建設(shè)。建成之后可供地方政府、企業(yè)訓(xùn)練、調(diào)優(yōu)與部署AI應(yīng)用。

●   私有云：由企業(yè)自主采購(gòu)、自主建設(shè)AI私有云，支撐內(nèi)部的模型訓(xùn)練與部署。

●   AI一體機(jī)：主要用于支撐本地部署AI應(yīng)用。

AI一體機(jī)的市場(chǎng)機(jī)會(huì)

AI一體機(jī)，是專(zhuān)為AI大模型應(yīng)用和部署而設(shè)計(jì)的集成計(jì)算設(shè)備，通常包含CPU/GPU等算力組合、存儲(chǔ)器、操作系統(tǒng)、AI平臺(tái)軟件及各類(lèi)模型算法、推理服務(wù)等軟硬組件。從去年開(kāi)始，AI一體機(jī)市場(chǎng)上主要產(chǎn)品形態(tài)包含訓(xùn)推一體機(jī)、推理一體機(jī)等，訓(xùn)推一體機(jī)具備開(kāi)箱即用、私有化部署等特性，支持完整的AI模型開(kāi)發(fā)流程（包括訓(xùn)練和推理部署等多個(gè)環(huán)節(jié)）。也有部分推理一體機(jī)，專(zhuān)注于高效能推理場(chǎng)景。目前搭載DeepSeek的AI一體機(jī)方案存在差異，能支持運(yùn)行蒸餾版、滿(mǎn)血版V3/R1模型，但Deepseek一體機(jī)的實(shí)際應(yīng)用效果仍有待觀(guān)察，有些行業(yè)用戶(hù)則結(jié)合自己的應(yīng)用場(chǎng)景考量?jī)?yōu)先選擇預(yù)制了參數(shù)規(guī)模更小的大模型、成本更低的一體機(jī)做嘗試，預(yù)計(jì)能夠滿(mǎn)足一些行業(yè)的應(yīng)用需求。

由于DeepSeek事件，帶動(dòng)了整個(gè)中國(guó)市場(chǎng)對(duì)AI應(yīng)用的樂(lè)觀(guān)發(fā)展預(yù)期，如果在驅(qū)動(dòng)更多企業(yè)（尤其是中小等長(zhǎng)尾企業(yè)）部署AI的假設(shè)下，AI一體機(jī)市場(chǎng)將會(huì)迎來(lái)進(jìn)一步發(fā)展。隨著基礎(chǔ)大模型開(kāi)啟另一開(kāi)發(fā)新范式，大模型從千億參數(shù)向行業(yè)精調(diào)模型演進(jìn)，AI一體機(jī)通過(guò)軟硬一體的集成解決方案，能夠?qū)崿F(xiàn)特定場(chǎng)景的私有化部署，縮短部署周期，降低中小企業(yè)大模型的使用門(mén)檻。對(duì)于一些具備大量敏感數(shù)據(jù)的用戶(hù)，私有化部署確保數(shù)據(jù)安全處理/避免敏感信息外流，能夠滿(mǎn)足教育/科研、政務(wù)與公共服務(wù)、制造、能源、醫(yī)療、金融等領(lǐng)域的一些應(yīng)用需求。

IDC啟動(dòng)大模型推理算力系列研究

隨著AI應(yīng)用的不斷落地，算力建設(shè)的重點(diǎn)也將從以支持訓(xùn)練為主開(kāi)始轉(zhuǎn)向越來(lái)越多的支持推理。在此背景下，IDC啟動(dòng)大模型推理算力系列研究。主要包含下列研究報(bào)告：

●   《中國(guó)大模型推理計(jì)算指數(shù)研究報(bào)告，2025》：希望從大模型推理的角度，幫助用戶(hù)建立推理算力選型的參考、驗(yàn)收的標(biāo)準(zhǔn)以及持續(xù)運(yùn)營(yíng)的支持。如下表所示，技術(shù)能力、服務(wù)能力、規(guī)模化能力、供應(yīng)鏈以及安全，將是我們考量的維度。

●   《中國(guó)AI大模型訓(xùn)推一體機(jī)市場(chǎng)分析與品牌推薦，2025》：AI大模型一體機(jī)市場(chǎng)囊括了服務(wù)器、云服務(wù)、行業(yè)應(yīng)用開(kāi)發(fā)、大模型技術(shù)供應(yīng)商等多方參與，市場(chǎng)以往更關(guān)注基礎(chǔ)功能和性能，今年可能更強(qiáng)調(diào)成本、效果更佳的AI模型能力集成、軟硬件協(xié)同優(yōu)化和行業(yè)定制化、安全性等。IDC將啟動(dòng)市場(chǎng)追蹤與品牌推薦研究，輔助行業(yè)用戶(hù)更好的選型AI大模型一體機(jī)產(chǎn)品。

免責(zé)聲明

本文中的內(nèi)容和數(shù)據(jù)均來(lái)源于IDC所發(fā)布的報(bào)告，所有內(nèi)容及數(shù)據(jù)均為我公司所有。未經(jīng)IDC書(shū)面許可，任何機(jī)構(gòu)和個(gè)人不得以任何形式翻版、復(fù)制、刊登、發(fā)表或引用。