部署成本顯著降低!英特爾助陣高效AI算力一體機(jī)方案
3月27日,英特爾舉辦了名為“‘至’繪未來,銳炫來襲”的創(chuàng)新解決方案研討會,與生態(tài)伙伴共同分享最新AI算力一體機(jī)方案。該方案基于英特爾?至強(qiáng)? W處理器和多個英特爾銳炫?顯卡,可為日益增長的AI私有化部署需求提供強(qiáng)大支持。和傳統(tǒng)方案不同,該方案采用了多個銳炫顯卡,展現(xiàn)了出色的成本效益優(yōu)勢,顯著降低了大語言模型部署門檻,為企業(yè)和組織鋪設(shè)了一條通往智能化時代的“高速路”。
本文引用地址:http://2s4d.com/article/202504/468986.htm“‘至’繪未來,銳炫來襲”創(chuàng)新解決方案研討會
英特爾銳炫顯卡多卡打造開箱即用私有化部署方案
面對市場上客戶端和邊緣端AI推理需求的快速增長,傳統(tǒng)算力架構(gòu)面臨著成本敏感、低能效比的困境。英特爾借助創(chuàng)新的“英特爾至強(qiáng)W處理器+英特爾銳炫獨(dú)立顯卡”硬件組合,和生態(tài)伙伴共同打造了“AI算力一體機(jī)平臺+解決方案+服務(wù)”的開箱即用私有化部署方案,為邊緣和企業(yè)軟硬一體機(jī)、AGI開發(fā)者工作站等場景帶來高性能、高并發(fā)及高能效比的AI算力一體機(jī)方案。
在這一創(chuàng)新解決方案中,英特爾銳炫顯卡可以提供出色的性能與價格平衡。以英特爾銳炫?A770顯卡為例,其可提供最高16GB顯存、560GB每秒的顯存帶寬和200+TOPS的INT8峰值算力,而多卡方案的出現(xiàn),讓英特爾銳炫顯卡突破游戲、渲染、視覺和視頻分析等場景,開始借助算力的多重疊加,進(jìn)入到大語言模型、AI推理和渲染農(nóng)場等需要高算力來支持的廣闊AI應(yīng)用之中。
基于英特爾至強(qiáng)W處理器和多個英特爾銳炫顯卡的AI算力一體機(jī)方案現(xiàn)可為主流應(yīng)用場景提供支持:
● 多塊英特爾銳炫A770顯卡搭配英特爾至強(qiáng)W平臺:為醫(yī)療、教育、制造、零售和交通等行業(yè)的邊緣端及企業(yè)級處理提供了強(qiáng)大的算力和顯存支撐;
● 多塊英特爾銳炫A770顯卡搭配英特爾至強(qiáng)W平臺:幫助教育科研、獨(dú)立軟件開發(fā)商(ISV)、AI開發(fā)者的AGI開發(fā)者工作站實(shí)現(xiàn)穩(wěn)定高效能運(yùn)行。
應(yīng)用場景成功落地,加速釋放AI價值
降低部署門檻,還需要AI算力一體機(jī)具備與現(xiàn)有系統(tǒng)無縫集成的能力。英特爾銳炫多卡大語言模型(LLM)推理軟件棧為此提供了關(guān)鍵的軟件保障。通過擁抱IPEX等開源生態(tài),利用通用圖形顯卡的多用途特性(如LLM、AI推理、AIGC、渲染和VDI等),英特爾銳炫多卡AI算力一體機(jī)方案,與超云數(shù)字技術(shù)集團(tuán)有限公司、深圳市自強(qiáng)電子有限公司、長城科技股份有限公司、云尖信息技術(shù)有限公司、深圳市智微智能科技股份有限公司、深圳市倍聯(lián)德實(shí)業(yè)有限公司、昱格電子科技有限公司、北京容天匯??萍加邢薰镜壬鷳B(tài)伙伴一道,針對市場上主流的開源大模型,推出了多平臺、多品類AI算力一體機(jī)產(chǎn)品。
長城世恒X工作站:搭配英特爾至強(qiáng)W處理器和英特爾銳炫顯卡的DeepSeek四卡一體機(jī)
數(shù)量如此眾多的生態(tài)伙伴,齊齊發(fā)力AI算力一體機(jī),其背后有著迫切的市場原因。首先,邊緣側(cè)的很多企業(yè)用戶,對于AI應(yīng)用的需求,有其獨(dú)特性。在大多數(shù)情況下,并非模型越大越好。再考慮到成本和部署難度,邊緣側(cè)用戶更強(qiáng)調(diào)實(shí)用性與使用效率。而當(dāng)前市場現(xiàn)有多卡并行的解決方案,在實(shí)際部署和可行性上,多少有些不盡如人意之處。其次,考慮到便捷性和安全性,很多邊緣側(cè)的應(yīng)用,比如常見的監(jiān)控類、管理類系統(tǒng),包括智能問答、文檔處理等辦公場景,更適合本地處理。而部分企業(yè)核心數(shù)據(jù),如財務(wù)分析等,放在本地,不存在安全隱患,也無需租用公有資源。正是這兩點(diǎn)原因,讓英特爾和眾多生態(tài)伙伴洞察到了這一新近浮出水面的市場空間。
以華勝天成推出的基于英特爾銳炫顯卡的智能運(yùn)維一體機(jī)為例,作為落地方案之一,彰顯了其在降低運(yùn)營成本、提升運(yùn)維效率和保障安全性等方面的市場優(yōu)勢。傳統(tǒng)的機(jī)房運(yùn)維在機(jī)器報警后,接下來的處理大多依靠人工——發(fā)現(xiàn)問題、截取信息、讀取日志、上報等,需要一系列操作,處理周期長,效率低下。英特爾AI算力一體機(jī)方案幫助企業(yè)及邊緣側(cè)實(shí)現(xiàn)自動化智能運(yùn)維,讓監(jiān)控報警和日志信息,在代理程序之間快速處理和傳遞,使得信息采集更加迅捷。再加上后臺的知識庫可以直接進(jìn)行查詢,讓整體處理方式更加自動化。以運(yùn)行32B的大語言模型為例,多個英特爾銳炫顯卡保障了AI算力一體機(jī)所需算力及高性能的同時,顯示出極高的成本優(yōu)勢,大幅降低了智能運(yùn)維一體機(jī)部署成本。
憑借全面的軟硬件產(chǎn)品組合,英特爾創(chuàng)新的AI算力一體機(jī)方案為醫(yī)療、教育、制造、零售和交通等多個場景提供底層軟硬件支撐,助力千行百業(yè)的智能化轉(zhuǎn)型如虎添翼。
評論