邊緣計算“下一程”:AI規(guī)?;瘧萌绾喂裕?/h1>
數(shù)字化浪潮的洶涌推進,催生了前所未有的數(shù)據(jù)洪流,加速了計算從云到端的發(fā)展。在近日舉辦的英特爾新質生產力技術生態(tài)大會上,英特爾市場營銷集團副總裁、中國區(qū)OEM & ODM銷售事業(yè)部總經理郭威指出,如今云和端的界限正在變得越來越模糊,兩者朝著彼此融合的方向發(fā)展。這一趨勢的背后,是數(shù)據(jù)量的爆炸性增長,以及對數(shù)據(jù)在不同地點處理的考量,而這也構成了推動邊緣計算興起的關鍵因素。
本文引用地址:http://2s4d.com/article/202412/465116.htm英特爾市場營銷集團副總裁、中國區(qū)OEM&ODM銷售事業(yè)部總經理郭威
越來越多的企業(yè)應用開始在邊緣運行。根據(jù)Gartner的預測1,到2027年,50%的關鍵企業(yè)應用將在邊緣運行。研究機構Grand View Research 2 則預計,全球邊緣計算市場規(guī)模將在2024年至2030年間以高達36.9%的復合年增長率(CAGR)持續(xù)擴張。企業(yè)正在邊緣計算上持續(xù)投入,預計3從2024到2028年,全球邊緣計算支出將以雙位數(shù)的復合年增長率(CAGR)穩(wěn)健增長。
AI在邊緣也展現(xiàn)出強勁的發(fā)展勢頭。盡管目前,AI應用主要集中在云端,但考慮到成本、時效性和安全性等因素,AI向邊緣下沉已成為趨勢。Gartner預測4,到2026年,50%的全球邊緣部署將包含AI。今年以來,生成式AI在各行業(yè)的應用不斷落地,企業(yè)積極利用大模型技術解決商業(yè)挑戰(zhàn),并推動了一系列創(chuàng)新成果,大模型商用正進入規(guī)模化發(fā)展的關鍵階段。
邊緣AI“痛點”大起底:成本、技術與規(guī)?;魬?zhàn)
盡管邊緣AI在數(shù)據(jù)處理和實時響應方面展現(xiàn)出顯著優(yōu)勢,但在其部署過程中仍面臨一系列挑戰(zhàn)。
首先,將資源從云端轉移到邊緣通常需要額外的成本投入,包括硬件采購、部署、維護以及能源消耗等。企業(yè)需要在價值、質量和成本之間做出權衡,算一筆“經濟賬”。
其次,技術層面的復雜性是阻礙AI應用的一大難題。“模型幻覺”問題是其中之一,即在邊緣環(huán)境下,AI模型可能會因數(shù)據(jù)質量、模型訓練不足或硬件限制等原因產生不準確的輸出。
此外,邊緣應用場景的多樣性與碎片化也為邊緣AI部署帶來了挑戰(zhàn)。場景、設備及工作負載的多樣性,意味著每個場景都有其獨特的需求和限制。如何設計出既靈活又可擴展的標準化方案,以適應不同場景的需求,成為實現(xiàn)邊緣三大策略突破瓶頸,助力邊緣AI規(guī)?;l(fā)展
策略一:多樣化硬件產品,破解邊緣場景碎片化難題。
在邊緣計算場景中,面對不同的應用負載和場景需求,通用處理器和通用算力芯片是滿足這些多樣化場景的最佳方案,這也是英特爾的優(yōu)勢所在。
為實現(xiàn)這一目標,英特爾不斷在CPU中集成更多先進功能,通過CPU、GPU和NPU的協(xié)同工作,滿足各種場景下的復雜需求。
英特爾專為邊緣設計的多樣硬件產品組合,如英特爾? 酷睿? 處理器,為日常的工作負載提供了卓越的性能;英特爾? 酷睿? Ultra處理器則集成了NPU(神經網絡處理單元),為多種應用場景提供了更強大的算力支持。此外,英特爾凌動? 處理器、英特爾銳炫? GPU For the Edge、英特爾? 至強? 6 處理器,以及專為加速深度學習訓練和推理而設計的英特爾? Gaudi 處理器等,為客戶提供了豐富的選擇,使客戶以較低成本滿足多樣化負載和碎片化應用成為可能。
策略二:開源開放平臺,加速易用、可負擔的AI部署。
在軟件工具層面,英特爾提供了一系列工具集,如OpenVINO?和oneAPI?,這些工具集為開發(fā)者在英特爾平臺上優(yōu)化和部署AI應用提供了強有力的支持。
在AI模型和框架方面,英特爾提供TensorFlow、Hugging Face、PyTorch和DeepSpeed等主流AI模型和框架,確保開發(fā)者能夠利用最前沿的工具來構建和訓練AI模型。
企業(yè)AI開放平臺(OPEA)是英特爾攜手行業(yè)領軍企業(yè)共同打造的開放性AI開發(fā)與部署平臺。該平臺幫助行業(yè)客戶更便捷地基于英特爾的產品,構建完整的企業(yè)級AI應用。
策略三:以場景驅動創(chuàng)新,攜手生態(tài)破局未來市場。
英特爾攜手合作伙伴,深入挖掘行業(yè)場景的需求與痛點,在特定場景中探索創(chuàng)新路徑,共同預見并應對未來可能出現(xiàn)的新挑戰(zhàn)。
針對多元化的應用場景,英特爾與合作伙伴攜手打造了定制化的垂直行業(yè)AI解決方案,如英特爾? 工業(yè)邊緣控制、基于英特爾? 架構的 AI POS 方案等,滿足零售、工業(yè)、教育、醫(yī)療、能源和交通等不同領域的特定需求。
多元化的生態(tài)是英特爾持續(xù)深耕行業(yè)、推動創(chuàng)新的基石。英特爾也將持續(xù)構建和拓展合作伙伴生態(tài)系統(tǒng),與服務提供商、設備制造商等生態(tài)伙伴緊密合作,共促技術聯(lián)創(chuàng)、共享開發(fā)權益、共拓市場項目,加速人工智能的開發(fā)和落地部署。
2024年是大模型應用的落地之年,AI應用仍在創(chuàng)新的浪潮下持續(xù)拓展邊界。在云、邊、端融合的趨勢下,英特爾憑借CPU、GPU與NPU的強強聯(lián)合筑牢算力底座,以開放平臺和生態(tài)推動技術創(chuàng)新與產業(yè)發(fā)展,讓更多行業(yè)企業(yè)能夠輕松擁抱AI技術,從而引領生成式AI及大模型應用走向規(guī)?;l(fā)展的新階段,推動業(yè)界邁向更加智能、高效與可持續(xù)的未來。
數(shù)字化浪潮的洶涌推進,催生了前所未有的數(shù)據(jù)洪流,加速了計算從云到端的發(fā)展。在近日舉辦的英特爾新質生產力技術生態(tài)大會上,英特爾市場營銷集團副總裁、中國區(qū)OEM & ODM銷售事業(yè)部總經理郭威指出,如今云和端的界限正在變得越來越模糊,兩者朝著彼此融合的方向發(fā)展。這一趨勢的背后,是數(shù)據(jù)量的爆炸性增長,以及對數(shù)據(jù)在不同地點處理的考量,而這也構成了推動邊緣計算興起的關鍵因素。
本文引用地址:http://2s4d.com/article/202412/465116.htm英特爾市場營銷集團副總裁、中國區(qū)OEM&ODM銷售事業(yè)部總經理郭威
越來越多的企業(yè)應用開始在邊緣運行。根據(jù)Gartner的預測1,到2027年,50%的關鍵企業(yè)應用將在邊緣運行。研究機構Grand View Research 2 則預計,全球邊緣計算市場規(guī)模將在2024年至2030年間以高達36.9%的復合年增長率(CAGR)持續(xù)擴張。企業(yè)正在邊緣計算上持續(xù)投入,預計3從2024到2028年,全球邊緣計算支出將以雙位數(shù)的復合年增長率(CAGR)穩(wěn)健增長。
AI在邊緣也展現(xiàn)出強勁的發(fā)展勢頭。盡管目前,AI應用主要集中在云端,但考慮到成本、時效性和安全性等因素,AI向邊緣下沉已成為趨勢。Gartner預測4,到2026年,50%的全球邊緣部署將包含AI。今年以來,生成式AI在各行業(yè)的應用不斷落地,企業(yè)積極利用大模型技術解決商業(yè)挑戰(zhàn),并推動了一系列創(chuàng)新成果,大模型商用正進入規(guī)模化發(fā)展的關鍵階段。
邊緣AI“痛點”大起底:成本、技術與規(guī)?;魬?zhàn)
盡管邊緣AI在數(shù)據(jù)處理和實時響應方面展現(xiàn)出顯著優(yōu)勢,但在其部署過程中仍面臨一系列挑戰(zhàn)。
首先,將資源從云端轉移到邊緣通常需要額外的成本投入,包括硬件采購、部署、維護以及能源消耗等。企業(yè)需要在價值、質量和成本之間做出權衡,算一筆“經濟賬”。
其次,技術層面的復雜性是阻礙AI應用的一大難題。“模型幻覺”問題是其中之一,即在邊緣環(huán)境下,AI模型可能會因數(shù)據(jù)質量、模型訓練不足或硬件限制等原因產生不準確的輸出。
此外,邊緣應用場景的多樣性與碎片化也為邊緣AI部署帶來了挑戰(zhàn)。場景、設備及工作負載的多樣性,意味著每個場景都有其獨特的需求和限制。如何設計出既靈活又可擴展的標準化方案,以適應不同場景的需求,成為實現(xiàn)邊緣三大策略突破瓶頸,助力邊緣AI規(guī)?;l(fā)展
策略一:多樣化硬件產品,破解邊緣場景碎片化難題。
在邊緣計算場景中,面對不同的應用負載和場景需求,通用處理器和通用算力芯片是滿足這些多樣化場景的最佳方案,這也是英特爾的優(yōu)勢所在。
為實現(xiàn)這一目標,英特爾不斷在CPU中集成更多先進功能,通過CPU、GPU和NPU的協(xié)同工作,滿足各種場景下的復雜需求。
英特爾專為邊緣設計的多樣硬件產品組合,如英特爾? 酷睿? 處理器,為日常的工作負載提供了卓越的性能;英特爾? 酷睿? Ultra處理器則集成了NPU(神經網絡處理單元),為多種應用場景提供了更強大的算力支持。此外,英特爾凌動? 處理器、英特爾銳炫? GPU For the Edge、英特爾? 至強? 6 處理器,以及專為加速深度學習訓練和推理而設計的英特爾? Gaudi 處理器等,為客戶提供了豐富的選擇,使客戶以較低成本滿足多樣化負載和碎片化應用成為可能。
策略二:開源開放平臺,加速易用、可負擔的AI部署。
在軟件工具層面,英特爾提供了一系列工具集,如OpenVINO?和oneAPI?,這些工具集為開發(fā)者在英特爾平臺上優(yōu)化和部署AI應用提供了強有力的支持。
在AI模型和框架方面,英特爾提供TensorFlow、Hugging Face、PyTorch和DeepSpeed等主流AI模型和框架,確保開發(fā)者能夠利用最前沿的工具來構建和訓練AI模型。
企業(yè)AI開放平臺(OPEA)是英特爾攜手行業(yè)領軍企業(yè)共同打造的開放性AI開發(fā)與部署平臺。該平臺幫助行業(yè)客戶更便捷地基于英特爾的產品,構建完整的企業(yè)級AI應用。
策略三:以場景驅動創(chuàng)新,攜手生態(tài)破局未來市場。
英特爾攜手合作伙伴,深入挖掘行業(yè)場景的需求與痛點,在特定場景中探索創(chuàng)新路徑,共同預見并應對未來可能出現(xiàn)的新挑戰(zhàn)。
針對多元化的應用場景,英特爾與合作伙伴攜手打造了定制化的垂直行業(yè)AI解決方案,如英特爾? 工業(yè)邊緣控制、基于英特爾? 架構的 AI POS 方案等,滿足零售、工業(yè)、教育、醫(yī)療、能源和交通等不同領域的特定需求。
多元化的生態(tài)是英特爾持續(xù)深耕行業(yè)、推動創(chuàng)新的基石。英特爾也將持續(xù)構建和拓展合作伙伴生態(tài)系統(tǒng),與服務提供商、設備制造商等生態(tài)伙伴緊密合作,共促技術聯(lián)創(chuàng)、共享開發(fā)權益、共拓市場項目,加速人工智能的開發(fā)和落地部署。
2024年是大模型應用的落地之年,AI應用仍在創(chuàng)新的浪潮下持續(xù)拓展邊界。在云、邊、端融合的趨勢下,英特爾憑借CPU、GPU與NPU的強強聯(lián)合筑牢算力底座,以開放平臺和生態(tài)推動技術創(chuàng)新與產業(yè)發(fā)展,讓更多行業(yè)企業(yè)能夠輕松擁抱AI技術,從而引領生成式AI及大模型應用走向規(guī)?;l(fā)展的新階段,推動業(yè)界邁向更加智能、高效與可持續(xù)的未來。
評論