一文了解邊緣計算與云計算
但在全球各地實時運行的AI應用可能需要巨大的本地處理能力,而且往往是在遠離中央云服務器的偏遠地區(qū)。由于低時延或數(shù)據(jù)駐留要求,一些工作負載需要保留在本地或特定地點。
這就是為什么許多企業(yè)使用邊緣計算部署AI應用,邊緣計算能夠在產(chǎn)生數(shù)據(jù)的地點處理數(shù)據(jù),在本地邊緣設備中處理和存儲數(shù)據(jù),而不是在遙遠的中央數(shù)據(jù)存儲庫中進行云處理。因此,此類設備無需聯(lián)網(wǎng)就能作為一個獨立的網(wǎng)絡節(jié)點運行。
云和邊緣計算有許多優(yōu)點和用例,并且可以一起使用。
什么是云計算
云計算有許多優(yōu)點。《哈佛商業(yè)評論》中的“云轉(zhuǎn)型狀況”報告,83%的受訪者表示,云對企業(yè)機構(gòu)的未來戰(zhàn)略和增長極其重要。
云計算必定會日益普及。企業(yè)采用云基礎設施并將繼續(xù)這樣做的原因包括:
更低的前期成本:省去了購買硬件、軟件、IT管理以及24小時供電和冷卻的資本支出。云計算使企業(yè)機構(gòu)能夠迅速將應用推向市場并降低進入市場的財務門檻。
靈活的定價:企業(yè)只需為所使用的計算資源付費,因此可以更好地控制成本,減少意外情況。
無限的按需計算:云服務能夠通過自動配置和刪除資源來即時應對和適應不斷變化的需求,從而降低成本,提高企業(yè)機構(gòu)的整體效率。
簡化的IT管理:云供應商為其客戶提供IT管理專家服務,使員工能夠?qū)W⒂谄髽I(yè)的核心需求。
易于更新:只需點擊一次就可以獲得最新的硬件、軟件和服務。
穩(wěn)定可靠:由于可以在云供應商網(wǎng)絡上的多個冗余站點建立數(shù)據(jù)鏡像,因此能夠以更低的成本輕松地實現(xiàn)備份、災難恢復和業(yè)務連續(xù)性。
節(jié)省時間:企業(yè)在配置私有服務器和網(wǎng)絡時會浪費時間。有了按需提供的云基礎設施,企業(yè)能夠在很短的時間內(nèi)部署應用并更快進入市場。
什么是邊緣計算
通過在網(wǎng)絡邊緣處理數(shù)據(jù),邊緣計算減少了大量數(shù)據(jù)在服務器、云和設備或邊緣位置之間傳輸?shù)男枨?。這對于數(shù)據(jù)科學和AI等現(xiàn)代化應用尤為重要。
邊緣計算的優(yōu)點
Gartner預測:“在生產(chǎn)中部署邊緣用例的企業(yè)數(shù)量將從2019年的約5%增長至2024年的約40%?!?strong style="margin: 0px; padding: 0px; outline: 0px; max-width: 100%; box-sizing: border-box !important; overflow-wrap: break-word !important;">許多高性能計算應用已經(jīng)成為現(xiàn)代生活的支柱,例如深度學習和推理、數(shù)據(jù)處理和分析、模擬以及視頻流等。隨著企業(yè)逐漸意識到這些應用由邊緣計算驅(qū)動,生產(chǎn)中的邊緣用例數(shù)量也將會增加。
減少時延:邊緣數(shù)據(jù)處理避免或減少了數(shù)據(jù)的傳輸,因此可以更快洞悉具有低時延要求的復雜AI模型用例,例如全自動駕駛汽車和增強現(xiàn)實等。
降低成本:與云計算相比,使用局域網(wǎng)進行數(shù)據(jù)處理可以讓企業(yè)以更低的成本獲得更高的帶寬和存儲。此外,由于在邊緣進行處理,因此需要發(fā)送到云或數(shù)據(jù)中心進行進一步處理的數(shù)據(jù)變得更少,這減少了需要傳輸?shù)臄?shù)據(jù)量,同時也降低了成本。
模型精度:AI依賴高精度模型,尤其是對于需要實時響應的邊緣用例。當網(wǎng)絡帶寬過低時,一般會通過降低輸入模型的數(shù)據(jù)大小來緩解。這會導致圖像尺寸減少、視頻跳幀和音頻采樣率降低。當部署在邊緣時,數(shù)據(jù)反饋回路可提高AI模型的精度,并且可以同時運行多個模型。
更廣泛的覆蓋范圍:互聯(lián)網(wǎng)接入是傳統(tǒng)云計算的必備條件。但邊緣計算可以在本地處理數(shù)據(jù)并且無需連接網(wǎng)絡,這將計算范圍擴大到了以前無法接入或遠程的位置。
數(shù)據(jù)主權(quán):當數(shù)據(jù)在采集地點得到處理時,企業(yè)機構(gòu)就可以通過邊緣計算將所有敏感數(shù)據(jù)和計算保留在局域網(wǎng)和公司防火墻內(nèi)。這能降低云端遭受網(wǎng)絡安全攻擊的風險,并使企業(yè)能夠更好地遵守嚴格而不斷變化的數(shù)據(jù)法律。
云計算在邊緣AI中扮演什么角色
云和邊緣容器的主要區(qū)別在于位置。邊緣容器位于網(wǎng)絡的邊緣,更接近數(shù)據(jù)源,而云容器則在數(shù)據(jù)中心運行。
已實施容器化云解決方案的企業(yè)機構(gòu)可以十分輕松地將它們部署在邊緣。
企業(yè)機構(gòu)一般會使用云原生技術(shù)來管理他們的邊緣AI數(shù)據(jù)中心。這是因為邊緣AI數(shù)據(jù)中心的服務器常常分布在成千上萬個地點,而且這些地點無法既沒有物理安全保障也沒有受過培訓的人員。因此邊緣AI服務器必須是安全、有彈性并且易于大規(guī)模管理的。
何時使用邊緣計算和云計算?
云計算 | 非時延敏感型數(shù)據(jù)處理 |
可靠的網(wǎng)絡連接 | |
動態(tài)工作負載 | |
存儲在云端的數(shù)據(jù) |
邊緣計算 | 實時數(shù)據(jù)處理 |
網(wǎng)絡連接受限或無網(wǎng)絡連接的遠程地點 | |
大型數(shù)據(jù)集的成本太高,無法發(fā)送到云 | |
高度敏感的數(shù)據(jù)和嚴格的數(shù)據(jù)法律 |
兩全其美的選擇:混合云架構(gòu)
不同的企業(yè)機構(gòu)所采用的混合云解決方案也有所不同,例如在云端訓練+在邊緣部署、在數(shù)據(jù)中心訓練+在邊緣使用云管理工具、在邊緣訓練+將模型集中到云端進行聯(lián)合學習等。云與邊緣的結(jié)合可以創(chuàng)造無限的可能性。
來源:英偉達企業(yè)解決方案
*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權(quán)請聯(lián)系工作人員刪除。