邊緣AI:徹底改變實時數(shù)據(jù)處理和自動化
從智能家居助手(想想 Alexa、Google 和 Siri)到在駕駛員離開車道時通知駕駛員的高級駕駛輔助系統(tǒng) (ADAS),世界都依靠邊緣 AI 為這些日益常見和重要的設(shè)備提供實時處理(圖 1)。
本文引用地址:http://2s4d.com/article/202503/467851.htm邊緣 AI 直接在設(shè)備內(nèi)使用人工智能,在數(shù)據(jù)源附近進(jìn)行計算,而不是在具有云計算的異地數(shù)據(jù)中心進(jìn)行計算。邊緣 AI 提供更低的延遲、更快的處理速度、減少對持續(xù)互聯(lián)網(wǎng)連接的需求,并降低隱私問題。盡管如此,仍可能存在挑戰(zhàn)。
這項技術(shù)代表了數(shù)據(jù)處理方式的重大轉(zhuǎn)變。隨著對實時智能的需求增長,邊緣 AI 處于有利地位,可以繼續(xù)對工程師產(chǎn)生巨大影響。
邊緣 AI 最重要的價值是它可以為關(guān)鍵應(yīng)用程序提供的速度。與云/數(shù)據(jù)中心 AI 不同,邊緣 AI 不會通過網(wǎng)絡(luò)鏈接發(fā)送數(shù)據(jù),而是希望獲得合理的響應(yīng)時間。相反,邊緣 AI 在本地計算(通常在實時作系統(tǒng)上),擅長提供及時響應(yīng)。對于 ADAS 等情況,工程師開發(fā)了算法,使車輛能夠處理來自車載攝像頭和傳感器的數(shù)據(jù),從而允許對導(dǎo)航、障礙物檢測和安全功能進(jìn)行實時決策,而無需依賴云處理。
用于實時處理的邊緣 AI
許多實時活動推動了對邊緣 AI 的需求。智能家居助手、患者監(jiān)測和預(yù)測性維護(hù)等應(yīng)用是該技術(shù)對工程師產(chǎn)生影響的顯著用途。從快速響應(yīng)家庭問題到在本地分析生物識別數(shù)據(jù)的可穿戴健康設(shè)備,邊緣 AI 提供快速響應(yīng),同時最大限度地減少隱私問題。
邊緣 AI
人工智能需要計算能力,但更高效的算法和專用硬件使其適用于邊緣節(jié)點(diǎn)。
很長一段時間以來,我們已經(jīng)看到邊緣 AI 在供應(yīng)鏈中表現(xiàn)良好,尤其是在倉儲和工廠方面。在過去十年中,運(yùn)輸行業(yè)的技術(shù)也取得了長足的發(fā)展,例如在云層等條件下導(dǎo)航的送貨無人機(jī)。
邊緣 AI 也為工程師做了很多偉大的事情,尤其是在醫(yī)療技術(shù)領(lǐng)域,這是一個關(guān)鍵的進(jìn)步領(lǐng)域。例如,開發(fā)起搏器和其他心臟設(shè)備的工程師可以為醫(yī)生配備尋找異常心律的工具,同時還可以主動對設(shè)備進(jìn)行編程,以指導(dǎo)何時尋求進(jìn)一步的醫(yī)療干預(yù)。Med-tech 將繼續(xù)增加對邊緣 AI 的使用并構(gòu)建更多功能。
如何生成邊緣 AI 模型
隨著日常生活中越來越多的系統(tǒng)集成了某種程度的機(jī)器學(xué)習(xí) (ML) 交互,了解這個世界對于工程師和開發(fā)人員規(guī)劃未來用戶交互變得至關(guān)重要。
邊緣 AI 的最大機(jī)會是 ML,它基于統(tǒng)計算法匹配模式。這些模式可能是感應(yīng)到有人在場,有人剛剛為智能家居助手說了“喚醒詞”(例如,Alexa 或“Hey Siri”),或者電機(jī)開始晃動。對于智能家居助手,喚醒詞是在邊緣運(yùn)行的模型,不需要將您的聲音發(fā)送到云端。它會喚醒設(shè)備并讓它知道是時候調(diào)度進(jìn)一步的命令了。
生成 ML 模型可以采用多種途徑,例如使用集成開發(fā)環(huán)境(如 TensorFlow 或 PyTorch)或使用軟件即服務(wù) (SaaS) 平臺(如 Edge Impulse)。構(gòu)建一個好的 ML 模型的大部分 “工作” 都用于創(chuàng)建一個有代表性的數(shù)據(jù)集并對其進(jìn)行很好的標(biāo)記。
目前,最流行的邊緣 AI ML 模型是監(jiān)督模型。這是一種基于標(biāo)記和標(biāo)記樣本數(shù)據(jù)的訓(xùn)練,其中輸出是一個已知值,可以檢查其正確性,就像讓導(dǎo)師檢查并在此過程中進(jìn)行正確的工作一樣。此訓(xùn)練通常用于分類工作或數(shù)據(jù)回歸等應(yīng)用程序。監(jiān)督式訓(xùn)練可能很有用且高度準(zhǔn)確,但它在很大程度上取決于標(biāo)記的數(shù)據(jù)集,并且可能無法處理新的輸入。
運(yùn)行邊緣 AI 工作負(fù)載所需的硬件
DigiKey 等公司完全有能力協(xié)助邊緣 AI 的實施,因為它們通常在微控制器、FPGA 和單板計算機(jī) (SBC) 上運(yùn)行。DigiKey 與頂級供應(yīng)商合作,提供在邊緣運(yùn)行 ML 模型的幾代硬件;例如,NXP 的 MCX-N 系列和 STMicroelectronics 的 STM32MP25 系列。
在過去幾年中,來自創(chuàng)客社區(qū)的開發(fā)板在運(yùn)行邊緣 AI 方面廣受歡迎,包括 SparkFun 的邊緣開發(fā)板 Apollo3 Blue、Adafruit 的 EdgeBadge、Arduino 的 Nano 33 BLE Sense Rev 2 和 Raspberry Pi 的 4 或 5。
神經(jīng)處理單元 (NPU) 在邊緣 AI 中越來越受歡迎。NPU 是專用 IC,旨在加速基于神經(jīng)網(wǎng)絡(luò)的 ML 和 AI 應(yīng)用程序的處理,基于具有許多互連層的人腦結(jié)構(gòu),以及處理和傳遞信息的稱為神經(jīng)元的節(jié)點(diǎn)。新一代 NPU 正在創(chuàng)建具有專用數(shù)學(xué)處理的 NPU,包括 NXP 的 MCX N 系列和 ADI 的 MAX78000。
用于邊緣設(shè)備的 AI 加速器也在不斷涌現(xiàn)。不過,這個領(lǐng)域尚未確定,早期著名的公司包括 Google Coral 和 Hailo。
機(jī)器學(xué)習(xí)傳感器的重要性
帶有 ML 模型的高速相機(jī)在供應(yīng)鏈中已經(jīng)運(yùn)行了很長一段時間。它們已被用于決定在倉庫內(nèi)將產(chǎn)品發(fā)送到何處或在生產(chǎn)線中查找有缺陷的產(chǎn)品。供應(yīng)商現(xiàn)在正在創(chuàng)建低成本的 AI 視覺模塊,這些模塊可以運(yùn)行 ML 模塊來識別物體或人。
盡管運(yùn)行 ML 模型需要嵌入式系統(tǒng),但更多產(chǎn)品將繼續(xù)作為支持 AI 的電子元件發(fā)布。這包括支持 AI 的傳感器,也稱為 ML 傳感器。雖然向大多數(shù)傳感器添加 ML 模型不會提高它們在應(yīng)用程序中的效率,但 ML 訓(xùn)練可以使幾種類型的傳感器以更高效的方式執(zhí)行:
相機(jī)傳感器,其中可以開發(fā) ML 模型來跟蹤幀中的物體和人員。
IMU、加速度計和運(yùn)動傳感器,用于檢測活動概況。
許多 AI 傳感器都預(yù)裝了隨時可以運(yùn)行的 ML 模型。例如,用于感應(yīng)人員的 SparkFun 評估板經(jīng)過預(yù)編程,可通過 QWiiC I2C 接口檢測人臉并返回信息。一些 AI 傳感器,如 Arduino 的 Nicla Vision 或 Seeed Technology 的 OpenMV Cam H7,更加開放,需要經(jīng)過訓(xùn)練的 ML 模型來確定他們正在尋找什么(缺陷、對象等)。
使用神經(jīng)網(wǎng)絡(luò)提供計算算法,可以在物體和人員進(jìn)入攝像頭傳感器的視野時對其進(jìn)行檢測和跟蹤。
邊緣 AI 的未來
隨著許多行業(yè)的發(fā)展并越來越依賴技術(shù)進(jìn)行數(shù)據(jù)處理,邊緣 AI 將繼續(xù)得到更廣泛的采用。通過在設(shè)備級別實現(xiàn)更快、更安全的數(shù)據(jù)處理,邊緣 AI 的創(chuàng)新將是深遠(yuǎn)的。預(yù)計在不久的將來將擴(kuò)展的一些領(lǐng)域包括:
用于計算神經(jīng)網(wǎng)絡(luò)算術(shù)的專用處理器邏輯。
與云計算的巨大能耗相比,低功耗替代方案的進(jìn)步。
AI Vision 部件等更多集成/模塊選項將包括內(nèi)置傳感器和嵌入式硬件。
隨著 ML 訓(xùn)練方法、硬件和軟件的發(fā)展,邊緣 AI 處于有利地位,可以呈指數(shù)級增長并支持許多行業(yè)。
評論