邊緣AI：徹底改變實(shí)時(shí)數(shù)據(jù)處理和自動(dòng)化

從智能家居助手（想想 Alexa、Google 和 Siri）到在駕駛員離開(kāi)車道時(shí)通知駕駛員的高級(jí)駕駛輔助系統(tǒng) （ADAS），世界都依靠邊緣 AI 為這些日益常見(jiàn)和重要的設(shè)備提供實(shí)時(shí)處理（圖 1）。

邊緣 AI 直接在設(shè)備內(nèi)使用人工智能，在數(shù)據(jù)源附近進(jìn)行計(jì)算，而不是在具有云計(jì)算的異地?cái)?shù)據(jù)中心進(jìn)行計(jì)算。邊緣 AI 提供更低的延遲、更快的處理速度、減少對(duì)持續(xù)互聯(lián)網(wǎng)連接的需求，并降低隱私問(wèn)題。盡管如此，仍可能存在挑戰(zhàn)。

這項(xiàng)技術(shù)代表了數(shù)據(jù)處理方式的重大轉(zhuǎn)變。隨著對(duì)實(shí)時(shí)智能的需求增長(zhǎng)，邊緣 AI 處于有利地位，可以繼續(xù)對(duì)工程師產(chǎn)生巨大影響。

邊緣 AI 最重要的價(jià)值是它可以為關(guān)鍵應(yīng)用程序提供的速度。與云/數(shù)據(jù)中心 AI 不同，邊緣 AI 不會(huì)通過(guò)網(wǎng)絡(luò)鏈接發(fā)送數(shù)據(jù)，而是希望獲得合理的響應(yīng)時(shí)間。相反，邊緣 AI 在本地計(jì)算（通常在實(shí)時(shí)作系統(tǒng)上），擅長(zhǎng)提供及時(shí)響應(yīng)。對(duì)于 ADAS 等情況，工程師開(kāi)發(fā)了算法，使車輛能夠處理來(lái)自車載攝像頭和傳感器的數(shù)據(jù)，從而允許對(duì)導(dǎo)航、障礙物檢測(cè)和安全功能進(jìn)行實(shí)時(shí)決策，而無(wú)需依賴云處理。

用于實(shí)時(shí)處理的邊緣 AI

許多實(shí)時(shí)活動(dòng)推動(dòng)了對(duì)邊緣 AI 的需求。智能家居助手、患者監(jiān)測(cè)和預(yù)測(cè)性維護(hù)等應(yīng)用是該技術(shù)對(duì)工程師產(chǎn)生影響的顯著用途。從快速響應(yīng)家庭問(wèn)題到在本地分析生物識(shí)別數(shù)據(jù)的可穿戴健康設(shè)備，邊緣 AI 提供快速響應(yīng)，同時(shí)最大限度地減少隱私問(wèn)題。

邊緣 AI

人工智能需要計(jì)算能力，但更高效的算法和專用硬件使其適用于邊緣節(jié)點(diǎn)。

很長(zhǎng)一段時(shí)間以來(lái)，我們已經(jīng)看到邊緣 AI 在供應(yīng)鏈中表現(xiàn)良好，尤其是在倉(cāng)儲(chǔ)和工廠方面。在過(guò)去十年中，運(yùn)輸行業(yè)的技術(shù)也取得了長(zhǎng)足的發(fā)展，例如在云層等條件下導(dǎo)航的送貨無(wú)人機(jī)。

邊緣 AI 也為工程師做了很多偉大的事情，尤其是在醫(yī)療技術(shù)領(lǐng)域，這是一個(gè)關(guān)鍵的進(jìn)步領(lǐng)域。例如，開(kāi)發(fā)起搏器和其他心臟設(shè)備的工程師可以為醫(yī)生配備尋找異常心律的工具，同時(shí)還可以主動(dòng)對(duì)設(shè)備進(jìn)行編程，以指導(dǎo)何時(shí)尋求進(jìn)一步的醫(yī)療干預(yù)。Med-tech 將繼續(xù)增加對(duì)邊緣 AI 的使用并構(gòu)建更多功能。

如何生成邊緣 AI 模型

隨著日常生活中越來(lái)越多的系統(tǒng)集成了某種程度的機(jī)器學(xué)習(xí) （ML） 交互，了解這個(gè)世界對(duì)于工程師和開(kāi)發(fā)人員規(guī)劃未來(lái)用戶交互變得至關(guān)重要。

邊緣 AI 的最大機(jī)會(huì)是 ML，它基于統(tǒng)計(jì)算法匹配模式。這些模式可能是感應(yīng)到有人在場(chǎng)，有人剛剛為智能家居助手說(shuō)了“喚醒詞”（例如，Alexa 或“Hey Siri”），或者電機(jī)開(kāi)始晃動(dòng)。對(duì)于智能家居助手，喚醒詞是在邊緣運(yùn)行的模型，不需要將您的聲音發(fā)送到云端。它會(huì)喚醒設(shè)備并讓它知道是時(shí)候調(diào)度進(jìn)一步的命令了。

生成 ML 模型可以采用多種途徑，例如使用集成開(kāi)發(fā)環(huán)境（如 TensorFlow 或 PyTorch）或使用軟件即服務(wù) （SaaS） 平臺(tái)（如 Edge Impulse）。構(gòu)建一個(gè)好的 ML 模型的大部分 “工作” 都用于創(chuàng)建一個(gè)有代表性的數(shù)據(jù)集并對(duì)其進(jìn)行很好的標(biāo)記。

目前，最流行的邊緣 AI ML 模型是監(jiān)督模型。這是一種基于標(biāo)記和標(biāo)記樣本數(shù)據(jù)的訓(xùn)練，其中輸出是一個(gè)已知值，可以檢查其正確性，就像讓導(dǎo)師檢查并在此過(guò)程中進(jìn)行正確的工作一樣。此訓(xùn)練通常用于分類工作或數(shù)據(jù)回歸等應(yīng)用程序。監(jiān)督式訓(xùn)練可能很有用且高度準(zhǔn)確，但它在很大程度上取決于標(biāo)記的數(shù)據(jù)集，并且可能無(wú)法處理新的輸入。

運(yùn)行邊緣 AI 工作負(fù)載所需的硬件

DigiKey 等公司完全有能力協(xié)助邊緣 AI 的實(shí)施，因?yàn)樗鼈兺ǔＴ谖⒖刂破?、FPGA 和單板計(jì)算機(jī) （SBC） 上運(yùn)行。DigiKey 與頂級(jí)供應(yīng)商合作，提供在邊緣運(yùn)行 ML 模型的幾代硬件;例如，NXP 的 MCX-N 系列和 STMicroelectronics 的 STM32MP25 系列。

在過(guò)去幾年中，來(lái)自創(chuàng)客社區(qū)的開(kāi)發(fā)板在運(yùn)行邊緣 AI 方面廣受歡迎，包括 SparkFun 的邊緣開(kāi)發(fā)板 Apollo3 Blue、Adafruit 的 EdgeBadge、Arduino 的 Nano 33 BLE Sense Rev 2 和 Raspberry Pi 的 4 或 5。

神經(jīng)處理單元 （NPU） 在邊緣 AI 中越來(lái)越受歡迎。NPU 是專用 IC，旨在加速基于神經(jīng)網(wǎng)絡(luò)的 ML 和 AI 應(yīng)用程序的處理，基于具有許多互連層的人腦結(jié)構(gòu)，以及處理和傳遞信息的稱為神經(jīng)元的節(jié)點(diǎn)。新一代 NPU 正在創(chuàng)建具有專用數(shù)學(xué)處理的 NPU，包括 NXP 的 MCX N 系列和 ADI 的 MAX78000。

用于邊緣設(shè)備的 AI 加速器也在不斷涌現(xiàn)。不過(guò)，這個(gè)領(lǐng)域尚未確定，早期著名的公司包括 Google Coral 和 Hailo。

機(jī)器學(xué)習(xí)傳感器的重要性

帶有 ML 模型的高速相機(jī)在供應(yīng)鏈中已經(jīng)運(yùn)行了很長(zhǎng)一段時(shí)間。它們已被用于決定在倉(cāng)庫(kù)內(nèi)將產(chǎn)品發(fā)送到何處或在生產(chǎn)線中查找有缺陷的產(chǎn)品。供應(yīng)商現(xiàn)在正在創(chuàng)建低成本的 AI 視覺(jué)模塊，這些模塊可以運(yùn)行 ML 模塊來(lái)識(shí)別物體或人。

盡管運(yùn)行 ML 模型需要嵌入式系統(tǒng)，但更多產(chǎn)品將繼續(xù)作為支持 AI 的電子元件發(fā)布。這包括支持 AI 的傳感器，也稱為 ML 傳感器。雖然向大多數(shù)傳感器添加 ML 模型不會(huì)提高它們?cè)趹?yīng)用程序中的效率，但 ML 訓(xùn)練可以使幾種類型的傳感器以更高效的方式執(zhí)行：

• 相機(jī)傳感器，其中可以開(kāi)發(fā) ML 模型來(lái)跟蹤幀中的物體和人員。

• IMU、加速度計(jì)和運(yùn)動(dòng)傳感器，用于檢測(cè)活動(dòng)概況。

許多 AI 傳感器都預(yù)裝了隨時(shí)可以運(yùn)行的 ML 模型。例如，用于感應(yīng)人員的 SparkFun 評(píng)估板經(jīng)過(guò)預(yù)編程，可通過(guò) QWiiC I2C 接口檢測(cè)人臉并返回信息。一些 AI 傳感器，如 Arduino 的 Nicla Vision 或 Seeed Technology 的 OpenMV Cam H7，更加開(kāi)放，需要經(jīng)過(guò)訓(xùn)練的 ML 模型來(lái)確定他們正在尋找什么（缺陷、對(duì)象等）。

使用神經(jīng)網(wǎng)絡(luò)提供計(jì)算算法，可以在物體和人員進(jìn)入攝像頭傳感器的視野時(shí)對(duì)其進(jìn)行檢測(cè)和跟蹤。

邊緣 AI 的未來(lái)

隨著許多行業(yè)的發(fā)展并越來(lái)越依賴技術(shù)進(jìn)行數(shù)據(jù)處理，邊緣 AI 將繼續(xù)得到更廣泛的采用。通過(guò)在設(shè)備級(jí)別實(shí)現(xiàn)更快、更安全的數(shù)據(jù)處理，邊緣 AI 的創(chuàng)新將是深遠(yuǎn)的。預(yù)計(jì)在不久的將來(lái)將擴(kuò)展的一些領(lǐng)域包括：

1. 用于計(jì)算神經(jīng)網(wǎng)絡(luò)算術(shù)的專用處理器邏輯。

2. 與云計(jì)算的巨大能耗相比，低功耗替代方案的進(jìn)步。

3. AI Vision 部件等更多集成/模塊選項(xiàng)將包括內(nèi)置傳感器和嵌入式硬件。

隨著 ML 訓(xùn)練方法、硬件和軟件的發(fā)展，邊緣 AI 處于有利地位，可以呈指數(shù)級(jí)增長(zhǎng)并支持許多行業(yè)。