NanoEdge AI 解決方案協(xié)助嵌入式系統(tǒng)開發(fā)應(yīng)用

意法半導(dǎo)體(ST)推出NanoEdge AI Studio V3自動(dòng)化機(jī)器學(xué)習(xí)工具，提供兩個(gè)額外的機(jī)器學(xué)習(xí)算法系列、簡化的數(shù)據(jù)記錄及翻新的用戶接口。因此，該工具涵蓋了更多使用案例，可幫助嵌入式開發(fā)人員更好理解及使用。



 
圖一 : NanoEdge AI Studio V3自動(dòng)化機(jī)器學(xué)習(xí)工具

什么是NanoEdge AI Studio？
建立機(jī)器學(xué)習(xí)應(yīng)用的挑戰(zhàn)
長久以來，期望采用機(jī)器學(xué)習(xí)的公司，為了收集長達(dá)數(shù)個(gè)月的大量數(shù)據(jù)，必須聘用一名或多名數(shù)據(jù)科學(xué)家來整理，并建立AI模型。然后，再藉由嵌入式開發(fā)人員將該模型移植到微控制器，或使用STM32Cube.AI等工具，將神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換為STM32 MCU的優(yōu)化程序代碼。然而，公司在預(yù)算及數(shù)據(jù)安全的考慮下，不太可能會(huì)聘用數(shù)據(jù)科學(xué)家，或甚至外包處理。

即使世界各地都有適合的人選，但數(shù)據(jù)的質(zhì)量仍待加強(qiáng)。雖然機(jī)器學(xué)習(xí)有長足的進(jìn)步，但獲得可靠的訓(xùn)練樣本仍有困難。例如，應(yīng)用程序試圖偵測(cè)異常行為，卻無法獲得足夠的數(shù)據(jù)。而雖然許多數(shù)據(jù)集適用于解決分類問題，例如異常偵測(cè)，但其卻不適用于嘗試偵測(cè)新型態(tài)的異常情況。因此，取得高質(zhì)量的數(shù)據(jù)也相當(dāng)重要，這一點(diǎn)毋庸置疑。而收集不受拼字錯(cuò)誤或遺漏信息的樣本影響、并且準(zhǔn)確標(biāo)記正確無誤的數(shù)據(jù)集，可能需要大量投資。

充分運(yùn)用機(jī)器學(xué)習(xí)技術(shù)
 

圖二 : NanoEdge AI Studio能夠在同一臺(tái)裝置上執(zhí)行學(xué)習(xí)復(fù)雜行為的模型訓(xùn)練與推論。

NanoEdge AI Studio是對(duì)嵌入式系統(tǒng)開發(fā)人員友善的AI開發(fā)工具，即使沒有數(shù)據(jù)科學(xué)專業(yè)知識(shí)背景的人也可以使用。奇妙之處，在于NanoEdge AI Studio能夠在同一臺(tái)裝置上執(zhí)行學(xué)習(xí)復(fù)雜行為的模型訓(xùn)練與推論，亦即整個(gè)過程可以在同一個(gè)STM32微控制器上執(zhí)行。此外，與終端使用者互動(dòng)也相當(dāng)簡單，不需要另外寫程序，只需按下幾個(gè)按鈕。因此，工程師可以根據(jù)現(xiàn)場(chǎng)環(huán)境客制化，讓系統(tǒng)可以更穩(wěn)定且更輕易安裝。

面對(duì)不同的操作系統(tǒng)，NanoEdge AI Studio能在Windows 10或Ubuntu上執(zhí)行，并且能與最適合的數(shù)據(jù)處理及最相關(guān)的AI函式庫媒合。此應(yīng)用程序的設(shè)計(jì)著重于與C語言應(yīng)用程序中的嵌入式系統(tǒng)開發(fā)的緊密整合。

簡單來說，NanoEdge AI Studio會(huì)考慮MCU、內(nèi)存、Flash、傳感器等基本規(guī)格，并搜尋NanoEdge AI Studio內(nèi)最佳的 AI 模型庫，接著產(chǎn)生能在STM32 MCU上執(zhí)行的AI函式庫，使開發(fā)人員能夠直接整合到嵌入式應(yīng)用程序項(xiàng)目。

在第 2 版之前，NanoEdge AI Studio 支持兩種主要的機(jī)器學(xué)習(xí)算法：異常偵測(cè)和分類。

NanoEdge AI Studio只需少量的正常行為與異常行為數(shù)據(jù)，便能自動(dòng)產(chǎn)生偵測(cè)AI異常的函式庫。一旦產(chǎn)生 AI 函式庫后，使用者可以將函式庫加載到微控制器中，直接在裝置上進(jìn)行進(jìn)一步的微調(diào)訓(xùn)練和推論。此AI函式庫除了能從本機(jī)獲得的數(shù)據(jù)中學(xué)習(xí)裝置行為以外，還可以適應(yīng)所在的裝置行為。微調(diào)訓(xùn)練完成后，AI函式庫會(huì)將裝置一段時(shí)間內(nèi)所取得的數(shù)據(jù)與本機(jī)建立的模型進(jìn)行比對(duì)，以識(shí)別異常。

分類AI函式庫可用于分類一組數(shù)據(jù)，并呈現(xiàn)不同類型的設(shè)備異常（例如軸承問題、空蝕問題等）或設(shè)備環(huán)境中不同類型的事件。用戶可以將訊號(hào)匯入Studio，只需要按幾個(gè)按鈕即可建立分類ML函式庫。在微控制器上執(zhí)行時(shí)，分類器會(huì)分析實(shí)時(shí)數(shù)據(jù)，并提供相似性百分比。

NanoEdge AI Studio新功能
新的算法系列：外插和異常值
 

圖三 : NanoEdge AI Studio V3除了異常偵測(cè)與分類兩種應(yīng)用，并提供兩個(gè)新的算法系列：外插和異常值。

最新的NanoEdge AI Studio V3除了上述的異常偵測(cè)與分類兩種應(yīng)用之外， 現(xiàn)在還可以使用更多的函式庫。此外，ST也優(yōu)化了這些算法，提升現(xiàn)有使用案例的效能。因此，當(dāng)嵌入式開發(fā)人員切換到新版本軟件時(shí)，會(huì)對(duì)資源管理及運(yùn)行時(shí)間的升級(jí)更加有感。

NanoEdge AI Studio V3也進(jìn)一步提供了兩個(gè)新的算法系列：外插和異常值。前者有助于預(yù)測(cè)未經(jīng)測(cè)試條件下出現(xiàn)的行為，又稱作「回歸」，這對(duì)應(yīng)多個(gè)變量之間的關(guān)系。例如，數(shù)據(jù)集可以測(cè)量風(fēng)扇在100°C、110°C 和 150°C時(shí)的行為。藉由回歸算法，機(jī)器學(xué)習(xí)應(yīng)用可以推斷風(fēng)扇在160°C 時(shí)的行為。NanoEdge AI Studio 中的外插算法除了涵蓋線性回歸，也提供更先進(jìn)的分析技術(shù)來處理復(fù)雜的情況。因此，開發(fā)人員現(xiàn)在可以建立新的應(yīng)用，監(jiān)測(cè)數(shù)據(jù)科學(xué)家無法處理的情況。

第二種算法是依據(jù)單一類別值的離群值偵測(cè)系統(tǒng)進(jìn)行演算。實(shí)際上，系統(tǒng)只學(xué)習(xí)正常行為，任何偏離原始分布的行為都會(huì)被視為異常。以前，使用異常偵測(cè)系統(tǒng)時(shí)，開發(fā)人員會(huì)記錄正常行為，然后再模擬一或多個(gè)異常狀況。如前所述，其能夠在同一個(gè)微控制器上學(xué)習(xí)所有行為，并讓操作大幅簡化。不過，在某些情況下，完整重現(xiàn)異常狀態(tài)是不可能的。因此，離群值偵測(cè)可以使用例行操作的資料，推論是否有異常發(fā)生。

新的簡便數(shù)據(jù)記錄功能
數(shù)據(jù)科學(xué)家有時(shí)會(huì)遇到如何將成品推到市場(chǎng)的問題，雖然有實(shí)際數(shù)據(jù)是最好的，但因時(shí)間關(guān)系，并非每次都可以取得數(shù)據(jù)。因此，新的數(shù)據(jù)記錄功能可將任何STWIN SensorTile無線工業(yè)節(jié)點(diǎn)變成最直接的數(shù)據(jù)收集工具。首先，用戶將開發(fā)板連接到自己的計(jì)算機(jī)，使用NanoEdge AI Studio切換到數(shù)據(jù)記錄后，未來的數(shù)據(jù)便都會(huì)自動(dòng)記錄。工程師可以將STWIN開發(fā)板固定到自己的設(shè)備進(jìn)行監(jiān)測(cè)，傳感器會(huì)記錄數(shù)據(jù)，方便開發(fā)人員進(jìn)行標(biāo)記和剖析，以建立更精確的應(yīng)用。

在嵌入式系統(tǒng)上的使用體驗(yàn)
自定義、產(chǎn)生和驗(yàn)證自動(dòng)機(jī)器學(xué)習(xí)
 

圖四 : NanoEdge AI Studio讓開發(fā)人員能夠自定義、產(chǎn)生和驗(yàn)證本身的機(jī)器學(xué)習(xí)函式庫。

在NanoEdge AI Studio出現(xiàn)之前，工程師必須聯(lián)絡(luò)軟件廠商，檢查本身的硬件配置以及要監(jiān)測(cè)的行為。如今，NanoEdge AI Studio讓開發(fā)人員能夠自定義、產(chǎn)生和驗(yàn)證本身的機(jī)器學(xué)習(xí)函式庫。

首先，用戶需選擇本身的Cortex-M架構(gòu)和系統(tǒng)中的傳感器，接著匯入檔案，其中包含描述設(shè)備一般行為的數(shù)值，其可以是來自風(fēng)扇上之加速度計(jì)所產(chǎn)生的數(shù)據(jù)，也可以是工業(yè)設(shè)備的電氣信息，完成后，NanoEdge AI Studio會(huì)自動(dòng)測(cè)試、優(yōu)化和排列數(shù)億種可能組合中最佳的算法組合，并產(chǎn)生客制化函式庫，開發(fā)人員便可以使用嵌入式仿真器進(jìn)行驗(yàn)證。

NanoEdge AI Studio V3現(xiàn)在用戶接口支持所有ST開發(fā)板，優(yōu)化后的免費(fèi)函式庫有助于使用者輕松執(zhí)行概念驗(yàn)證。例如，在智慧震動(dòng)傳感器教學(xué)課程中，可以利用NUCLEO-L432KC 擷取風(fēng)扇的正常行為后，將數(shù)據(jù)提供給NanoEdge AI Studio并獲得AI函式庫，使用者便可以在main loop中呼叫此函式庫進(jìn)行推斷。因此，NanoEdge AI鏈接庫對(duì)于迅速建立使用預(yù)測(cè)性維護(hù)、智能安全操作等應(yīng)用是非常有幫助的。

使用 Edge AI Sprint 引導(dǎo)項(xiàng)目
許多客戶無法事前評(píng)估AI將為本身的應(yīng)用帶來多少效益。因此，為了快速驗(yàn)證應(yīng)用，ST也提供Edge AI Sprint Package，其中除了開發(fā)工具之外，還有完整的專家支持系統(tǒng)，可以指導(dǎo)開發(fā)人員避開應(yīng)用程序和使用案例固有的地雷區(qū)。

整個(gè)方案包括訓(xùn)練課程、NanoEdge AI Studio 授權(quán)和技術(shù)支持?？蛻艨梢愿鶕?jù)項(xiàng)目的復(fù)雜性選擇不同的授權(quán)期限，以確保應(yīng)用能量產(chǎn)。Edge AI Sprint是引領(lǐng)項(xiàng)目的第一步，能有效管控風(fēng)險(xiǎn)并減少投資，同時(shí)提升項(xiàng)目成功的機(jī)率。