傳感器端也能實現(xiàn)AI推理　

作者 王瑩

　　網(wǎng)絡(luò)邊緣計算革命蓄勢待發(fā)，不過，只有具備AI系統(tǒng)專長的開發(fā)人員方可駕輕就熟。隨著用戶尋求更高級別的智能，對于靠近IoT(物聯(lián)網(wǎng))數(shù)據(jù)源的低功耗推理的需求將與日俱增。這些傳感器端，尤其是超低功耗的傳感器端如何實現(xiàn)人工智能?

　　近日，萊迪思半導(dǎo)體公司推出了超低功耗 Lattice SensAI。公司亞太區(qū)資深事業(yè)發(fā)展經(jīng)理陳英仁先生稱其低功耗FPGA將與MCU(微控制器)競爭，主攻低功耗、對計算精度要求不是很高、低成本、小尺寸的嵌入式AI市場。

哪些場景需要傳感器“AI推理”?

　　如果說控制是rule driven(規(guī)則驅(qū)動)，那么AI是data driven(數(shù)據(jù)驅(qū)動)的。眾所周知，AI主要做培訓(xùn)和推理。云端做培訓(xùn)較多，萊迪思定位的傳感器端AI只做推理，“這些毫瓦級功耗FPGA將為機器學(xué)習(xí)推理在大眾市場物聯(lián)網(wǎng)應(yīng)用中實現(xiàn)快速部署創(chuàng)造機遇?！?/p>

圖1  sensAI的核心是倒數(shù)第二行的“IP核”和第三行的“軟件工具”

　　就像做壽司的師傅的手指運動，許多手指動作無需傳到大腦，是有經(jīng)驗的習(xí)慣性動作。同樣，有些推理也無需傳到云端或用復(fù)雜的計算芯片，例如人在室內(nèi)靜止不動，智能照明系統(tǒng)有可能沒有發(fā)現(xiàn)人而自動關(guān)閉，如果有低功耗的人臉檢測就不會發(fā)生這種事了。智能門鎖通常用紅外感測，人走近密碼小門打開，但狗或動物走近，也會打開，人臉檢測能感測到人走近，密碼小門才會打開。超市可以用人臉檢測統(tǒng)計人流，或識別性別以推送個性化廣告等。再有，智能音箱通常是聯(lián)網(wǎng)的，需要云端處理，有時為了隱私安全，也希望一些音樂存在音箱里，在線下就能控制和聽音樂。有時近似的聲音聽不了，例如音箱知道“你好”，有時你叫“李浩”，音箱也會有所反應(yīng)，因此就要給音箱一些小智慧。工廠中的馬達(dá)聲音有異常，上傳到云端來不及，傳感器端就可立即做出應(yīng)急反應(yīng)。

　　具體地，如何教給音箱識別“你好”和“李浩”?就像訓(xùn)練小孩一樣，可以說：“李浩，你好?！被颍骸袄詈撇皇悄愫谩?。只要有足夠多的樣本去描述要檢測的目標(biāo)，AI音箱就可以學(xué)會，變成一個算法。

sensAI是什么?

　　Lattice sensAI是一種結(jié)合模塊化硬件套件、神經(jīng)網(wǎng)絡(luò)IP核、軟件工具、參考設(shè)計和定制化設(shè)計服務(wù)的完整技術(shù)集合，旨在促進(jìn)機器學(xué)習(xí)推理的大眾市場 IoT應(yīng)用。如圖1，sensAI的核心主要是倒數(shù)第二的“IP核”和第三行的“軟件工具”。

　　Lattice sensAI提供經(jīng)優(yōu)化的解決方案，具有超低功耗(低于 1 mW~1 W)、封裝尺寸小(5.5~100 mm2)、接口靈活(諸如MIPI? CSI-2、LVDS、GigE 等)和批量價格低(約 1~10 美元)等優(yōu)勢，可加速實現(xiàn)更接近數(shù)據(jù)源的網(wǎng)絡(luò)邊緣計算。

圖2   sensAI的市場定位

　　從圖2可見，Lattice sensAI的主要競爭者是MCU。與MCU相比，Lattice sensAI的優(yōu)勢是靈活支持各類傳統(tǒng)接口，且功耗極低，只有1 mW~1 W。

　　適用于解決網(wǎng)絡(luò)邊緣的計算問題，Lattice sensAI優(yōu)勢包括：1.模塊化硬件平臺—— 基于 ECP5?器件的視頻接口平臺(VIP)，包括嵌入式視覺開發(fā)套件和基于 iCE40 UltraPlus?器件的移動開發(fā)平臺(MDP);2.IP核——卷積神經(jīng)網(wǎng)絡(luò)(CNN)加速器和二值神經(jīng)網(wǎng)絡(luò)(BNN)加速器;3.軟件工具——從 Caffe/TensorFlow到 FPGA的神經(jīng)網(wǎng)絡(luò)編譯器工具、Lattice RadiantTM 設(shè)計軟件和 Lattice Diamond設(shè)計軟件;4.參考設(shè)計——人臉檢測、關(guān)鍵詞檢測、對象計數(shù)、面部跟蹤和速度標(biāo)志牌檢測;5.設(shè)計服務(wù)。