使用萊迪思FPGA加速低功耗AI應(yīng)用的創(chuàng)新

ABI公司的研究表明，截至2024年，具備設(shè)備端AI推理能力的設(shè)備比例預(yù)計將達(dá)到60%。印證了過去幾年里AI的快速創(chuàng)新，這就要求在從云端向網(wǎng)絡(luò)邊緣轉(zhuǎn)變的過程中，工程師需要開發(fā)更加靈活的設(shè)計模型。這一趨勢的驅(qū)動力包括對超低延遲、安全性能的需求以及帶寬限制和隱私保護(hù)等。

萊迪思FPGA和軟件解決方案能夠幫助設(shè)計人員使用現(xiàn)有的芯片加速實現(xiàn)面向未來的模型。本文將探索萊迪思FPGA和軟件解決方案在計算機(jī)視覺和網(wǎng)絡(luò)邊緣AI設(shè)計中的一些應(yīng)用示例。

為何FPGA是網(wǎng)絡(luò)邊緣計算和AI應(yīng)用的最佳選擇

FPGA本身具有靈活性和適應(yīng)性，是網(wǎng)絡(luò)邊緣計算和AI應(yīng)用的理想之選。

FPGA是一種并行計算引擎，能夠以較低的時鐘頻率運(yùn)行，因此功耗較低。此外整個架構(gòu)還擁有靈活的資源，包括DSP、存儲器、分散且互連的可編程邏輯單元，與那些AI專用的新型ASIC有諸多相似之處。然而，與ASIC和其他處理器不同的是，FPGA的靈活性能夠持續(xù)優(yōu)化系統(tǒng)內(nèi)現(xiàn)有的用例，并且還能引入全新的用例，而無需使用新的硬件。

當(dāng)萊迪思將FPGA與ASIC的設(shè)計周期進(jìn)行比較時，可以看到系統(tǒng)設(shè)計人員可以使用FPGA進(jìn)行多次迭代，快速引入新應(yīng)用并推向市場。而使用ASIC的系統(tǒng)設(shè)計人員必須等待下次迭代才能達(dá)到相同的性能水平，這不僅會推遲上市時間，并且在系統(tǒng)需要適應(yīng)能力時整體效率更低。

在今年的嵌入式視覺峰會上，萊迪思展示了一個基于CertusPro?-NX器件的演示，該演示可以并行運(yùn)行多個AI引擎和并發(fā)線程，降低了系統(tǒng)的整體延遲，并在完整的系統(tǒng)實施中可以實現(xiàn)更高的FPS。

幫助系統(tǒng)設(shè)計人員加速開發(fā)AI應(yīng)用

在演講的后半部分，萊迪思簡要介紹了其如何利用其各種軟件解決方案（包括萊迪思sensAI? 解決方案集合）幫助系統(tǒng)設(shè)計人員（通常是軟件開發(fā)人員，而非FPGA專家）進(jìn)行開發(fā)。萊迪思sensAI包括了一系列工具、硬件、加速IP、軟件工具、參考設(shè)計和演示、定制設(shè)計服務(wù)、以及為特定終端市場的AI應(yīng)用構(gòu)建的端到端解決方案。

sensAI中包括了萊迪思的sensAI Studio設(shè)計軟件，系統(tǒng)設(shè)計人員可以在數(shù)小時內(nèi)完成用例驗證，無需花費(fèi)幾天或幾周。他們可以使用sensAI Studio導(dǎo)入軟件模型庫中已有的模型或者他們自己的模型，然后進(jìn)行遷移學(xué)習(xí)，評估模型的訓(xùn)練情況，采集和標(biāo)記數(shù)據(jù)，配置和測試模型，然后為開發(fā)板上特定的器件進(jìn)行編譯。

在最后的問答部分談到了萊迪思的一位農(nóng)業(yè)客戶如何使用sensAI Studio構(gòu)建了一個檢測田間漿果的AI系統(tǒng)。這個例子表明，對于那些希望構(gòu)建各類AI應(yīng)用，但又缺乏相關(guān)經(jīng)驗的系統(tǒng)設(shè)計人員，sensAI Studio這樣的工具真的十分重要。

實現(xiàn)下一代智能PC體驗

如今PC用戶對感知力更強(qiáng)的智能設(shè)備越來越感興趣，同時他們還需要強(qiáng)大的安全性來保護(hù)隱私。此外，他們還想要體驗更加出色的協(xié)作功能，例如優(yōu)秀的電話會議音頻和視頻體驗。筆記本電腦的系統(tǒng)設(shè)計人員在為市場引入不同形態(tài)的產(chǎn)品時面臨著各種挑戰(zhàn)，這也帶來了系統(tǒng)方面的挑戰(zhàn)；如何將所有這些數(shù)據(jù)從攝像頭傳輸?shù)较到y(tǒng)的其他部分？

萊迪思基于AI的解決方案可以幫助系統(tǒng)設(shè)計人員解決這方面的問題，幫助他們開發(fā)全新的功能，包括存在檢測、旁觀者檢測和視頻通話的人臉取景。萊迪思的解決方案還能實現(xiàn)注意力跟蹤功能，用戶在使用電腦時注意力離開屏幕的時間達(dá)到45%，可獲得高達(dá)28%的額外電池使用時長。