網絡邊緣計算加速機器學習及推理

作者/Dirk Seidel 萊迪思高級市場營銷經理

隨著制造商采用工業(yè)4.0技術框架模型，基于機器學習的視覺系統對工業(yè)市場越來越有吸引力。在當今這個時代，制造商通過整合高級機器人、機器學習、機器視覺和工業(yè)物聯網（IIoT）來提高組織和生產績效。在“智能工廠”這個概念的推動下，工業(yè)4.0將引入信息物理系統（CPS）來監(jiān)控智能工廠的物理進程并做出分散化的決策。這種模式將通過納入諸如大數據和分析、IT和物聯網融合、機器人技術的最新進展以及數字供應鏈的發(fā)展等概念，推動行業(yè)數字化轉型。最后，通過網絡進行人機交互，這些物理系統將成為工業(yè)物聯網（IIoT）的一部分。

網絡邊緣計算，即在網絡邊緣進行“機器學習推理”的能力（智能城市、智能工廠、智能汽車等），可最大限度地減少決策和分析的延遲，相比通過網絡將所有數據發(fā)送到數據中心進行分析，亦可減少網絡擁塞，增強用戶隱私（因為數據停留在本地設備上），并可在無網絡連接的情況下進行“推理”。盡管機器學習技術已存在幾十年，得益于計算能力的發(fā)展和成本降低，以及獲得可用于“訓練”的海量數據（如數字圖像、視頻、音頻等），近年來它才開始表現出比傳統算法更好的結果，使我們能夠構建更復雜，更深層次的卷積神經網絡（CNN）。

由于其并行處理架構，萊迪思FPGA非常適合網絡邊緣“推理”應用，能夠以最低1瓦的功耗實現最高的每秒運算（OPS）（與CPU和GPU相比）。使用FPGA提供的并行處理架構可顯著加速CNN處理。此外，由于我們還處于機器學習發(fā)展的早期階段，所以每天都有不斷改良的CNN架構正在研究和發(fā)布。因此，在全新的CNN架構和技術確定前，靈活和可編程的硬件架構（諸如FPGA所提供的架構）可助力實現輕松升級。

對于那些希望快速開發(fā)的設計人員來說，萊迪思為嵌入式視覺解決方案提供了一個易于使用的快速原型開發(fā)平臺。嵌入式視覺開發(fā)套件是一個包含三塊開發(fā)板的模塊化平臺，包括CrossLink VIP輸入橋接板、ECP5 VIP處理器板和HDMI VIP輸出橋接板。

·CrossLink VIP輸入橋接板具有2個MIPI CSI-2接口，可連接至2個Sony IMX HD攝像頭傳感器。

·ECP5 VIP處理器板配有ECP5 FPGA，專門優(yōu)化用于支持預處理和后處理。處理器板還通過NanoVestor連接器和與HelionVision合作的高清圖像信號處理（ISP）IP支持外部圖像傳感器視頻輸入。

·基于Sil1136 IC，HDMI VIP輸出板可連接標準的HDMI顯示器。

三塊開發(fā)板組成的套件可為機器人、無人機、ADAS、智能監(jiān)控和AV / VR系統等應用提供所需的設計靈活性和低功耗。