IP廠商談邊緣AI的機會

　　毛?爍?（《電子產(chǎn)品世界》，北京?100036）

　　1 AI多樣化，需要廣泛一致的生態(tài)

　　1.1 邊緣AI帶給工業(yè)的變化

　　AI是當今最激動人心的技術革命之一，它將對市場產(chǎn)生巨大的影響，也將作用于各類設備，包括網(wǎng)絡邊緣的計算存儲、自動駕駛、數(shù)字電視圖像增強、家庭智能助手、不同類型的智能手機等，并使物聯(lián)網(wǎng)設備更加智能化。

　　Arm預計，新一輪的AI增強技術將有助于加速物聯(lián)網(wǎng)在工業(yè)與醫(yī)療場景用例、以及智能攝像頭與傳感器（用于預測故障和維護）等設備中的應用。此外，人們希望看到幾乎所有傳感器的監(jiān)測數(shù)據(jù)模式都能有所改進。這些變化僅僅是一個開始，因為AI正在有效解決以往的計算挑戰(zhàn)，并迸發(fā)出大量的潛能。

　　1.2 邊緣AI的技術挑戰(zhàn)

　　業(yè)界的挑戰(zhàn)在于，如何確保AI應用于各類現(xiàn)代電子設備的同時，滿足智能設備所需的高功效和成本敏感性。因此，當你將計算的不斷演變特性和人們使用設備的方式考慮進去時，就會明白AI不可能有一個放之四海而皆準的解決方案。

　　為了克服這些挑戰(zhàn)，在過去幾年中，Arm幾乎在每一代產(chǎn)品中都引入了主要的AI增強功能。然而，在將AI應用擴展到數(shù)十億臺設備的過程中，產(chǎn)品功能增強只是其中的一小部分。Arm還需要確保AI易于使用、修改和部署，這就需要通過投資高效好用的軟件和工具來實現(xiàn)，從而使生態(tài)系統(tǒng)中的軟硬件開發(fā)人員都可以輕松使用。從根本上來看，Arm面臨的技術挑戰(zhàn)不僅限于設計計算架構。為此，Arm也不斷致力于在蓬勃發(fā)展的生態(tài)系統(tǒng)支持下，為市場提供廣泛、一致、易于訪問的解決方案。

　　1.3 Arm的解決方案

　　從更高層面上來講，AI在現(xiàn)代設備中的應用確實存在兩類挑戰(zhàn)：技術挑戰(zhàn)和生態(tài)挑戰(zhàn)。許多技術挑戰(zhàn)正在變得越來越清晰。例如，在云計算中，您可以利用幾近無限的資源來處理計算問題，很多因素，諸如功耗，芯片成本，帶寬成本等，在云計算中已不再是什么大問題。但是，對于Arm日常使用的大多數(shù)智能設備來說，Arm依舊需要在更加嚴格的功率和尺寸限制下提供更多的算力和功能。例如，在設計最初的AI專用處理器系列Ethos時，Arm就很快意識到，對海量數(shù)據(jù)的智能管理對Arm的設計至關重要，因此，Arm讓所有AI專用處理器都具備智能數(shù)據(jù)管理技術，如壓縮和重新加載最小化技術等。

　　Arm需要在高效、固定功能的硬件與更靈活、可以適應未來需求而又不影響效率的硬件之間找到一個適當平衡，Arm Ethos系列就是一個范例。隨著AI和計算的不斷演進，如何用更少的資源做更多的事情將繼續(xù)成為Arm技術與思維的核心。但是，正如前面提到的，世上沒有普適性標準，這就是為什么Arm設計了多款支持AI的處理器，并在功耗、性能、成本和靈活性方面進行了多種平衡。 Arm的處理器解決方案旨在實現(xiàn)從微型傳感器、云服務器到基礎架構的全面AI。

　　2 Imagination談工業(yè)AI的機遇與挑戰(zhàn)

　　2.1 邊緣AI帶來的變化

　　邊緣AI將在未來幾年發(fā)生巨大變化。邊緣設備中的神經(jīng)網(wǎng)絡加速能力以指數(shù)級的速度向前發(fā)展，意味著完全在設備上完成處理只是時間問題。

　　例如，自動化技術、機器人和傳感技術的進步都會體現(xiàn)在我們身邊的各種機器上，這將意味著工業(yè)安全的真正改善。由人工智能物聯(lián)網(wǎng)（AIoT）驅(qū)動的智能機器可以檢查出當機械臂在其運動范圍內(nèi)快速擺動時沒有人處于其運動路徑上，還可以檢查過程和材料中的缺陷，這意味著偏差會越來越小，質(zhì)量會進一步提高。

　　自動化程度的提高帶來的關鍵機會是可以提高過程智能，從而使設備不僅可以成為數(shù)據(jù)驅(qū)動的設備，而且具有分享知識的能力，這一過程稱為聯(lián)合學習或遷移學習。這將提高生產(chǎn)力、可靠性和質(zhì)量，降低成本，并增加產(chǎn)量。

　　2.2 工業(yè)AI的技術挑戰(zhàn)

　　上文提及的方案很快就會在您身邊的機器上有所體現(xiàn)，目前還有一些技術挑戰(zhàn)正待解決。例如，現(xiàn)在傳感器數(shù)據(jù)會被匯總并反饋至云端以進行決策，這會增加延遲，產(chǎn)生連接和數(shù)據(jù)中心方面的成本。然而，我們越來越多地可以在嵌入式邊緣設備上進行神經(jīng)網(wǎng)絡推理，使邊緣設備可以有效地做出自我決策，同時只需將重要信息傳達給中央控制端。隨著這些設備的推出，我們將看到顯著的改善，例如減少延遲、降低功耗，以及無需去“呼叫總部”。

　　在某些情況下，所面臨的挑戰(zhàn)是成本問題，因為工業(yè)物聯(lián)網(wǎng)相當碎片化，某個特定的應用場景可能僅有小批量的需求，這意味著系統(tǒng)構建者和SoC設計人員必須設計一個擁有廣泛用途的基本規(guī)范，從而將眾多小批量應用匯總成大批量。好消息是，神經(jīng)網(wǎng)絡加速器的進步意味著可以在比針頭或句尾的句號還小的芯片中添加支持這些應用的功能。這也意味著“智能”可以被添加到嵌入式設備中，使這些設備可以運行各種各樣的神經(jīng)網(wǎng)絡模型和算法，進而憑借足夠的靈活性去應對多種應用場景。

　　2.3 Imagination的解決方案

　　Imagination Technologies一直跟隨著客戶的步伐，并希望通過自己的研發(fā)能力來預見到這些問題。因此，Imagination可以憑借自己的神經(jīng)網(wǎng)絡加速器（NNA）為邊緣AI提供全面的計算解決方案，相比其他方法，NNA可以指數(shù)倍的速度運行神經(jīng)網(wǎng)絡層，同時具有運行自定義層所需的靈活性。有了神經(jīng)網(wǎng)絡加速功能，意味著網(wǎng)絡可以在設備上運行，從而支持在邊緣進行數(shù)據(jù)驅(qū)動的決策。

　　Imagination還可以提供豐富的IP內(nèi)核設計和各種性能配置，以滿足市場上所有領域的需求。Imagination支持非常小的尺寸，也支持非常強大的功能和卓越的性能，同時可以做到硅成本很低。

　　本文來源于科技期刊《電子產(chǎn)品世界》2019年第12期第17頁，歡迎您寫論文時引用，并注明出處。