AI無所不在 前進(jìn)行動裝置勢在必行

在通膨壓力與經(jīng)濟(jì)低迷的影響下，全球有超過半數(shù)的企業(yè)正面臨嚴(yán)重的人力與技術(shù)缺口。在此同時，企業(yè)也面臨營運(yùn)成本增加的壓力，IDC預(yù)測，AI的自動化發(fā)展將成為企業(yè)解決壓力的重要投資。企業(yè)自動化應(yīng)用目前仍面臨AI應(yīng)用擴(kuò)展及協(xié)同串接的難題，并且在目前單模態(tài)的AI應(yīng)用，已不足以滿足企業(yè)在實時決策、預(yù)測能力的需求。

放眼未來，能夠同步處理文本、視覺影像、音頻等應(yīng)用的多模態(tài)AI，將有機(jī)會幫助企業(yè)解決面對的難題，提供更精準(zhǔn)的自動化性能，跨越企業(yè)內(nèi)部各種業(yè)務(wù)流程的決策串流障礙。多模態(tài)AI的自動化應(yīng)用，已逐漸在智能能源與芯片開發(fā)設(shè)計上嶄露頭角。IDC預(yù)測到 2023 年，持續(xù)的人才不足與技術(shù)缺口將促使 35%的企業(yè)開始投資AI技能，并且預(yù)期在2026年將有40%的AI模型能涵蓋多模態(tài)的數(shù)據(jù)演算，這也成為未來企業(yè)展現(xiàn)營運(yùn)韌性不可或缺的必備條件。

人工智能無所不在
然而，現(xiàn)階段人工智能發(fā)展所面臨到的兩大挑戰(zhàn)，包括了大量人為介入導(dǎo)致的偏差與效率問題，以及類神經(jīng)網(wǎng)絡(luò)算法所帶來的信任問題。根據(jù)IDC研究指出，目前的人工智能技術(shù)只能算是弱AI，意味著只能應(yīng)用在單一領(lǐng)域中。而這也讓下一代人工智能技術(shù)的發(fā)展，將朝向Omnipresent AI（無所不在人工智能）發(fā)展，讓人工智能可以真正做到算法融合、流程的自動化、以及虛實整合。在這樣的發(fā)展基礎(chǔ)下，人工智能將可望更有效率地應(yīng)用在多種不同的虛實融合場域，也讓AI的應(yīng)用能更多元普及。人工智能朝向強(qiáng)AI發(fā)展，也將使企業(yè)對于人工智能的需求大幅提升。

IDC預(yù)估到2024年，50%的結(jié)構(gòu)化可重復(fù)性的事務(wù)，將可實現(xiàn)全面自動化。并且在未來10年內(nèi)，達(dá)到人類僅需在旁監(jiān)督，不用直接下指令，機(jī)器便能自行進(jìn)行動作，并決定事務(wù)執(zhí)行方式的產(chǎn)業(yè)運(yùn)作目標(biāo)。


 
圖一 : 現(xiàn)階段人工智能發(fā)展面臨到的挑戰(zhàn)，包括大量人為介入導(dǎo)致的偏差與效率問題，以及類神經(jīng)網(wǎng)絡(luò)算法的信任問題。

行動神經(jīng)運(yùn)算三大要素
除了企業(yè)端的導(dǎo)入，為了達(dá)到無所不在的人工智能，為行動裝置導(dǎo)入AI能力與神經(jīng)運(yùn)算已經(jīng)勢在必行，讓人工智能也能隨身帶著走。Arm資深業(yè)務(wù)開發(fā)經(jīng)理暨首席應(yīng)用工程師沈綸銘指出，對于行動裝置來說，神經(jīng)運(yùn)算最需要的要素有以下三點(diǎn)：

●機(jī)器學(xué)習(xí)推論（Machine learning influence） 的執(zhí)行效率：在終端裝置提供有效率的神經(jīng)網(wǎng)絡(luò)執(zhí)行效能，是用戶導(dǎo)入的第一個關(guān)鍵。

●功耗效率：省電絕對是行動裝置持續(xù)的追求。在得到類神經(jīng)運(yùn)算之下，第二個要素就是降低功耗的需求，加速行動裝置類神經(jīng)運(yùn)算導(dǎo)入市場。

●軟件框架的支持：目前人工智能的訓(xùn)練框架各不相同，導(dǎo)致終端裝置要執(zhí)行類神經(jīng)運(yùn)算無法直接使用，需要額外人力成本進(jìn)行模型轉(zhuǎn)換，同時也會造成模型經(jīng)度損失。所以行動裝置執(zhí)行類神經(jīng)運(yùn)算時，必須在項目規(guī)畫的初期，就選擇公開兼容于各種訓(xùn)練框架的軟件方案。


 
圖二 : 企業(yè)開始運(yùn)用集體智慧的力量來提高生產(chǎn)效率。

Arm架構(gòu)神經(jīng)運(yùn)算特色
Arm架構(gòu)是目前多數(shù)行動裝置所采用的運(yùn)算核心。沈綸銘說，行動裝置上導(dǎo)入AI與ML伴隨了許多的挑戰(zhàn)，而Arm架構(gòu)也針對這些問題，進(jìn)行了以下的解決與優(yōu)化。

●持續(xù)在CPU、GPU增加AI 運(yùn)算的能力：目前大多數(shù)的機(jī)器學(xué)習(xí)都是在Arm CPU和GPU上進(jìn)行處理，因此Arm持續(xù)發(fā)布新的效率與功耗改進(jìn)項目，甚至可以在最小的終端裝置與傳感器上，運(yùn)行機(jī)器學(xué)習(xí)模型。Arm機(jī)器學(xué)習(xí)解決方案結(jié)合硬件IP、軟件與人工智能開發(fā)框架，可協(xié)助指導(dǎo)設(shè)計人員為云端、邊緣與端點(diǎn)建構(gòu)次世代創(chuàng)新、可攜式的人工智能應(yīng)用項目。

●持續(xù)優(yōu)化軟件效能整合度：Arm的機(jī)器學(xué)習(xí)SDK包含所有的Arm IP（CPU、繪圖處理器與 NPU），提供更好的機(jī)器學(xué)習(xí)效能。開放原始碼的SDK支持常見的框架與模型格式（例如Tflite、TFLiteμ、Android NNAPI、PyTorch與ONNX），因此可以快速整合及打造流暢的開發(fā)人員體驗。軟件可支持各種Arm處理器工作負(fù)載，只要開發(fā)一次就能部署到各個地方。

●協(xié)助算法以及終端用戶合作開發(fā)新的AI應(yīng)用：Arm AI是多功能及可擴(kuò)充的人工智能開發(fā)環(huán)境，結(jié)合各種IP 、工具、軟件及支持，可幫助生態(tài)系伙伴創(chuàng)新，開發(fā)新的AI應(yīng)用。

沈綸銘說，Arm持續(xù)致力于提供于省電的運(yùn)算架構(gòu)。神經(jīng)運(yùn)算底層的行為，其實就是大量的矩陣運(yùn)算跟數(shù)據(jù)的搬動，不論是Arm設(shè)計的CPU、GPU、NPU，都會在設(shè)計的初期就考慮終端應(yīng)用場景對功耗的要求。也因為這樣的特色，使得許多合作伙伴也選擇采用整套的Arm Total Solutions for IoT。例如奇景光電的客制化圖像處理芯片解決方案就是采用了Arm Corstone-300，且無縫的執(zhí)行于Arm虛擬硬件目標(biāo)（AVH）之上，使其SoC更兼容于Arm生態(tài)系的軟硬件支持架構(gòu)。而AVH即將擴(kuò)展到第三方裝置平臺，將使開發(fā)流程更加順暢。這些都將能為開發(fā)人員大幅縮短開發(fā)流程與時間、可專注于特定使用場景，提升客戶的使用經(jīng)驗。

另外還有開放的軟件框架支持。坊間神經(jīng)運(yùn)算架構(gòu)方案多半采用封閉的軟件框架，導(dǎo)致可以導(dǎo)入的使用場景十分有限，無法滿足行動裝置所需的語音、影像，甚至是混合型（sensor fusion）的各面向應(yīng)用場景。因此Arm在規(guī)劃神經(jīng)運(yùn)算軟件架構(gòu)時，便意識到這個問題，在規(guī)劃CPU、GPU、NPU軟件架構(gòu)時，便十分重視開源的軟件生態(tài)。

結(jié)語
隨著AI技術(shù)應(yīng)用發(fā)展、終端智能裝置的增加，與企業(yè)數(shù)字轉(zhuǎn)型的浪潮推動下，IDC觀察到有越來越多的企業(yè)開始運(yùn)用集體智慧的力量，搜集并啟用集群式的事物或機(jī)器，以提高生產(chǎn)效率、融合內(nèi)部協(xié)作，達(dá)到知識管理與決策制定等目的。IDC認(rèn)為這些多樣態(tài)的智慧終端，將經(jīng)由中心化、去中心化、與異質(zhì)化群體學(xué)習(xí)等方法，讓學(xué)習(xí)，預(yù)測，與行動更加快速有效。預(yù)期制造業(yè)、零售業(yè)、醫(yī)療產(chǎn)業(yè)將在未來最有機(jī)會導(dǎo)入群體智慧發(fā)展，逐步邁向全自動化，并創(chuàng)造更多產(chǎn)業(yè)發(fā)展機(jī)會。