AI效益發(fā)威 邊緣人工智能持續(xù)進(jìn)化

雖然人工智能還是有一些缺點(diǎn)，但在今天仍舊對作業(yè)質(zhì)量和生產(chǎn)力帶來重大的影響性。無論是醫(yī)療保健、國防，還是電子商務(wù)，都可以透過人工智能系統(tǒng)實(shí)現(xiàn)大規(guī)模的自動(dòng)化。

另一方面，在物聯(lián)網(wǎng)設(shè)備市場規(guī)模呈現(xiàn)指數(shù)級(jí)成長背景下，各種的大量數(shù)據(jù)被產(chǎn)生出來，進(jìn)而推動(dòng)了邊緣運(yùn)算技術(shù)的發(fā)展。邊緣運(yùn)算是云端整體運(yùn)算系統(tǒng)的重要組成部分，可以將部分的特殊處理和數(shù)據(jù)儲(chǔ)存，從云端系統(tǒng)轉(zhuǎn)移到邊緣網(wǎng)絡(luò)節(jié)點(diǎn)，而這些節(jié)點(diǎn)在物理基礎(chǔ)上，可以合理地就近將數(shù)據(jù)提供給終端用戶。

這種「終端式」的人工智能系統(tǒng)，不需要連接到云端執(zhí)行本地的任務(wù)和操作。相反，這些單位都擁有獨(dú)立處理數(shù)據(jù)，和做出決定的能力。因此，邊緣運(yùn)算是將人工智能的力量帶到單一的設(shè)備上，透過內(nèi)建的微處理器和傳感器來獲得和處理數(shù)據(jù)。

邊緣計(jì)算＋人工智能＝邊緣人工智能
伴隨著邊緣運(yùn)算、人工智能和物聯(lián)網(wǎng)的快速發(fā)展，使得各種多個(gè)智能網(wǎng)絡(luò)間連接技術(shù)不斷地被開發(fā)出來，這也被稱為Edge AI、Edge AIoT（Artificial Intelligence of Things），或智慧物聯(lián)網(wǎng)（圖一）。目前，已經(jīng)有許多企業(yè)計(jì)劃采用邊緣運(yùn)算與人工智能相結(jié)合的方式來提高效率，進(jìn)而降低生產(chǎn)/服務(wù)的整體成本。例如，只要使用設(shè)備之間的傳感器，或?qū)崟r(shí)視訊傳輸來獲取數(shù)據(jù)，并提供實(shí)時(shí)監(jiān)視能力來預(yù)見各種問題，防止因?yàn)殄e(cuò)誤導(dǎo)致代價(jià)高昂的損失，或工作場所的傷害。

根據(jù)業(yè)界推估，目前生產(chǎn)過程中，因?yàn)樵O(shè)備的突發(fā)性停機(jī)所造成的損失，每年約為500億美元。這也將造成生產(chǎn)能力的降低、出貨延誤、客戶抱怨，以及收入減少。而這時(shí)，Edge AI就可以發(fā)揮出關(guān)鍵作用。


 
圖一 : 傳統(tǒng)的AI應(yīng)用與Edge AI的比較（數(shù)據(jù)源:i Magazine、CTIMES整理）

典型的Edge AI導(dǎo)入趨勢
在未來，雖然Edge AI的應(yīng)用，雖然可以幫助企業(yè)減輕網(wǎng)絡(luò)和其他IT基礎(chǔ)設(shè)施的負(fù)荷，并幫助降低營運(yùn)成本，但仍需依賴硬件和軟件的不斷改進(jìn)來獲得更先進(jìn)的系統(tǒng)。

例如，透過工廠生產(chǎn)在線設(shè)備，或連接互聯(lián)網(wǎng)的攝影系統(tǒng)，可以將實(shí)時(shí)影像發(fā)送給遠(yuǎn)程的辦公室。從單一設(shè)備或端點(diǎn)進(jìn)行數(shù)據(jù)的傳輸，以今天的網(wǎng)絡(luò)技術(shù)來說是相當(dāng)容易的。但是，面對同時(shí)傳輸數(shù)據(jù)的設(shè)備數(shù)量增加時(shí)，瓶頸挑戰(zhàn)就出現(xiàn)了，因?yàn)楫?dāng)成千上萬組的攝影終端同時(shí)進(jìn)行傳輸時(shí)，不僅影像質(zhì)量會(huì)因?yàn)檠舆t而受到影響，而且維護(hù)該傳輸帶寬的成本也會(huì)非常高。

不過，現(xiàn)在已經(jīng)能透過Edge AI克服上述挑戰(zhàn)，可以利用設(shè)備本身來分析所獲得的資料，而不是將數(shù)據(jù)發(fā)送到云端或中央位置，處理完畢之后再分析的結(jié)果儲(chǔ)存在云端系統(tǒng)后，來產(chǎn)生完整的生產(chǎn)線監(jiān)控能力，因此利用終端的力量就可使企業(yè)更有效地利用剩余網(wǎng)絡(luò)資源。此外，在Edge AI的幫助下，工廠設(shè)備更可以在現(xiàn)場執(zhí)行大部分的分析工作，可以大大減少需要通過網(wǎng)絡(luò)傳輸?shù)臄?shù)據(jù)，從而降低因?yàn)樵贫诉\(yùn)算所產(chǎn)生的成本、提高分析速度，這就是利用Edge AI的主要優(yōu)勢（圖二）。



 
圖二 : 在生產(chǎn)在線進(jìn)行視訊分析系統(tǒng)的簡單說明（數(shù)據(jù)源:ACSICORP）

傳統(tǒng)上，視覺運(yùn)算是人工智能的一個(gè)分支，被歸納為基于云端的IT流程。然而，今天處理系統(tǒng)的能力有顯著提高之后，推動(dòng)了視覺運(yùn)算模式的改變。特別是影像分類和物體識(shí)別等神經(jīng)網(wǎng)絡(luò)的使用。對于視覺分析結(jié)構(gòu)來說，系統(tǒng)需要兩個(gè)主要能力：實(shí)時(shí)執(zhí)行和快速矩陣計(jì)算，目前主流的手法是采用特定應(yīng)用的數(shù)學(xué)算法模型。

而這個(gè)數(shù)學(xué)算法模型有兩種類型的深度學(xué)習(xí)算法，分別為：

●一級(jí)檢測（基于回歸的物體檢測器），在這種情況下，僅需一次的檢測就能完成。

●兩級(jí)檢測（基于分類的物體檢測器），檢測則需要以兩階段的方式進(jìn)行。

邊緣人工智能朝向分布式架構(gòu)轉(zhuǎn)變
基于上述算法的計(jì)算能力，智能設(shè)備和高風(fēng)險(xiǎn)應(yīng)用（從擴(kuò)增/虛擬現(xiàn)實(shí)（AR/VR）到無人機(jī)應(yīng)用和自動(dòng)駕駛）等的新發(fā)展，已經(jīng)使基于云端的人工智能變得不足。這些實(shí)時(shí)應(yīng)用無法承受延遲，必須在高可靠性下運(yùn)行，即使在網(wǎng)絡(luò)連接中斷的情況下，還是可以持續(xù)運(yùn)作。因此這些新的應(yīng)用引發(fā)了研發(fā)人員對分布式、低延遲和可靠的人工智能的巨大興趣，推動(dòng)了數(shù)據(jù)的處理，從基于云端和集中式學(xué)習(xí)和分析，朝向邊緣人工智能的重大轉(zhuǎn)變。例如：

●學(xué)習(xí)數(shù)據(jù)不均勻地分布在邊緣設(shè)備的網(wǎng)絡(luò)上，如網(wǎng)絡(luò)基地臺(tái)（BSs）和/或行動(dòng)設(shè)備，包括電話、相機(jī)、車輛和無人機(jī)等。

●每個(gè)邊緣設(shè)備都能獲得極小部分的數(shù)據(jù)，讓學(xué)習(xí)和分析可以集體進(jìn)行的。

●每個(gè)邊緣設(shè)備可以相互通訊，并交換學(xué)習(xí)的模型（例如神經(jīng)網(wǎng)絡(luò)），而不是私有數(shù)據(jù)。

當(dāng)?shù)谝粋€(gè)節(jié)點(diǎn)識(shí)別出產(chǎn)在線的產(chǎn)品缺陷時(shí)，它會(huì)將帶有標(biāo)記ID的影像發(fā)送到第二個(gè)節(jié)點(diǎn)，讓該節(jié)點(diǎn)有提供額外的處理能力。然后，第二個(gè)節(jié)點(diǎn)的缺陷檢測模塊被觸發(fā)后，就會(huì)等待并持有GPU資源來進(jìn)一步處理。如果在處理過程中沒有發(fā)現(xiàn)缺陷，缺陷檢測模塊會(huì)發(fā)送一個(gè)觸發(fā)信息，中止缺陷跟蹤程序，并釋放第二節(jié)點(diǎn)的GPU資源。在第二個(gè)節(jié)點(diǎn)的過程中，在缺陷檢測其間，在云端服務(wù)器中標(biāo)記了權(quán)限，可以幫助識(shí)別對該節(jié)點(diǎn)ID的授權(quán)用戶。此時(shí)，云端只會(huì)向檢測到缺陷的各個(gè)節(jié)點(diǎn)的認(rèn)證用戶發(fā)送消息（圖三）。


 
圖三 : 使用多個(gè)第一邊緣節(jié)點(diǎn)、與第二邊緣節(jié)點(diǎn)和云端的檢測流程概念（數(shù)據(jù)源:ACSICORP）

使用Edge AI的一些顯著優(yōu)勢是：

●可以在所連接的設(shè)備上進(jìn)行本地執(zhí)行推理，大幅減少了因?yàn)閿?shù)據(jù)發(fā)送到云端進(jìn)行預(yù)測，所造成的延遲和成本。

●與其將所有數(shù)據(jù)都發(fā)送到云端執(zhí)行人工智能分析，不如直接在設(shè)備上進(jìn)行分析，只有在需要特殊處理時(shí)才將數(shù)據(jù)發(fā)送到云端。

●以極低的延遲獲得分析結(jié)果，對于確保一些關(guān)鍵性物聯(lián)網(wǎng)絡(luò)能夠快速響應(yīng)，是一件至關(guān)重要的事情。

●與基于云端的人工智能不同，Edge AI具有隱私保護(hù)，訓(xùn)練數(shù)據(jù)不會(huì)記錄在云端，而是保存在每個(gè)設(shè)備中，透過獲得和整合其他設(shè)備運(yùn)算數(shù)據(jù)的更新，來學(xué)習(xí)全局共享模型。

●對大量用戶所產(chǎn)生的數(shù)據(jù)樣本進(jìn)行學(xué)習(xí)，這將有助于實(shí)現(xiàn)高精確度，甚至可能包括隱私敏感信息，如醫(yī)療記錄、工廠/網(wǎng)絡(luò)運(yùn)行狀態(tài)和定位紀(jì)錄。

Edge AI的應(yīng)用優(yōu)勢性
現(xiàn)在我們已經(jīng)看到了Edge AI解決方案，與傳統(tǒng)或基于云的計(jì)算系統(tǒng)相比的好處，以下是Edge AI一些常見的現(xiàn)實(shí)世界的應(yīng)用。

音頻分析系統(tǒng)
識(shí)別音頻輸入和處理其中的數(shù)據(jù)數(shù)據(jù)，是當(dāng)今許多設(shè)備的兩個(gè)關(guān)鍵要求。音訊分析可用于各種目的，例如識(shí)別和訪問管理（IAM），或手機(jī)、高級(jí)車中的語音控制。深度學(xué)習(xí)和Edge AI被應(yīng)用于降噪設(shè)備，以協(xié)助系統(tǒng)進(jìn)行各種聲音觸發(fā)，或失效。人工智能影響音頻分析的另一個(gè)例子是，安裝在汽車上的事故預(yù)防系統(tǒng)，可以透過視覺運(yùn)算的影像以及聲音（甚至在嚴(yán)重的干擾和背景噪音中）來檢測接近的車輛，并采取預(yù)防措施來保護(hù)車內(nèi)的人員。

此外，人聲分析也是音訊分析的一個(gè)重要部分。可以透過人工神經(jīng)網(wǎng)絡(luò)和自然語言處理（NLP）工具，在語言和關(guān)鍵詞識(shí)別方面學(xué)習(xí)基于邊緣運(yùn)算的AI模型，這一功能對于設(shè)備執(zhí)行語音命令要求是很有用的。除此之外，Edge AI也可以實(shí)現(xiàn)文字到語音的轉(zhuǎn)換等應(yīng)用，反之亦然。當(dāng)然，Edge AI的音訊分析也常被用于人工智能驅(qū)動(dòng)的聊天機(jī)器人。

車用數(shù)據(jù)處理
Edge AI技術(shù)的另一個(gè)應(yīng)用是車用設(shè)備的數(shù)據(jù)收集。由于隨著網(wǎng)聯(lián)汽車的普及，數(shù)據(jù)利用也呈現(xiàn)多樣化和復(fù)雜化，例如，對于行車記錄器影像數(shù)據(jù)的需求將增加、發(fā)送到云端中心的通訊成本、云端中心的儲(chǔ)存成本等。目前可以透過Edge AI技術(shù)來作為解決方案。首先，利用在車內(nèi)的Edge AI將所拍攝的影像中的物體，并且發(fā)送到云端。

例如，將招牌和汽車數(shù)量等識(shí)別結(jié)果，先轉(zhuǎn)換成文字畫數(shù)據(jù)，發(fā)送到云端中心。接下來，再依據(jù)云端中心的識(shí)別結(jié)果下，車用設(shè)備僅發(fā)送真正需要的影像數(shù)據(jù)(b)，可以大幅度降低與數(shù)據(jù)收集相關(guān)的成本，并且可以執(zhí)行有效的數(shù)據(jù)收集（圖四）。



 
圖四 : Edge AI在車輛上的高效數(shù)據(jù)收集應(yīng)用（數(shù)據(jù)源:DENSO TEN）

智能能源系統(tǒng)
互聯(lián)風(fēng)力發(fā)電站等應(yīng)用可以透過Edge AI進(jìn)行概念化和無縫運(yùn)轉(zhuǎn)。一般來說，如果只使用云端運(yùn)算系統(tǒng)，運(yùn)行此類系統(tǒng)的成本將高得驚人。相比之下，利用云端-邊緣組合系統(tǒng)進(jìn)行運(yùn)算操作、數(shù)據(jù)獲取、管理和處理的成本也可以獲得較佳的控制。

風(fēng)力發(fā)電站需要基于終端的解決方案，因?yàn)樵陲L(fēng)力渦輪機(jī)附近工作的員工，會(huì)利用多個(gè)監(jiān)控?cái)z影鏡頭、存取傳感器、生物識(shí)別安全傳感器等，來讓風(fēng)力發(fā)電站順利地運(yùn)轉(zhuǎn)。而這些設(shè)備和傳感器就必須確保能夠有效地運(yùn)轉(zhuǎn)，并以閃電般的速度來處理相關(guān)數(shù)據(jù)。因此，Edge AI解決方案對于降低風(fēng)能發(fā)電系統(tǒng)的成本，以及減少整體處理時(shí)間，和使用的帶寬量是很有用的。

視覺娛樂系統(tǒng)
Edge AI也被廣泛用于涉及AR、VR和MR的視覺娛樂系統(tǒng)。對于這些類型的系統(tǒng)，數(shù)據(jù)處理和人工智能分析就必須在本地完成，達(dá)到節(jié)省時(shí)間和成本。眾所周知，AR系統(tǒng)需要用戶佩戴虛擬現(xiàn)實(shí)或3D的眼鏡，以充分享受其視覺上的沉浸式體驗(yàn)。透過邊緣運(yùn)算和人工智能技術(shù)，進(jìn)行邊緣服務(wù)器脫機(jī)處理，來達(dá)到小眼鏡尺寸的目標(biāo)。

微軟的Hololens就是利用Edge AI和運(yùn)算技術(shù)，應(yīng)用在AR相關(guān)娛樂產(chǎn)品。Hololens包括一個(gè)整合全息計(jì)算機(jī)（Holographic Computer）的可穿戴頭盔，讓使用者沉醉在AR的世界中。未來甚至將會(huì)被應(yīng)用復(fù)雜的游戲、數(shù)據(jù)分析，和醫(yī)療成像上。

智慧音箱和家庭助理
諸如亞馬遜的Alexa和Google Home這樣的智慧家庭助手，在當(dāng)今依賴人工智能的世界里很流行。這類設(shè)備和系統(tǒng)也是利用Edge AI來提升速度和數(shù)據(jù)傳輸，使智能家居的概念變得更實(shí)用化。

結(jié)語
人工智能對于任何一種數(shù)字操作來說幾乎是完美的。Edge AI采用人工智能的概念，并在幾種不同的方式下改進(jìn)技術(shù)，來達(dá)到下一個(gè)進(jìn)化階段，相信Edge AI的應(yīng)用將會(huì)比現(xiàn)在更加普遍。