人工智能后的下一個風(fēng)口——邊緣AI賦能更安全高效的智慧世界

AI是研究使計(jì)算機(jī)來模擬人的某些思維過程和智能行為（如學(xué)習(xí)、推理、思考、規(guī)劃等）的學(xué)科，主要包括計(jì)算機(jī)實(shí)現(xiàn)智能的原理、制造類似于人腦智能的計(jì)算機(jī)，使計(jì)算機(jī)能實(shí)現(xiàn)更高層次的應(yīng)用。

AI將是未來世界發(fā)展的核心，隨著科技的進(jìn)步及人類生活需求的提高，AI在計(jì)算機(jī)領(lǐng)域得到了前所未有的重視。并在機(jī)器人、經(jīng)濟(jì)政治決策、控制系統(tǒng)及仿真系統(tǒng)中得到應(yīng)用。它可以通過邊緣投入到生產(chǎn)中，依靠零信任保障安全，并最終從量子技術(shù)處獲取源源不斷的動力，實(shí)現(xiàn)擴(kuò)展到全球系統(tǒng)所需的性能和效率。

而在AI發(fā)展的同時(shí)，也在不斷產(chǎn)生新的分支并不斷地進(jìn)行進(jìn)化，AI進(jìn)化的下一步即可稱之為邊緣AI，其發(fā)源于邊緣計(jì)算，在降低系統(tǒng)的處理負(fù)載的同時(shí)解決數(shù)據(jù)傳輸?shù)难舆t問題。這樣的處理是在傳感器附近或設(shè)備產(chǎn)生數(shù)據(jù)的位置進(jìn)行的，因此稱之為邊緣，其特點(diǎn)是規(guī)模小且更容易為大眾所使用。邊緣計(jì)算的發(fā)展意味著邊緣AI正變得越來越重要。

傳統(tǒng)云AI與邊緣AI既有相同之處，又有很大差別。

傳統(tǒng)云AI需要在云端處理和存儲數(shù)據(jù)。這種工作方式的優(yōu)勢是軟件工程師在設(shè)計(jì)和構(gòu)建云AI系統(tǒng)時(shí)提供了更大的靈活性和自由度。但云AI的運(yùn)行必須要依賴互聯(lián)網(wǎng)連接，在工作效率及安全性方面存在很大問題。而邊緣AI的主要特點(diǎn)是它在本地處理和存儲數(shù)據(jù)，因此無需依賴互聯(lián)網(wǎng)連接。這使得邊緣AI能夠?qū)崟r(shí)生成數(shù)據(jù)并獨(dú)立作出決策。隨著邊緣AI設(shè)備實(shí)現(xiàn)更高的計(jì)算能力，邊緣AI的應(yīng)用可能會逐漸超過云AI。

而比較直觀的差距應(yīng)該是在應(yīng)用領(lǐng)域，云AI更多被應(yīng)用于大數(shù)據(jù)分析、語音識別、自動駕駛等領(lǐng)域。而邊緣AI則主要應(yīng)用于智能家居、智能工廠、智能城市等IoT領(lǐng)域。邊緣AI通過在設(shè)備本地進(jìn)行智能決策，能夠提升物聯(lián)網(wǎng)系統(tǒng)的效率和安全性

舉個例子，工廠的機(jī)器人和自動駕駛汽車都需要以最小的延遲高速處理數(shù)據(jù)。為了實(shí)現(xiàn)這些目標(biāo)，邊緣計(jì)算可以在云上靠深度學(xué)習(xí)生成數(shù)據(jù)，而在數(shù)據(jù)原點(diǎn)——即設(shè)備本身（邊緣）執(zhí)行模型的推斷和預(yù)測，是能夠提高工廠智能化程度的AI模型核心。從幫助醫(yī)院里的放射科醫(yī)生診斷病癥，到在高速路上駕駛汽車，再到幫助我們?yōu)橹参锸诜?，邊?AI 為我們創(chuàng)造了前所未有的可能性。

近年來，邊緣AI與常規(guī)云AI的對比說法不一，作為常規(guī)AI的進(jìn)化物，它們執(zhí)行不同任務(wù)時(shí)的效率及運(yùn)行速度都不相同。所以并不能通過某些簡單任務(wù)去進(jìn)行對比。但邊緣AI的優(yōu)勢還是有很多。

比如其因?yàn)槟茏屘幚砟芰Ω咏吘?，所以?yīng)用所需的互聯(lián)網(wǎng)帶寬變得更少，進(jìn)而顯著降低網(wǎng)絡(luò)成本?；谠频腁I系統(tǒng)使用大量數(shù)據(jù)進(jìn)行操作，需要大帶寬才能正常運(yùn)行。因此，對于嚴(yán)重依賴AI進(jìn)行日常運(yùn)作的組織而言，與數(shù)據(jù)和帶寬使用相關(guān)的成本通常很高。邊緣AI將數(shù)據(jù)處理保持在設(shè)備本地，帶寬使用不會像使用傳統(tǒng)云AI的設(shè)備那么高。因此，可以控制帶寬成本。更重要的是邊緣AI用戶也能更快地獲得結(jié)果，因?yàn)樗麄兊木W(wǎng)絡(luò)和設(shè)備的網(wǎng)絡(luò)流量很低。

并且終端設(shè)備擁有更多自主權(quán)和強(qiáng)大性能。邊緣AI的主要特征之一是它為所有端點(diǎn)設(shè)備提供了更高的獨(dú)立性，由于邊緣AI的工作特點(diǎn)就是在本地而不需要在云端分析數(shù)據(jù)，此類設(shè)備無需連接到中央服務(wù)器即可運(yùn)行，因此不會因長距離通信而延遲并且能夠?qū)崟r(shí)響應(yīng)用戶的需求，所以速度和效率始終很高。

相對于由標(biāo)準(zhǔn)AI驅(qū)動的設(shè)備相比，支持邊緣AI的設(shè)備顯示出更高的響應(yīng)能力和性能水平，由于在本低就能處理數(shù)據(jù)，邊緣AI憑借去中心化和離線能力而變得更加強(qiáng)大，所以提高了應(yīng)用的可用性和可靠性。

最主要的，也是人們最關(guān)注的就是數(shù)據(jù)隱私和安全，傳統(tǒng)AI通過云計(jì)算網(wǎng)絡(luò)中的各種通信渠道傳輸數(shù)據(jù)有一部分可能性會造成數(shù)據(jù)丟失。主要原因是兩個或多個數(shù)據(jù)點(diǎn)之間有傳輸距離。所以傳統(tǒng)云計(jì)算及AI解決方案需要竭盡全力確保其數(shù)據(jù)得到有效保護(hù)。而邊緣 AI將這些數(shù)據(jù)保存在本地，只將分析和洞察上傳到云端，這進(jìn)一步加強(qiáng)了隱私。即便為了學(xué)習(xí)需上傳一些數(shù)據(jù)，也可以對數(shù)據(jù)進(jìn)行匿名處理以保護(hù)用戶身份。通過保護(hù)隱私，邊緣 AI 能夠簡化數(shù)據(jù)合規(guī)性方面的挑戰(zhàn)，并且用戶還可以設(shè)置限制誰可以訪問存儲在其個人設(shè)備中的數(shù)據(jù)。因此，邊緣AI是用戶數(shù)據(jù)處理的更安全選擇。

邊緣AI工作時(shí)間越長，應(yīng)用就更準(zhǔn)確，因?yàn)楣ぷ鲿r(shí)產(chǎn)生了大量的數(shù)據(jù)，當(dāng)邊緣 AI 應(yīng)用遇到它無法準(zhǔn)確處理的數(shù)據(jù)時(shí)，它通常會將該數(shù)據(jù)上傳，然后使用該數(shù)據(jù)重新訓(xùn)練并從中學(xué)習(xí)，因此會越來越準(zhǔn)確。

邊緣AI開發(fā)，如何駛上快車道？

邊緣AI持續(xù)升溫智慧聯(lián)網(wǎng)趨勢成形

邊緣AI應(yīng)用

邊緣AI可以提供增強(qiáng)用戶體驗(yàn)的附加功能（如智能手機(jī)、智能電視、個人電腦/平板電腦），也可以提供對技術(shù)本質(zhì)至關(guān)重要的功能（如自動駕駛汽車、工業(yè)機(jī)器人等，如果沒有AI，它們根本無法以所需要的方式工作）。

AI（實(shí)現(xiàn)自動化和免提訪問）和Wi-Fi連接是實(shí)現(xiàn)物聯(lián)網(wǎng)的兩項(xiàng)關(guān)鍵技術(shù)，在物聯(lián)網(wǎng)中，智能電器可以直接通信，因此，智能家居是AI（主要包括消費(fèi)電子產(chǎn)品）的一個重要增長渠道。除此之外，智能電視、智慧鏡面、虛擬現(xiàn)實(shí)（VR）設(shè)備、傳感器、廚房設(shè)備、清潔用具以及安全系統(tǒng)都可以通過應(yīng)用AI和Wi-Fi進(jìn)入互聯(lián)狀態(tài)，通過具有AI功能的智能家居設(shè)備可以進(jìn)行免提訪問和語音命令。在預(yù)測期內(nèi)，將AI引入家庭所提供的機(jī)會，將在一定程度上反映消費(fèi)電子垂直領(lǐng)域的增長，預(yù)計(jì)到2034年，該行業(yè)將成為邊緣AI芯片營收最高的行業(yè)。

邊緣應(yīng)用AI芯片價(jià)值鏈

邊緣AI正在推動工業(yè)、汽車、醫(yī)療、金融、能源等行業(yè)開發(fā)出新的業(yè)務(wù)成果。各大廠商也在圍繞邊緣AI領(lǐng)域進(jìn)行研究。AI處理器針對不同的應(yīng)用有不同的等級，邊緣AI芯片的性能要求已能夠與中高端智能手機(jī)AP（應(yīng)用處理器）相媲美，目前邊緣計(jì)算市場上參與者眾多，不同陣營廠商正以不同的路線共同推動邊 緣計(jì)算快速發(fā)展。以英特爾、AMD 等為代表的芯片廠商積極推出 CPU、GPU、 FPGA、DPU、IPU 等邊緣算力芯片；亞馬遜、微軟等云服務(wù)廠商將云計(jì)算能力向 設(shè)備和用戶側(cè)延伸，擴(kuò)充云數(shù)據(jù)中心的外延，將云原生的統(tǒng)一編程模式通過邊緣網(wǎng) 關(guān)的能力應(yīng)用到設(shè)備構(gòu)成的邊緣云，主打云邊協(xié)同一體化；以移動、電信、聯(lián)通為 代表的 5G 運(yùn)營商將 IT 能力同基礎(chǔ)網(wǎng)絡(luò)承載與業(yè)務(wù)運(yùn)營融合，提供基站的邊緣計(jì)算服務(wù)及 5G 網(wǎng)絡(luò)接入管理。。

2024年~2034年邊緣AI芯片營收預(yù)測

預(yù)計(jì)到2034年，消費(fèi)電子、工業(yè)和汽車垂直領(lǐng)域?qū)⒊蔀檫吘堿I芯片的主要營收來源

五家大廠邊緣AI芯片解決方案

英特爾持續(xù)創(chuàng)新邊緣AI技術(shù)，攜手生態(tài)伙伴推進(jìn)城市數(shù)智化轉(zhuǎn)型

德州儀器推出全新視覺處理器系列，在智能攝像頭應(yīng)用中實(shí)現(xiàn)可擴(kuò)展的邊緣AI性能

TI推出全新處理器推動邊緣AI普及并使其功耗減半

Microchip與韓國智能硬件公司IHWK合作開發(fā)模擬計(jì)算平臺,加速邊緣AI/ML推理

同時(shí), 今年初英飛凌宣布收購初創(chuàng)公司Imagimob，后者是一家邊緣設(shè)備機(jī)器學(xué)習(xí)解決方案提供商，專注于邊緣AI市場。通過此次收購，英飛凌將顯著補(bǔ)強(qiáng)其AI產(chǎn)品。并在8月宣布與Edge Impulse合作，為PSoC? 63低功耗藍(lán)牙 ?微控制器（MCU）擴(kuò)展基于微型機(jī)器學(xué)習(xí)的AI開發(fā)工具。

英飛凌攜手Edge Impulse擴(kuò)展邊緣AI能力,為藍(lán)牙客戶帶來更多基于機(jī)器學(xué)習(xí)模型的平臺選擇

英飛凌為NVIDIA Jetson邊緣AI平臺提供AIROC? Wi-Fi/藍(lán)牙?解決方案

ST意法半導(dǎo)體也加入了邊緣AI的競爭戰(zhàn)場，今年意法半導(dǎo)體（ST）于年中推出了邊緣AI加速微處理器——第二代STM32 MPU。該處理器提高了工業(yè)和物聯(lián)網(wǎng)邊緣應(yīng)用的性能和安全性，預(yù)計(jì)將于2024上半年批量生產(chǎn)，并后期又推出了X-CUBE-AWS-H5擴(kuò)展包，讓物聯(lián)網(wǎng)設(shè)備能夠無縫、安全地接入AWS云。在這個軟件擴(kuò)展包中有一套為專門終端設(shè)備STM32H5系列高性能微控制器設(shè)計(jì)的軟件庫和應(yīng)用代碼示例。。

半導(dǎo)體執(zhí)行副總裁Ricardo De Sa Earp表示：“新的微處理器進(jìn)一步加大了公司在應(yīng)用處理器方面的投資，將64位內(nèi)核與邊緣AI加速、高級多媒體功能、圖形處理和數(shù)字連接相結(jié)合?！?/p>

意法半導(dǎo)體發(fā)布安全軟件,保護(hù)STM32邊緣AI設(shè)備連接AWS IoT Core的安全

邊緣AI開發(fā)的挑戰(zhàn)及ST的解決方案

意法半導(dǎo)體推出第二代工業(yè)4.0級邊緣AI微處理器意法半導(dǎo)體推出NanoEdge AI免費(fèi)部署服務(wù),打破邊緣AI應(yīng)用障礙

萊迪思于今年也推出了結(jié)合低功耗、低延遲FPGA與英偉達(dá)Orin平臺的集成解決方案,將傳感器高效橋接至AI應(yīng)用。

萊迪思與英偉達(dá)合作加速推進(jìn)網(wǎng)絡(luò)邊緣AI

萊迪思FPGA助力聯(lián)想新一代網(wǎng)絡(luò)邊緣AI體驗(yàn)

大模型廠商也在加速布局移動/邊緣端的相關(guān)應(yīng)用。今年舉辦的谷歌I/O大會上，谷歌宣布其PaLM2大模型的最輕量化版本Gecko可在移動端運(yùn)行，開拓了AI模型在邊緣側(cè)推理的場景。對此有消息機(jī)構(gòu)表示，在邊緣側(cè)推理的輕量化大語言模型有望帶動邊緣AI計(jì)算成長，加速邊緣硬件市場更新迭代。除大模型外，龍頭廠商也紛紛布局輕量級模型，當(dāng)前 Meta、谷歌、高通等公 司已開始發(fā)力邊緣 AI。谷歌和 Meta 分別于今年 5 月 11 日和 7 月 19 日發(fā)布了 各自最新的大語言模型版本 PaLM 2 和 Llama 2，較以往版本實(shí)現(xiàn)測試數(shù)據(jù)、性 能等全面優(yōu)化，輕量化版本均能應(yīng)用于邊緣端，其中最新發(fā)布的 Meta 大模型 Llama 2 更是開放開源免費(fèi)使用，有望推動邊緣 AI 迎來“安卓時(shí)刻”。此前，芯片 龍頭廠商高通也首次成功實(shí)現(xiàn) Stable Diffusion 模型在手機(jī)端應(yīng)用生成 AI 圖像， 并于 5 月 30 日宣布高通正在轉(zhuǎn)型為邊緣計(jì)算公司，全面下注邊緣 AI。

國內(nèi)邊緣AI市場

在AI的助力下，邊緣側(cè)終端和芯片迭代有望加速。目前國內(nèi)布局邊緣AI芯片的廠商主要包括寒武紀(jì)、華為海思、瑞芯微、研華科技、凌華科技等。

瑞芯微推出RK3588 AIoT芯片，計(jì)算采用Quad A76 + Quad A55、Arm G610 MP4及6Tops NPU，感知采用48MISP,HDR/3DNR、多攝像頭輸入及多MIC陣列，支持安卓及Linux系統(tǒng)。可應(yīng)用于平板、只能座艙、AR/VR及網(wǎng)絡(luò)視頻錄像機(jī)等領(lǐng)域。

凌華科技發(fā)布采用NVIDIA Jetson Orin模塊的下一代邊緣AI平臺，全球領(lǐng)先的邊緣計(jì)算和AI解決方案提供商——凌華科技，日前宣布推出DLAP-211-Orin系列和DLAP-411-Orin工業(yè)級邊緣AI平臺。通過搭載Orin 模塊，全新的 DLAP 平臺性能得到了大幅提升，成為一款緊湊的、經(jīng)過SWaP 優(yōu)化的、強(qiáng)大的工業(yè)級解決方案，AI 推理性能與前幾代產(chǎn)品相比，提高了 8 倍，達(dá)到了 275 TOPS。 這些先進(jìn)的系統(tǒng)旨在提供卓越的性能和耐用性，重新定義了智慧城市、零售、安全、工廠和制造等各個領(lǐng)域的AI應(yīng)用基準(zhǔn)。

凌華科技發(fā)布采用NVIDIA Jetson Orin模塊的下一代邊緣AI平臺

凌華科技發(fā)布IMB-M47 ATX主板,滿足高性能工業(yè)邊緣應(yīng)用的需求凌華科技推出下一代IPC革新邊緣側(cè)行業(yè)應(yīng)用，提供可擴(kuò)展設(shè)計(jì)和定制功能模塊

基于NVIDIA Jetson? Orin的凌華科技ROScube-X RQX-59系列，重新定義 AI 性能

邊緣計(jì)算可以在任何產(chǎn)生數(shù)據(jù)的地方使用，從自動化工廠車間和倉庫的工廠，自助結(jié)賬的零售商店，到具有車隊(duì)管理的交通，以及具有停車管理和智能建筑的智慧城市。AI和5G技術(shù)的推出，使邊緣計(jì)算更加靈活、智能和互聯(lián)。研華科技一直致力于提供Edge+邊緣智能解決方案，聚焦行業(yè)重點(diǎn)，側(cè)重在軟件、AI、無線連接和云集成，為AIoT多場景應(yīng)用提供支持，且能夠提供全備軟硬件和更具行業(yè)經(jīng)驗(yàn)的深度整合服務(wù)。并且，研華科技一直與英偉達(dá)、英特爾、AMD、ARM等頭部半導(dǎo)體廠商深度合作，在云端和邊緣側(cè)能夠提供自研的AI模型、訓(xùn)練、算法以及開發(fā)包。

揭秘研華科技Jelina物聯(lián)網(wǎng)管理平臺，迎接邊緣智能新機(jī)遇

研華AIR-030邊緣AI推理系統(tǒng)，專為機(jī)器人應(yīng)用多設(shè)備連接AI運(yùn)行設(shè)計(jì)

研華&Hailo聯(lián)合推出可擴(kuò)展、高能效邊緣AI解決方案

研華推出支持雙NVIDIA GPU的高性能邊緣AI系統(tǒng)AIR-500D

布局Edge AI,研華以邊緣運(yùn)算創(chuàng)新與產(chǎn)業(yè)驅(qū)動應(yīng)對全球新興行業(yè)挑戰(zhàn)

8月28日，在“第三屆滴水湖中國RISC-V產(chǎn)業(yè)論壇”上，國內(nèi)知名AI技術(shù)廠商云天勵飛介紹了其新一代邊緣大算力AP級邊緣SoC芯片Edge10V，目前已經(jīng)接近量產(chǎn)狀態(tài)。

作為國內(nèi)首批AI技術(shù)廠商，成立于2014年的云天勵飛最初是主攻AI算法，通過攝像頭、端云協(xié)同的架構(gòu)來做海量圖片的分析與處理，因此算法的泛化能力相對較弱，所以對于設(shè)備的調(diào)試要求就比較高，需要到各地去幫助客戶調(diào)試，這在當(dāng)時(shí)耗費(fèi)了云天勵飛很大的一部分精力。這也促使了云天勵飛開始來做自研芯片，將自己的AI算法芯片化。

從2015年至今，云天勵飛已經(jīng)完成了三代指令集架構(gòu)，4代神經(jīng)網(wǎng)絡(luò)處理器架構(gòu)的研發(fā)。2022年，云天勵飛自研的新一代邊緣AI SoC芯片——Edge10V流片成功，今年開始在做產(chǎn)品化相關(guān)的工作，目前已經(jīng)接近準(zhǔn)量產(chǎn)狀態(tài)。

當(dāng)下，傳統(tǒng)硬件疲態(tài)漸顯，智能機(jī)/PC均進(jìn)入存量市場，智能音箱及耳機(jī)也增速放緩。但通過邊緣AI的賦能，相信將改變電子產(chǎn)業(yè)的增長曲線，未來所有硬件都有重估值潛力。