嘉楠：發(fā)力邊緣側(cè) 構(gòu)建智能“芯”生態(tài)

      在“2019世界半導(dǎo)體大會”上，嘉楠科技創(chuàng)始人、董事長兼首席執(zhí)行官張楠賡先生發(fā)表題為“讓‘AI’成為AI”的演講，分享了對邊緣側(cè)AI和當(dāng)下產(chǎn)業(yè)的思考，以及對嘉楠科技邊緣智能“芯”生態(tài)的構(gòu)想。

      在《電子產(chǎn)品世界》記者的專訪中，張楠賡表示，真正的AI不僅局限于圖像處理，而應(yīng)該兼具視聽等多種感官能力。去年9月，嘉楠推出了第一代AI新品勘智K210，這款基于自主研發(fā)的ASIC芯片集視聽能力于一身，已經(jīng)部署于無感門禁系統(tǒng)，功耗僅為300mw。最新的第二代芯片K510也預(yù)計在今年下半年問世，芯片算力將提升5~10倍。

      K210和即將問世的K510在某種程度上代表了嘉楠對于AI的思考。隨著AI產(chǎn)業(yè)逐漸走向成熟，AI芯片也逐漸從傳統(tǒng)的通用型芯片向半定制化、全定制化譜系發(fā)展。張楠賡認為，邊緣側(cè)AI之所以沒有普及，因為AI芯片在成本、能耗、算力、通用性等方面仍有不足。對于邊緣側(cè)而言，只有足夠輕量化、低功耗的AI芯片才能真正落地于邊緣側(cè)設(shè)備，賦予設(shè)備一定的自決策能力，從而真正讓社會享受人工智能時代的紅利。

      1  讓‘AI’成為AI

      從2016年AlphaGo一戰(zhàn)成名以來，沉寂了60年的AI搖身一變成為“未來”的代名詞。自動駕駛、智慧城市、智能家居等一系列新概念點燃了人們對于AI的想象。但另一方面，實現(xiàn)真正的AI仍存挑戰(zhàn)。

      AI的通用性首當(dāng)其沖。當(dāng)下AI產(chǎn)業(yè)的突破仍處于單點突破期間。由于應(yīng)用背景明確，數(shù)據(jù)積累豐富，在翻譯、圖像檢測等一些特定的領(lǐng)域里，AI的能力已經(jīng)超越人類。但是，真正的AI通用芯片應(yīng)該具備視、聽、觸等多種能力，而不是單獨針對某個領(lǐng)域進行優(yōu)化。張楠賡認為，就像人一樣，各種傳感器同時起作用，這樣帶給用戶的體驗才會更好。

      總體上，AI的算法有一定的共通性。盡管IoT（物聯(lián)網(wǎng)）領(lǐng)域是個性化和碎片化的，如果把這些碎片化的領(lǐng)域集合在一起，發(fā)揮通用芯片和算法的優(yōu)勢，這樣可以確保在有限投入下，產(chǎn)出更多AI應(yīng)用。

      而其中的關(guān)鍵，恰恰在于AI在邊緣側(cè)設(shè)備的落地。

      2  邊緣側(cè)AI需要輕量化和低功耗

      張楠賡認為，目前的AI按應(yīng)用場景主要分為兩種，一種是訓(xùn)練，一種是推理。不同應(yīng)用場景對芯片的設(shè)計提出了不同要求。具體而言，算法訓(xùn)練由于對算力要求高，多部署于云端進行。與之相反，數(shù)據(jù)推理則更多發(fā)生在邊緣側(cè)，因此芯片設(shè)計應(yīng)當(dāng)兼具低功耗和輕量化。

      為此，嘉楠科技于2018年9月6日發(fā)布了針對于邊緣側(cè)的AI芯片——堪智K210。芯片采用了先進的28nm工藝，配置雙核64位CPU。其中，芯片的AI加速器由嘉楠自主研發(fā)設(shè)計，支持8通道高性能麥克風(fēng)陣列的音頻處理硬件，因此一顆芯片可以同時處理視頻和音頻，功耗僅為0.3 W。

 圖 堪智K210芯片（來源：堪智官網(wǎng)：https://kendryte.com/）

      3  為何采用RISC-V架構(gòu)

      與多數(shù)芯片不同，K210的CPU采用RISC-V的RV64。因為RISC-V有很多優(yōu)點，例如精簡指令集開發(fā)，更重要的是RISC-V并非國家意志的產(chǎn)物，而是具備學(xué)術(shù)性質(zhì)的開源CPU，這在當(dāng)下的貿(mào)易環(huán)境中顯得尤為重要。

      同時，嘉楠也趕上了國內(nèi)正在興起RISC-V研究浪潮。K210芯片和開發(fā)板可以服務(wù)于高校和科研院所的研究和培訓(xùn)，而且嘉楠產(chǎn)品是市場上為數(shù)不多、可立即買到的RISC-V產(chǎn)品，在淘寶就可以很方便地采購到。

      K210的優(yōu)勢是雙核64位RV CPU，是非常學(xué)術(shù)的RISC-V CPU，主頻400 MHz。相比Arm，RISC-V的RV64相當(dāng)于Arm的M7，比M7性能略高一些，但略遜于Arm A7。

      4  MCU領(lǐng)域最先進的工藝水平

      最有效的降功耗方法是好的架構(gòu)。第一代K210芯片是內(nèi)置存儲，可以等同于單片機（MCU），還有專用的CNN裝置，這樣的架構(gòu)方式能夠大幅降低芯片功耗。在工藝上，K210采用了臺積電28nm制程，在單片機領(lǐng)域已經(jīng)達到最先進水平。

      那么，嘉楠的礦機芯片已采用了臺積電的7 nm工藝，K210為何不采用7 nm？因為7 nm價格高。嘉楠做芯片的原則完全是為了商用，不是為了PPT，也不是為了融資，因此要考慮費效比。

      5  8通道的音頻功能

      K210的一大特色是，除了機器視覺能力外，還具備機器聽覺能力。芯片上帶有支持8通道高性能麥克風(fēng)陣列的音頻處理硬件，可以進行硬件加速的實時聲源定向與波束形成，無需占用主CPU資源。一顆芯片就可以實現(xiàn)聲源定向、聲場成像、波束形成、語音喚醒、語音識別等機器聽覺功能。

      那么，音頻在此的目的是什么？因為從哲學(xué)角度，AI應(yīng)該是多種感官融合的，因此K210除了有圖像，也做了音頻。用圖像的方法處理音頻是可以做的，把音頻轉(zhuǎn)成圖譜，用計算機的眼睛可以去“看”。

      另一個問題是：為何要做8通道？8通道麥克風(fēng)的應(yīng)用場景是什么？主要是為了有更遠的拾音距離，一般兩個麥克是三四米的拾音距離，4個麥克風(fēng)是5米，8個是6米左右。

      此外，8麥克風(fēng)還有一些特殊應(yīng)用，例如做林業(yè)病蟲害防治的害蟲識別，這是和百度、林業(yè)大學(xué)合作的一個項目，方法是把麥克風(fēng)扎到樹里，聽蟲子嗑樹的聲音。這需要多組麥克風(fēng)設(shè)備扎到樹里。嘉楠的方案是一個40 mm見方的模塊，做了防水的處理。利用圖像分類、檢測的方法，去“看”視野里是否有特定的害蟲。這種方案的應(yīng)用前景十分廣闊，因為中國的森林非常多，而且它可以推到農(nóng)田等更多應(yīng)用場景。

圖  堪智的應(yīng)用場景（來源：堪智官網(wǎng)）

      6  躍升：即將問世的K510

      2016年嘉楠已開始有了做AI芯片的想法，做了一兩年時間，本來計劃2017年底推出，但因當(dāng)時算法有很大突破和進展，又拖延到了2018年9月出爐，因此花了整整兩年時間。未來AI芯片的迭代速度加快，達到一年一代。

      第二代產(chǎn)品的型號為K510。那么，為何型號從K210一下跳到 K510？因為性能提高很多，提升了5~10倍，有了外存（注：第一代沒有外部DRAM），并加入了對高清視頻的支持。

圖 K210的主要性能指標（來源：堪智官網(wǎng)：https://kendryte.com/）

      7  未來：共建AIoT“芯”生態(tài)

      事實上，邊緣側(cè)AI芯片業(yè)態(tài)尚未成熟，各家廠商也都處于摸索路徑。但嘉楠對于芯片生態(tài)的商業(yè)想象卻很豐滿。這來自于嘉楠對自身研發(fā)實力的業(yè)務(wù)經(jīng)驗的自信。為此，嘉楠做了很多嘗試，不僅局限于芯片，而是以芯片為落點，延伸至開發(fā)板、算法以及邊緣側(cè)的解決方案等。

      更重要的是，嘉楠向外與AI廠商建立合作關(guān)系，通過合作補齊算法和數(shù)據(jù)，同時也為自身的芯片尋找更多落地場景。同時，兼容性上，嘉楠也推出了第一代模型轉(zhuǎn)換工具，可以將英偉達等主流企業(yè)的軟件遷移到芯片中，對于開發(fā)者更為友好。

      嘉楠的核心優(yōu)勢還體現(xiàn)在對于芯片研發(fā)設(shè)計體系的熟稔。張楠賡認為，之所以市面上涌現(xiàn)出大量的AI芯片產(chǎn)品，恰恰暴露了當(dāng)下AI產(chǎn)業(yè)沒有通用硬件平臺的現(xiàn)狀。以PC時代為例，Wintel聯(lián)盟的軟硬結(jié)合成為市場主導(dǎo)，多數(shù)公司無需再單獨研發(fā)芯片。這也正式嘉楠等芯片廠商的機遇所在。

      實際上，對于很多所謂的芯片廠商而言，ODM（委托設(shè)計）產(chǎn)品的性能很難保證，靠ODM驗證一下概念是可以的，但市場上也很少見到靠ODM成功的產(chǎn)品。而嘉楠不僅包含前端和后端設(shè)計，還包括標準庫的設(shè)計，以及數(shù)模混合信號等資源，因此可更好地保證芯片的性能。

      目前，K210的方案已用于智能門鎖、智能抄表等業(yè)務(wù)場景。合作伙伴可以通過嘉楠的SDK（軟件開發(fā)包）等開發(fā)出更多產(chǎn)品。

圖  堪智的SDK（來源：堪智官網(wǎng)）

      張楠賡表示，嘉楠希望和合作伙伴一道，構(gòu)建共贏格局的AIoT(人工智能物聯(lián)網(wǎng))商業(yè)生態(tài)。