兄弟二人聯(lián)合創(chuàng)業(yè)，AI編譯器開始的AI“芯“歷程

指令集架構(gòu)是處理器的抽象模型，目前主宰微處理器市場的主要指令集架構(gòu)包括 ARM、MIPS、POWER 和 X86 等，經(jīng)過多年的發(fā)展，上述架構(gòu)已擁有穩(wěn)定成熟的軟件生態(tài)，同時也存在一些問題，比如為了獲取兼容性而引入了復(fù)雜冗長的指令，以及防止軟件生態(tài)的碎片化而采取了封閉式指令集維護，這使得客戶不可隨意擴展其該架構(gòu)的指令集。在IoT/AIoT大行其道，定制化的硬件軟件（DSA/DSL）架構(gòu)盛行的今天，這種封閉式的指令集架構(gòu)存在的問題逐漸顯露。

每個時代都有其鮮明的時代特色，處理器指令集架構(gòu)也不例外， RISC-V 指令集架構(gòu)就屬于時代催生的產(chǎn)物，憑借其免費開放的指令集、便捷的指令集擴展標(biāo)準(zhǔn)等優(yōu)勢，一經(jīng)問世便深受國內(nèi)外芯片設(shè)計企業(yè)、高等院校和芯片設(shè)計愛好者的歡迎。

目前有很多開源組織、科研院所、商業(yè)公司無償開源其 RISC-V 處理器IP及相關(guān)工具軟件，其中有些開源 RISC-V 處理器IP在性能和功耗等方面能夠與商用處理器 IP 媲美，甚至超過了部分商用處理器 IP。

作為指令集架構(gòu)大家族中的新貴，RISC-V 尚屬發(fā)展的早期階段，雖然基礎(chǔ)指令集的定義已經(jīng)完善，但有不少指令擴展標(biāo)準(zhǔn)還在開發(fā)階段。更值得一提的是其軟件生態(tài)的發(fā)展，用匱乏來描述毫不夸張，也正是這種匱乏在制約著 RISC-V 的進一步推廣以及在實際芯片產(chǎn)品中的應(yīng)用。但從目前開源 RISC-V 處理器的個數(shù)、增加的速度和代碼的質(zhì)量來看， RISC-V 有著不可估量的發(fā)展前景，同時它也預(yù)示著硬件開源時代的到來。

正是在此背景下，海山和海明兩兄弟義無反顧地踏上了創(chuàng)業(yè)之路，他們不僅都是資深的開源愛好者，同時也是最佳合作伙伴，其中海山主要研發(fā)軟件，海明主要研發(fā)硬件。能夠軟、硬件互補是他們最大的優(yōu)勢所在。

圖示：譯芯科技創(chuàng)始人海山和海明

兄弟二人聯(lián)手踏上創(chuàng)業(yè)之路

早在 2006 年開源微處理器還未被行業(yè)所了解和接納的時候，二人便開始利用業(yè)余時間合力打造 5 級流水線的 RISC 處理器 Potato-I 及配套的 GCC 編譯器，最終以參賽的形式將處理器代碼提交到 Xilinx 的 OpenHW 網(wǎng)站，并在第一屆 Xilinx 開源硬件大賽上取得優(yōu)異成績。

處理器架構(gòu)的優(yōu)美和編譯器內(nèi)部的神奇始終吸引著兩位創(chuàng)始人，不僅工作和學(xué)習(xí)在圍繞著這兩個方向發(fā)展，處理器和編譯器設(shè)計也成為了他們的終身愛好。早在 2015 年 RISC-V 指令集開放后，二人便著手設(shè)計實現(xiàn)了一款 RISC-V 處理器核，并且萌生了共同創(chuàng)業(yè)進軍微處理器市場的想法，但限于當(dāng)時國內(nèi)行業(yè)對 RISC-V 的甚少了解和對微處理器設(shè)計的不重視，最終未能得到投資人認(rèn)可的二人只能選擇放棄。

放棄了第一次創(chuàng)業(yè)后，兄弟倆重新選擇步入職場，其中海明加入到國內(nèi) AI 初創(chuàng)企業(yè)云知聲，海山則繼續(xù)在知名外企從事軟件研發(fā)工作。能夠軟、硬件互補的他們從未放棄過開源這一愛好，也就是從 2015 年那一刻起海山便開始了 RISC-V LLVM 編譯器的業(yè)余開發(fā)工作，并在幾年后完成了 LLVM 編譯器的后端研發(fā)。

2019 年 5 月，海山拿著當(dāng)時市面上功能最完整，同時可靠性和穩(wěn)定性都已達到可商用化指標(biāo)的RISC-V LLVM編譯器創(chuàng)立了北京譯芯科技，海明緊隨其后，也加入到了譯芯科技。至此，兄弟二人再次在譯芯科技開始了創(chuàng)業(yè)之路。

由于創(chuàng)業(yè)之初就有了成熟穩(wěn)定的 RISC-V LLVM 編譯器，譯芯科技成立不久便推出了 RISC-V 商用 LLVM 編譯器及基于該編譯器的RISC-V AI工具軟件，并通過該AI工具業(yè)界首次實現(xiàn)了TensorFlow XLA demo在RISC-V硬件上的運行。譯芯科技RISC-V  LLVM編譯器和AI編譯器不僅為 RISC-V 處理器在人工智能領(lǐng)域的落地提供有力的工具鏈支撐，同時開啟了 RISC-V 處理器走向智能 Android 設(shè)備的大門。

下一步將開辟AI市場

對于譯芯科技而言，LLVM 編譯器的研發(fā)成功是公司創(chuàng)立的基石，而下一步便是要正式應(yīng)對市場的考驗，進而踏入 AI 和安卓這兩大應(yīng)用領(lǐng)域。由于公司剛剛成立不久，不具備同時打造兩款產(chǎn)品的條件，因此結(jié)合人力、物力投入，市場行情等多種因素后，兄弟倆決定首先主攻 AI 市場，從 AI 處理器切入，結(jié)合完善的 AI 工具鏈，打入 AI IP/芯片市場。

實際上，進入 AI 市場是兄弟二人深思熟慮后的決定。“總覺得2015 年過早放棄 RISC-V 處理器創(chuàng)業(yè)探索是個莫大的遺憾，可能是因為想彌補這個遺憾，我一直在關(guān)注開源處理器的發(fā)展，后來發(fā)現(xiàn)另外一個即將爆發(fā)的芯片市場，是一個全新的芯片類型，也就是今天的 AI 芯片。于是我果斷加入了云知聲，并有幸打造云知聲第一款語音 AI 芯片。當(dāng)初國內(nèi)很少聽到有專門設(shè)計AI芯片的公司和團隊，市場更是見不到如今遍地開花、耳熟能詳?shù)?AI 芯片，所以我也算是國內(nèi)最早接觸 AI 芯片的一撥人?！焙Ｃ骰貞浀?。

他繼續(xù)說道：“其實我最早接觸 AI 是在 2006 年的時候，當(dāng)初我們實驗室做某種檢測設(shè)備的師姐每天用酒精訓(xùn)練她的設(shè)備，出于好奇心，我不時的請教訓(xùn)練中的奧秘，也是從那一刻起我對 AI 的將來深信不疑，之后也接觸到一些很有趣的機器視覺相關(guān)項目。這些經(jīng)歷或許和我后來選擇從事 AI 芯片設(shè)計，并創(chuàng)立 AI 芯片公司有著千絲萬縷的聯(lián)系。”

譯芯科技 demo演示

值得一提的是，2020 年 2 月，譯芯科技已經(jīng)完成了AIoT SoC芯片 FPGA 演示平臺。與此同時，在此前集微網(wǎng)舉辦的“第二期芯力量&云路演”活動中，譯芯科技還展示了其首款 AIoT 芯片的FPGA Demo，主要演示了通過語音識別控制照明系統(tǒng)的功能，包括開燈、關(guān)燈和調(diào)整燈光亮度等一系列控制命令詞。

“FPGA Demo 的展示也意味著譯芯科技并不是一家只講故事的 AI 公司，更不是 PPT 芯片公司，我們確實在研發(fā) AI 芯片產(chǎn)品?！焙Ｃ鬟M一步介紹道，目前譯芯的 AI IP 已具備商業(yè)授權(quán)條件，AIoT  SoC預(yù)計在 2020 年第 3 季度達到流片要求，預(yù)計 2020 年第 4 季度流片第一顆通用 AIoT 芯片。

首款 AI 芯片具備兩大優(yōu)勢

“經(jīng)過這幾年的摸爬滾打，我對 AI 芯片的理解也在不斷變化，其中最根本的變化是硬件優(yōu)先到軟件優(yōu)先的變化，這種認(rèn)知上的變化也是創(chuàng)立譯芯科技的最根本的動力所在?！憋@然，對于 AI 芯片海明有著自己深刻的理解。

在海明的講述中可以得知，其實海山最早也是這個觀點：“不管是一個從事軟件開發(fā)人員的偏執(zhí)也好，還是高瞻遠(yuǎn)矚也罷，他總是走在我前面，看在我前面，在我癡迷與打造 AI 芯片時，他已經(jīng)著手籌備今天的 AI 編譯器了。成立譯芯科技的根基和信心來自于的 LLVM 編譯器和 AI 編譯器，我也堅信時間會證明這兩個軟件的價值，同時也證明譯芯科技的存在價值?！?/p>

在海明看來，其實從 AI 概念爆發(fā)到現(xiàn)在，從 AI 芯片的競爭力的角度來說已經(jīng)經(jīng)歷了從軟件算法的性能優(yōu)先到芯片架構(gòu)優(yōu)先，再到芯片成本優(yōu)先三個階段，而下一階段應(yīng)該是“成本+通用性”優(yōu)先。只關(guān)注成本控制，不具備通用性的 AI 芯片，會繼續(xù)以 turn-key 方式存在并出貨，但不久的將來turn-key 方案會逐漸被低成本和通用性兼?zhèn)涞?AI 芯片所替代。因此海明認(rèn)為，AI 芯片最終將從 turn-key 轉(zhuǎn)為 turn-chip 方式出貨。

在“turn-chip”的模式下，AI 芯片架構(gòu)對算法研究人員或工程師來說是透明的，他們可以把 AI framework 打造的模型直接編譯并燒寫到 AI 芯片上，其與在 GPU 上開發(fā) AI 應(yīng)用一樣便捷。而這也是譯芯科技的終極目標(biāo)：為芯片客戶提供低成本且通用的 AI 芯片，不再讓 AI 芯片的成本和 AI 算法移植過程，成為高性價比的 AI硬件產(chǎn)品開發(fā)的瓶頸。

基于此，譯芯科技所研發(fā)的第一款 AI 芯片將具備兩大優(yōu)勢：一是通用性強，二是性價比高。海明和海山選擇開源免費的 RISC-V 作為基礎(chǔ)處理器，對其進行 AI 指令擴展，并搭建了自己的 AI 處理器。最終，客戶可借助譯芯科技的 AI 編譯器，將 AI 模型到 AI 硬件的繁瑣人工優(yōu)化工作變?yōu)楹唵蔚臋C器編譯過程。因此，低成本和通用性是譯芯 AI 芯片的核心競爭力。 

堅持不同以往的 AI創(chuàng)業(yè)之路

“我們希望我們打造的是個‘AISP’芯片，也就是基于 AI 的信號處理器芯片。信號可以是語音、圖像，也可以是傳感器采集過來的任何一種類型的信號。希望一線的研發(fā)人員，就像使用 Matlab 開發(fā) DSP 算法一樣，采用Tensorflow、caffe、pytorch 等AI開發(fā)工具，開發(fā)其AI算法，并一鍵編譯的形式將AI算法落地到我們的“AISP”芯片上，最終實現(xiàn)其硬件產(chǎn)品?！焙Ｃ鞲嬖V集微網(wǎng)記者。

海明認(rèn)為，AI 芯片投資最佳窗口已過，過去幾年大量的公司將研發(fā)力量和資金投入到 AI 芯片架構(gòu)設(shè)計和流片上，大家更關(guān)注芯片算力、能效比等硬性參數(shù)指標(biāo)，而對AI軟件工具的重視程度和研發(fā)投入遠(yuǎn)遠(yuǎn)不夠。這直接導(dǎo)致了很多 AI 芯片面對 Google 和 NVIDA 的嵌入式邊緣計算平臺時黯然失色。

在 AI 的創(chuàng)業(yè)道路上，譯芯科技顯然要走一條與以往選手不同的道路?！拔覀儚娬{(diào)的是芯片的通用性和低成本，我們不僅把有限的資源投入到降低芯片成本的探索上，就如我們正在打造的開源 SoC 平臺，同樣也會投入到工具軟件的研發(fā)上，即我們的AI軟件生態(tài)的構(gòu)建和完善上面?！焙Ｃ髡f道。

關(guān)于打造自主 IP 和開源 IP 為一體的 SoC 平臺的必要性，海明說道：“隨著芯片制造工藝的日益成熟，芯片制造成本不斷降低，而隨著社會的進步人力成本會越發(fā)昂貴，也就是芯片加工會變得越來越便宜，而芯片采用的IP成本有可能不降反而上升。另外，如今的芯片行業(yè)早已不是暴力行業(yè)，一款芯片的銷量和所帶來的利潤遠(yuǎn)不及過去。這也對很多芯片廠商的成本控制能力提出了更高的要求。例如一個投入兩三百萬美元的芯片項目除了人力和芯片加工外所需的IP成本占總投入的一半以上，而其中前兩者的降幅有限，所以成本控制主要體現(xiàn)在IP成本的控制上。這也是我們打造自主研發(fā)IP和開源IP為一體的SoC平臺的目的?！?/p>

談起創(chuàng)業(yè)過程，海明感慨萬千，雖然創(chuàng)業(yè)不到一年，但經(jīng)歷的蠻多，除了兄弟二人無法左右的外部環(huán)境外，按照海明的話說：“萬事開頭難，何況我們的開頭是技術(shù)瓶頸更高的編譯器，市場不易打開的軟件，競爭激烈的芯片，投資窗口已過的AI芯片?！?/p>

羅馬非一日建成！如今的譯芯科技還是一家剛成立不滿一年的 AI 芯片初創(chuàng)企業(yè)，在競爭激烈的 AI 市場中仍然有很長的一段路要走。而在海明為公司設(shè)定的三年規(guī)劃中，AI 終端芯片顯然只是開始，未來公司還將涉入到 AI 云端芯片市場中，探索更多的可能性。

（校對/范蓉）