“芯痛”之下阿里苦心研發(fā)NPU AI芯片究竟哪款PU更厲害？

　　4月19日，有消息稱，阿里巴巴達摩院正在研發(fā)一款神經(jīng)網(wǎng)絡芯片——Ali-NPU，主要運用于圖像視頻分析、機器學習等AI推理計算。按照設計，這款芯片性能將是目前市面上主流CPU、GPU架構AI芯片的10倍，而制造成本和功耗僅為一半，其性價比超過40倍。

　　應用上，通過此款芯片的研發(fā)將會更好的落地在圖像、視頻識別、云計算等商業(yè)場景中。據(jù)阿里達摩院研究員驕旸介紹說：“CPU、GPU作為通用計算芯片，為處理線程邏輯和圖形而設計，處理AI計算問題時功耗高，性價比低，在AI計算領域急需專用架構芯片解決上述問題。阿里巴巴此款Ali-NPU在AI領域積累了大量算法模型優(yōu)勢，以最小成本實現(xiàn)最大量的AI模型算法運算。”

　　昨日，OFweek人工智能網(wǎng)在《當中興事件揭開“缺芯少魂”的遮羞布 AI能否迷途知返?》中簡單說明了英特爾、英偉達、AMD等傳統(tǒng)芯片處理器巨頭在CPU和GPU上存在的優(yōu)勢，而且它們都將人工智能定位為未來重要戰(zhàn)略。

　　事實上，隨著人工智能產(chǎn)業(yè)的發(fā)展，CPU、GPU、TPU、DPU、NPU、BPU……各種PU也開始爆發(fā)式出現(xiàn)。那么，究竟這些PU在性能和使用上有何異同，又有哪些優(yōu)劣呢?

　　CPU：計算力占據(jù)部分很小 擅長邏輯控制

　　CPU是最為普遍，最為常見的中央處理器。主要包括運算器(ALU)和控制單元(CU)，除此之外還包括若干寄存器、高速緩存器和它們之間通訊的數(shù)據(jù)、控制及狀態(tài)的總線。依循馮諾依曼架構，CPU需要大量空間放置存儲單元和控制邏輯，計算能力只占據(jù)很小的部分，更擅長邏輯控制。

　　CPU結構簡化圖

　　GPU：計算單元數(shù)量眾多 但無法單獨使用

　　GPU的誕生可以解決CPU在計算能力上的天然缺陷。采用數(shù)量眾多的計算單元和超長的流水線，善于處理圖像領域的運算加速。但GPU的缺陷也很明顯，即無法單獨工作，必須由CPU進行控制調用才能工作。

　　CPU、GPU微架構對比圖

　　TPU：高性能低功耗 然則開發(fā)周期長、轉換成本高

　　谷歌專門為 TensorFlow 深度學習框架定制的TPU，是一款專用于機器學習的芯片。TPU可以提供高吞吐量的低精度計算，用于模型的前向運算而不是模型訓練，且能效更高。但它的缺陷主要是開發(fā)周期長、可配置性能有限，缺乏靈活性且轉換成本高。

　　DPU：可實現(xiàn)快速開發(fā)與產(chǎn)品迭代

　　國際上，Wave Computing最早提出DPU。在國內，DPU最早是由深鑒科技提出，是基于Xilinx可重構特性的FPGA芯片，設計專用深度學習處理單元，且可以抽象出定制化的指令集和編譯器，從而實現(xiàn)快速的開發(fā)與產(chǎn)品迭代。

　　深鑒“雨燕”DPU平臺

　　NPU：運行效率提升 不支持大樣本訓練

　　NPU是神經(jīng)網(wǎng)絡處理器，在電路層模擬人類神經(jīng)元和突觸，并且用深度學習指令集直接處理大規(guī)模的神經(jīng)元和突觸，一條指令完成一組神經(jīng)元的處理。相比于CPU和GPU的馮諾伊曼結構，NPU通過突觸權重實現(xiàn)存儲和計算一體化，從而提高運行效率。但NPU也有自身的缺陷，比如不支持對大量樣本的訓練。

　　BPU：比在CPU上用軟件實現(xiàn)更為高效 不可再編程

　　BPU是由地平線主導的嵌入式處理器架構。第一代是高斯架構，第二代是伯努利架構，第三代是貝葉斯架構。BPU主要是用來支撐深度神經(jīng)網(wǎng)絡,比在CPU上用軟件實現(xiàn)更為高效。然而，BPU一旦生產(chǎn)，不可再編程，且必須在CPU控制下使用。

　　從CPU、GPU的市場來看，已經(jīng)基本被英特爾、英偉達和AMD三分天下。而在ASIC框架下的TPU，只有谷歌的體量和實力才有開發(fā)專用加速的動力。

　　推出DPU的深鑒科技有清華和斯坦福雙重學術背景，公司目前的兩條發(fā)展路線是：以芯片技術為主的純技術路線，以及基于技術的產(chǎn)品路線。其處理器做深度學習應用端，不做訓練端。目前，其深度壓縮技術可以將神經(jīng)網(wǎng)絡壓縮數(shù)十倍而不影響精度，還可以使用芯片存儲深度學習算法模型，減少內存讀取次數(shù)，降低運行功耗。

　　去年10月，深鑒科技推出了六款AI產(chǎn)品，分別是人臉檢測識別模組、人臉分析解決方案、視頻結構化解決方案、ARISTOTLE架構平臺，深度學習SDK DNNDK，以及雙目深度視覺套件。

　　寒武紀最初是中科院從2008年開始的一研究項目，負責人為陳氏兄弟陳云霽和陳天石，也是寒武紀科技的創(chuàng)始人，與他們合作研究Diannao系列的Olivier Temam是Google TPU的主架構師。2016年11月，寒武紀科技正式成立，同時推出世界首款商用深度學習專用處理器 Cambricon-AI，是一款神經(jīng)網(wǎng)絡處理器，面向手機、無人機等類手機的終端設備。

　　去年，一時火爆的華為麒麟970一大賣點就是集成了獨立NPU，被宣傳為世界首款手機AI芯片。確實屬實。但據(jù)了解，這塊NPU也并非華為的研究成果，而是來自寒武紀。對于華為來說，之所以如此重視NPU，或許和阿里爆出新聞的心態(tài)一樣，認為集成NPU代表了人工智能未來的發(fā)展趨勢。

　　去年底，地平線在創(chuàng)辦兩年后終于發(fā)布首款芯片——“征程”與“旭日”。目前，這兩款處理器都屬于嵌入式人工智能視覺芯片，分別面向智能駕駛和智能攝像頭。2018年CES上，英特爾和地平線還發(fā)布了基于伯努利架構的新一代征程處理器，其發(fā)展路徑圖為：2018年，感知;2019年，建模;2020年，決策。

　　而因為與英特爾的合作，地平線不禁讓市場聯(lián)想到英特爾早前重金收購的Mobileye。在嵌入式人工智能領域，Mobileye是業(yè)界領頭羊。地平線在英特爾的定位版圖是否是中國版Mobileye?但其創(chuàng)始人余凱的抱負是，地平線是要做中國的英特爾。

　　最后，談到人工智能芯片，還是不得不提BAT。在國際四大科技巨頭都造芯片，且ARM、英特爾、英偉達等傳統(tǒng)芯片廠商仍然統(tǒng)治芯片天下的情況下，中國芯能不能發(fā)展起來，還需要看國內科技巨頭們的表現(xiàn)。相較而言，阿里在三家中最為熱衷芯片布局，上述包括寒武紀、深鑒科技均有阿里參投。