科普 | AI芯片的低功耗突破

 Imec使用一種新技術(shù)開發(fā)了一種測試芯片，該技術(shù)大大降低了機(jī)器學(xué)習(xí)邊緣AI系統(tǒng)的功能。
存內(nèi)模擬計(jì)算（The Analog in Memory Computing，AiMC）架構(gòu)使用經(jīng)過修改的存儲單元在經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)中處理網(wǎng)絡(luò)邊緣AI的數(shù)據(jù)，功率效率為2900TOPS / W。 imec機(jī)器學(xué)習(xí)主管Diederik Verkest說：“我們建立了一個(gè)特殊的計(jì)算單元，可以在這里通過減少數(shù)字傳輸來節(jié)省能源?！彼f：“取決于[激活單元]激活線上的脈沖寬度，可以在繼續(xù)進(jìn)行數(shù)字計(jì)算之前獲得[模擬-數(shù)字轉(zhuǎn)換器] ADC的權(quán)重之和?！?/span> 在該芯片中，我們使用3級權(quán)重。權(quán)重可以是-1、0或1，并且我們使用兩個(gè)SRAM單元來存儲此權(quán)重級別。計(jì)算單元是一個(gè)模擬電路，頂部有一些其他晶體管。這會產(chǎn)生與存儲的三級權(quán)重和激活信號（DAC的輸出）相乘的比例的模擬信號。 嚴(yán)格來說，三級權(quán)重是以數(shù)字方式存儲的，但是所有計(jì)算都是在模擬域中完成的?！彼a(bǔ)充說：“AnIA的成功推出標(biāo)志著朝著驗(yàn)證存內(nèi)計(jì)算（AiMC）中的模擬邁出了重要的一步。參考實(shí)現(xiàn)不僅表明在實(shí)踐中可以進(jìn)行模擬內(nèi)存計(jì)算，而且能效比數(shù)字加速器高十到一百倍。從我們的角度來看，這是機(jī)器學(xué)習(xí)程序中的一個(gè)里程碑，它表明模擬計(jì)算可以與數(shù)字計(jì)算具有相同的準(zhǔn)確性”。 Analog Inference Accelerator（AnIA）測試芯片是在Global Foundries位于德國德累斯頓的工廠基于22nm FD-SOI低功耗工藝構(gòu)建的。該芯片面積為4mm2，具有1024個(gè)輸入信號和512個(gè)輸出，其性能與當(dāng)今的GPU相似。它顯示出與數(shù)字實(shí)現(xiàn)相同的精度，誤差在1％以內(nèi)，但功率效率為2900TOPS / W。低功耗和低成本的結(jié)合為嵌入式硬件中的邊緣AI圖像識別和傳感打開了機(jī)遇。 GF計(jì)算和有線基礎(chǔ)設(shè)施產(chǎn)品管理副總裁Hiren Majmudar說：“模擬計(jì)算是一個(gè)驚人的前沿，因?yàn)樗梢詼p少數(shù)據(jù)移動，這將成為主流?！?/span> Edge AI測試芯片
“該測試芯片是向業(yè)界展示22FDX如何顯著降低能耗密集型AI和機(jī)器學(xué)習(xí)應(yīng)用程序功耗的關(guān)鍵一步，” Majmudar說。 Verkest說：“我們獲得與GPU相同的性能，但具有更高的能源效率和小尺寸（4mm2）的芯片。如果增加陣列的大小，還將提高性能水平?！?/span> GF將把AiMC包括在22nm FD-SOI（22FDX）技術(shù)中實(shí)現(xiàn)的功能與新的AiMC功能在GF位于德國德累斯頓Fab 1的最先進(jìn)的300mm生產(chǎn)線中生產(chǎn)。 他說：“我們正在看到GF與經(jīng)過驗(yàn)證的芯片合作伙伴，我們預(yù)計(jì)模擬計(jì)算芯片將在今年下半年和明年年初投入生產(chǎn)，并在2022年或更晚一些進(jìn)入大眾市場，” GF的該版本使用了經(jīng)過修改的SRAM單元，但是其他存儲技術(shù)也可以使用相同的技術(shù)。imec的Verkest說：“您可以使用SRAM，MRAM，DRAM，這些都是我們研發(fā)工作的一部分，以了解最佳選擇?！?/span>