瀚博半導(dǎo)體發(fā)布云端推理AI芯片 今年四季度量產(chǎn)

近兩年AI芯片廠商不斷涌現(xiàn)，2021年熱度更甚，一方面科技巨頭們加大投入力度，另一方面初創(chuàng)企業(yè)們逐步商業(yè)化，并且參與者持續(xù)增加。

在2021世界人工智能大會(huì)期間，瀚博半導(dǎo)體發(fā)布其首款云端通用AI推理芯片SV100系列及VA1通用推理加速卡，可實(shí)現(xiàn)深度學(xué)習(xí)應(yīng)用超高性能、超低延時(shí)的推理性能，可顯著降低數(shù)據(jù)中心與邊緣智能應(yīng)用的部署成本。據(jù)悉，SV100系列及VA1通用推理加速卡預(yù)計(jì)將于今年四季度量產(chǎn)上市。

瀚博半導(dǎo)體成立于2018年，今年4月28日完成了5億元人民幣A+輪融資。本輪融資由經(jīng)緯中國(guó)和中國(guó)互聯(lián)網(wǎng)投資基金聯(lián)合領(lǐng)投，老股東紅點(diǎn)創(chuàng)投中國(guó)基金、五源資本、賽富投資基金、耀途資本、天狼星資本和元木資本跟投。

國(guó)內(nèi)大廠們也動(dòng)作不斷，今年上半年，百度宣布旗下昆侖芯片業(yè)務(wù)已成立獨(dú)立新公司，瞄準(zhǔn)的也是云端AI通用芯片，第二代昆侖芯片已經(jīng)流片成功，將于2021年下半年量產(chǎn)；字節(jié)跳動(dòng)也表示在組建相關(guān)團(tuán)隊(duì)，在AI芯片領(lǐng)域做一些探索；華為的昇騰生態(tài)在繼續(xù)展開，阿里含光芯片也已面市。

國(guó)外的英偉達(dá)、英特爾、AMD等更是在AI領(lǐng)域布局已久，尤其是英偉達(dá)在AI生態(tài)上建立了穩(wěn)固的壁壘生態(tài)。

人工智能芯片的賽道依舊火熱，隨著持續(xù)的技術(shù)演進(jìn)，全球范圍內(nèi)各行業(yè)數(shù)據(jù)中心對(duì)推理算力的需求在快速增長(zhǎng)，下游客戶多樣化的算力應(yīng)用場(chǎng)景，催生了多樣化的AI計(jì)算加速芯片需求。那么，在這場(chǎng)算力平臺(tái)的競(jìng)爭(zhēng)中，新興公司們?nèi)绾巫叱霾町惢肪€？云端推理芯片是不少公司選擇突圍的方向。

瀚博半導(dǎo)體創(chuàng)始人兼CEO錢軍表示，選擇推理端突破，一方面是因?yàn)槭袌?chǎng)需求，有數(shù)據(jù)顯示，2021年推理市場(chǎng)已經(jīng)大于訓(xùn)練市場(chǎng)；另一方面是因?yàn)镚PU在推理側(cè)不是最好的構(gòu)架，瀚博半導(dǎo)體有更好的DSA構(gòu)架。

據(jù)介紹，瀚博SV100系列芯片的單芯片INT8峰值算力超200 TOPS，采用了自研的通用架構(gòu)，支持FP16, BF16和INT8等數(shù)據(jù)格式，并可以實(shí)現(xiàn)眾多主流神經(jīng)網(wǎng)絡(luò)的快速部署及計(jì)算機(jī)視覺、視頻處理、自然語(yǔ)言處理和搜索推薦等多樣化推理應(yīng)用場(chǎng)景。同時(shí)，芯片集成高達(dá)64路以上H.264/H.265/AVS2的1080p視頻解碼，廣泛適用于云端與邊緣智能應(yīng)用場(chǎng)景。

同時(shí)，瀚博半導(dǎo)體創(chuàng)始人兼CTO張磊還介紹道，瀚博的VastStream軟件平臺(tái)支持TensorFlow、PyTorch、Caffe2等常見的深度學(xué)習(xí)框架模型與ONNX格式的模型，通過(guò)高度定制的AI編譯器充分優(yōu)化模型在瀚博硬件上的執(zhí)行效率。

在架構(gòu)等技術(shù)能力之外，商業(yè)落地非常關(guān)鍵，錢軍在接受記者采訪時(shí)談道：“SV100花了兩年半時(shí)間，我們找到了一個(gè)很好的伙伴快手，快手投了我們，并且合作非常緊密。同時(shí)，我們也在和其他國(guó)內(nèi)外的廠商們談合作。”

錢軍也坦言，在兩年多的研發(fā)過(guò)程中，作為初創(chuàng)公司遇到非常多的挑戰(zhàn)，“包括整個(gè)框架設(shè)立可能都會(huì)是瓶頸，需要顧慮方方面面的問(wèn)題，最重要的要從客戶的需求來(lái)看，構(gòu)架要對(duì)。在理解客戶的需求，我們下了很多功夫。”

在AI芯片的爭(zhēng)霸賽中，國(guó)內(nèi)的競(jìng)爭(zhēng)者越來(lái)越多，在群雄并起的階段，格局還在不斷變化之中。