從最強(qiáng)AI算力到“元腦”2.0，智算加速產(chǎn)業(yè)變革

AI模型的數(shù)據(jù)量、結(jié)構(gòu)的復(fù)雜程度不斷增加，帶來了大規(guī)模AI算力的龐大需求。

2020年7月，OpenAI實(shí)驗(yàn)室推出擁有1750億參數(shù)的NLP模型GPT-3，其訓(xùn)練數(shù)據(jù)集規(guī)模超過500GB，算力需求達(dá)到了3640 Petaflop/s-day。2021年1月，Google Brain宣布他們?cè)O(shè)計(jì)的簡(jiǎn)化稀疏架構(gòu)（Switch Transformer）可以將語言模型的參數(shù)量擴(kuò)展到1.6 萬億，參數(shù)量是GPT-3的近10倍。要讓這些模型有效有效運(yùn)轉(zhuǎn)需要AI芯片和AI服務(wù)器。

據(jù)浪潮估計(jì)，2020年，以GPU為代表的AI加速芯片所交付的算力已經(jīng)超過同類CPU，預(yù)計(jì)到2025年，AI加速芯片所提供的算力可能在超過80%。而據(jù)最新的IDC數(shù)據(jù)統(tǒng)計(jì)，浪潮人工智能服務(wù)器的市場(chǎng)占有率在全球?yàn)?6.4%，已經(jīng)排到全球第一位，而在中國(guó)，浪潮AI服務(wù)器已經(jīng)連續(xù)四年排名第一，市場(chǎng)份額超50%。

在AI計(jì)算方面，一些新變化正在發(fā)生。在近日的IPF 2021（浪潮合作伙伴大會(huì)）上，浪潮信息總裁彭震指出，視頻數(shù)據(jù)處理將會(huì)成為未來AI計(jì)算賦能的重點(diǎn)，同時(shí)，業(yè)界已發(fā)布超過100多種芯片，多元化的算力會(huì)促進(jìn)產(chǎn)業(yè)智能化轉(zhuǎn)型?；谏鲜鲒厔?shì)，浪潮推出了相應(yīng)的AI服務(wù)器產(chǎn)品，并不斷完善產(chǎn)業(yè)智能化轉(zhuǎn)型的“元腦”生態(tài)。

推出最強(qiáng)AI服務(wù)器，全方位打造AI計(jì)算產(chǎn)品陣列

首先，浪潮聯(lián)合寒武紀(jì)推出了AI服務(wù)器“揚(yáng)子江”，這是業(yè)界首款一體搭載8顆寒武紀(jì)最新思元290人工智能芯片的AI服務(wù)器。

基于浪潮的AI服務(wù)器架構(gòu)，融合寒武紀(jì)多芯高速互聯(lián)技術(shù)，提供高達(dá)4096Tops的峰值計(jì)算性能，為AI訓(xùn)練、推理或混合型人工智能計(jì)算加速任務(wù)提供超強(qiáng)AI算力支撐。

據(jù)介紹，揚(yáng)子江AI服務(wù)器適用于構(gòu)建大規(guī)模并行計(jì)算集群，支持跨節(jié)點(diǎn)互聯(lián)帶寬高達(dá)448 GB/s，滿足超大型AI模型訓(xùn)練需求。

同時(shí)，搭載寒武紀(jì)AI芯片的揚(yáng)子江系統(tǒng)兼容×86開發(fā)生態(tài)、支持TensorFlow、PyTorch等業(yè)界主流深度學(xué)習(xí)框架，適配浪潮AIStation高效資源平臺(tái)，可幫助客戶提升模型開發(fā)效率3倍、提升業(yè)務(wù)遷移效率20倍。

寒武紀(jì)聯(lián)合創(chuàng)始人、副總裁劉道福稱，在AI服務(wù)器領(lǐng)域，浪潮和寒武紀(jì)聯(lián)合，推出了基于寒武紀(jì)思元100、思元270、思元290等AI芯片的服務(wù)器產(chǎn)品，在互聯(lián)網(wǎng)、云計(jì)算、智算中心等諸多行業(yè)和領(lǐng)域?qū)崿F(xiàn)了規(guī)?；穆涞夭渴饝?yīng)用。

浪潮全新還發(fā)布了NF5488 AI服務(wù)器，支持部署8顆NVLink高速互聯(lián)的A100GPU，并率先實(shí)現(xiàn)500W液冷、風(fēng)冷同代兼容，以及CPU到GPU單層的Switch通信拓?fù)洹?/p>

相比上一代的計(jì)算產(chǎn)品，NF5488的性能最高提升20倍。其4U空間搭載2顆Icelake CPU和8顆A100 GPU，極致空間優(yōu)化，較業(yè)界提升40%。其次，浪潮自研NVLINK A100 GPU基板，在業(yè)界率先實(shí)現(xiàn)CPU-GPU間單層PCIe switch通信，通信效率提升1倍。在海量數(shù)據(jù)的預(yù)處理、清洗、訓(xùn)練中，NF5488可為用戶帶來更高的收益，同時(shí)結(jié)合其龐大的算力，可縮短一半的開發(fā)周期。

2020年，浪潮NF5488 AI服務(wù)器在全球權(quán)威AI基準(zhǔn)測(cè)試MLPerf中共創(chuàng)造19項(xiàng)性能紀(jì)錄，成為創(chuàng)紀(jì)錄最多的AI服務(wù)器，在眾多AI計(jì)算場(chǎng)景中均表現(xiàn)出最強(qiáng)性能。

浪潮還發(fā)布高效能AI視頻加速器（Video Processing Unit）M10A，是業(yè)界首款在8W超低功耗實(shí)現(xiàn)16路1080P視頻處理加速產(chǎn)品，網(wǎng)絡(luò)帶寬利用率翻倍，計(jì)算CPU負(fù)荷降至2%，為直播、短視頻、視頻會(huì)議、云游戲等行業(yè)客戶帶來超高效能的加速體驗(yàn)。

浪潮AI&HPC產(chǎn)品線總經(jīng)理劉軍表示，這款產(chǎn)品的推出主要是為了有效應(yīng)對(duì)當(dāng)前視頻業(yè)務(wù)數(shù)據(jù)爆發(fā)和AI計(jì)算帶來的巨大挑戰(zhàn)，解決海量視頻AI處理過程的業(yè)務(wù)瓶頸，推動(dòng)視頻產(chǎn)業(yè)加速發(fā)展。

總之，向著高算力、高可擴(kuò)展性、高性價(jià)比的目標(biāo)，浪潮已推出的AI計(jì)算產(chǎn)品陣列可以全方位地滿足不同訓(xùn)練和推理場(chǎng)景的算力需求。

元腦生態(tài)2.0升級(jí)，解決智能化轉(zhuǎn)型多重挑戰(zhàn)

為了幫助行業(yè)更好地進(jìn)行智慧化轉(zhuǎn)型，加速AI技術(shù)方案提供方和需求方之間的匹配效率，浪潮于2019年提出了元腦生態(tài)計(jì)劃。目前，生態(tài)已經(jīng)發(fā)展了15000千多個(gè)合作方，包括2200多個(gè)行業(yè)ISV。在人工智能百?gòu)?qiáng)企業(yè)中，85%都與浪潮有深度合作。

今年，元腦生態(tài)升級(jí)到2.0版本。其中，新增的“AI Store”功能類似于手機(jī)可以下載應(yīng)用的App Store，通過AI Store，傳統(tǒng)企業(yè)可以選擇與業(yè)務(wù)需求匹配的AI解決方案，提高與AI企業(yè)的需求對(duì)接效率。

值得一提的是，為了應(yīng)對(duì)愈加復(fù)雜的應(yīng)用場(chǎng)景和異構(gòu)產(chǎn)品組合，浪潮還發(fā)布了業(yè)界首款智算操作系統(tǒng)元腦OS，方便統(tǒng)一管理和調(diào)度資源管控中心平臺(tái)和智算中心。

通過元腦產(chǎn)品體系，浪潮進(jìn)一步加速落地智算中心，以智算能力驅(qū)動(dòng)應(yīng)用創(chuàng)新和產(chǎn)業(yè)升級(jí)。

比如，榮聯(lián)科技、趨動(dòng)科技、浪潮攜手助力西湖大學(xué)智算中心建設(shè)，是一個(gè)“AI算力配置+AI集群優(yōu)化+實(shí)施運(yùn)維能力”的頂級(jí)智算中心方案交付配置。

在POC方案設(shè)計(jì)階段，針對(duì)西湖大學(xué)的AI集群方案，進(jìn)行了高標(biāo)準(zhǔn)的設(shè)計(jì)規(guī)劃，浪潮提供了當(dāng)時(shí)最全套的硬件平臺(tái)設(shè)備。同時(shí)，通過將浪潮的AIstation AI集群調(diào)度系統(tǒng)與趨動(dòng)科技的OrionX AI算力池化加速方案進(jìn)行無縫的融合，對(duì)AI算力和應(yīng)用負(fù)載進(jìn)行精細(xì)化管理，提升50%AI算法開發(fā)部署效率，提升5倍以上的AI資源利用率，總體TCO降低約80%。

通過元腦生態(tài)，他們希望建立強(qiáng)有力的生態(tài)合作伙伴體系，以此來滿足產(chǎn)業(yè)的智慧化轉(zhuǎn)型服務(wù)需求。

浪潮認(rèn)為，計(jì)算正在向智算轉(zhuǎn)型，多元算力融合成為關(guān)鍵，智算中心基建化是未來計(jì)算產(chǎn)業(yè)的新格局。