從最強(qiáng)AI算力到“元腦”2.0，智算加速產(chǎn)業(yè)變革

AI模型的數(shù)據(jù)量、結(jié)構(gòu)的復(fù)雜程度不斷增加，帶來了大規(guī)模AI算力的龐大需求。

2020年7月，OpenAI實驗室推出擁有1750億參數(shù)的NLP模型GPT-3，其訓(xùn)練數(shù)據(jù)集規(guī)模超過500GB，算力需求達(dá)到了3640 Petaflop/s-day。2021年1月，Google Brain宣布他們設(shè)計的簡化稀疏架構(gòu)（Switch Transformer）可以將語言模型的參數(shù)量擴(kuò)展到1.6 萬億，參數(shù)量是GPT-3的近10倍。要讓這些模型有效有效運(yùn)轉(zhuǎn)需要AI芯片和AI服務(wù)器。

據(jù)浪潮估計，2020年，以GPU為代表的AI加速芯片所交付的算力已經(jīng)超過同類CPU，預(yù)計到2025年，AI加速芯片所提供的算力可能在超過80%。而據(jù)最新的IDC數(shù)據(jù)統(tǒng)計，浪潮人工智能服務(wù)器的市場占有率在全球為16.4%，已經(jīng)排到全球第一位，而在中國，浪潮AI服務(wù)器已經(jīng)連續(xù)四年排名第一，市場份額超50%。

在AI計算方面，一些新變化正在發(fā)生。在近日的IPF 2021（浪潮合作伙伴大會）上，浪潮信息總裁彭震指出，視頻數(shù)據(jù)處理將會成為未來AI計算賦能的重點，同時，業(yè)界已發(fā)布超過100多種芯片，多元化的算力會促進(jìn)產(chǎn)業(yè)智能化轉(zhuǎn)型。基于上述趨勢，浪潮推出了相應(yīng)的AI服務(wù)器產(chǎn)品，并不斷完善產(chǎn)業(yè)智能化轉(zhuǎn)型的“元腦”生態(tài)。

推出最強(qiáng)AI服務(wù)器，全方位打造AI計算產(chǎn)品陣列

首先，浪潮聯(lián)合寒武紀(jì)推出了AI服務(wù)器“揚(yáng)子江”，這是業(yè)界首款一體搭載8顆寒武紀(jì)最新思元290人工智能芯片的AI服務(wù)器。

基于浪潮的AI服務(wù)器架構(gòu)，融合寒武紀(jì)多芯高速互聯(lián)技術(shù)，提供高達(dá)4096Tops的峰值計算性能，為AI訓(xùn)練、推理或混合型人工智能計算加速任務(wù)提供超強(qiáng)AI算力支撐。

據(jù)介紹，揚(yáng)子江AI服務(wù)器適用于構(gòu)建大規(guī)模并行計算集群，支持跨節(jié)點互聯(lián)帶寬高達(dá)448 GB/s，滿足超大型AI模型訓(xùn)練需求。

同時，搭載寒武紀(jì)AI芯片的揚(yáng)子江系統(tǒng)兼容×86開發(fā)生態(tài)、支持TensorFlow、PyTorch等業(yè)界主流深度學(xué)習(xí)框架，適配浪潮AIStation高效資源平臺，可幫助客戶提升模型開發(fā)效率3倍、提升業(yè)務(wù)遷移效率20倍。

寒武紀(jì)聯(lián)合創(chuàng)始人、副總裁劉道福稱，在AI服務(wù)器領(lǐng)域，浪潮和寒武紀(jì)聯(lián)合，推出了基于寒武紀(jì)思元100、思元270、思元290等AI芯片的服務(wù)器產(chǎn)品，在互聯(lián)網(wǎng)、云計算、智算中心等諸多行業(yè)和領(lǐng)域?qū)崿F(xiàn)了規(guī)模化的落地部署應(yīng)用。

浪潮全新還發(fā)布了NF5488 AI服務(wù)器，支持部署8顆NVLink高速互聯(lián)的A100GPU，并率先實現(xiàn)500W液冷、風(fēng)冷同代兼容，以及CPU到GPU單層的Switch通信拓?fù)洹?/p>

相比上一代的計算產(chǎn)品，NF5488的性能最高提升20倍。其4U空間搭載2顆Icelake CPU和8顆A100 GPU，極致空間優(yōu)化，較業(yè)界提升40%。其次，浪潮自研NVLINK A100 GPU基板，在業(yè)界率先實現(xiàn)CPU-GPU間單層PCIe switch通信，通信效率提升1倍。在海量數(shù)據(jù)的預(yù)處理、清洗、訓(xùn)練中，NF5488可為用戶帶來更高的收益，同時結(jié)合其龐大的算力，可縮短一半的開發(fā)周期。

2020年，浪潮NF5488 AI服務(wù)器在全球權(quán)威AI基準(zhǔn)測試MLPerf中共創(chuàng)造19項性能紀(jì)錄，成為創(chuàng)紀(jì)錄最多的AI服務(wù)器，在眾多AI計算場景中均表現(xiàn)出最強(qiáng)性能。

浪潮還發(fā)布高效能AI視頻加速器（Video Processing Unit）M10A，是業(yè)界首款在8W超低功耗實現(xiàn)16路1080P視頻處理加速產(chǎn)品，網(wǎng)絡(luò)帶寬利用率翻倍，計算CPU負(fù)荷降至2%，為直播、短視頻、視頻會議、云游戲等行業(yè)客戶帶來超高效能的加速體驗。

浪潮AI&HPC產(chǎn)品線總經(jīng)理劉軍表示，這款產(chǎn)品的推出主要是為了有效應(yīng)對當(dāng)前視頻業(yè)務(wù)數(shù)據(jù)爆發(fā)和AI計算帶來的巨大挑戰(zhàn)，解決海量視頻AI處理過程的業(yè)務(wù)瓶頸，推動視頻產(chǎn)業(yè)加速發(fā)展。

總之，向著高算力、高可擴(kuò)展性、高性價比的目標(biāo)，浪潮已推出的AI計算產(chǎn)品陣列可以全方位地滿足不同訓(xùn)練和推理場景的算力需求。

元腦生態(tài)2.0升級，解決智能化轉(zhuǎn)型多重挑戰(zhàn)

為了幫助行業(yè)更好地進(jìn)行智慧化轉(zhuǎn)型，加速AI技術(shù)方案提供方和需求方之間的匹配效率，浪潮于2019年提出了元腦生態(tài)計劃。目前，生態(tài)已經(jīng)發(fā)展了15000千多個合作方，包括2200多個行業(yè)ISV。在人工智能百強(qiáng)企業(yè)中，85%都與浪潮有深度合作。

今年，元腦生態(tài)升級到2.0版本。其中，新增的“AI Store”功能類似于手機(jī)可以下載應(yīng)用的App Store，通過AI Store，傳統(tǒng)企業(yè)可以選擇與業(yè)務(wù)需求匹配的AI解決方案，提高與AI企業(yè)的需求對接效率。

值得一提的是，為了應(yīng)對愈加復(fù)雜的應(yīng)用場景和異構(gòu)產(chǎn)品組合，浪潮還發(fā)布了業(yè)界首款智算操作系統(tǒng)元腦OS，方便統(tǒng)一管理和調(diào)度資源管控中心平臺和智算中心。

通過元腦產(chǎn)品體系，浪潮進(jìn)一步加速落地智算中心，以智算能力驅(qū)動應(yīng)用創(chuàng)新和產(chǎn)業(yè)升級。

比如，榮聯(lián)科技、趨動科技、浪潮攜手助力西湖大學(xué)智算中心建設(shè)，是一個“AI算力配置+AI集群優(yōu)化+實施運(yùn)維能力”的頂級智算中心方案交付配置。

在POC方案設(shè)計階段，針對西湖大學(xué)的AI集群方案，進(jìn)行了高標(biāo)準(zhǔn)的設(shè)計規(guī)劃，浪潮提供了當(dāng)時最全套的硬件平臺設(shè)備。同時，通過將浪潮的AIstation AI集群調(diào)度系統(tǒng)與趨動科技的OrionX AI算力池化加速方案進(jìn)行無縫的融合，對AI算力和應(yīng)用負(fù)載進(jìn)行精細(xì)化管理，提升50%AI算法開發(fā)部署效率，提升5倍以上的AI資源利用率，總體TCO降低約80%。

通過元腦生態(tài)，他們希望建立強(qiáng)有力的生態(tài)合作伙伴體系，以此來滿足產(chǎn)業(yè)的智慧化轉(zhuǎn)型服務(wù)需求。

浪潮認(rèn)為，計算正在向智算轉(zhuǎn)型，多元算力融合成為關(guān)鍵，智算中心基建化是未來計算產(chǎn)業(yè)的新格局。