燧原科技首發(fā)國內(nèi)第二代人工智能訓(xùn)練芯片“邃思2.0”
2021年7月7日,中國上海——燧原科技今日發(fā)布第二代人工智能訓(xùn)練產(chǎn)品——“邃思2.0”芯片、基于邃思2.0的“云燧T20”訓(xùn)練加速卡和“云燧T21”訓(xùn)練OAM模組,全面升級(jí)的“馭算TopsRider”軟件平臺(tái)以及全新的“云燧集群”,成為國內(nèi)首家發(fā)布第二代人工智能訓(xùn)練產(chǎn)品組合的公司。
經(jīng)過全新升級(jí)迭代后,邃思2.0的計(jì)算能力、存儲(chǔ)和帶寬、互聯(lián)能力較第一代訓(xùn)練產(chǎn)品有巨大提升,對(duì)超大規(guī)模的模型支持能力獲得顯著增強(qiáng)。而同步升級(jí)的馭算TopsRider軟件平臺(tái),成為燧原科技構(gòu)建原始創(chuàng)新軟件生態(tài)的基石。完全自研的軟硬件架構(gòu),助力燧原科技在知識(shí)產(chǎn)權(quán)和產(chǎn)品升級(jí)迭代上可以自主掌控方向和節(jié)奏。
燧原科技第二代通用人工智能訓(xùn)練加速卡“云燧T20”
燧原科技第二代通用人工智能訓(xùn)練模組“云燧T21”
四大核心升級(jí)打造全新產(chǎn)品矩陣與智算集群
架構(gòu)升級(jí)實(shí)現(xiàn)算力飛躍:邃思2.0進(jìn)行了大規(guī)模的架構(gòu)升級(jí),新一代全自研的GCU-CARA全域計(jì)算架構(gòu),針對(duì)人工智能計(jì)算的特性進(jìn)行深度優(yōu)化,夯實(shí)了支持通用異構(gòu)計(jì)算的基礎(chǔ);支持全面的計(jì)算精度,涵蓋從FP32、TF32、FP16、BF16到INT8,并成為中國首款支持單精度張量TF32數(shù)據(jù)精度的人工智能芯片。單精度FP32峰值算力達(dá)到40 TFLOPS,單精度張量TF32峰值算力達(dá)到160 TFLOPS,均為國內(nèi)第一。
HBM2E存儲(chǔ)帶來海量吞吐:邃思2.0共搭載了4顆HBM2E片上存儲(chǔ)芯片,高配支持64 GB內(nèi)存,帶寬達(dá)1.8 TB/s,是中國第一個(gè)支持世界最先進(jìn)存儲(chǔ)HBM2E和單芯片64 GB內(nèi)存的產(chǎn)品。
高速互聯(lián)支撐算力擴(kuò)展:GCU-LARE全域互聯(lián)技術(shù)是燧原專為人工智能訓(xùn)練集群研發(fā)的互聯(lián)技術(shù),提供雙向300 GB/s互聯(lián)帶寬,支持?jǐn)?shù)千張?jiān)旗軨loudBlazer加速卡互聯(lián),實(shí)現(xiàn)優(yōu)異的線性加速比。
全新軟件駕馭澎湃算力:馭算TopsRider是燧原科技自主知識(shí)產(chǎn)權(quán)的計(jì)算及編程平臺(tái),通過軟硬件協(xié)同架構(gòu)設(shè)計(jì),充分發(fā)揮邃思2.0的性能;基于算子泛化技術(shù)及圖優(yōu)化策略,支持主流深度學(xué)習(xí)框架下的各類模型訓(xùn)練;利用Horovod分布式訓(xùn)練框架與GCU-LARE互聯(lián)技術(shù)相互配合,為超大規(guī)模集群的高效運(yùn)行提供解決方案。開放升級(jí)的編程模型和可擴(kuò)展的算子接口,為客戶模型的優(yōu)化提供了自定義的開發(fā)能力。
建設(shè)原始創(chuàng)新的通用算力和自主生態(tài),加速產(chǎn)品商業(yè)化
“第二代人工智能訓(xùn)練產(chǎn)品的發(fā)布,是燧原科技開發(fā)原始創(chuàng)新的算力產(chǎn)品和構(gòu)建自主生態(tài)又一重要的里程碑。通過芯片架構(gòu)和軟件平臺(tái)的升級(jí)迭代,提升產(chǎn)品競爭力,滿足市場(chǎng)需求,從而加速產(chǎn)品商業(yè)化的步伐?!膘菰萍糃EO趙立東指出,“在復(fù)雜的國際大環(huán)境下,原始創(chuàng)新和自主生態(tài)成為發(fā)展趨勢(shì),這也是燧原科技自創(chuàng)立以來始終堅(jiān)持的戰(zhàn)略選擇,是支撐技術(shù)和業(yè)務(wù)長遠(yuǎn)發(fā)展,不斷拉近與世界先進(jìn)水平的距離,并在市場(chǎng)競爭中取得主動(dòng)的基礎(chǔ)。面向泛互聯(lián)網(wǎng)、傳統(tǒng)行業(yè)(金融、交通、電力、醫(yī)療、工業(yè)等)以及新基建三大業(yè)務(wù)方向,燧原科技正以全新、更具競爭力的產(chǎn)品,服務(wù)市場(chǎng)和客戶?!?/p>
燧原科技CEO趙立東(左)與燧原科技COO張亞林(右)共同發(fā)布“云燧T20”訓(xùn)練加速卡和“邃思2.0”芯片
燧原科技COO張亞林介紹道:“邃思2.0大幅提升了算力指標(biāo),升級(jí)后的馭算軟件平臺(tái)更加便捷易用和客戶友好,燧原科技也可針對(duì)客戶的場(chǎng)景和業(yè)務(wù)模型提供軟件定制化服務(wù)和優(yōu)化,打造差異化解決方案。此外,基于云燧T20和T21訓(xùn)練產(chǎn)品、GCU-LARE互聯(lián)技術(shù)和新一代馭算,燧原科技可以打造超大規(guī)模的集群產(chǎn)品CloudBlazer Matrix,有效降低人工智能超算集群的整體復(fù)雜度和成本,同時(shí)通過與合作伙伴的聯(lián)合開發(fā),一起構(gòu)建超大規(guī)模的液冷智能數(shù)據(jù)中心,以響應(yīng)國家‘低碳算力’和‘綠色一體化智能計(jì)算’的戰(zhàn)略方向?!?/p>
關(guān)于燧原科技
燧原科技專注人工智能領(lǐng)域云端算力平臺(tái),開發(fā)自主知識(shí)產(chǎn)權(quán)的高算力、高能效比、可編程的通用人工智能訓(xùn)練和推理產(chǎn)品,其創(chuàng)新性架構(gòu)、互聯(lián)方案和分布式計(jì)算及編程平臺(tái),可廣泛應(yīng)用于云數(shù)據(jù)中心、超算中心、互聯(lián)網(wǎng)、金融及政務(wù)等多個(gè)人工智能場(chǎng)景,為人工智能產(chǎn)業(yè)發(fā)展提供普惠的算力基礎(chǔ)設(shè)施和解決方案。
燧原科技攜手業(yè)內(nèi)國際標(biāo)準(zhǔn)組織,秉承開源開放的宗旨,與產(chǎn)業(yè)伙伴一起促進(jìn)人工智能產(chǎn)業(yè)發(fā)展。
評(píng)論