博客專欄

EEPW首頁 > 博客 > ChatGPT的背后:指數(shù)級增長的芯片與半導(dǎo)體需求

ChatGPT的背后:指數(shù)級增長的芯片與半導(dǎo)體需求

發(fā)布人:芯股嬸 時間:2023-02-09 來源:工程師 發(fā)布文章

   近期ChatGPT大火。除了模型本身帶來的紅利以外,還有模型需求增加導(dǎo)致的算力提升,因此有望帶來指數(shù)級增長的芯片與半導(dǎo)體需求。

  原文:

  ChatGPT熱潮席卷全球。ChatGPT(Chat Generative Pre-trained Transformer)是由OpenAI于2022年12月推出的對話AI模型,一經(jīng)面世便受到廣泛關(guān)注,其2023年1月月活躍用戶達到1億,是史上月活用戶增長最快的消費者應(yīng)用。

  ChatGPT主要以問答類為主,但與其他問答類AI產(chǎn)品不同,其具備訓(xùn)練集中的所有知識,具有語言生成能力,可以實現(xiàn)擬人化交流,而不只是像天貓精靈、小愛同學(xué)等其他AI產(chǎn)品的一問一答模式。在問答模式的基礎(chǔ)上ChatGPT可以進行推理、編寫代碼、文本創(chuàng)作等等,這樣的特殊優(yōu)勢和用戶體驗使得應(yīng)用場景流量大幅增加。

  ▲芯片需求=量↑x價↑

  1)量:AIGC帶來的全新場景+原場景流量大幅提高

  ① 技術(shù)原理角度:ChatGPT是基于GPT3.5架構(gòu)開發(fā)的對話AI模型,歷經(jīng) GPT-1/2/3迭代,在GPT3.5模型后,開始引入代碼訓(xùn)練和指令微調(diào),加入RLHF技術(shù)(人類反饋強化學(xué)習(xí)),從而實現(xiàn)能力進化。GPT作為知名的NLP模型,基于Transformer技術(shù),隨著模型不斷迭代,層數(shù)也越來越多,對算力的需求也就越來越大。

  ② 運行條件角度:ChatGPT完美運行的三個條件:訓(xùn)練數(shù)據(jù)+模型算法+算力。其中訓(xùn)練數(shù)據(jù)市場廣闊,技術(shù)壁壘較低,投入足夠的人力物力及財力后即可獲得;基礎(chǔ)模型及模型調(diào)優(yōu)對算力的需求較低,但獲得ChatGPT功能需要在基礎(chǔ)模型上進行大規(guī)模預(yù)訓(xùn)練,存儲知識的能力來源于1750億參數(shù),需要大量算力。所以,算力是ChatGPT運行的關(guān)鍵所在。

  2)價:對高端芯片的需求將拉動芯片均價

  采購一片英偉達頂級GPU成本為8萬元,GPU服務(wù)器成本通常超過40萬元。對于ChatGPT而言,支撐其算力基礎(chǔ)設(shè)施至少需要上萬顆英偉達GPU A100,一次模型訓(xùn)練成本超過1200萬美元。

  從芯片市場角度出發(fā),芯片需求的快速增加會進一步拉高芯片均價。目前OpenAI已推出20美元/月訂閱模式,初步構(gòu)建了優(yōu)質(zhì)的訂閱商業(yè)模型,未來繼續(xù)擴容的能力將會大幅提升。

  “背后英雄”系GPU或CPU+FPGA等算力支撐

  1)GPU可支撐強大算力需求。具體來說,從AI模型構(gòu)建的角度:第一階段是用超大算力和數(shù)據(jù)構(gòu)建預(yù)訓(xùn)練模型;第二階段是在預(yù)訓(xùn)練模型上進行針對性訓(xùn)練。而GPU由于具備并行計算能力,可兼容訓(xùn)練和推理,所以目前被廣泛應(yīng)用,ChatGPT訓(xùn)練模型中就已導(dǎo)入至少1萬顆英偉達GPU(曾經(jīng)風(fēng)靡一時的AlphaGO也只需要8塊GPU),推理部分使用微軟的azure云服務(wù),也需要GPU進行運作。所以,ChatGPT的火熱興起對GPU的需求可見一斑。

  2)CPU+FPGA拭目以待。從深度學(xué)習(xí)的角度來看,雖然GPU是最適合深度學(xué)習(xí)應(yīng)用的芯片,但CPU和FPGA也不可忽略。FPGA芯片作為可編程芯片,可以針對特定功能進行擴展,在AI模型構(gòu)建第二階段具有一定的發(fā)揮空間。而FPGA想要實現(xiàn)深度學(xué)習(xí)功能,需要與CPU結(jié)合,共同應(yīng)用于深度學(xué)習(xí)模型,同樣可以實現(xiàn)龐大的算力需求。

  3)云計算依靠光模塊實現(xiàn)設(shè)備互聯(lián)。AI模型向以ChatGPT為首的大規(guī)模語言模型發(fā)展,驅(qū)動數(shù)據(jù)傳輸量和算力提升。伴隨數(shù)據(jù)傳輸量的增長,光模塊作為數(shù)據(jù)中心內(nèi)設(shè)備互聯(lián)的載體,需求量隨之增長。此外,伴隨算力提升能耗增長,廠商尋求降低能耗方案,推動低能耗的光模塊發(fā)展。

  結(jié)論:ChatGPT作為一種新興的超智能對話AI產(chǎn)品,無論是從技術(shù)原理角度還是運行條件角度,ChatGPT都需要強大算力作為支撐,從而帶動場景流量大幅增加,此外,ChatGPT對于高端芯片的需求增加也會拉動芯片均價,量價齊升導(dǎo)致芯片需求暴漲;面對指數(shù)級增長的算力和數(shù)據(jù)傳輸需求,可以進行提供的GPU或CPU+FPGA芯片廠商、光模塊廠商即將迎來藍海市場。

  看好:看好國內(nèi)GPU、CPU、FPGA、AI芯片及光模塊產(chǎn)業(yè)鏈玩家。

  ① GPU:海光信息、景嘉微

  ② CPU:龍芯中科、中國長城

 ?、?FPGA:安路科技、復(fù)旦微電、紫光股份

 ?、?AI芯片:寒武紀、瀾起科技

 ?、?光模塊:德科立天孚通信、中際旭創(chuàng)

  風(fēng)險提示:1)半導(dǎo)體下游需求不及預(yù)期;2)研發(fā)進度不及預(yù)期。


*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權(quán)請聯(lián)系工作人員刪除。



關(guān)鍵詞: 半導(dǎo)體

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉