高速gddr6 文章 進入高速gddr6技術(shù)社區(qū)

Rambus高速GDDR6 PHY打通AI應(yīng)用的數(shù)據(jù)瓶頸

• 幾年前當AI剛開始流行之時，很多人預(yù)測AI應(yīng)用最大的瓶頸將是存儲器的讀取和寫入速度，這會嚴重影響訓練和推斷的效率，以及做出相應(yīng)反饋的速度。特別是2023年以來，以ChatGPT為代表的生成式AI讓人們看到了智能世界的無限可能，而如何有效地采集、存儲、傳輸、處理數(shù)據(jù)和模型則成為實現(xiàn)高質(zhì)量AI的關(guān)鍵，這就需要高速傳輸技術(shù)的革新。 無論是云端AI訓練還是向網(wǎng)絡(luò)邊緣轉(zhuǎn)移的AI推理，都需要高帶寬、低時延的內(nèi)存。鑒于GPU已經(jīng)成為目前人工智能訓練和推理中的核心處理單元，邁向高性能GDDR6內(nèi)存接口已是大勢所趨。近日，
• 關(guān)鍵字： Rambus  高速GDDR6  PHY  AI