英偉達(dá)展望未來(lái) AI 加速器：集成硅光子 I/O，3D 垂直堆疊 DRAM 內(nèi)存

12 月 10 日消息，2024 IEEE IEDM 國(guó)際電子設(shè)備會(huì)議目前正在美國(guó)加州舊金山舉行。據(jù)分析師 Ian Cutress 的 X 平臺(tái)動(dòng)態(tài)，英偉達(dá)在本次學(xué)術(shù)會(huì)議上分享了有關(guān)未來(lái) AI 加速器的構(gòu)想。

英偉達(dá)認(rèn)為未來(lái)整個(gè) AI 加速器復(fù)合體將位于大面積先進(jìn)封裝基板之上，采用垂直供電，集成硅光子 I/O 器件，GPU 采用多模塊設(shè)計(jì)，3D 垂直堆疊 DRAM 內(nèi)存，并在模塊內(nèi)直接整合冷板。

IT之家注：Ian Cutress 還提到了硅光子中介層，但相關(guān)內(nèi)容不在其分享的圖片中。

在英偉達(dá)給出的模型中，每個(gè) AI 加速器復(fù)合體包含 4 個(gè) GPU 模塊，每個(gè) GPU 模塊與 6 個(gè)小型 DRAM 內(nèi)存模塊垂直連接并與 3 組硅光子 I/O 器件配對(duì)。

硅光子 I/O 可實(shí)現(xiàn)超越現(xiàn)有電氣 I/O 的帶寬與能效表現(xiàn)，是目前先進(jìn)工藝的重要發(fā)展方向；3D 垂直堆疊的 DRAM 內(nèi)存較目前的 2.5D HBM 方案擁有更低信號(hào)傳輸距離，有益于 I/O 引腳的增加和每引腳速率的提升；垂直集成更多器件導(dǎo)致發(fā)熱提升，模塊整合冷板可提升解熱能力。

Ian Cutress 認(rèn)為這一設(shè)想中的 AI 加速器復(fù)合體要等到 2028~2030 年乃至更晚才會(huì)成為現(xiàn)實(shí)：

• 一方面，由于英偉達(dá) AI GPU 訂單龐大，對(duì)硅光子器件產(chǎn)能的需求也會(huì)很高，只有當(dāng)英偉達(dá)能保障每月 100 萬(wàn)以上硅光子連接時(shí)才會(huì)轉(zhuǎn)向光學(xué) I/O；

• 另一方面，垂直芯片堆疊所帶來(lái)的熱效應(yīng)需要以更先進(jìn)的材料來(lái)解決，屆時(shí)可能會(huì)出現(xiàn)芯片內(nèi)冷卻方案。