芯片推動(dòng)人工智能熱潮，韓國(guó)企業(yè)紛紛入局

爆發(fā)式的人工智能熱潮同樣也在半導(dǎo)體行業(yè)引起轟動(dòng)。英偉達(dá)是最大的贏家，其 GPU 對(duì)于訓(xùn)練高級(jí)人工智能系統(tǒng)變得至關(guān)重要。韓國(guó)企業(yè)也是看中了這一點(diǎn)，三星電子和 SK 海力士專為諸如英偉達(dá)的 GPU 等量身定制高端內(nèi)存芯片。

三星電子計(jì)劃擴(kuò)大其高帶寬內(nèi)存（HBM）芯片的生產(chǎn)，預(yù)估明年產(chǎn)量擴(kuò)大至今年的兩倍半。SK 海力士明年也將增加設(shè)備投資，擴(kuò)大 HBM 芯片生產(chǎn)。SK 海力士將在其現(xiàn)有的清州工廠增加一條 HBM 芯片所必需的封裝生產(chǎn)線。

HBM 是一種高端動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器（DRAM）芯片，采用堆疊技術(shù)，能夠比普通芯片更快地處理數(shù)據(jù)，并具有更高的能源效率。隨著大型科技公司熱衷于升級(jí)迭代其生成式人工智能工具，這些工具需要低功耗高效處理大量數(shù)據(jù)，HBM 銷售炙手可熱。

三星電子和 SK 海力士控制著超過(guò) 90% 的高端 DRAM 芯片市場(chǎng)。兩家公司表示，它們明年的 HBM 產(chǎn)能已被預(yù)訂完畢。2025 年的談判已經(jīng)開始了。HBM 的價(jià)格平均比普通 DRAM 芯片高出五至六倍，過(guò)去它在 DRAM 市場(chǎng)中所占份額僅為個(gè)位數(shù)，但其份額可能會(huì)大幅增加?；ㄆ旒瘓F(tuán)的芯片分析師 Peter Lee 預(yù)計(jì)，HBM 的市場(chǎng)份額將增長(zhǎng) 11%，并在 2027 年達(dá)到 30%。

內(nèi)存芯片不再是一般商品

長(zhǎng)期以來(lái)，內(nèi)存芯片一直被視為一般商品，可以在各種應(yīng)用中使用，無(wú)需進(jìn)行復(fù)雜或定制化的加工。因此，生產(chǎn)商必須嚴(yán)格依賴規(guī)模經(jīng)濟(jì)來(lái)實(shí)現(xiàn)盈利，并且受市場(chǎng)波動(dòng)的影響較大。然而，情況不再如此。隨著 HBM 制造變得更加復(fù)雜，技術(shù)化差異開始顯現(xiàn)，使得存儲(chǔ)具有更多的定制化可能性。

SK 海力士的 HBM3E 芯片 來(lái)源：SK 海力士

目前，SK 海力士是 HBM 市場(chǎng)的頭號(hào)玩家。根據(jù)集邦咨詢（TrendForce）的數(shù)據(jù)顯示，SK 海力士占據(jù) HBM 市場(chǎng) 50% 份額。SK 海力士的 HBM 芯片通過(guò) MR-MUF 技術(shù)脫穎而出，使用液化填料粘合和保護(hù)連接每個(gè)堆疊晶圓的電路。MR-MUF 技術(shù)以提高能效而聞名。與常見的 NCF 封裝相比，NCF 封裝使用晶圓隔離墊，隨后必須被熔化，很難將熱量均勻傳遞給每個(gè)晶圓，收益率低。

SK 海力士將利用 MR-MUF 技術(shù)生產(chǎn)最新的 HBM3E 芯片，目前這些芯片尚未進(jìn)行大規(guī)模生產(chǎn)。從 8 月開始，SK 海力士將向包括英偉達(dá)在內(nèi)的客戶提供樣品。

「直到現(xiàn)在，被視為大宗商品的內(nèi)存芯片一直專注于誰(shuí)能做得更小并且堆疊層數(shù)更多，」SK 海力士 CEO 說(shuō)道，「隨著人工智能時(shí)代的到來(lái)，客戶的服務(wù)多樣化，對(duì)內(nèi)存芯片的需求也有了各種規(guī)格。因此，內(nèi)存芯片在某些方面正在演變成在某些方面強(qiáng)大的定制產(chǎn)品。」

三星電子正在發(fā)展「處理內(nèi)存」（process-in-memory）技術(shù)，即在內(nèi)存芯片內(nèi)部集成邏輯單元，使得數(shù)據(jù)處理可以在內(nèi)存內(nèi)部完成，從而減少了數(shù)據(jù)傳輸量和能耗，并提高了處理效率。三星電子是在 2021 年首個(gè)開發(fā)該項(xiàng)技術(shù)的公司。

在今年的 Hot Chips 論壇，三星透露了一項(xiàng)和 AMD 合作完成的研究結(jié)果，其技術(shù)將使普通 HBM 的能效和性能達(dá)到翻倍以上。具體來(lái)說(shuō)，三星將其 HBM-PIM 與 AMD 的 MI-100 GPU 加速器進(jìn)行了整合。

三星電子負(fù)責(zé) DRAM 業(yè)務(wù)的執(zhí)行副總裁 Hwang Sang-joon 表示：「HBM-PIM 通過(guò)在 DRAM 內(nèi)部嵌入數(shù)據(jù)計(jì)算功能，解決了內(nèi)存帶寬瓶頸問(wèn)題，性能提升了 12 倍。一些特定功能，例如如語(yǔ)音識(shí)別，能效提高了四倍?！?/span>

新的合作伙伴關(guān)系即將到來(lái)

三星電子的代工業(yè)務(wù)吸引了一些正在跟隨人工智能熱潮的新客戶。其位于德克薩斯州泰勒的制造工廠目前正在建設(shè)中，今年早些時(shí)候確定了首位客戶——硅谷人工智能初創(chuàng)公司 Groq。使用三星的 4 納米技術(shù)制造的人工智能芯片將在該工廠于明年底前完成生產(chǎn)。

此外，三星最近與由半導(dǎo)體專家吉姆·凱勒領(lǐng)導(dǎo)的加拿大的新興人工智能芯片設(shè)計(jì)公司 Tenstorrent 建立了額外的合作伙伴關(guān)系。

三星電子 HBM3E 芯片 來(lái)源：三星

加拿大人工智能芯片設(shè)計(jì)公司 Tenstorrent 正在與韓國(guó)的人工智能芯片制造商 Rebellions 和 DeepX 合作。三星正在充分利用其半導(dǎo)體實(shí)力，同時(shí)經(jīng)營(yíng)內(nèi)存芯片和代工業(yè)務(wù)。

自今年初以來(lái)，三星一直在提供所謂的「Package Turn Key」服務(wù)。三星充當(dāng)一站式服務(wù)站，既代工處理器又將其與自己的內(nèi)存（包括 DRAM）封裝在一起，以節(jié)省時(shí)間和金錢。這種產(chǎn)品是為吸引尋求高性能半導(dǎo)體來(lái)支持其人工智能工具的大型科技公司而做出的努力。目前，三星是唯一能夠同時(shí)制造邏輯芯片和內(nèi)存芯片并對(duì)它們進(jìn)行封裝的公司。

人工智能芯片已成為重要議題

考慮到人工智能及其所需的先進(jìn)芯片需要巨額投資和基礎(chǔ)設(shè)施支持，政府的態(tài)度至關(guān)重要。

韓國(guó)政府計(jì)劃投資 8262 億韓元（約合 6.31 億美元），希望到 2030 年在韓國(guó)塑造一個(gè)以本土高端人工智能芯片為核心的人工智能生態(tài)系統(tǒng)。

「人工智能將對(duì)半導(dǎo)體、數(shù)據(jù)和平臺(tái)服務(wù)乃至安全產(chǎn)生重大影響。」韓國(guó)總統(tǒng)在九月份的一次政府間會(huì)議上表示。他說(shuō)：「政府支持應(yīng)該起到催化作用，以促進(jìn)企業(yè)投資和創(chuàng)新。」

政府的中心倡議項(xiàng)目命名為「K-Cloud」。參與者包括人工智能芯片設(shè)計(jì)公司、云計(jì)算公司、學(xué)術(shù)專家和科學(xué)技術(shù)部，將花費(fèi)約 1000 億韓元用于到 2025 年開發(fā)用于人工智能數(shù)據(jù)中心的神經(jīng)處理單元（NPU）。

K-Cloud 項(xiàng)目旨在建立基于新的 NPU 的數(shù)據(jù)中心集群，提供 39.9 petaflops 的人工智能計(jì)算能力，其中公共部門和私營(yíng)部門分別提供 19.95 petaflops。1 petaflop 每秒執(zhí)行一千萬(wàn)億（即一萬(wàn)億億，或 10 的 15 次方）次計(jì)算。

在第二階段，該項(xiàng)目計(jì)劃在 2028 年基于 DRAM 技術(shù)創(chuàng)建一種低功耗的內(nèi)存內(nèi)處理（PIM）芯片。PIM 芯片整合了存儲(chǔ)和處理功能，以減少延遲并解決馮·諾伊曼瓶頸問(wèn)題。

最后階段將在 2030 年之前，升級(jí)基于非易失性存儲(chǔ)器和超低能耗的 PIM 芯片。

根據(jù)市場(chǎng)跟蹤機(jī)構(gòu) Gartner 的預(yù)測(cè)，全球人工智能芯片市場(chǎng)預(yù)計(jì)到 2026 年將達(dá)到 861 億美元，每年增長(zhǎng) 16%。

數(shù)據(jù)中心加入 AI 熱潮

另一個(gè)預(yù)計(jì)從人工智能技術(shù)中獲益的行業(yè)是數(shù)據(jù)中心。新冠疫情期間，數(shù)據(jù)中心和云計(jì)算的需求增加，生成式人工智能受到廣泛關(guān)注。公司將需要計(jì)算資源來(lái)訓(xùn)練自己的大型語(yǔ)言模型，因此預(yù)計(jì)這一趨勢(shì)將進(jìn)一步擴(kuò)大。

韓國(guó)三家移動(dòng)運(yùn)營(yíng)商——SK Telecom、KT 和 LG Uplus——在全國(guó)范圍內(nèi)共擁有 31 個(gè)數(shù)據(jù)中心，其中 18 個(gè)位于首爾。根據(jù)元大證券（Yuanta Securities）的報(bào)告，這三家公司占據(jù)了總數(shù)據(jù)中心容量的 93%。

「從 2028 年開始，互聯(lián)網(wǎng)數(shù)據(jù)中心市場(chǎng)將轉(zhuǎn)向以供應(yīng)商為導(dǎo)向的模式?！乖笞C券分析師 Lee Seung-woong 表示：「到 2030 年，數(shù)據(jù)中心的需求可能會(huì)增加 1088 億韓元，而同期供應(yīng)可能僅增加 609 億韓元。由于在短期內(nèi)供應(yīng)很難超過(guò)需求，數(shù)據(jù)中心可能會(huì)在中長(zhǎng)期內(nèi)提升電信公司的盈利能力?！?/span>

在韓國(guó)國(guó)內(nèi)擴(kuò)大規(guī)模之后，SK Telecom 和 KT 計(jì)劃將它們的數(shù)據(jù)中心基礎(chǔ)設(shè)施出口海外，首選東南亞地區(qū)。

上個(gè)月，一場(chǎng)介紹其人工智能戰(zhàn)略的新聞發(fā)布會(huì)上，SK Telecom 的 CEO Ryu Young-sang 表示，該公司計(jì)劃將其數(shù)據(jù)中心的國(guó)內(nèi)容量增加一倍以上（從 1 億韓元增加到 2.07 億韓元），并與外國(guó)云服務(wù)提供商合作，將其基礎(chǔ)設(shè)施擴(kuò)展到海外。

KT 旗下的云計(jì)算子公司 KT Cloud 于 5 月從當(dāng)?shù)厮侥脊蓹?quán)公司 IMM Credit & Solutions 獲得了 6000 億韓元的資金，用于擴(kuò)大其基礎(chǔ)設(shè)施云和數(shù)據(jù)中心基礎(chǔ)設(shè)施。預(yù)計(jì)到 2026 年，其年收入將達(dá)到 2 萬(wàn)億韓元。