中國臺灣AI關鍵組件的發(fā)展現況與布局

就人工智能（AI）裝置的硬件來看，關鍵的零組件共有四大塊，分別是邏輯運算、內存、PCB板、以及散熱組件。他們扮演著建構穩(wěn)定運算處理的要角，更是使用者體驗能否優(yōu)化的重要輔助。而隨著AI大勢的來臨，中國臺灣業(yè)者也已做好準備，準備在這些領域上大展拳腳。

邏輯組件扮樞紐 中國臺灣IC設計有商機
對整個AI運算來說，最關鍵就屬于核心處理組件的部分。盡管中國臺灣沒有強大的CPU與GPU技術供貨商，但在AI ASIC芯片設計服務與IP供應方面，則是擁有不少的業(yè)者，而且其中不乏領頭羊的先進業(yè)者。
在AI ASIC芯片設計方面，中國臺灣主要提供客制化的AI芯片設計服務（NRE）、硅智財（IP）、SoC設計，以及相關系統(tǒng)整合與生產等服務。主要的業(yè)者包含晶心科技、世芯-KY、智原科技、創(chuàng)意電子、聯詠科技與凌陽科技等。

以世芯-KY為例，由于龐大的AI市場需求，該公司的先進AI ASIC設計業(yè)務已有十分耀眼的成長，尤其是在云端服務器的應用上。世芯總經理沈翔霖在今年第一季的法說會就指出，世芯-KY業(yè)績將會有很強勢的成長，且將續(xù)創(chuàng)新高。
目前世芯-KY最主要的客戶就是云端服務大廠AWS，該公司的云端服務器的處理芯片多數交由世芯-KY來設計，并由臺積電進行生產制造，芯片的節(jié)點制程也高達5/3奈米。
至于IC設計服務商智原科技與創(chuàng)意電子，也正積極發(fā)展AI芯片的設計，以響應市場與客戶的需求。在智原方面，近期已加入Arm Total Design的設計服務合作伙伴，來提供創(chuàng)新的先進云端、HPC和AI芯片。日前更宣布，攜手ARM與英特爾，共同開發(fā)基于英特爾18A制程的64核SoC，布局大規(guī)模數據中心、邊緣基礎架構和先進5G網絡應用。
至于創(chuàng)意電子，近期則是在高速傳輸技術頗有斬獲。該公司日前宣布，已順利設計定案 8.6Gbps HBM3 控制器、物理層與GLink 2.3LL的測試芯片，將可運用在AI、HPC/xPU及網絡應用。此測試芯片同樣采用臺積電 3 奈米制程，并以臺積電 CoWoS技術封裝。
晶心科技則是中國臺灣的RISC-V核心供貨商，過往已經智能物聯裝置上有十分卓越的表現，近幾年也切入AI云端服務器的市場，并獲得Meta（Facebook母公司）的青睞，將其核心運用在自行開發(fā)AI芯片中，用來加速模型訓練與推論。
值得注意的是，中國臺灣的IC設計服務業(yè)者除了本身的技術十分杰出外，更與中國臺灣的半導體制造業(yè)與封裝業(yè)者緊密合作，包含臺積電、聯電、力積與日月光等，能夠提供從設計到量產的一條龍服務，這也是目前全球鮮見的半導體生態(tài)系統(tǒng)。

總結來說，中國臺灣的IC設計服務與IP產業(yè)在AI應用上的發(fā)展正如火如荼的進行，主要有以下四點：
1.AI芯片設計服務：
? 中國臺灣IC設計服務公司積極投入AI芯片設計，提供從架構設計、算法開發(fā)到芯片驗證的完整服務。
? 與國際大廠合作，參與AI芯片開發(fā)，提升技術能力并拓展市場。
2.AI加速器IP開發(fā)：
? 開發(fā)各種AI加速器IP，如神經網絡加速器、計算機視覺加速器等，提供給IC設計公司使用。
? 這些AI加速器IP可以大幅提升AI運算效能，縮短產品開發(fā)時程。

3.AI應用領域拓展：
? 積極拓展AI應用領域，如智能醫(yī)療、智能制造、智能城市等。
? 透過提供客制化的AI芯片與IP解決方案，協(xié)助客戶實現各種AI應用。
4.AI生態(tài)系建立：
? 中國臺灣IC設計服務與IP產業(yè)積極參與AI生態(tài)系建立，與上下游廠商合作，共同推動AI產業(yè)發(fā)展。
? 中國臺灣在半導體產業(yè)鏈上的完整性，有助于建立完整的AI生態(tài)系。

 
圖一 : AWS的AI芯片就由中國臺灣業(yè)者設計制造。（source：AWS）

HPC需求節(jié)節(jié)高升PCB板與散熱組件成要角
AI應用為中國臺灣PCB板卡業(yè)帶來了新的發(fā)展機遇，最主要就是受惠于生成式AI的運算需求，讓AI服務器成為PCB板卡商的新藍海。這類型的服務器是屬于高階、高價值的PCB終端應用，因此制程技術門坎高，同時產品的單價也高，成為目前中國臺灣PCB產業(yè)積極進軍的領域。
就技術端來看，由于AI服務器皆搭載高性能的處里核心，以及針對AI運算加速的GPU與AI芯片，這篇處理芯片組都采用特殊的布線與導線架，因此對于所用的PCB規(guī)格也有不同的需求。而其中最主要的就是ABF載板及HLC需求增加。 AI服務器推升ABF載板和高多層板（HLC）的需求，成為PCB產業(yè)少數的成長亮點。


AI服務器PCB的技術發(fā)展
有別于以往的運算架構與環(huán)境，AI服務器也需有新的PCB板卡技術來支持，以下就是幾個PCB板技術的發(fā)展趨勢:
? ABF載板朝高層數、大面積發(fā)展： AI算力需求提升，推動ABF載板朝高層數與大面積發(fā)展，良率為載板廠獲利關鍵。
? PCB板朝高密度、多層化發(fā)展： 服務器平臺升級，PCB板朝布線更多、更密集，及更多層數發(fā)展，例如從10層以下增加到16層以上。
? PCB板高速傳輸需求提升： 平臺升級帶動PCB板高速傳輸需求，銅箔基板等級也從Mid-Loss升級至Low Loss、與Ultra Low Loss。


 
圖二 : AI算力需求提升，推動ABF載板朝高層數與大面積發(fā)展。（source：Unimicron）

中國臺灣AI服務器PCB板供貨商概況
而中國臺灣有許多PCB板卡供貨商在AI領域扮演重要角色，包含欣興電子 (Unimicron)、金像電子 ( Kinsus Interconnect)、華通計算機 ( Compeq Manufacturing)、南電 (Nan Ya PCB)、景碩科技 ( Kinsus Interconnect )、瀚宇博德與臻鼎科技等。
其中欣興電子布局AI服務器有成，目前已是NVIDIA的主要供貨商之一，并在ABF載板技術方面有領先地位；金像電子是中國臺灣最大的PCB制造商之一，專注于高階服務器PCB板，包括AI服務器用板，而在AI大勢驅動之下，業(yè)績呈現逐步成長的局面。
至于華通計算機是HDI板龍頭廠商，專門提供AI服務器所需的高密度連接板；
而南電主要生產BT載板，在ABF載板技術上也有所布局，并也陸續(xù)發(fā)展AI服務器的業(yè)務；景碩同樣也以BT載板為主要的產品，但近年來積極投入ABF載板開發(fā)，以響應市場對于AI服務器的需求。
同樣受惠于AI服務器需求的，則是散熱組件供貨商。主要的原因，就是AI服務器的運算能力強大，散熱需求也大幅提升，是整體效能能否穩(wěn)定發(fā)揮的關鍵所在。由于AI服務器搭載大量高效能運算芯片，例如GPU、TPU等，且需進行復雜的AI運算。當這些芯片在高負載運算時會產生大量熱能，若無法有效散熱，將導致芯片過熱，影響運算效能，甚至造成硬件損壞，也因此需要搭配更效能的散熱模塊和組件。
另一方面，過高的溫度也會影響AI服務器的穩(wěn)定性，導致系統(tǒng)當機或運算錯誤。因此高效能的散熱組件能確保AI服務器在長時間高負載運算下保持穩(wěn)定運作。再者，優(yōu)異的散熱組件也有助于延長硬件壽命，良好的散熱系統(tǒng)能降低芯片的工作溫度，延長硬件壽命，降低維護成本。
而在環(huán)保節(jié)能的要求之下，高效能散熱組件能更有效地將熱量排出，進而減少能源消耗，提升AI服務器的能源效率，符合節(jié)能減碳的趨勢。


AI服務器散熱技術發(fā)展趨勢
也由于AI服務器對散熱性能有不同以往的要求，因此也刺激了散熱技術開始出現新的發(fā)展趨勢，以下就是三種主要的技術進展：
? 從氣冷走向液冷： 傳統(tǒng)的氣冷散熱技術已無法滿足AI服務器的高散熱需求，因此液冷散熱技術逐漸成為主流。液冷散熱效率更高，能更有效地帶走芯片產生的熱量。
? 浸沒式液冷技術： 將整個服務器浸泡在特殊的冷卻液中，直接接觸所有發(fā)熱組件，提供更均勻、高效的散熱效果。
? 復合式散熱方案： 結合氣冷、液冷、均溫板等多種散熱技術，針對不同發(fā)熱組件提供最佳散熱方案。

 
圖三 : 從氣冷走向液冷是AI伺服散熱技術的重要趨勢。圖為工研院的液體伺服散熱系統(tǒng)。（source：ITRI）

中國臺灣AI散熱組件概況
從PC產業(yè)起家，并一路拓展至服務器應用，目前中國臺灣已擁有完整的散熱產業(yè)供應鏈，從上游的材料、零組件到下游的模塊組裝，且具備一定的競爭力。尤其是在散熱技術方面，中國臺灣廠商擁有相當的競爭力，在長期的研發(fā)投入下，已擁有多項專利和技術優(yōu)勢。再者中國臺灣業(yè)者的客制化能力強，能夠根據客戶需求，提供客制化的散熱解決方案。
目前中國臺灣主要散熱組件供貨商包含雙鴻、超眾、奇鋐、建準 與泰碩?？偨Y來說，高效能散熱組件是AI服務器不可或缺的一部分，能確保其穩(wěn)定性、效能和壽命，同時提升能源效率。隨著AI技術的發(fā)展，散熱技術也將持續(xù)演進，以滿足未來更高階AI服務器的散熱需求。


處理器與內存推動AI浪潮
在當今科技發(fā)展的浪潮中，人工智能（AI）已成為推動創(chuàng)新的關鍵力量。AI的應用范圍廣泛，從智能手機、自動駕駛汽車到數據中心，無不依賴于先進的處理芯片與內存組件。這些組件不僅是AI系統(tǒng)的核心，更是實現高速運算與大量數據處理的基石。
處理芯片，如CPU和GPU，是AI運算的大腦，負責執(zhí)行復雜的算法和模型。隨著AI模型的日益復雜，對處理芯片的性能要求也隨之提高。例如，聯發(fā)科技推出的AI處理芯片，以其高效能和低功耗的特性，正逐漸成為智能裝置中不可或缺的部分。耐能則以其創(chuàng)新的AI芯片KL730，提供了強大的運算能力和能效比，驅動輕量級GPT解決方案的大規(guī)模應用。而鑫創(chuàng)智能則以其AI芯片在能效上的突破，成功擊敗國際大廠，展現了中國臺灣企業(yè)在AI芯片領域的競爭力。
內存組件，如DRAM和Flash內存，則負責儲存和快速存取數據。在AI應用中，內存的速度和容量直接影響整體系統(tǒng)的效能。華邦電子和旺宏都積極開發(fā)針對AI市場的內存解決方案，以滿足市場對高速和大容量內存的需求。鈺創(chuàng)則推出了MemoriaLink高效AI內存平臺，提供了一個整合硬件和軟件的解決方案，以加速AI應用的開發(fā)和部署。


聯發(fā)科聚焦AI體驗 打造旗艦級處理平臺
在AI處理器領域，聯發(fā)科技與輝達合作開發(fā)了基于Arm架構的AI PC處理器，這是一個重大的突破，因為它將AI的運算能力帶到了個人計算機領域。

近期聯發(fā)科發(fā)表了天璣9300+旗艦處理器，這是一款專為AI訓練大模型而設計的行動處理器。天璣9300+的CPU配置包括一個3.40GHz Cortex-X4超大核心、三個2.85GHz Cortex-X4大核心，以及四個2.00GHz Cortex-A720效能核心，這樣的組合使其在運算過程中更加迅捷。它還內建了12核心Immortalis-G720 GPU，能夠執(zhí)行多款AI大模型。

聯發(fā)科的這些進展不僅提升了AI處理器的性能，也為開發(fā)者和使用者提供了更佳的AI體驗。例如，天璣9300+支持廣泛的大型語言模型（LLM），并整合了LoRA技術，這使得生成式AI應用的開發(fā)和部署變得更加容易。

 
圖四 : 聯發(fā)科技天璣9300處理器

耐能科技解決邊緣AI三大問題
耐能科技推出了KL730 AI芯片，這款芯片在能效方面取得了顯著進步，相比以往的產品提升了3至4倍的能效。KL730提供每秒0.35至4 tera的有效計算能力，支持最先進的輕量級GPT大語言模型，如nanoGPT等。
KL730芯片的技術優(yōu)勢在于其高能效輕量級可重構神經網絡架構，這解決了邊緣AI設備所面臨的三個主要問題：延遲、安全性和成本。此外，該芯片整合了車規(guī)級NPU和影像訊號處理器（ISP），使其能夠在各種應用場景中，如邊緣服務器、智能家居及汽車輔助駕駛系統(tǒng)等，提供安全且低能耗的AI能力。
耐能科技的KL730芯片還具有多信道接口，可以無縫接入圖像、視頻、音頻和毫米波等各種數字訊號，支持多種產業(yè)的人工智能應用開發(fā)。


鑫創(chuàng)智能打造低能耗、高性能AI加速芯片
鑫創(chuàng)智慧（NEUCHIPS）最近在MLPerf v3.0 AI推論效能基準檢驗中，公布了其RecAccel N3000 AI加速器的測試數據，該數據在服務器領域的能源效率上超越了NVIDIA。這項成就不僅展現了鑫創(chuàng)智慧在技術上的突破，也展現了其對于環(huán)境友好解決方案的承諾。
鑫創(chuàng)智能的AI芯片在低耗能上的優(yōu)勢得到了國際認證，其每瓦可處理1,060次查詢的能效是對手NVIDIA H100的1.7倍，這一成績在數據中心系統(tǒng)領域中位居榜首。這一突破源自于公司在邊緣AIoT領域的投入，該領域對省電的要求極高。
此外，鑫創(chuàng)智能的AI芯片采用臺積電7奈米制程生產，這不僅保持了超低功耗，也大幅降低了內存需求，這些特色使其在AI時代下的計算機升級AI規(guī)格中占有一席之地。該公司的AI芯片主打推薦模型應用，可加速數據中心、社群平臺的推薦模型效能，并已完成工程驗證，陸續(xù)開發(fā)客戶中。


鎖定邊緣AI應用 華邦推出創(chuàng)新內存方案
華邦電子在AI內存領域推出了創(chuàng)新的CUBE架構，這是一種專為邊緣AI運算設計的內存解決方案，目的在提供超高帶寬和低功耗的內存技術。
CUBE架構利用3D堆棧技術和異質鍵合技術（hybrid bonding），能夠提供單顆256Mb至8Gb的高帶寬低功耗內存。這種內存技術特別適用于那些需要高效能運算能力的AI應用，如穿戴設備、邊緣服務器設備、監(jiān)控設備、ADAS及協(xié)作機器人等。
CUBE的主要特點包括節(jié)省電耗、更好的性能和較小的尺寸。例如，CUBE提供的電源效率極高，功耗效能低于1pJ/bit，這有助于延長運行時間并優(yōu)化能源使用。
華邦電子的這些進展不僅提升了AI內存的性能，也為開發(fā)者和使用者提供了更佳的AI體驗。隨著AI技術的不斷進步，華邦電子無疑將繼續(xù)在全球半導體市場中扮演重要角色，推動AI技術的發(fā)展和應用。此外，華邦還正在積極與合作伙伴公司合作建立3DCaaS平臺，該平臺將進一步發(fā)揮CUBE的能力。


著眼CIM技術 旺宏為AI打造全新內存產品
旺宏電子為AI應用量身打造了FortiXTM系列3D NAND/NOR閃存，這些內存不僅提供高儲存容量和穩(wěn)定質量，還兼具儲存及運算功能，支持實時數據處理、高傳輸帶寬與低功耗。
FortiXTM系列產品具備內存內搜尋（In-Memory Search；IMS）與內存內運算（Computing-In-Memory；CIM）功能，這些功能是兼有數字與模擬架構的運算功能，能夠大量減少內存與CPU/GPU之間的數據傳輸，進而提升速度、降低功耗，并降低整體系統(tǒng)成本。
FortiXTM的IMS功能可以直接從內存的既存數據中進行數據搜尋與比對，支持平行輸入，而CIM功能則可在深度神經網絡（DNN）推論任務中，執(zhí)行所需的MAC運算。這些功能使得FortiXTM系列產品在AI應用中，特別是需要快速數據處理和高速傳輸的場景中，具有顯著優(yōu)勢。
此外，旺宏電子與IBM合作，將其相變化內存（PCM）產品應用在IBM的新模擬AI芯片上。


鈺創(chuàng)整合子公司技術 打造AI次系統(tǒng)
鈺創(chuàng)科技致力于AI技術的研發(fā)，特別是在機器視覺感測、邊緣運算以及隱私保護等方面的應用。鈺創(chuàng)科技開發(fā)「AI+」次系統(tǒng)方案，這些方案包括室外機器人在農業(yè)的創(chuàng)新應用、服務型機器人的領先技術、內視鏡市場的AI+創(chuàng)新以及新興視頻會議方案的推進。
鈺創(chuàng)科技的子公司eYs3D透過邊緣運算引擎eCV系統(tǒng)芯片，提供了創(chuàng)新的「AI+」次系統(tǒng)方案，這些方案已經在多個領域實現了AI的創(chuàng)新。
在產品進展方面，鈺創(chuàng)科技推出了全新平臺MemoraiLink，這是一個整合內存與內存控制器支持系統(tǒng)芯片AI SoC平臺。MemoraiLink原本僅限集團內部使用，現在將正式對外開放，使合作伙伴在前期導入設計時，即能以高效開發(fā)創(chuàng)新AI終端應用。該平臺提供多樣化的內存選擇，滿足SoC設計的容量和帶寬需求，并結合鈺創(chuàng)擅長的異質整合，進一步優(yōu)化SoC的整體性能和成本。

結語
從處理芯片到內存技術，再到PCB與散熱組件等，中國臺灣在整個AI關鍵組件上的術上不斷推動創(chuàng)新，并為AI應用提供強大的支持。中國臺灣半導體廠商如聯發(fā)科、耐能、鑫創(chuàng)智能等在AI處理芯片方面的創(chuàng)新，以及華邦、旺宏、鈺創(chuàng)等在內存技術上的進步，將持續(xù)推動AI技術的發(fā)展。
目前中國臺灣已在全球半導體市場中占有一席之地，未來將進一步鞏固其市場地位，特別是在AI和5G等高成長領域。而跨領域的合作，如與車輛制造商、醫(yī)療設備公司和農業(yè)技術企業(yè)的合作，將開啟新的市場機會。展望未來，中國臺灣在AI領域充滿機遇，但也面臨挑戰(zhàn)。透過持續(xù)的技術創(chuàng)新、市場開拓、人才培養(yǎng)和國際合作，中國臺灣有望在AI時代扮演更加重要的角色。