數(shù)據(jù)中心面臨電力約束挑戰(zhàn)，推動(dòng)GenAI終端發(fā)展

生成式人工智能（GenAI）和大語(yǔ)言模型（LLM）的迅猛發(fā)展催生了空前的算力需求。隨著AI模型復(fù)雜度不斷提升，支撐其運(yùn)行所需的能源已對(duì)數(shù)據(jù)中心造成巨大壓力。Gartner預(yù)測(cè)，到2027年，數(shù)據(jù)中心運(yùn)行新增AI服務(wù)器所需的用電量將達(dá)到每年500太瓦時(shí)（TWh），是2023年的兩倍以上。GenAI不斷攀升的電力需求為數(shù)據(jù)中心運(yùn)營(yíng)帶來(lái)了成本、性能和可持續(xù)性等多重挑戰(zhàn)。

Gartner預(yù)測(cè)，到2027年，40%的數(shù)據(jù)中心將因電力供應(yīng)問(wèn)題而面臨運(yùn)營(yíng)限制。這種情況不僅會(huì)影響數(shù)據(jù)中心自身，還會(huì)對(duì)其客戶(hù)和終端用戶(hù)產(chǎn)生連帶效應(yīng)，導(dǎo)致成本上升、服務(wù)性能下降等問(wèn)題。

對(duì)于IT部門(mén)而言，GenAI日益增長(zhǎng)的電力需求正成為關(guān)鍵制約因素，限制其部署GenAI相關(guān)產(chǎn)品和應(yīng)用的能力。

GenAI處理向終端轉(zhuǎn)移

數(shù)據(jù)中心電力消耗所帶來(lái)的運(yùn)營(yíng)風(fēng)險(xiǎn)，將迫使產(chǎn)品負(fù)責(zé)人考慮將更多AI推理工作負(fù)載轉(zhuǎn)移至終端設(shè)備。目前，更高的響應(yīng)速度和更好的數(shù)據(jù)隱私保護(hù)是終端GenAI的兩大優(yōu)勢(shì)。如今，為應(yīng)對(duì)數(shù)據(jù)中心電力限制的壓力，終端GenAI正在成為更具吸引力的解決方案。

Gartner預(yù)測(cè)，到2026年，終端GenAI查詢(xún)量將超過(guò)云端，這標(biāo)志著AI戰(zhàn)略的重大轉(zhuǎn)向。

終端GenAI處理需重新設(shè)計(jì)關(guān)鍵技術(shù)

隨著行業(yè)格局演變，產(chǎn)品負(fù)責(zé)人必須重新評(píng)估其AI戰(zhàn)略以適應(yīng)這一轉(zhuǎn)向。評(píng)估如何優(yōu)化推理方式，在終端分配GenAI工作負(fù)載至關(guān)重要。采用終端GenAI，企業(yè)不僅能緩解數(shù)據(jù)中心電力約束帶來(lái)的風(fēng)險(xiǎn)，還能提升整體用戶(hù)體驗(yàn)。這一戰(zhàn)略轉(zhuǎn)向不僅可以幫助企業(yè)解決當(dāng)前的電力挑戰(zhàn)，也讓企業(yè)在快速演進(jìn)的AI環(huán)境中更好地應(yīng)對(duì)未來(lái)需求。

受改善用戶(hù)體驗(yàn)（如增強(qiáng)數(shù)據(jù)隱私、降低延遲、加快響應(yīng)速度）的需求驅(qū)動(dòng)，GenAI正加速向智能手機(jī)、個(gè)人電腦（PC）、平板電腦、XR頭顯、可穿戴設(shè)備、車(chē)輛、機(jī)器人和物聯(lián)網(wǎng)設(shè)備等終端設(shè)備轉(zhuǎn)移。由于終端設(shè)備外形尺寸的限制，其搭載的GenAI處理需要極高的能源效率，同時(shí)不應(yīng)因新增的GenAI功能而影響終端設(shè)備的續(xù)航時(shí)間和電池壽命。終端GenAI的發(fā)展需要半導(dǎo)體、電池以及AI模型開(kāi)發(fā)領(lǐng)域的顯著協(xié)同創(chuàng)新。

●   半導(dǎo)體：高效節(jié)能芯片是實(shí)現(xiàn)實(shí)時(shí)處理和低延遲的關(guān)鍵。專(zhuān)為終端GenAI設(shè)計(jì)的專(zhuān)用AI處理器、低功耗存儲(chǔ)芯片，以及集成神經(jīng)處理單元（NPU）的應(yīng)用處理器和微控制器單元（MCU）成為首選方案。氮化鎵（GaN）等寬禁帶半導(dǎo)體在快充電源轉(zhuǎn)換中至關(guān)重要，可顯著提升用戶(hù)體驗(yàn)。由于本地GenAI處理可能快速消耗電池電量，快充技術(shù)對(duì)于智能手機(jī)、PC等電池供電的終端設(shè)備至關(guān)重要，是保障其GenAI功能用戶(hù)體驗(yàn)的關(guān)鍵因素。

●   電池：智能手機(jī)、PC、XR頭顯、可穿戴設(shè)備等大多數(shù)終端設(shè)備都依賴(lài)電池供電，而終端GenAI處理將消耗更多電量。固態(tài)鋰離子電池這類(lèi)更高能量密度的電池，將成為支持更長(zhǎng)續(xù)航時(shí)間的關(guān)鍵。

●   AI模型：終端設(shè)備的本地處理需要參數(shù)規(guī)模更小的定制化AI模型。參數(shù)更少的輕量化大語(yǔ)言模型適用于特定任務(wù)和行業(yè)，可降低計(jì)算需求，使其適合部署在無(wú)法運(yùn)行標(biāo)準(zhǔn)“重型”LLM 的終端設(shè)備上。