博客專欄

EEPW首頁 > 博客 > 支持端側(cè)AI大模型已成新趨勢,將推動智能手機(jī)內(nèi)存容量突破20GB

支持端側(cè)AI大模型已成新趨勢,將推動智能手機(jī)內(nèi)存容量突破20GB

發(fā)布人:芯智訊 時間:2023-11-24 來源:工程師 發(fā)布文章

11月16日消息,根據(jù)外媒wccftech報導(dǎo),預(yù)計2024年將會流行的一件事就是終端AI的使用,該功能目前已內(nèi)置于2024年發(fā)表的多款芯片組中,包括高通Snapdragon 8 Gen 3、聯(lián)發(fā)科天璣9300和三星Exynos 2400。

一份新報告提出,支持終端側(cè)AI大模型功能的智能手機(jī)將需要比以前更大容量的內(nèi)存。因此,內(nèi)置端側(cè)AI大模型功能的Android智能手機(jī)其內(nèi)存容量至少需要20GB 將成為趨勢。

報告稱,雖然8GB內(nèi)存仍然是當(dāng)前Android智能手機(jī)市場的主流。然而,市場上很多旗艦智能手機(jī)也已經(jīng)達(dá)到了比現(xiàn)階段多數(shù)筆記本電腦或臺式機(jī)具有更多的內(nèi)存容量。接下來,為了讓設(shè)備上的AI更好的生產(chǎn)圖像,Android手機(jī)將需要至少1GB的內(nèi)存。原因是為具有設(shè)備上人工智能助理,以及其他功能的設(shè)備將需要超過20GB的內(nèi)存才能確保更流暢的操作。

在此前天璣9300的預(yù)溝通會上,聯(lián)發(fā)科無線通信事業(yè)部AI技術(shù)高級經(jīng)理莊世榮就曾向芯智訊解釋稱,一款130億參數(shù)的AI大模型,大概需要13GB 內(nèi)存 (INT8)才能運(yùn)行,而智能手機(jī)本身運(yùn)行安卓操作系統(tǒng)通常就要占用4GB的內(nèi)存,如果還要相對流暢的運(yùn)行其他常規(guī)APP任務(wù)并?;睿€需要6GB的內(nèi)存,即總的手機(jī)內(nèi)存容量需求將達(dá)到23GB。

但是目前主流的千元智能手機(jī)內(nèi)存容量大多數(shù)都是在8GB/12GB左右,大多數(shù)旗艦智能手機(jī)的內(nèi)存容量也才到16GB,僅有極少數(shù)旗艦手機(jī)內(nèi)存容量達(dá)到了24GB。所以,要想在智能手機(jī)端運(yùn)行130億參數(shù)的AI大模型將會面臨著內(nèi)存限制的問題。

即便采用先進(jìn)的內(nèi)存壓縮技術(shù),要流程的運(yùn)行130億參數(shù)的AI大模型,智能手機(jī)也需要至少16GB的內(nèi)存容量,如要要運(yùn)行更大規(guī)模的330億參數(shù)的AI大模型,內(nèi)存容量就需要進(jìn)一步提升到20GB以上。

image.png

報導(dǎo)強(qiáng)調(diào),過去市場上就已經(jīng)有內(nèi)存超過20GB的手機(jī)。比如,中國手機(jī)品牌一加先前也發(fā)布了一款24GB大容量內(nèi)存的手機(jī),但當(dāng)時設(shè)備上的AI并不是焦點(diǎn)。然而,根據(jù)這份報告,如果期望人工智能功能能夠按預(yù)期工作,那么2024年的智慧型手機(jī)可能會配備更高的內(nèi)存容量。不過,現(xiàn)階段不能確定是否所有Android手機(jī)廠商都會效仿。

報道進(jìn)一步強(qiáng)調(diào),這里需要注意的另一件事是,考慮到各個Android手機(jī)廠商對AI的投資,2024年發(fā)表的設(shè)備將重點(diǎn)放在AI上已成為顯而易見的事情。

編輯:芯智訊-浪客劍


*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點(diǎn),如有侵權(quán)請聯(lián)系工作人員刪除。



關(guān)鍵詞: 芯片

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉